השילוב ההפכפך של זיופים עמוקים וקמפיינים פוליטיים הוא סיבה טובה להיות על המשמר. שון אנתוני Eddy Creative/E+ דרך Getty Images
תאר לעצמך א הפתעה באוקטובר שאין כמותו: רק שבוע לפני 5 בנובמבר 2024, הקלטת וידאו חושפת פגישה סודית בין ג'ו ביידן לוולודימיר זלנסקי. נשיאי ארה"ב ואוקראינה מסכימים להכניס מיד את אוקראינה לנאט"ו במסגרת "פרוטוקול החברות החירום המיוחד" ולהתכונן למתקפת נשק גרעיני נגד רוסיה. פתאום, העולם על סף ארמגדון.
אמנם עיתונאים יכלו לציין זאת לא קיים פרוטוקול כזה ומשתמשי מדיה חברתית עשויים להבחין באיכויות מוזרות של משחק וידאו של הסרטון, אחרים עשויים להרגיש זאת הפחדים הכי גרועים שלהם אושרו. כשיגיע יום הבחירות, האזרחים המודאגים הללו עלולים לתת לסרטון להשפיע על קולותיהם, מבלי שהם מודעים לכך שזה עתה עברו מניפולציות על ידי מצב זיוף עמוק - אירוע שמעולם לא התרחש בפועל.
מצב זיופים עמוקים מייצגים את השלב הבא של טכנולוגיות יש כבר תפיסת המציאות של הקהל מזועזעת. במחקר שלנו ב- פרויקט DeFake, הקולגות שלי ב- המכון הטכנולוגי של רוצ'סטר, ה אוניברסיטת מיסיסיפי, אוניברסיטת מישיגן ואני למד כיצד נעשים זיופים עמוקים ואילו אמצעים יכולים הבוחרים לנקוט כדי להגן על עצמם מפניהם.
מדמיין אירועים שמעולם לא קרו
זיוף עמוק נוצר כאשר מישהו משתמש בכלי בינה מלאכותית, במיוחד למידה עמוקה, לתמרן או ליצור א פנים, קול או - עם עלייתו של מודלים גדולים לשפה כמו ChatGPT - שפת שיחה. ניתן לשלב את אלה ליצירת "זיופים עמוקים במצב".
הרעיון והטכנולוגיה הבסיסית של סיטואציה Deepfake זהים לכל Deepfake אחר, אבל עם שאיפה נועזת יותר: לתמרן אירוע אמיתי או להמציא אחד מהאוויר. דוגמאות כוללות תיאורים של הליכתו של דונלד טראמפ ו טראמפ מחבק את אנתוני פאוצ'י, אף אחד מהם לא קרה. זריקת החיבוק קודמה על ידי א חשבון טוויטר הקשורים לקמפיין הנשיאותי של יריבו של טראמפ, רון דסנטיס. א מודעת תקיפה הכוונה לקמפיין של ג'ו ביידן לשנת 2024 שפורסם על ידי הוועדה הלאומית הרפובליקנית היה עשוי כולו עם AI.
ב פרויקט DeFake, שלנו מחקר מצא שזיופים עמוקים, כולל מצבים, נוצרים בדרך כלל על ידי תערובת כלשהי של הוספת חומר מדיה אחד עם אחר; באמצעות סרטון להנפשת תמונה או לשנות סרטון אחר, מכונה בובות; העלאת פיסת מדיה לקיום, בדרך כלל באמצעות AI ייצור; או שילוב כלשהו של הטכניקות הללו.
שיהיה ברור, זיופים עמוקים במצבים רבים נעשים למטרות תמימות. לדוגמה, מגזין Infinite Odyssey מייצר תמונות סטילס מזויפות מסרטים ש מעולם לא יוצרו or מעולם לא יכול היה להתקיים. אבל אפילו זיופים עמוקים תמימים נותנים סיבה להשהות, כמו במקרה של תצלומים מזויפים כמעט אמינים המתארים את ירח אפולו נוחת כהפקת סרט.
זיוף עמוק לבחירות
עכשיו שימו את עצמכם בעמדה של מישהו שמנסה להשפיע על הבחירות הקרובות. מהם המצבים האפשריים שאולי תרצה ליצור?
בתור התחלה, זה משנה אם אתה רוצה להטות את ההצבעה לתוצאה ספציפית או הרחק ממנה. אולי היית מגלם מועמד שמתנהג בגבורה על ידי הוצאת הולך רגל מדרכו של מכונית דוהרת או, להיפך, עושה משהו פוגעני או פלילי. גם הפורמט של המצב ה-deepfake היה משנה. במקום סרטון זה יכול להיות צילום, אולי עם הטשטוש והזוויות שמדמים מצלמת סמארטפון או לוגו מזויף של סוכנות ידיעות.
קהל היעד שלך יהיה המפתח. במקום לכוון לקהל הבוחרים הכללי או לבסיס של מפלגה, אתה יכול לכוון לתאורטיקני קונספירציה במחוזות ההצבעה המרכזיים. אתה יכול לתאר את המועמד או את בני משפחתו כמעורבים ב- טקס שטני, השתתפות בפסטיבל ב- בלעדי ושנוי במחלוקת חורשת בוהמיה, או שיש פגישה סודית עם חוץ ארצי.
אם יש לך את השאיפה והיכולות לכך, אתה יכול אפילו לנסות לזייף עמוק את הבחירות עצמן. ביוני 2023, תחנות הטלוויזיה והרדיו של רוסיה נפרצו ו לשדר פקודת גיוס מלאה על ידי זיוף עמוק של נשיא רוסיה ולדימיר פוטין. אמנם זה יהיה קשה יותר לעשות בבחירות בארה"ב, אבל באופן עקרוני ניתן לפרוץ לכל כלי חדשות כדי לשדר זיופים עמוקים של העוגנים שלהם המכריזים על התוצאות השגויות או שמועמד מוותר.
הגנה על המציאות
ישנן מגוון דרכים טכנולוגיות ופסיכולוגיות לזיהוי ולהתגונן מפני זיופים עמוקים במצב.
בחזית הטכנולוגית, כל הזיופים העמוקים מכילים עדות מסוימת לטבעם האמיתי. חלק מהסיפורים הללו יכולים לראות בעין האנושית - כמו עור חלק מדי או תאורה מוזרה או ארכיטקטורה - בעוד שאחרים עשויים להיות ניתן לזיהוי רק על ידי בינה מלאכותית לציד זיופים עמוקים.
אנחנו בונים DeFakeהגלאי של ה-AI ישתמש בבינה מלאכותית כדי לתפוס את הסימנים המעידים על זיופים עמוקים, ואנחנו עובדים כדי לנסות להכין אותו בזמן לבחירות 2024. אבל גם אם גלאי זיוף עמוק מספיק חזק כמו שלנו לא יכול להיפרס עד יום הבחירות, ישנם כלים פסיכולוגיים שבהם אתה, הבוחר, יכול להשתמש כדי לזהות זיופים עמוקים: ידע רקע, סקרנות וספקנות בריאה.
אם אתה נתקל בתוכן מדיה על אדם, מקום או אירוע שנראה לא אופייני, סמוך על ידע הרקע שלך. לדוגמה, ב א מתיחה אחרונה של שריפה בפנטגון, הבניין המוצג נראה יותר מרובע מאשר מחומש, מה שיכול להיות מתנה.
עם זאת, נסה לא להסתמך לחלוטין על ידע הרקע שלך, שעלול להיות מוטעה או פגום. לעולם אל תפחד ללמוד יותר ממקורות אמינים, כמו דיווחי חדשות שנבדקו על ידי עובדות, מאמרים אקדמיים שנבדקו עמיתים או ראיונות עם מומחים מוסמכים.
בנוסף, שים לב שניתן להשתמש בזיופים עמוקים כדי לנצל את מה שאתה נוטה להאמין על אדם, מקום או אירוע. אחת הדרכים הטובות ביותר להתמודד עם זה היא פשוט להיות מודע להטיות שלך ולהיות קצת שמור על כל תוכן מדיה שנראה שמאשר אותם.
גם אם זה יתאפשר ליצור זיופים עמוקים במצב מושלם, עד כמה הנושא שלהם אמין, צפוי להישאר עקב אכילס שלהם. אז, עם או בלי פתרון טכנולוגי, עדיין יש לך את הכוח להגן על הבחירות מהשפעת אירועים מזויפים.
על המחבר
כריסטופר שוורץ, עמית מחקר פוסט-דוקטורט לאבטחת מחשוב, המכון הטכנולוגי של רוצ'סטר
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
ספרים קשורים:
על רודנות: עשרים שיעורים מהמאה העשרים
מאת טימותי סניידר
ספר זה מציע לקחים מההיסטוריה לשימור והגנה על הדמוקרטיה, לרבות חשיבות המוסדות, תפקידם של אזרחים בודדים וסכנות הסמכותיות.
הזמן שלנו הוא עכשיו: כוח, מטרה והמאבק לאמריקה הוגנת
מאת סטייסי אברמס
המחברת, פוליטיקאית ופעילה, חולקת את חזונה לדמוקרטיה מכילה וצודקת יותר ומציעה אסטרטגיות מעשיות למעורבות פוליטית ולגיוס בוחרים.
איך דמוקרטיות מתות
מאת סטיבן לויצקי ודניאל זיבלט
ספר זה בוחן את סימני האזהרה והגורמים להתמוטטות דמוקרטית, תוך הסתמכות על מקרי מקרים מרחבי העולם כדי להציע תובנות כיצד להגן על הדמוקרטיה.
העם, לא: היסטוריה קצרה של אנטי פופוליזם
מאת תומס פרנק
המחבר מציע היסטוריה של תנועות פופוליסטיות בארצות הברית ומבקר את האידיאולוגיה ה"אנטי-פופוליסטית" שלטענתו חנקה את הרפורמה והקדמה הדמוקרטית.
דמוקרטיה בספר אחד או פחות: איך זה עובד, למה זה לא, ומדוע תיקון זה קל יותר ממה שאתה חושב
מאת דיוויד ליט
ספר זה מציע סקירה כללית של הדמוקרטיה, לרבות נקודות החוזק והחולשה שלה, ומציע רפורמות כדי להפוך את המערכת למגיבה ואחראית יותר.
