זיופים עמוקים זורעים ספק 4 14
 טכנולוגיה שיכולה לייצר זיופים עמוקים זמינה באופן נרחב. (Shutterstock)

בתחילת מרץ, א סרטון מניפולציה של נשיא אוקראינה וולודימיר זלנסקי הופץ. בתוכו, זלנסקי שנוצר בצורה דיגיטלית אמר לצבא הלאומי האוקראיני להיכנע. הסרטון הופץ באינטרנט אך הודח במהירות כזיוף עמוק - סרטון היפר-מציאותי אך מזויף ומטופח שהופק באמצעות בינה מלאכותית.

אמנם נראה שלדיסאינפורמציה רוסית יש השפעה מוגבלת, הדוגמה המדאיגה הזו המחישה את ההשלכות האפשריות של זיופים עמוקים.

עם זאת, בזיופים עמוקים נעשה שימוש בהצלחה בטכנולוגיה מסייעת. לדוגמה, אנשים הסובלים ממחלת פרקינסון יכולים להשתמש בשיבוט קול כדי לתקשר.

Deepfakes משמשים בחינוך: חברת סינתזת דיבור מאירלנד CereProc יצרה קול סינתטי עבור ג'ון פ. קנדי, להחזיר אותו לחיים לשאת את נאומו ההיסטורי.

גרפיקת מנוי פנימית

אבל לכל מטבע יש שני צדדים. זיופים עמוקים יכולים להיות היפר-ריאליסטיים, ו בעצם בלתי ניתן לזיהוי על ידי עיניים אנושיות.

לכן, אותה טכנולוגיית שיבוט קול יכולה לשמש להתחזות, השמצה וסחיטה. כאשר זיופים עמוקים מופעלים בכוונה כדי לעצב מחדש את דעת הקהל, לעורר קונפליקטים חברתיים ולתמרן בחירות, יש להם פוטנציאל לערער את הדמוקרטיה.

חוקרים מאוניברסיטת וושינגטון הפיקו זיוף עמוק של ברק אובמה.

גורם לכאוס

Deepfakes מבוססים על טכנולוגיה הידועה בשם רשתות אדפרסיביות גנרטיביות שבו שני אלגוריתמים מאמנים זה את זה לייצר תמונות.

בעוד שהטכנולוגיה מאחורי זיופים עמוקים אולי נשמעת מסובכת, זה עניין פשוט לייצר אחד. ישנם יישומים מקוונים רבים כגון החלפת פנים ו ZAO Deepswap שיכול לייצר זיופים עמוקים בתוך דקות.

Google Collaboratory - מאגר מקוון לקוד במספר שפות תכנות - כולל דוגמאות לקוד יכול לשמש ליצירת תמונות וסרטונים מזויפים. עם תוכנה כל כך נגישה, קל לראות כיצד משתמשים ממוצעים יכולים לזרוע הרס עם זיופים עמוקים מבלי להבין את סיכוני האבטחה הפוטנציאליים.

הפופולריות של אפליקציות להחלפת פנים ושירותים מקוונים כמו נוסטלגיה עמוקה להראות כמה מהר ורחב אפשר לאמץ זיופים עמוקים על ידי הציבור הרחב. בשנת 2019, זוהו כ-15,000 סרטונים המשתמשים בזיופים עמוקים. והמספר הזה צפוי לעלות.

Deepfakes הם הכלי המושלם לקמפיינים של דיסאינפורמציה מכיוון שהם מייצרים חדשות מזויפות אמינות שלוקח זמן להפריך. בינתיים, הנזקים הנגרמים על ידי זיופים עמוקים - במיוחד אלה המשפיעים על המוניטין של אנשים - הם לרוב ארוכי טווח ובלתי הפיכים.

לראות האם להאמין?

אולי ההשלכה המסוכנת ביותר של זיופים עמוקים היא האופן שבו הם מתאימים לדיסאינפורמציה בקמפיינים פוליטיים.

ראינו את זה כשדונלד טראמפ הגדיר כל סיקור תקשורתי לא מחמיא כ"חדשות מזויפות." על ידי האשמת מבקריו בהפצת חדשות מזויפות, טראמפ הצליח להשתמש במידע מוטעה בהגנה על מעשיו הפסולים וככלי תעמולה.

האסטרטגיה של טראמפ מאפשרת לו לשמור על תמיכה בסביבה מלאה בחוסר אמון וחוסר מידע על ידי טענה "שאירועים וסיפורים אמיתיים הם חדשות מזויפות או זיופים עמוקים".

האמינות ברשויות ובתקשורת מתערערת, יצירת אקלים של חוסר אמון. ועם התפשטות הגואה של זיופים עמוקים, פוליטיקאים יכולים בקלות להכחיש אשמה בכל שערוריות מתעוררות. כיצד ניתן לאשר את זהותו של מישהו בסרטון אם הוא מכחיש זאת?

אולם, המאבק בדיסאינפורמציה היה תמיד אתגר לדמוקרטיות כשהן מנסות לשמור על חופש הביטוי. שותפויות אנושיות-AI יכולות לעזור להתמודד עם הסיכון הגובר של זיופים עמוקים על ידי כך שאנשים יאמתו מידע. ניתן לשקול גם הכנסת חקיקה חדשה או החלת חוקים קיימים כדי להעניש יצרנים של זיופים עמוקים על זיוף מידע והתחזות לאנשים.

גישות רב-תחומיות של ממשלות בינלאומיות ולאומיות, חברות פרטיות וארגונים אחרים חיוניים כולם כדי להגן על חברות דמוקרטיות מפני מידע כוזב.שיחה

על המחבר

Sze-Fung Lee, עוזר מחקר, המחלקה ללימודי מידע, אוניברסיטת מקגיל ו בנג'מין CM פונג, פרופסור וקתדרה למחקר בקנדה בכריית נתונים לאבטחת סייבר, אוניברסיטת מקגיל

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.