צורה חדשה של מידע מוטעה עומדת להתפשט דרך קהילות מקוונות כאשר מערכות הבחירות לאמצע הבחירות לשנת 2018 מתחממות. נקרא "זיוף עמוק" על שם ה- חשבון מקוון בדוי שפופולרי את הטכניקה - שאולי בחר בשמו מכיוון שהתהליך משתמש בשיטה טכנית המכונה "למידה עמוקה" - הסרטונים המזויפים האלה נראים מאוד מציאותיים.
עד כה אנשים השתמשו בסרטונים מזויפים עמוקים פורנוגרפיה ו סאטירה כדי להראות שאנשים מפורסמים עושים דברים שבדרך כלל לא היו עושים.
אבל זה כמעט בטוח זיוף עמוק יופיע במהלך עונת הקמפיין, כביכול לתאר מועמדים אומר דברים או ללכת למקומות שהמועמד האמיתי לא יעשה.
זה ברק אובמה - או שמא?
{youtube}cQ54GDm1eL0{/youtube}
מכיוון שטכניקות אלה כל כך חדשות, אנשים מתקשים להבין את ההבדל בין סרטונים אמיתיים לסרטונים מזויפים. העבודה שלי, עם חברי מינג-צ'ינג צ'אנג והדוקטורט שלנו. הסטודנט יועזון לי, מצא דרך לספר באופן מהימן סרטונים אמיתיים מסרטונים מזויפים עמוקים. זה לא פיתרון קבוע מכיוון שהטכנולוגיה תשתפר. אבל זו התחלה, ומציעה תקווה שהמחשבים יוכלו לעזור לאנשים לומר אמת מבדיה.
מה זה בכלל 'זיוף עמוק'?
יצירת סרטון מזויף עמוק זה כמו תרגום בין שפות. שירותים כמו גוגל תרגום השתמש בלימוד מכונה - ניתוח מחשב של עשרות אלפי טקסטים במספר שפות - to לזהות דפוסי שימוש במילים שהם משתמשים בהם כדי ליצור את התרגום.
אלגוריתמים של Deepfake עובדים באותה צורה: הם משתמשים בסוג של מערכת למידת מכונה הנקראת a רשת עצבית עמוקה לבחון את תנועות הפנים של אדם אחד. ואז הם מסנתזים תמונות של פניו של אדם אחר ועושות תנועות מקבילות. פעולה יעילה יוצרת סרטון של אדם היעד שנראה עושה או אומר את הדברים שאיש המקור עשה.
איך יוצרים סרטונים מזויפים עמוקים.
{youtube}8LhI-e2B8Lg{/youtube}
לפני שהם יכולים לעבוד כמו שצריך, רשתות עצביות עמוקות זקוקות למידע רב במקורות, כגון תמונות של האנשים שהם המקור או היעד להתחזות. ככל ששימשו יותר תמונות לאימון אלגוריתם מזויף עמוק, התחזות הדיגיטלית תהיה מציאותית יותר.
מגלה מהבהב
יש עדיין פגמים בסוג חדש זה של אלגוריתם. אחד מהם קשור לאופן שבו הפרצופים המדומים ממצמצים - או לא. בני אדם מבוגרים בריאים ממצמצים איפשהו בין כל 2 עד 10 שניות, והבהוב בודד לוקח בין עשירית לארבע עשיריות שנייה. זה מה שהיה נורמלי לראות בסרטון של אדם מדבר. אבל זה לא מה שקורה בסרטונים מזויפים רבים.
אדם אמיתי מהבהב תוך כדי דיבור.
{youtube}https://www.youtube.com/watch?v=-MMXXEA3UaM{/youtube}
פנים מדומות לא ממצמצות כמו שאדם אמיתי עושה.
{youtube}EttSA9-YIuI{/youtube}
כאשר אלגוריתם מזויף עמוק מאומן על תמונות פנים של אדם, זה תלוי בתמונות הזמינות באינטרנט שיכולות לשמש כנתוני אימון. אפילו לאנשים שמצטלמים לעתים קרובות, מעט תמונות זמינות באופן מקוון שמראה עיניים עצומות. לא רק שתצלומים כאלה הם נדירים - מכיוון שעיניהם של אנשים פקוחות לרוב - אלא שצלמים אינם מפרסמים בדרך כלל תמונות בהן עיני הנושאים העיקריים עצומות.
מבלי להכשיר תמונות של אנשים שממצמצים, אלגוריתמים מזויפים עמוקים נוטים פחות ליצור פרצופים שממצמצים כרגיל. כשאנחנו מחשבים את קצב ההמצמץ הכללי ומשווים את זה לטווח הטבעי, גילינו שדמויות בסרטונים מזויפים עמוקים ממצמצות הרבה פחות בתדירות בהשוואה לאנשים אמיתיים. המחקר שלנו משתמש בלימוד מכונה כדי לבחון פתיחת וסגירת עיניים בסרטונים.
זה נותן לנו השראה לזהות קטעי וידאו מזויפים. בהמשך אנו מפתחים שיטה לזיהוי מתי האדם בסרטון מהבהב. ליתר דיוק, הוא סורק כל פריים בסרטון המדובר, מזהה את הפרצופים בו ואז מאתר את העיניים באופן אוטומטי. לאחר מכן היא משתמשת ברשת עצבית עמוקה אחרת כדי לקבוע אם העין שזוהתה פתוחה או סגורה, תוך שימוש במראה העין, בתכונות הגיאומטריות ובתנועה.
אנו יודעים כי עבודתנו מנצלת פגם בסוג הנתונים הזמינים להכשרת אלגוריתמים מזויפים עמוקים. כדי למנוע נפילה של פגם דומה, אימנו את המערכת שלנו בספרייה גדולה של תמונות של עיניים פקוחות ועצומות כאחד. נראה כי שיטה זו עובדת היטב וכתוצאה מכך השגנו שיעור זיהוי של מעל 95 אחוזים.
זו כמובן לא המילה האחרונה בנושא גילוי זיוף עמוק. הטכנולוגיה היא משתפר במהירות, והתחרות בין יצירת וגילוי סרטונים מזויפים מקבילה למשחק שח. בפרט, ניתן להוסיף מצמוץ לסרטונים מזויפים עמוקים על ידי הכללת תמונות פנים עם עיניים עצומות או שימוש ברצפי וידאו לאימון. אנשים שרוצים לבלבל את הציבור ישתפרו ביצירת סרטונים כוזבים - ואנחנו ואחרים בקהילת הטכנולוגיה נצטרך להמשיך למצוא דרכים לזהות אותם.
על המחבר
סיווי ליו, פרופסור חבר למדעי המחשב; מנהל מעבדת ראיית מחשבים ולמידת מכונה, אוניברסיטת אולבני, אוניברסיטת מדינת ניו יורק
מאמר זה פורסם במקור ב שיחה. קרא את מאמר מקורי.
ספרים קשורים
at InnerSelf Market ואמזון
