שיבוט קולו של מישהו קל מתמיד. D-Keine/iStock דרך Getty Images
זה עתה חזרת הביתה אחרי יום ארוך בעבודה ואתה עומד לשבת לארוחת ערב כשלפתע הטלפון שלך מתחיל לזמזם. מהצד השני אדם אהוב, אולי הורה, ילד או חבר ילדות, מתחנן שתשלח להם כסף מיד.
אתה שואל אותם שאלות, מנסה להבין. יש משהו לא טוב בתשובות שלהם, שהן או מעורפלות או חסרות אופי, ולפעמים יש עיכוב מוזר, כמעט כאילו הם חשבו קצת לאט מדי. עם זאת, אתה בטוח שזה בהחלט אהובך שמדבר: זה הקול שלו שאתה שומע, והזיהוי המתקשר מראה את המספר שלו. אתה מגדיר את המוזרות לפאניקה שלהם, אתה שולח את הכסף בצייתנות לחשבון הבנק שהם מספקים לך.
למחרת, אתה מתקשר אליהם בחזרה כדי לוודא שהכל בסדר. לאהובך אין מושג על מה אתה מדבר. זה בגלל שמעולם לא התקשרו אליך - הטכנולוגיה רימתה אותך: זיוף קול עמוק. אלפי אנשים היו הונאה בדרך זו בשנת 2022.
היכולת לשכפל את הקול של אדם נמצאת יותר ויותר בהישג יד של כל מי שיש לו מחשב.
As אבטחת מחשב חוקרים, אנו רואים שההתקדמות המתמשכת באלגוריתמים של למידה עמוקה, עריכת אודיו והנדסה, ויצירת קול סינתטי הביאו לכך שאפשר יותר ויותר לדמות באופן משכנע את קולו של אדם.
גרוע מכך, צ'אטבוטים כמו ChatGPT מתחילים לייצר סקריפטים מציאותיים עם תגובות אדפטיביות בזמן אמת. על ידי שילוב טכנולוגיות אלו עם יצירת קול, זיוף עמוק עובר מהיותו הקלטה סטטית לאוואטר חי, דמוי חיים שיכול לשכנע לנהל שיחת טלפון.
שיבוט קול
יצירת Deepfake באיכות גבוהה משכנעת, בין אם וידאו או אודיו, היא לא הדבר הכי קל לעשות. זה דורש שפע של כישורים אמנותיים וטכניים, חומרה רבת עוצמה ודגימה די כבדה של קול המטרה.
יש מספר הולך וגדל של שירותים המציעים לייצר שיבוטים קוליים באיכות בינונית עד גבוהה תמורת תשלום, וכמה כלים קוליים עמוקים צריכים דוגמה של באורך דקה בלבד, או אפילו רק כמה שניות, לייצר שיבוט קולי שיכול להיות מספיק משכנע כדי לשטות במישהו. עם זאת, כדי לשכנע אדם אהוב - למשל, להשתמש בהונאת התחזות - סביר להניח שזה ידרוש מדגם גדול יותר באופן משמעותי.
חוקרים הצליחו לשכפל קולות עם חמש שניות בלבד של הקלטה.
קבל את הדוא"ל האחרון
הגנה מפני הונאות ודיסאינפורמציה
עם כל מה שנאמר, אנחנו ב- פרויקט DeFake מהמכון הטכנולוגי של רוצ'סטר, אוניברסיטת מיסיסיפי ואוניברסיטת מישיגן סטייט, וחוקרים אחרים עובדים קשה כדי להיות מסוגלים לזהות זיופים עמוקים של וידאו ואודיו ולהגביל את הנזק שהם גורמים. יש גם פעולות פשוטות ויומיומיות שאתה יכול לנקוט כדי להגן על עצמך.
בתור התחלה, דיוג קולי, או "vishing", הונאות כמו זו שתוארה לעיל הן הזיופים העמוקים של הקול שאתה עלול להיתקל בהם בחיי היומיום, הן בעבודה והן בבית. בשנת 2019, א חברת האנרגיה הונאה מ-243,000 דולר ארה"ב כאשר עבריינים דימו את קולו של הבוס של חברת האם שלה להורות לעובד להעביר כספים לספק. בשנת 2022, אנשים היו הונאה מתוך מוערך של 11 מיליון דולר על ידי סימולציות של קולות, כולל של קשרים קרובים ואישיים.
מה אתה יכול לעשות?
שים לב לשיחות בלתי צפויות, אפילו מאנשים שאתה מכיר היטב. זה לא אומר שאתה צריך לתזמן כל שיחה, אבל זה עוזר לפחות לשלוח דוא"ל או הודעת טקסט קדימה. כמו כן, אל תסתמך על זיהוי מתקשר, שכן גם את זה אפשר לזייף. לדוגמה, אם אתה מקבל שיחה ממישהו שטוען שהוא מייצג את הבנק שלך, נתק והתקשר ישירות לבנק כדי לאשר את חוקיות השיחה. הקפד להשתמש במספר שרשמת, שמרת ברשימת אנשי הקשר שלך או שאתה יכול למצוא בגוגל.
בנוסף, היזהר עם המידע המזהה האישי שלך, כמו מספר תעודת זהות, כתובת מגורים, תאריך לידה, מספר טלפון, שם אמצעי ואפילו שמות הילדים וחיות המחמד שלך. רמאים יכולים להשתמש במידע זה כדי להתחזות אליך בפני בנקים, מתווכים ואחרים, להעשיר את עצמם תוך כדי פשיטת רגל או להרוס את האשראי שלך.
הנה עוד עצה: הכירו את עצמכם. באופן ספציפי, דע את ההטיות והפגיעות האינטלקטואליות והרגשיות שלך. זו עצה טובה לחיים באופן כללי, אבל זה המפתח להגן על עצמך מפני מניפולציות. הרמאים בדרך כלל מבקשים להתלבט ואז לטרוף את החרדות הפיננסיות שלך, ההתקשרויות הפוליטיות שלך או נטיות אחרות, יהיו אלו אשר יהיו.
ערנות זו היא גם הגנה הגונה מפני דיסאינפורמציה באמצעות זיוף קול עמוק. ניתן להשתמש בזיופים עמוקים כדי לנצל את היתרונות שלך הטיית אישור, או מה שאתה נוטה להאמין לגבי מישהו.
אם אתה שומע אדם חשוב, בין אם מהקהילה שלך או מהממשלה, אומר משהו שנראה מאוד לא אופייני עבורו או מאשר את החשדות הגרועים ביותר שלך לגביו, יהיה חכם להיות זהיר.
אודות הסופרים
מתיו רייט, פרופסור לאבטחת מחשוב, המכון הטכנולוגי של רוצ'סטר ו כריסטופר שוורץ, עמית מחקר פוסט-דוקטורט לאבטחת מחשוב, המכון הטכנולוגי של רוצ'סטר
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
