האם הפרצוף הזה הוא רק מכלול של סיביות מחשב? PHOTOCREO מיכל בדנרק/Shutterstock.com
כאשר מערכות בינה מלאכותית מתחילות להיות יצירתיות, הן יכולות ליצור דברים גדולים - ומפחידים. קח, למשל, תוכנית AI המאפשרת משתמשי אינטרנט מלחינים מוזיקה יחד עם יוהאן סבסטיאן באך על ידי הזנת הערות לתוכנית המייצרת הרמוניות דמויי באך כדי להתאים להן.
מנוהל על ידי גוגל, האפליקציה דרו גדול שבח על כך שהוא פורץ דרך וכיף לשחק איתו. זה גם משך ביקורת, ועורר חשש מפני הסכנות של AI.
המחקר שלי כיצד טכנולוגיות מתפתחות משפיעות על חייהם של אנשים לימד אותי שהבעיות חורגות מהדאגה הגדולה בין אם אלגוריתמים באמת יכול ליצור מוזיקה או אמנות בכלל. חלק מהתלונות נראו קטנות, אך ממש לא, כמו תצפיות שה- AI של גוגל היה הפרת כללים בסיסיים של חיבור מוזיקה.
למעשה, המאמצים לגרום למחשבים לחקות את התנהגותם של אנשים אמיתיים יכולים להיות מבלבלים ועלולים להזיק.
טכנולוגיות התחזות
התוכנית של גוגל ניתחה את התווים ב -306 היצירות המוסיקליות של באך, ומצאה קשרים בין המנגינה לבין התווים שסיפקו את ההרמוניה. מכיוון שבאך פעל לפי כללי הקומפוזיציה המחמירים, התוכנית למדה ביעילות את הכללים הללו, כך שתוכל ליישם אותם כאשר המשתמשים יספקו הערות משלהם.
צוות Google Doodle מסביר את תוכנית באך.
{youtube}XBfYPp6KF2g{/youtube}
אפליקציית באך עצמה חדשה, אך הטכנולוגיה הבסיסית לא. אלגוריתמים שהוכשרו ל לזהות דפוסים ולעשות החלטות הסתברותיות קיימים זמן רב. חלק מאלגוריתמים אלה כל כך מורכבים שאנשים לא תמיד מבין כיצד הם מקבלים החלטות או מייצרים תוצאה מסוימת.
מערכות AI אינן מושלמות - רבות מהן מסתמכות על כך נתונים שאינם מייצגים מכלל האוכלוסייה, או שהם מושפע מהטיות אנושיות. זה לא לגמרי ברור מי שאחראי מבחינה משפטית כאשר מערכת AI עושה שגיאה או גורמת לבעיה.
אולם כעת, טכנולוגיות הבינה המלאכותית הולכות ומתקדמות מספיק בכדי להיות מסוגלות להעריך את סגנון הכתיבה או הדיבור של אנשים ואפילו הבעות פנים. זה לא תמיד רע: AI פשוט למדי העניק לסטפן הוקינג את יכולת לתקשר ביעילות רבה יותר עם אחרים על ידי חיזוי המילים שהוא הכי ישתמש בהן.
תוכניות מורכבות יותר המחקות קולות אנושיים לסייע לאנשים עם מוגבלויות - אבל יכול לשמש גם להטעיית מאזינים. למשל, יוצרי Lyrebird, תוכנית לחיקוי קולי, הוציאה א שיחה מדומה בין ברק אובמה, דונלד טראמפ והילרי קלינטון. זה אולי נשמע אמיתי, אבל חילופי הדברים האלה מעולם לא התרחשו.
מטוב לרע
בפברואר 2019, חברת העמותות OpenAI יצרה תוכנית המייצרת טקסט כלומר כמעט ולא ניתן להבחין בטקסט נכתב על ידי אנשים. זה יכול "לכתוב" נאום בסגנון ג'ון פ 'קנדי, JRR טולקין ב"שר הטבעות”או סטודנט שכותב מטלת בית ספר בנושא מלחמת האזרחים בארצות הברית.
הטקסט שנוצר על ידי התוכנה של OpenAI כל כך אמין שהחברה בחרה לא לשחרר התוכנית עצמה.
טכנולוגיות דומות יכולות לדמות תמונות וסרטונים. בתחילת 2018, למשל, השחקן והקולנוען ג'ורדן פיל יצר סרטון שהופיע כדי להראות את נשיא ארצות הברית לשעבר ברק אובמה אומר דברים שאובמה מעולם לא אמר להזהיר את הציבור מפני הסכנות הטמונות בטכנולוגיות אלה.
היזהר באילו סרטונים אתה מאמין.
{youtube}cQ54GDm1eL0{/youtube}
בתחילת 2019, א צילום עירום מזויף של נציג ארה"ב אלכסנדריה אוקסיו-קורטז הופץ ברשת. סרטונים מפוברקים, לרוב נקרא "deepfakes, "צפויים להיות יותר ויותר מְשׁוּמָשׁ במערכות בחירות.
חברי הקונגרס התחילו לבדוק את הנושא הזה לקראת בחירות 2020. משרד ההגנה האמריקני מלמד את הציבור כיצד לזהות סרטוני וידיאו ושמע. ארגוני חדשות כמו רויטרס מתחילים להכשיר עיתונאים לזהות זיופים עמוקים.
אך לדעתי נותר דאגה גדולה עוד יותר: משתמשים אולי לא יוכלו ללמוד מספיק מהר כדי להבחין בתוכן מזויף ככל שטכנולוגיית AI הופכת להיות מתוחכמת יותר. למשל, מכיוון שהציבור מתחיל להיות מודע לזיופים עמוקים, AI כבר משמש להטעיות מתקדמות עוד יותר. ישנן כעת תוכניות שיכולות ליצור פרצופים מזויפים ו טביעות אצבע דיגיטאליות מזויפות, יצירת אפקטיבי את המידע הדרוש לפברוק אדם שלם - לפחות ברשומות ארגוניות או ממשלתיות.
מכונות ממשיכות ללמוד
כרגע, יש מספיק טעויות פוטנציאליות בטכנולוגיות אלה כדי לתת לאנשים סיכוי לזהות יצירות דיגיטליות. מלחין באך של גוגל עשה כמה טעויות מומחה יכול לזהות. לדוגמה, כאשר ניסיתי את זה, התוכנית אפשרה לי להיכנס חמישיות מקבילות, מרווח מוזיקה שבאך נמנע בחריצות. גם האפליקציה הפר את החוקים המוסיקליים של קונטרפונקט על ידי הרמוניה של מנגינות במפתח הלא נכון. באופן דומה, התוכנית ליצירת טקסט של OpenAI כתבה מדי פעם משפטים כמו "שריפות שמתרחשות מתחת למים"זה לא היה הגיוני בהקשרים שלהם.
ככל שמפתחים עובדים על יצירותיהם, הטעויות האלה יהפכו לנדירות יותר. ביעילות, טכנולוגיות AI יתפתחו וילמדו. הביצועים המשופרים יכולים להביא יתרונות חברתיים רבים - לרבות שירותי בריאות טובים יותר, שכן תוכניות AI עוזרות לדמוקרטיה את העיסוק ברפואה.
מתן חופש לחוקרים ולחברות כדי לחפש את ההישגים החיוביים הללו ממערכות AI, פירושו פתיחת הסיכון לפיתוח דרכים מתקדמות יותר ליצירת הטעיה ובעיות חברתיות אחרות. מחקר מוגבל מאוד של AI יכול לבלום את ההתקדמות הזו. אבל לתת טכנולוגיות מועילות מקום לגדול כרוך בעלות לא קטנה - ופוטנציאל השימוש לרעה, בין אם ליצור מוזיקה "דמוית באך" לא מדויקת או להונות מיליונים, עשוי לגדול באופן שאנשים עדיין לא יכולים לצפות.
על המחבר
אנה סנטוס רוטשמן, פרופסור למשפטים, אוניברסיטת סנט לואיס
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
ספרים קשורים
at InnerSelf Market ואמזון
