צ'טבוטים של AI הופכים לחזקים יותר, אבל איך אתה יודע אם הם פועלים לטובתך? 

אם תשאלו את אלקסה, מערכת ה-AI העוזרת הקולית של אמזון, האם אמזון היא מונופול, היא מגיבה לפי אומר שזה לא יודע. לא צריך הרבה כדי להכין את זה להרוס את ענקיות הטכנולוגיה האחרות, אבל היא שותקת לגבי המעשים של ההורה התאגיד שלו.

כאשר אלקסה מגיבה בצורה זו, ברור שהיא שמה את האינטרסים של המפתחים שלה לפני שלך. עם זאת, בדרך כלל, זה לא כל כך ברור למי מערכת AI משרתת. כדי להימנע מניצול על ידי מערכות אלו, אנשים יצטרכו ללמוד לגשת לבינה מלאכותית בספקנות. זה אומר לבנות בכוונה את הקלט שאתה נותן לו וחשיבה ביקורתית על הפלט שלו.

דורות חדשים יותר של דגמי בינה מלאכותית, עם התגובות המתוחכמות יותר והפחות מטומטמות שלהם, מקשים על לדעת מי מרוויח כשהם מדברים. המניפולציה של חברות אינטרנט במה שאתה רואה כדי לשרת את האינטרסים שלהן אינה דבר חדש. תוצאות החיפוש של גוגל והפיד שלך בפייסבוק הם מלא בערכים בתשלום. פייסבוק, טיק טוק ואחרים מבצעים מניפולציות בעדכונים שלך כדי למקסם את הזמן שאתה מבלה בפלטפורמה, מה שאומר יותר צפיות במודעות, על רווחתך.

מה שמבדיל מערכות בינה מלאכותית משירותי האינטרנט האחרים הללו הוא עד כמה הן אינטראקטיביות, וכיצד האינטראקציות הללו יהפכו יותר ויותר כמו מערכות יחסים. לא צריך הרבה אקסטרפולציה מהטכנולוגיות של היום כדי לחזות ב-AI שיתכנן עבורכם טיולים, ינהלו משא ומתן בשמכם או ישמשו כמטפלים ומאמנים לחיים.

סביר להניח שהם יהיו איתך 24/7, יכירו אותך מקרוב ויוכלו לצפות את הצרכים שלך. סוג זה של ממשק שיחה לרשת העצומה של שירותים ומשאבים באינטרנט הוא במסגרת היכולות של AI גנרטיביים קיימים כמו ChatGPT. הם בדרך להיות עוזרים דיגיטליים מותאמים אישית.

בְּתוֹר מומחה אבטחה ו מדען נתונים, אנו מאמינים שאנשים שבאים להסתמך על AI אלה יצטרכו לסמוך עליהם באופן מרומז כדי לנווט בחיי היומיום. זה אומר שהם יצטרכו להיות בטוחים שה-AI לא עובדים בסתר עבור מישהו אחר. ברחבי האינטרנט, מכשירים ושירותים שנראה שהם עובדים בשבילך כבר פועלים נגדך בסתר. טלוויזיות חכמות לרגל אחריך. אפליקציות לטלפון לאסוף ולמכור את הנתונים שלך. אפליקציות ואתרים רבים לתמרן אותך דרך דפוסים אפלים, עיצוב אלמנטים כי להטעות במכוון, לכפות או להונות מבקרים באתר. זה הקפיטליזם המעקב, ובינה מלאכותית מתעצבת להיות חלק ממנה. בינה מלאכותית משחקת תפקיד בקפיטליזם מעקב, שמסתכם בריגול אחריך כדי להרוויח ממך כסף.

בחושך

בהחלט ייתכן, זה יכול להיות הרבה יותר גרוע עם AI. כדי שהעוזר הדיגיטלי של AI יהיה שימושי באמת, הוא יצטרך להכיר אותך באמת. יותר טוב ממה שהטלפון שלך מכיר אותך. יותר טוב ממה שחיפוש Google מכיר אותך. טוב יותר, אולי, ממה שהחברים הקרובים, השותפים האינטימיים והמטפל שלך מכירים אותך.

אין לך סיבה לסמוך על כלי הבינה המלאכותית הגנרטיבית המובילים של היום. השאר בצד את הזיות, ה"עובדות" המומצאות ש-GPT ודגמי שפה גדולים אחרים מייצרים. אנו מצפים שאלו ינוקו במידה רבה ככל שהטכנולוגיה תשתפר במהלך השנים הקרובות.

אבל אתה לא יודע איך AIs מוגדרים: איך הם אומנו, איזה מידע הם קיבלו, ואילו הוראות הם נצטוו לבצע. למשל, חוקרים חשף את הכללים הסודיים השולטים בהתנהגות הצ'אטבוט של Microsoft Bing. הם בעיקר שפירים אבל יכולים להשתנות בכל עת.

לעשות כסף

רבים מה-AI הללו נוצרים ומאומנים בהוצאות עצומות על ידי כמה מהמונופולים הטכנולוגיים הגדולים ביותר. הם מוצעים לאנשים להשתמש בהם ללא תשלום, או בעלות נמוכה מאוד. החברות האלה יצטרכו לייצר מהן רווח איכשהו. וכמו בכל שאר האינטרנט, זה איכשהו עשוי לכלול מעקב ומניפולציה.

תאר לעצמך שאתה מבקש מהצ'אטבוט שלך לתכנן את החופשה הבאה שלך. האם היא בחרה חברת תעופה מסוימת או רשת מלונות או מסעדה בגלל שהיא הכי טובה בשבילך או בגלל שהיצרנית שלה קיבלה תמורה מהעסקים? כמו בתוצאות בתשלום בחיפוש בגוגל, מודעות ניוז בפייסבוק ומיקומים בתשלום בשאילתות של אמזון, ההשפעות בתשלום הללו צפויות להיות סמויות יותר עם הזמן.

אם אתה מבקש מהצ'אטבוט שלך מידע פוליטי, האם התוצאות מוטות על ידי הפוליטיקה של התאגיד שבבעלותו הצ'אטבוט? או המועמד ששילם לו הכי הרבה כסף? או אפילו הדעות של הדמוגרפיה של האנשים שהנתונים שלהם שימשו בהכשרת המודל? האם סוכן הבינה המלאכותית שלך הוא סוכן כפול בסתר? כרגע, אין דרך לדעת.

מהימן על פי חוק

אנו מאמינים שאנשים צריכים לצפות ליותר מהטכנולוגיה ושחברות טכנולוגיה ו-AI יכולות להפוך לאמינות יותר. הצעת האיחוד האירופי חוק AI נוקט כמה צעדים חשובים, הדורשים שקיפות לגבי הנתונים המשמשים להכשרת מודלים של בינה מלאכותית, הפחתת הטיה אפשרית, חשיפה של סיכונים צפויים ודיווח על בדיקות סטנדרטיות בתעשייה. האיחוד האירופי דוחף קדימה עם רגולציית AI.

רוב ה-AI הקיימים לא לעמוד בדרישות עם המנדט האירופי המתגבש הזה, ולמרות זאת דחיפה אחרונה ממנהיג הרוב בסנאט צ'אק שומר, ארה"ב נמצאת בפיגור הרחק ברגולציה כזו.

ה-AI של העתיד צריך להיות מהימן. אלא אם ועד שהממשלה תספק הגנות צרכניות חזקות למוצרי בינה מלאכותית, אנשים יהיו בעצמם כדי לנחש את הסיכונים וההטיות הפוטנציאליות של בינה מלאכותית, ולמתן את ההשפעות הגרועות ביותר שלהם על החוויות של אנשים איתם.

אז כשאתה מקבל המלצה לטיולים או מידע פוליטי מכלי בינה מלאכותית, פנה אליו באותה עין סקפטית שהיית מקבל מודעת חוצות או מתנדב מסע פרסום. למרות כל הקוסמות הטכנולוגיות שלו, כלי הבינה המלאכותית עשוי להיות מעט יותר מאותו הדבר.

על המחבר

ברוס שנייר, מרצה נלווה למדיניות ציבורית, בית הספר להרווארד קנדי ו נתן סנדרס, שותף, מרכז ברקמן קליין לאינטרנט וחברה, אוניברסיטת הרווארד

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.