שחרורו של הצ'אט בוט המתקדם ChatGPT בשנת 2022 גרמה לכולם לדבר על בינה מלאכותית (AI). היכולות המתוחכמות שלו הגבירו את החששות מכך שה-AI נעשה כל כך מתקדם עד שבקרוב לא נוכל לשלוט בו. זה אפילו הוביל כמה מומחים ומנהיגים בתעשייה להזהיר כי הטכנולוגיה עלולה להוביל להכחדה אנושית.
פרשנים אחרים, עם זאת, לא השתכנעו. נועם חומסקי, פרופסור לבלשנות, דחה את ChatGPT כ"פלגיאט הייטק".
במשך שנים הייתי רגוע לגבי ההשפעה של AI על הקיום האנושי והסביבה שלנו. זה בגלל שתמיד חשבתי על זה כעל מדריך או יועץ לבני אדם. אבל הסיכוי של בינה מלאכותית לקבל החלטות - הפעלת שליטה מבצעת - הוא עניין אחר. וזה אחד שעכשיו מבדר ברצינות.
אחת הסיבות העיקריות שאנחנו לא צריכים לתת לבינה מלאכותית להיות בעלת כוח ביצוע היא שהיא חסרה לחלוטין רגש, וזה חיוני לקבלת החלטות. ללא רגש, אמפתיה ומצפן מוסרי, יצרת את פסיכופת מושלם. המערכת המתקבלת עשויה להיות אינטליגנטית ביותר, אך היא תחסר את הליבה הרגשית האנושית המאפשרת לה למדוד את ההשלכות הרגשיות העלולות להיות הרסניות של החלטה רציונלית אחרת.
כאשר בינה מלאכותית לוקחת שליטה מבצעת
חשוב לציין, אנחנו לא צריכים לחשוב רק על בינה מלאכותית כאיום קיומי אם היינו עושים זאת לשים אותו כאחראי על מחסני הנשק הגרעיניים. למעשה אין גבול למספר עמדות השליטה שמהן היא עלולה להפעיל נזק בלתי נתפס.
שקול, למשל, כיצד AI כבר יכול לזהות ולארגן את המידע הדרוש לבניית החממה שלך. איטרציות נוכחיות של הטכנולוגיה יכולות להדריך אותך ביעילות בכל שלב של המבנה ולמנוע טעויות רבות של מתחילים. אבל בעתיד, AI עשוי לפעול כמנהל פרויקט ולתאם את הבנייה על ידי בחירת קבלנים ותשלום להם ישירות מהתקציב שלך.
AI כבר נמצא בשימוש כמעט בכל התחומים של עיבוד מידע וניתוח נתונים - מ דוגמנות דפוסי מזג אוויר ל שליטה ברכבים ללא נהג ל סיוע באבחונים רפואיים. אבל כאן מתחילות הבעיות - כשאנחנו נותנים למערכות בינה מלאכותית לקחת את הצעד הקריטי מתפקיד היועץ לתפקיד המנהל הבכיר.
במקום רק להציע תרופות לא חשבונות החברה, מה אם לבינה מלאכותית קיבלה שליטה ישירה, עם יכולת ליישם נהלים להשבת חובות, לבצע העברות בנקאיות ולמקסם רווחים - ללא מגבלות כיצד לעשות זאת. או דמיינו מערכת AI לא רק מספקת אבחנה על סמך צילומי רנטגן, אך ניתנת הכוח לרשום ישירות טיפולים או תרופות.
אתה עלול להתחיל להרגיש אי נוחות לגבי תרחישים כאלה - בהחלט הייתי עושה זאת. הסיבה עשויה להיות האינטואיציה שלך שלמכונות האלה אין באמת "נשמות". הם רק תוכניות שנועדו לעכל כמויות אדירות של מידע על מנת לפשט נתונים מורכבים לתוך דפוסים הרבה יותר פשוטים, המאפשרים לבני אדם לקבל החלטות עם יותר ביטחון. אין להם - ולא יכולים - להיות להם רגשות, הקשורים באופן הדוק לחושים ולאינסטינקטים ביולוגיים.
רגשות ומוסר
אינטליגנציה רגשית היא היכולת לנהל את הרגשות שלנו כדי להתגבר על מתח, להזדהות ולתקשר ביעילות. אפשר לטעון שזה חשוב יותר בהקשר של קבלת החלטות מאשר מודיעין בלבד, מכיוון שההחלטה הטובה ביותר היא לא תמיד הרציונלית ביותר.
סביר להניח שאפשר להטמיע אינטליגנציה, היכולת לחשוב ולפעול בהיגיון, במערכות המופעלות על ידי AI כדי שיוכלו לקבל החלטות רציונליות. אבל תאר לעצמך שאתה מבקש מ-AI רב עוצמה עם יכולות ניהול לפתור את משבר האקלים. הדבר הראשון שעשוי לקבל השראה לעשות הוא צמצום דרסטי של האוכלוסייה האנושית.
ניכוי זה אינו זקוק להסבר רב. אנו בני האדם, כמעט בהגדרה, מקור הזיהום בכל צורה אפשרית. גרזן האנושות ושינויי האקלים ייפתרו. זו לא הבחירה שמקבלי החלטות אנושיים יגיעו אליה, אפשר לקוות, אבל בינה מלאכותית תמצא פתרונות משלה - בלתי חדירים ובלתי מרותקים לסלידה אנושית מגרימת נזק. ואם היה לה סמכות ביצועית, אולי לא היה משהו שימנע ממנה להמשיך.
מתן AI את היכולת לקבל החלטות ביצועיות בפיקוח אווירי עשוי להיות טעות. גורודנקוף / שוטרסטוק
תרחישי חבלה
מה דעתך על חבלה חיישנים ומנטרים השולטים בחוות מזון? זה עלול לקרות בהדרגה בהתחלה, לדחוף את הפקדים רק מעבר לנקודת מפנה כך שאף אדם לא ישים לב שהגידולים מוגנים. בתרחישים מסוימים, זה עלול להוביל במהירות לרעב.
לחלופין, מה דעתך על השבתת בקרת התעבורה האווירית בעולם, או פשוט להרוס את כל המטוסים שטסים בכל עת? כ-22,000 מטוסים נמצאים בדרך כלל באוויר בו-זמנית, מה שמצטבר למספר הרוגים פוטנציאלי של כמה מיליוני אנשים.
אם אתה חושב שאנחנו רחוקים מלהיות במצב הזה, תחשוב שוב. AI כבר נוהג במכוניות ו להטיס מטוסים צבאיים, אוטונומית.
לחלופין, מה דעתך על סגירת גישה לחשבונות בנק באזורים נרחבים בעולם, גורם לתסיסה אזרחית בכל מקום בבת אחת? או כיבוי מערכות חימום מבוקרות מחשב באמצע החורף, או מערכות מיזוג בשיא חום הקיץ?
בקיצור, מערכת בינה מלאכותית לא חייבת להיות אחראית על נשק גרעיני כדי לייצג איום רציני על האנושות. אבל בזמן שאנחנו עוסקים בנושא הזה, אם מערכת בינה מלאכותית הייתה מספיק חזקה וחכמה, היא יכולה למצוא דרך לזייף מתקפה על מדינה עם נשק גרעיני, ולעורר תגמול ביוזמת אדם.
האם AI יכול להרוג מספר גדול של בני אדם? התשובה חייבת להיות כן, בתיאוריה. אבל זה תלוי במידה רבה בכך שבני אדם יחליטו לתת לו שליטה מבצעת. אני לא באמת יכול לחשוב על משהו מפחיד יותר מבינה מלאכותית שיכולה לקבל החלטות ובעלת הכוח ליישם אותן.
על המחבר
גיום תיירי, פרופסור למדעי המוח הקוגניטיביים, אוניברסיטת Bangor
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
