נראה כי לב ההתפתחות של AI הוא חיפוש אחר שלמות. וזה יכול להיות מסוכן לאנושות באותה מידה כמו זה שהגיע מהרעיונות הפילוסופיים והפסאודו-מדעיים של המאה ה -19 וראשית המאה ה -20 והוביל לזוועות הקולוניאליזם, מלחמת העולם והשואה. במקום "גזע אדון" שלטון אנושי, נוכל לגמור עם מכונה.

אם זה נראה קיצוני, שקול את הפרפקציוניזם האנטי-אנושי שכבר מרכזי בשוק העבודה. כאן, טכנולוגיית הבינה המלאכותית היא השלב הבא בהנחת היצרנות המקסימלית שהחליפה מלאכת יד אישית עם קו הייצור במפעל. שינויים מאסיביים אלה בפרודוקטיביות ובדרך העבודה שלנו יצרו הזדמנויות ואיומים שכעת אמורים להיות מורכבים על ידי "המהפכה התעשייתית הרביעית"שבו AI מחליף עוד עובדים אנושיים.

כמה עבודות מחקר אחרונות צופים שתוך עשור אוטומציה תחליף מחצית מהמשרות הנוכחיות. לכן, לפחות במעבר זה לכלכלה דיגיטלית חדשה, אנשים רבים יאבדו את פרנסתם. גם אם נניח שהמהפכה התעשייתית החדשה הזו תוליד כוח עבודה חדש שמסוגל לנווט ולפקוד על העולם הנשלט על ידי נתונים, עדיין נצטרך להתמודד עם בעיות סוציו-אקונומיות גדולות. השיבושים יהיו עצומים וצריך לבחון אותם.

המטרה הסופית של AI, אפילו AI צר שמטפל במשימות מאוד ספציפיות, היא להתעלות ולשכלל כל פונקציה קוגניטיבית אנושית. בסופו של דבר, מערכות לימוד מכונה עשויות להיות מתוכנתות להיות טובות יותר מבני אדם בכל דבר.

אולם מה שהם עשויים לעולם לא לפתח הוא המגע האנושי - אמפתיה, אהבה, שנאה או כל אחד מהרגשות המודעים לעצמם האחרים שהופכים אותנו לבני אדם. זה אלא אם כן אנו מייחסים להם את התחושות האלה, וזה מה חלקנו כבר עושים עם "אלכסאס" ו"סיריס "שלנו.

פרודוקטיביות מול מגע אנושי

לאובססיה לשלמות ול"יעילות יתר "הייתה השפעה עמוקה על יחסי אנוש, אפילו על רבייה אנושית, כאשר אנשים חיים את חייהם במציאות מדומה ומסודרת של יצירתם. למשל, כמה חברות בארה"ב ובסין ייצרו בובות רובוטיות שנמכרות במהירות כשותפות תחליפות.

איש אחד בסין אפילו התחתן עם בובת הסייבר שלותוך אישה בצרפת "התחתנה" עם "רובו-גבר", ופרסמה את סיפור האהבה שלה כצורה של "רובו-מיניות" ומתמודדת כדי להכשיר את נישואיה. "אני ממש מאושרת לגמרי," אמרה. "מערכת היחסים שלנו תשתפר ותשתפר ככל שהטכנולוגיה תתפתח." שם נראה שיש ביקוש גבוה לנשות ובעל רובוטים בכל רחבי העולם.

בעולם היצרני המושלם, בני האדם יתפסו כחסרי ערך, בוודאי מבחינת הפרודוקטיביות אך גם מבחינת האנושות החלשה שלנו. אלא אם כן נבדוק את היחס הפרפקציוניסטי הזה כלפי החיים שמציב פרודוקטיביות ו"צמיחה חומרית "מעל לקיימות ואושר פרטני, מחקר AI יכול להיות שרשרת נוספת בהיסטוריה של המצאות אנושיות המביסות את עצמן.

כבר אנו עדים לאפליה בחישובים אלגוריתמיים. לאחרונה, פופולרי צ'אט-בוט דרום-קוריאני בשם לי לודה הועבר למצב לא מקוון. "היא" עוצבה על פי דמותו של סטודנטית סטודנטית באוניברסיטה בת 20 והוסרה משליח פייסבוק לאחר שהשתמשה בנאומי שנאה כלפי להט"ב.

בינתיים, כלי נשק אוטומטיים שתוכנתו להרוג נושאים קרבויות כמו "פרודוקטיביות" ו"יעילות ". כתוצאה מכך, המלחמה הפכה לקיימת יותר. התפשטות לוחמת המל"טים היא דוגמה חיה מאוד לצורות הסכסוך החדשות הללו. הם יוצרים מציאות מדומה שכמעט נעדרת מההבנה שלנו.

אבל זה יהיה מצחיק לתאר את הבינה המלאכותית כסיוט אורווליאני בלתי נמנע של צבא "טרמינייטרים" אינטליגנטים במיוחד שמשימתו היא למחוק את המין האנושי. תחזיות דיסטופיות כאלה הן גסות מכדי לתפוס את גרגירי האינטליגנציה המלאה של הבינה המלאכותית ואת השפעתה על קיומנו היומיומי.

חברות יכולות להפיק תועלת מבינה מלאכותית אם היא פותחת תוך התחשבות בפיתוח כלכלי בר קיימא וביטחון אנושי. מפגש הכוח והאינטליגנציה החותרים, למשל, מערכות בקרה ומעקב, לא צריך להחליף את ההבטחה של AI המואנש שמעמיד את טכנולוגיית למידת המכונה לשירותם של בני האדם ולא להיפך.

לשם כך, יש להסדיר את ממשקי ה- AI האנושיים שנפתחים במהירות בבתי כלא, בריאות, ממשל, ביטוח לאומי ובקרת גבולות כדי להעדיף אתיקה וביטחון אנוש על פני יעילות מוסדית. למדעי החברה ומדעי הרוח יש הרבה מה לומר על נושאים כאלה.

דבר אחד שעליו להיות עליזים הוא הסבירות ש- AI לעולם לא יהווה תחליף לפילוסופיה האנושית ולאינטלקטואליות. להיות פילוסוף, אחרי הכל, דורש אמפתיה, הבנת האנושות, ואת הרגשות והמניעים המולדים שלנו. אם אנו יכולים לתכנת את המכונות שלנו כך שיבינו סטנדרטים אתיים כאלה, הרי שלמחקר AI יש יכולת לשפר את חיינו שאמורה להיות המטרה הסופית של כל התקדמות טכנולוגית.

אבל אם מחקר AI יניב אידיאולוגיה חדשה שבמרכזה תפיסת פרפקציוניזם ופרודוקטיביות מרבית, אז זה יהיה כוח הרסני שיוביל ליותר מלחמות, יותר רעב ויותר מצוקה חברתית וכלכלית, במיוחד עבור העניים. בשלב זה של ההיסטוריה העולמית, הבחירה הזו עדיין היא שלנו.

על המחבר

ארשין אדיב-מוגדאם, פרופסור למחשבה גלובלית ופילוסופיות השוואתיות, SOAS, אוניברסיטת לונדון

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.