אפילו 17 שנים מעבר ל -2001, חללי החלל גדולים יותר מזה. מתיו ג'יי קוטר / פליקר, CC BY-SA

צופה א הקרנת יום השנה ה -50 של "2001: אודיסיאה בחלל", מצאתי את עצמי, א מתמטיקאי ומדעי המחשב המחקר שלה כולל עבודות הקשורות לבינה מלאכותית, תוך השוואת חזון העתיד של הסיפור עם העולם כיום.

הסרט נעשה באמצעות שיתוף פעולה עם סופר המדע הבדיוני ארתור סי קלארק ובמאי הקולנוע סטנלי קובריק, בהשראת הרומן של קלארק "קץ הילדות" וסיפורו הקצר פחות מוכר "הזקיף". יצירה מרשימה של סיפורת ספקולטיבית, היא מתארת ​​- במונחים של תקווה ולעיתים גם אזהרה - עתיד של קשר זר, נסיעה בין-כוכבית, מכונות מודעות ואפילו קפיצת המדרגה האבולוציונית הגדולה הבאה.

הדרך הברורה ביותר בה 2018 נופלת מחזון "2001" היא בנסיעה לחלל. אנשים עדיין לא מבקרים באופן שגרתי בתחנות חלל, מבקרים בביקור בלתי ראוי לציון באחד מכמה בסיסי ירח, ולא נוסעים לכוכבי לכת אחרים. אבל קובריק וקלארק פוגעים בעין השור כאשר מדמיינים את האפשרויות, הבעיות והאתגרים של עתיד הבינה המלאכותית.

פתיחת 2001: אודיסיאה בחלל:

{youtube}https://youtu.be/WufKsOhkTL8{/youtube}

מה מחשבים יכולים לעשות?

בדרמה ראשית של הסרט ניתן לראות במובנים רבים קרב מוות בין אדם למחשב. האינטליגנציה המלאכותית של "2001" מגולמת ב- HAL, הנוכחות החישובית הכל-יודעת, המוח של ספינת החלל Discovery One - ואולי הדמות המפורסמת ביותר של הסרט. HAL מסמן את שיא ההישגים החישוביים: מכשיר מודע לעצמו, לכאורה בלתי-שגיאה ונוכחות בכל מקום בספינה, תמיד מקשיב, תמיד צופה.

HAL הוא לא רק עוזר טכנולוגי לצוות, אלא - כלשונו של מפקד המשימה דייב באומן - איש הצוות השישי. בני האדם מקיימים אינטראקציה עם HAL בכך שהם מדברים אליו, והוא משיב בקול גברי מדוד, איפשהו בין הורה חמורה אך מפנק ואחות טובה. HAL הוא Alexa ו- Siri - אבל הרבה יותר טוב. ל- HAL שליטה מלאה בספינה וגם, כפי שמתברר, הוא איש הצוות היחיד שיודע את המטרה האמיתית של המשימה.

אתיקה במכונה

המתח במערכה השלישית של הסרט סובב את היותו של באומן וחבר הצוות שלו פרנק פול יותר ויותר מודעים לכך ש- HAL לא תקין, וגילויו של HAL על חשדות אלה. דייב ופרנק רוצים למשוך את התקע במחשב כושל, ואילו HAL מודע לעצמו רוצה לחיות. כולם רוצים להשלים את המשימה.

אדם מול מכונה:

{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}

משחק השחמט בחיים או מוות בין בני האדם ל- HAL מציע מבשרי כמה מהשאלות של ימינו אודות שכיחותם ופריסתם של בינה מלאכותית בחיי היומיום של האנשים.

בראש ובראשונה היא השאלה כמה שליטה על אנשים למסור למכונות אינטליגנטיות מלאכותית, ללא קשר למידה שהמערכות "חכמות". השליטה של ​​HAL ב- Discovery היא כמו גרסת שטח עמוקה של הבית העתידי ברשת או המכונית ללא נהג. אזרחים, קובעי מדיניות, מומחים וחוקרים כולם עדיין בוחנים את המידה בה אוטומציה יכולה - או צריכה - להוציא בני אדם מהלופ. חלק מהשיקולים כוללים שאלות פשוטות יחסית בנושא אמינות מכונות, אך נושאים אחרים הם עדינים יותר.

פעולותיה של מכונת חישוב מוכתבות על ידי החלטות המקודדות על ידי בני אדם באלגוריתמים השולטים במכשירים. לאלגוריתמים יש בדרך כלל מטרה ניתנת לכימות שאליה כל אחת מהפעולות שלה אמורה להתקדם לנצח במשחק של דמקה, שחמט או גו. בדיוק כמו שמערכת AI תנתח מיקומים של חלקי משחק על הלוח, היא יכולה גם למדוד יעילות של מחסן or שימוש באנרגיה של מרכז נתונים.

אבל מה קורה כאשר א דילמה מוסרית או אתית עולה בדרך למטרה? עבור ה- HAL המודע לעצמו, השלמת המשימה - והישארות בחיים - מנצחת כאשר נמדדת מול חיי הצוות. מה עם מכונית ללא נהג? האם ה משימה של מכונית בנהיגה עצמיתלמשל, להביא נוסע ממקום למקום מהר ככל האפשר - או להימנע מהרג הולכי רגל? כשמישהו צועד מול רכב אוטונומי, מטרות אלה מתנגשות. זה אולי מרגיש כמו "בחירה" ברורה לתכנת משם, אבל מה אם המכונית צריכה "בחר" בין שני תרחישים שונים, שכל אחד מהם יגרום למוות אנושי?

תחת מעקב

בסצינה קלאסית אחת, דייב ופרנק נכנסים לחלק מתחנת החלל שבו הם חושבים ש- HAL לא מצליחים לשמוע אותם כדי לדון בספקותיהם לגבי תפקודו של HAL ויכולתו לשלוט בספינה ולהנחות את המשימה. הם מעלים את הרעיון לסגור אותו. הם לא יודעים שהמצלמות של HAL יכולות לראות אותן: המחשב קורא את שפתיהם דרך חלון התרמיל ולומד על התוכניות שלהם.

HAL קורא שפתיים:

{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}

בעולם המודרני, גרסה של אותה סצנה מתרחשת כל היום כל יום. רובנו במעקב אפקטיבי ברציפות, דרך שלנו כמעט תמיד טלפונים פועלים או חברות וממשל מעקב אחר פעילויות בעולם האמיתי ומקוון. הגבול בין פרטי לציבורי הפך ומטושטש יותר ויותר.

מערכות היחסים של הדמויות בסרט גרמו לי לחשוב הרבה על האופן שבו אנשים ומכונות עשויים להתקיים יחד, או אפילו להתפתח יחד. דרך חלק גדול מהסרט, אפילו בני האדם מדברים זה עם זה בצורה ערמומית, בלי הרבה טון או רגש - כפי שהם אולי מדברים עם מכונה, או כמו שמכונה עלולה לדבר איתם. סצנת המוות המפורסמת של HAL - בה דייב מנתק את הקישורים ההגיוניים שלה באופן שיטתי - גרמה לי לתהות האם למכונות אינטליגנטיות יינתן אי פעם משהו שווה ערך לזכויות אדם.

קלארק האמין שייתכן שזמן בני האדם בכדור הארץ אינו אלא "מקום מנוחה קצר"ושההתבגרות וההתפתחות של המינים ייקחו בהכרח אנשים הרבה מעבר לכוכב הלכת הזה. "2001" מסתיים בצורה אופטימית, תוך קפיצה של אדם באמצעות ה"סטארגייט "כדי לסמן את לידתו מחדש של המירוץ. לעשות זאת במציאות ידרוש מאנשים להבין כיצד לנצל את השימוש הטוב ביותר במכונות ובמכשירים שהם בונים, ולוודא שאיננו נותנים למכונות האלה לשלוט בנו.

על המחבר

דניאל נ 'רוקמור, פרופסור, המחלקה למתמטיקה, מדעי החישוב ומדעי המחשב, Dartmouth College

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.

ספרים קשורים

at InnerSelf Market ואמזון