תריסים.
חברות מערביות אינדיבידואליסטיות בנויות על הרעיון שאף אחד לא מכיר את המחשבות, הרצונות או השמחות שלנו יותר מאיתנו. וכך אנו מעמידים את עצמנו, ולא את הממשלה, באחריות חיינו. אנו נוטים להסכים עם הפילוסוף טענתו של עמנואל קאנט שלאף אחד אין את הזכות לכפות עלינו את הרעיון שלו על החיים הטובים.
בינה מלאכותית (AI) תשנה זאת. זה יכיר אותנו טוב יותר מכפי שאנחנו מכירים את עצמנו. ממשלה חמושת AI יכולה לטעון שהיא יודעת מה באמת אנשיה רוצים ומה באמת ישמח אותם. במקרה הטוב הוא ישתמש בזה כדי להצדיק פטרנליזם, במקרה הרע, טוטליטריות.
כל גיהינום מתחיל בהבטחה של גן עדן. הטוטליטריות בהובלת AI לא תהיה שונה. חופש יהפוך לצייתנות למדינה. רק הלא רציונלי, מרושע או חתרן יכול היה לרצות לבחור בדרכם שלהם.
כדי למנוע דיסטופיה כזו, אסור לנו לאפשר לאחרים לדעת על עצמנו יותר מאיתנו. איננו יכולים לאפשר פער בידע עצמי.
ה- AI-Seeing AI
בשנת 2019 טען המשקיע המיליארדר פיטר תיאל כי AI הוא "ממש קומוניסט”. הוא ציין כי AI מאפשר לכוח ריכוזי לפקח על אזרחים ולדעת עליהם יותר ממה שהם יודעים על עצמם. סין, ציין תיאל, אימצה בשקיקה AI.
אנחנו כבר יודעים את הפוטנציאל של AI תומכים בטוטליטריות על ידי אספקת מערכת מעקב ובקרה אורווליאנית. אבל AI גם נותן לטוטליטרים נשק פילוסופי. כל עוד הכרנו את עצמנו טוב יותר מאשר הממשלה, הליברליזם יכול היה להרחיק את הטוטליטרים השואפים.
אבל AI שינה את המשחק. חברות טכנולוגיה גדולות אוספות כמויות עצומות של נתונים על ההתנהגות שלנו. אלגוריתמים של למידת מכונה משתמשים בנתונים אלה כדי לחשב לא רק מה נעשה, אלא מי אנחנו.
היום, AI יכול לחזות אילו סרטים נאהב, אילו חדשות נרצה לקרוא, ומי נרצה לחבר בפייסבוק. זה יכול לחזות אם זוגות ישארו יחד ואם נרצה ניסיון התאבדות. מהלייקים שלנו בפייסבוק, AI יכול לחזות ההשקפות הדתיות והפוליטיות שלנו, האישיות, המודיעין, השימוש בסמים והאושר.
הדיוק בתחזיות AI רק ישתפר. בעתיד הלא רחוק, כסופר יובל נח הררי הציע, AI עשוי לומר לנו מי אנחנו לפני שאנו עצמנו יודעים.
להתפתחויות אלה השלכות פוליטיות סייסמיות. אם ממשלות יכולות להכיר אותנו יותר טוב מאיתנו, נפתחת הצדקה חדשה להתערבות בחיינו. הם ירדנו אותנו בשם טובתנו.
חופש דרך עריצות
הפילוסוף ישעיהו ברלין חזה זאת בשנת 1958. הוא זיהה שני סוגים של חופש. סוג אחד, הזהיר, יוביל לעריצות.
חופש שלילי הוא "חופש מ". זה חופש מהתערבות של אנשים אחרים או שלטון בענייניך. חופש שלילי הוא שאף אחד אחר לא יכול לרסן אותך, כל עוד אתה לא מפר זכויות של מישהו אחר.
לעומת זאת, חופש חיובי הוא "חופש". זה החופש להיות אדון לעצמך, חופש להגשים את הרצונות האמיתיים שלך, חופש לחיות חיים רציונליים. מי לא ירצה את זה?
אבל מה אם מישהו אחר יגיד שאתה לא פועל ב"אינטרס האמיתי שלך ", למרות שהוא יודע איך אתה יכול. אם לא תקשיבו, הם עשויים מכריח אותך להיות חופשי - מכריח אותך לטובתך ". זהו אחד הרעיונות המסוכנים ביותר שהוגו אי פעם. זה הרג עשרות מיליוני אנשים ברית המועצות של סטלין ו סין של מאו.
על פי הדיווחים המנהיג הקומוניסטי הרוסי, לנין, אמר כי בעלי ההון ימכרו לו את החבל שאיתו יתלה אותם. פיטר תיאל טען שב- AI, חברות הטכנולוגיה הקפיטליסטיות של עמק הסיליקון מכרו לקומוניזם כלי שמאיים לערער את החברה הקפיטליסטית הדמוקרטית. AI הוא החבל של לנין.
נלחמים על עצמנו
אנו יכולים למנוע דיסטופיה כזו רק אם לאף אחד אין אפשרות להכיר אותנו טוב יותר מכפי שאנו מכירים את עצמנו. אסור לנו לרמנטיזציה למי שמחפש כוח כזה עלינו בכוונה טובה. מבחינה היסטורית, זה רק הסתיים רק באסון.
אחת הדרכים למנוע פער בידע עצמי היא להרים את מגיני הפרטיות שלנו. תיאל, שתייג את AI כקומוניסטי, טען כי "קריפטו הוא ליברטריאני”. מטבעות קריפטוגרפיים יכולים להיות "הפעלת פרטיות”. פרטיות מפחיתה את היכולת של אחרים להכיר אותנו ואז להשתמש בידע זה כדי לתפעל אותנו למטרות הרווח שלהם.
אולם הכרת עצמנו טוב יותר באמצעות AI מציעה יתרונות חזקים. אולי נוכל להשתמש בו כדי להבין טוב יותר מה יגרום לנו להיות מאושרים, בריאים ועשירים. זה עשוי לעזור להנחות את בחירות הקריירה שלנו. באופן כללי יותר, AI מבטיח ליצור את הצמיחה הכלכלית זֶה מונע מאיתנו את גרונם של זה.
הבעיה היא לא AI לשפר את הידע העצמי שלנו. הבעיה היא א פער כוח בכפי שידוע עלינו. ידע עלינו אך ורק בידי מישהו אחר הוא כוח עלינו. אבל הידע עלינו בידיים שלנו הוא כוח עבורנו.
כל מי ש מעבד את הנתונים שלנו כדי ליצור ידע עלינו צריך להיות מחויב מבחינה משפטית להחזיר לנו את הידע הזה. עלינו לעדכן את הרעיון של "שום דבר עלינו בלעדינו”לעידן ה- AI.
מה ש- AI אומר לנו על עצמנו הוא שנשקול להשתמש, ולא שאחרים ירוויחו מהתעללות. צריכה להיות רק יד אחת על מעבד הנפש שלנו. וזה צריך להיות שלנו.
על המחבר
סיימון מקארתי-ג'ונס, פרופסור חבר לפסיכולוגיה קלינית ונוירופסיכולוגיה, טריניטי קולג 'דאבלין
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
ספרים קשורים:
על רודנות: עשרים שיעורים מהמאה העשרים
מאת טימותי סניידר
ספר זה מציע לקחים מההיסטוריה לשימור והגנה על הדמוקרטיה, לרבות חשיבות המוסדות, תפקידם של אזרחים בודדים וסכנות הסמכותיות.
הזמן שלנו הוא עכשיו: כוח, מטרה והמאבק לאמריקה הוגנת
מאת סטייסי אברמס
המחברת, פוליטיקאית ופעילה, חולקת את חזונה לדמוקרטיה מכילה וצודקת יותר ומציעה אסטרטגיות מעשיות למעורבות פוליטית ולגיוס בוחרים.
איך דמוקרטיות מתות
מאת סטיבן לויצקי ודניאל זיבלט
ספר זה בוחן את סימני האזהרה והגורמים להתמוטטות דמוקרטית, תוך הסתמכות על מקרי מקרים מרחבי העולם כדי להציע תובנות כיצד להגן על הדמוקרטיה.
העם, לא: היסטוריה קצרה של אנטי פופוליזם
מאת תומס פרנק
המחבר מציע היסטוריה של תנועות פופוליסטיות בארצות הברית ומבקר את האידיאולוגיה ה"אנטי-פופוליסטית" שלטענתו חנקה את הרפורמה והקדמה הדמוקרטית.
דמוקרטיה בספר אחד או פחות: איך זה עובד, למה זה לא, ומדוע תיקון זה קל יותר ממה שאתה חושב
מאת דיוויד ליט
ספר זה מציע סקירה כללית של הדמוקרטיה, לרבות נקודות החוזק והחולשה שלה, ומציע רפורמות כדי להפוך את המערכת למגיבה ואחראית יותר.
