מידע הוא מצרך יקר ערך. ובזכות הטכנולוגיה, יש מיליוני טרה-בייט ממנו באינטרנט.

כלי בינה מלאכותית (AI) כגון ChatGPT מנהלים כעת את המידע הזה בשמנו - אוספים אותו, מסכמים אותו ומציגים אותו בחזרה לנו.

אבל ה"מיקור חוץ" הזה של ניהול מידע ל-AI - נוח ככל שיהיה - מגיע עם השלכות. זה יכול להשפיע לא רק מה אנחנו חושבים, אבל אולי גם אֵיך אנחנו חושבים.

מה קורה בעולם שבו אלגוריתמי AI מחליטים איזה מידע מונצח ומה נשאר בצד?

עלייתה של AI מותאם אישית

כלי בינה מלאכותית גנרטיבית בנויים על מודלים שהוכשרו על מאות גיגה-בייט של נתונים קיימים. מהנתונים הללו הם לומדים כיצד ליצור באופן אוטונומי טקסט, תמונות, תוכן אודיו ווידאו, ויכולים להגיב לשאילתות משתמשים על ידי תיקון של התשובה "הסביר ביותר".

ChatGPT משמש על ידי מיליוני בני אדם, למרות שפורסם בפומבי לפני פחות משנה. בחודש יוני, תוספת של תגובות מותאמות אישית הפך את הצ'אטבוט המרשים ממילא לשימושי יותר. תכונה זו מאפשרת למשתמשים לשמור הוראות מותאמות אישית המסבירות למה הם משתמשים בבוט וכיצד הם רוצים שהוא יגיב.

זוהי אחת מכמה דוגמאות של "AI מותאם אישית": קטגוריה של כלי בינה מלאכותית שמייצרים תוכן שיתאים לצרכים ולהעדפות הספציפיות של המשתמש.

דוגמה נוספת היא של Meta שהושקה לאחרונה עוזר וירטואלי, מטא AI. הצ'אטבוט הזה יכול לנהל שיחות, ליצור תמונות ולבצע משימות על פני הפלטפורמות של Meta כולל WhatsApp, Messenger ואינסטגרם.

חוקר בינה מלאכותית ומייסד שותף של DeepMind, מוסטפא סולימן, מתאר AI מותאם אישית בתור יותר מערכת יחסים מאשר טכנולוגיה:

זה חבר. […] זה באמת הולך להיות נוכח תמיד ולצידך, לחיות איתך - בעצם בצוות שלך. אני אוהב לחשוב על זה כמו שיש לך מאמן גדול בפינה שלך.

אבל הטכנולוגיות האלה שנויות במחלוקת, עם חששות שהועלו בעלות על נתונים, הטיה ו מֵידָע מְפוּבּרָק.

חברות טכנולוגיה מנסות למצוא דרכים להילחם בבעיות הללו. לדוגמה, גוגל הוסיפה קישורי מקור לסיכומי חיפוש שנוצרו על ידי AI ניסיון יצירתי בחיפוש כלי (SGE), שעלה באש מוקדם יותר השנה בשל להציע תגובות לא מדויקות ובעייתיות.

הטכנולוגיה כבר שינתה את החשיבה שלנו

כיצד ישנו כלי AI גנרטיביים - ובמיוחד אלה המותאמים לנו אישית - את אופן החשיבה שלנו?

כדי להבין זאת, הבה נחזור לתחילת שנות ה-1990 כאשר האינטרנט נכנס לחיינו לראשונה. אנשים יכלו פתאום לגשת למידע על כמעט כל דבר, בין אם זה בנקאות, אפייה, הוראה או נסיעות.

כמעט 30 שנה לאחר מכן, מחקרים הראו כיצד החיבור ל"מוח הכוורת" הגלובלי הזה שינה את הקוגניציה, הזיכרון והיצירתיות שלנו.

למשל, בעל גישה מיידית לערך המקביל של 305.5 מיליארד דפים של מידע הגדיל את זה של אנשים מטא-ידע – כלומר, הידע שלהם על ידע. אחת ההשפעות של זה היא "אפקט גוגל”: תופעה שבה חיפוש מקוון מגביר את היכולת שלנו למצוא מידע, אך מפחית את הזיכרון שלנו מה היה המידע הזה.

מצד אחד, הורדת החשיבה שלנו למנועי חיפוש הוכחה כמשחררת את הרזרבות הנפשיות שלנו פתרון בעיות וחשיבה יצירתית. מצד שני, אחזור מידע מקוון נקשר לעלייה הסחת דעת ותלות.

מחקרים מראים גם שחיפוש מקוון - ללא קשר לכמות או איכות המידע שאוחזר - מגדיל את שלנו הערכה עצמית קוגניטיבית. במילים אחרות, זה מגביר את האמונה שלנו ב"חכמים" שלנו.

חבר את זה עם העובדה ש תשאול מידע הוא מאמץ - וכי ככל שאנו סומכים יותר על מנוע החיפוש שלנו, כך נהיה פחות ביקורתיים לעסוק בתוצאות שלו - ואתה יכול לראות מדוע גישה לכמויות חסרות תקדים של מידע לא בהכרח הופכת אותנו לחכמים יותר.

האם עלינו 'להוציא' את החשיבה שלנו במיקור חוץ?

כלי הבינה המלאכותית הגנרטיבית של היום הולכים הרבה יותר מאשר רק להציג לנו תוצאות חיפוש. הם מאתרים עבורנו את המידע, מעריכים אותו, מסנתזים אותו ומציגים לנו אותו בחזרה.

מה עשויות להיות ההשלכות של זה? מבלי לדחוף לבקרת איכות בהובלת האדם, התחזית אינה מבטיחה.

היכולת של AI גנרטיבי לייצר תגובות שמרגישות מוכרות, אובייקטיביות ומרתקות פירושה שהיא משאירה אותנו פגיעים יותר ל הטיות קוגניטיביות.

אל האני הטיית אוטומציה, למשל, היא הנטייה האנושית להעריך יתר על המידה את שלמות המידע שמקורו במכונה. וה חשיפה בלבד ההשפעה היא כאשר אנו נוטים יותר לסמוך על מידע שמוצג כמוכר או אישי.

מחקר על מדיה חברתית יכול לעזור לנו להבין את ההשפעה של הטיות כאלה. במחקר אחד משנת 2016 דיווחו משתמשי פייסבוק מרגיש יותר "בידע" בהתבסס על כמות התוכן החדשותי שפורסמו באינטרנט - ולא כמה ממנו הם באמת קוראים.

אנחנו גם יודעים ש"לסנן בועות" שנוצר על ידי אלגוריתמים של מדיה חברתית - שבהם הפידים שלנו מסוננים בהתאם לתחומי העניין שלנו - מגבילים את הגיוון של התוכן שאנו נחשפים אליו.

הוכח כי תהליך זה של צמצום מידע מתגבר קיטוב אידיאולוגי על ידי הפחתת הנטייה של אנשים לשקול נקודות מבט חלופיות. זה גם הוכח כמגביר את הסבירות שלנו להיחשף אליו חדשות מזויפות.

שימוש בבינה מלאכותית כדי להתחכם, ולא לטמטום

AI גנרטיבי הוא, ללא ספק, כוח מהפכני עם פוטנציאל לעשות דברים גדולים עבור החברה. זה יכול לעצב מחדש את מערכת החינוך שלנו על ידי אספקה תוכן מותאם אישית, שנה את נוהלי העבודה שלנו על ידי זירוז כתיבה וניתוח מידע, ולדחוף את הגבולות של גילוי מדעי.

יש לו אפילו פוטנציאל לשנות באופן חיובי את מערכות היחסים שלנו על ידי כך שהוא עוזר לנו לתקשר ולהתחבר עם אחרים ולפעמים יכול לתפקד כ צורה של חברות סינתטית.

אבל אם הדרך היחידה שלנו לשפוט את העתיד היא להסתכל לעבר, אולי עכשיו זה הזמן לחשוב על האופן שבו הן האינטרנט והן המדיה החברתית שינו את ההכרה שלנו, וליישם כמה אמצעי זהירות. מתפתח אוריינות בינה מלאכותית הוא מקום טוב להתחיל בו, וכך גם עיצוב כלי בינה מלאכותית המעודדים אוטונומיה אנושית וחשיבה ביקורתית.

בסופו של דבר, נצטרך להבין את שניהם משלנו ונקודות החוזק והחולשה של הבינה המלאכותית כדי להבטיח שהשותפים ה"חושבים" האלה יעזרו לנו ליצור את העתיד שאנחנו רוצים - ולא את זה שבמקרה נמצא בראש הרשימה.

שרה ויויאן בנטלי, מדען מחקר, חדשנות אחראית, Data61, CSIRO; קלייר מייסון, מדען מחקר ראשי, CSIRO, ו עינת גרימברג, עמית מחקר פוסט-דוקטורט בטכנולוגיה ומדעי החברה, CSIRO

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.