החלוקה הדיגיטלית החדשה היא בין אנשים שביטלו אלגוריתמים לבין אנשים שלא האם אתה יודע מה קורה כשאתה משתף את הנתונים שלך? mtkang / shutterstock.com

כל היבט בחיים יכול להיות מונחה על ידי אלגוריתמים של בינה מלאכותית - החל מבחירה לאיזה מסלול לנסוע לנסיעה הבוקר שלך, ועד להחלטה למי לצאת לדייט, וכלה בנושאים משפטיים ומשפטיים מורכבים כמו שיטור חזוי.

חברות טכנולוגיה גדולות כמו גוגל ופייסבוק משתמשות בבינה מלאכותית כדי להשיג תובנות על ענקיה של נתוני לקוחות מפורטים. זה מאפשר להם לייצר רווחים מהעדפות קולקטיביות של משתמשים באמצעות שיטות כגון מיקוד מיקרו, אסטרטגיה המשמשת את המפרסמים למיקוד צר של קבוצות משתמשים ספציפיות.

במקביל, אנשים רבים סומכים כיום על פלטפורמות ואלגוריתמים יותר מאשר על הממשלות והחברה האזרחית שלהם. מחקר באוקטובר 2018 הציע לאנשים להפגין "הערכת אלגוריתם, "במידה שהם היו מסתמכים על עצות יותר כאשר הם חושבים שזה מתוך אלגוריתם מאשר מאדם.

בעבר, מומחי טכנולוגיה דואגים א "פער דיגיטלי" בין אלה שיכלו לגשת למחשבים לאינטרנט לבין אלה שלא יכלו. משקי בית עם פחות גישה לטכנולוגיות דיגיטליות נמצאים בחסרון ביכולתם להרוויח כסף ולצבור מיומנויות.


גרפיקת מנוי פנימית


אך ככל שמתרבים המכשירים הדיגיטליים, החלוקה כבר איננה רק גישה. איך אנשים מתמודדים עם עומס מידע ושלל החלטות אלגוריתמיות המחלחלות לכל היבט בחייהם?

המשתמשים הנבונים יותר מסתובבים ממכשירים ומתוודעים לאופן שבו אלגוריתמים משפיעים על חייהם. בינתיים, צרכנים שיש להם פחות מידע מסתמכים עוד יותר על אלגוריתמים שינחו את החלטותיהם.

האם אתה צריך להישאר מחובר - או לנתק? pryzmat / shutterstock.com

הרוטב הסודי שמאחורי הבינה המלאכותית

הסיבה העיקרית לחלוקה הדיגיטלית החדשה, לדעתי כמי שלומדת מערכות מידע, היא ש כל כך מעט אנשים מבינים כיצד אלגוריתמים עובדים. עבור רוב המשתמשים אלגוריתמים נתפסים כתיבה שחורה.

אלגוריתמי AI לוקחים נתונים, מתאימים אותם למודל מתמטי ומוציאים תחזית, שנע בין מאילו שירים אתה עשוי ליהנות ל כמה שנים מישהו צריך לבלות בכלא. מודלים אלה מפותחים ומשופרים על סמך נתוני העבר והצלחתם של דגמים קודמים. רוב האנשים - אפילו לפעמים מעצבי האלגוריתם עצמם - לא ממש יודעים מה נכנס למודל.

חוקרים כבר מזמן מודאגים על הוגנות אלגוריתמית. לדוגמא, כלי הגיוס מבוסס ה- AI של אמזון הסתבר לפטר מועמדות. המערכת של אמזון חולצה באופן סלקטיבי מילים מגדריות מרומזות - מילים שגברים נוטים יותר להשתמש בהן בדיבור יומיומי, כגון "הוצא להורג" ו"נלכד ".

מחקרים אחרים הראו כי אלגוריתמים שיפוטיים הם מוטים גזעיים, וגוזרים נאשמים שחורים עניים זמן רב יותר מאחרים.

כחלק מהתקנה הכללית להגנת נתונים שאושרה באיחוד האירופי, אנשים כן "זכות להסבר" מהקריטריונים שהאלגוריתמים משתמשים בהם בהחלטות שלהם. חקיקה זו מתייחסת לתהליך של קבלת החלטות אלגוריתמיות כמו ספר מתכונים. החשיבה הולכת שאם אתה מבין את המתכון, אתה יכול להבין כיצד האלגוריתם משפיע על חייך.

בינתיים, כמה חוקרי AI דחקו באלגוריתמים שכן הוגן, אחראי ושקוף, בנוסף ל ניתן לפרשנותכלומר שהם צריכים להגיע להחלטות שלהם באמצעות תהליכים שבני אדם יכולים להבין ולסמוך עליהם.

איזו השפעה תהיה לשקיפות? ב מחקר אחדהתלמידים דורגו על ידי אלגוריתם והציעו דרגות הסבר שונות לגבי אופן התאמת ציוני עמיתיהם כדי להגיע לציון סופי. התלמידים עם הסברים שקופים יותר דווקא סמכו פחות על האלגוריתם. זה, שוב, מרמז על פער דיגיטלי: מודעות אלגוריתמית אינה מובילה ליותר ביטחון במערכת.

אך שקיפות איננה תרופת פלא. גם כאשר מתואר התהליך הכללי של האלגוריתם, הפרטים עדיין עשויים להיות מורכבים מדי למשתמשים להבין. שקיפות תעזור רק למשתמשים מתוחכמים מספיק כדי להבין את מורכבות האלגוריתמים.

לדוגמה, בשנת 2014 היה בן ברננקי, יו"ר הבנק המרכזי לשעבר דחה מיחזור משכנתא על ידי מערכת אוטומטית. רוב האנשים שמבקשים מימון משכנתא כזה לא היו מבינים כיצד אלגוריתמים עשויים לקבוע את יכולת האשראי שלהם.

מה אומר האלגוריתם לעשות היום? מריה סאוונקו / shutterstock.com

ביטול הסכמה למערכת האקולוגית החדשה

בעוד שאלגוריתמים משפיעים כל כך הרבה על חייהם של אנשים, רק חלק זעיר מהמשתתפים הם מספיק מתוחכמים כדי לעסוק באופן מלא כיצד האלגוריתמים משפיעים על חייהם.

אין הרבה נתונים סטטיסטיים לגבי מספר האנשים המודעים לאלגוריתם. מחקרים מצאו עדויות לכך חרדה אלגוריתמית, מה שמוביל לחוסר איזון עמוק בכוח בין פלטפורמות שמפרסמות אלגוריתמים ו- המשתמשים שתלויים בהם.

מחקר על השימוש בפייסבוק גילה שכאשר הודיעו למשתתפים על האלגוריתם של פייסבוק לאצירת עדכוני חדשות, כ -83% מהמשתתפים שינו את התנהגותם כדי לנסות לנצל את האלגוריתם, בעוד שכ -10% הפחיתו את השימוש בפייסבוק.

דוח נובמבר 2018 ממרכז המחקר Pew מצא כי לרוב הרחב של הציבור היו חששות משמעותיים לגבי השימוש באלגוריתמים לשימושים מסוימים. הוא מצא כי 66% סברו כי לא יהיה זה הוגן שאלגוריתמים יחשבו את ציוני המימון האישי, ואילו 57% אמרו אותו דבר לגבי סינון קורות חיים אוטומטיים.

חלק קטן מהאנשים מפעילים שליטה מסוימת על האופן שבו אלגוריתמים משתמשים בנתונים האישיים שלהם. לדוגמא, פלטפורמת Hu-Manity מאפשרת למשתמשים אפשרות לשלוט בכמה מהנתונים שלהם נאספים. אנציקלופדיה מקוונת אודיפדיה מציע למשתמשים את היכולת להיות בעל עניין בתהליך האוצרות, מה שאומר שמשתמשים יכולים גם לשלוט באופן שבו המידע נצבר ומוצג בפניהם.

עם זאת, רוב מוחלט של הפלטפורמות אינן מעניקות גמישות כזו למשתמשי הקצה שלהן או את הזכות לבחור כיצד האלגוריתם משתמש בהעדפותיהן באוצרות עדכון החדשות שלהן או בהמלצה על תוכנן. אם יש אפשרויות, ייתכן שמשתמשים לא ידעו עליהם. כ -74% ממשתמשי פייסבוק אמרו בסקר שהם כן לא מודעים לאופן שבו הפלטפורמה מאפיינת את האינטרסים האישיים שלהם.

לדעתי, האוריינות הדיגיטלית החדשה אינה שימוש במחשב או הימצאות באינטרנט, אלא הבנה והערכה של ההשלכות של אורח חיים מחובר תמיד.

לאורח חיים זה יש השפעה משמעותית על איך אנשים מתקשרים עם אחרים; על יכולתם שימו לב למידע חדש; והמשיך המורכבות של תהליכי קבלת ההחלטות שלהם.

התגברות החרדה האלגוריתמית עשויה להתבטא גם בתזוזות מקבילות במשק. קבוצה קטנה של אנשים הם לכידת הרווחים מאוטומציה, בעוד עובדים רבים נמצאים ב עמדה רעועה.

ביטול איסוף אלגוריתמי הוא מותרות - ויום אחד יכול להיות סמל לשפע העומד לרשות מעטים נבחרים בלבד. השאלה היא אם כן מה יהיו הנזקים הניתנים למדידה עבור מי שנמצא בצד הלא נכון של הפער הדיגיטלי.

על המחבר

אנג'אנה סוסארלה, פרופסור חברה למערכות מידע, אוניברסיטת מישיגן

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.

ספרים קשורים

at InnerSelf Market ואמזון