הגיע הזמן להאיר אור על האלגוריתמים שמאחיזים את האח הגדול

מיון לפי אלגוריתמים מכניס אותנו לקופסאות. איך נדע שהם הנכונים? נוצר, CC BYמיון לפי אלגוריתמים מכניס אותנו לקופסאות. איך נדע שהם הנכונים? נוצר, CC BY

נראה שהחברה מכוונת לנקודה בה חיינו כפופים לבדיקה של אלגוריתמים ממוחשבים. הנתונים שאנו מייצרים נבדקים ומנותחים, בין אם על ידי ממשלות לביטחון לאומי ובין אם חברות למטרות רווח, וסביר להניח שזה לא ישתנה - הכוח והערעור של ניתוח הנתונים, לאחר שנמצא, לא יוותרו בקלות.

אבל למען האמת, אני תוהה אם אני מודאג יותר מכך שהנתונים שלנו נאספים או מהעובדה שאיננו יודעים דבר על האלגוריתמים השופטים עלינו שיפוט.

רמת הפירוט על חיינו והרגלינו שניתן לבטל מהנתונים שאנו משאירים כבר נדונה בעבר, והיא זוכה לאוויר חדש במסגרת הדיון סביב טיוטת בריטניה. הצעת חוק סמכויות החקירה. אנו יודעים לפחות משהו על אילו נתונים נאספים וכמה זמן הם נשמרים, שחלקם נשלטים על ידי החוק הבריטי והאירופי.

ב נוסח נוסח הצעת החוק, למשל, אנו יודעים שממשלת בריטניה תדרוש "רק" גישה (לא מוצדקת) למטא-נתונים של תקשורת, לכותרות ולנושאים של הודעות דוא"ל ורישומי שיחות טלפון. אבל אנחנו גם יודעים עד כמה מטא-נתונים חושפניים יכולים להיות: הביטו ב פרויקט הטבילה של מעבדת המדיה של MIT לדוגמא חזקה עד כמה ניתן לברר ממנו כמה פרטים. זה בהחלט בכלל לא ניתן להשוות לחיוב טלפון מפורט, כנטען.

אז לטוב ולרע יש לנו הציבור מושג מה מתועד. אך אין לנו מושג אילו כלים וטכניקות אנליטיות מוחלים על נתונים אלה - ואין לזלזל בחשיבותם של אלה.

מה מוחץ את המספרים?

אנחנו יכולים לעשות ניחושים משכילים. סוכנויות הביטחון הלאומי משתמשות ככל הנראה במטא-נתונים שלנו כדי ליצור רשתות חברתיות בין אנשים ומקומות, בין היתר, המקשרים בינינו. רשתות יחסים אלה ינותחו לאחר מכן כדי לקבוע אם אנו אנשים בעלי עניין, נקבעים על פי האופן שבו אתה משווה לאנשים אחרים בעלי עניין, וכיצד אתה מתחבר לאנשים מעניינים קיימים או לאנשים הקשורים אליהם.

חוקרים המשתמשים בטכניקות אלה מבינים את מגבלותיהם, וכי האלגוריתמים המפעילים אותם עשויים להכיל שגיאות או הנחות בסיס שיש להם השפעה עמוקה על תפוקתם. במקרה זה, פירוש הדבר אם אתה מתויג כטרוריסט או לא, או שאתה זכאי להלוואה או למשכנתא.

לא בדיוק ברור היכן באזורי הגבול המטושטשים מוגדר קיום היחסים. האם פשוט ביקור באתר זהה למחבל מרמז על ערכים משותפים, או נסיעה של אותו מסלול אוטובוס מדי יום מעידה על כך שאתה משוחח בקביעות עם טרוריסטים? בהחלט ניתן לבקר באתרים בהם מגיעים מחבלים ידועים מסיבות לגיטימיות רבות. אם אתה מקבל את החדשות שלך מאותם אתרים כמו טרוריסטים, סביר יותר שאתה מחבל? אפליה והטיה ניתן להציג בנקודת איסוף הנתונים, ואז שוב כאשר מתקבלות החלטות לגבי אופן ניתוח הנתונים. גם אלגוריתמים יכולים להפלות.

גבולות מטושטשים

האפשרות שאלגוריתמים מציגים הטיה לא רצויה היא אפשרות ממשית. לדוגמה, אלה המשמשים את שירותי הביטחון מאומנים על מערכי נתונים של טרוריסטים ידועים ולא ידועים כטרוריסטים. האם זה אומר ש, מכיוון שרוב המחבלים הידועים הם גברים בגילאי 20-30, סביר יותר שתסווג כטרוריסט בגלל היותך גבר בלבד וגיל 20-30 בערך, ללא קשר לתכונות האחרות שלך ?. אם כן, האם יש לכך השפעה משמעותית על אופן השימוש בנתונים?


 קבל את הדוא"ל האחרון

מגזין שבועי השראה יומית

הבעיה נובעת מכך שאני וחוקרים אקדמיים אחרים המשתמשים בניתוח רשת מורכב, למידת מכונה, התאמת תבניות או בינה מלאכותית, נעשה שימוש בטכניקות אלו בבדיקת עמיתים ציבורית כדי לקבוע את חוזק הטכניקות ואת תקפות המסקנות; שירותי הביטחון הממשלתיים וארגוני המגזר הפרטי לא. אין לנו מושג על טיב השיטות שלהן וכיצד הן פורסות אותן. האם יש לכך פיתרון?

אלה מתחום אבטחה אחר, קריפטוגרפיה, למדו כבר מזמן שהדרך הטובה ביותר לשפר את האיכות, ולכן האבטחה, של האלגוריתמים שלה היא להפוך אותם לציבוריים. יישומים וצפנים קריפטוגרפיים מתפרסמים, וחוקרים עודדו לנסות למצוא שגיאות או פגמים, ובכך לשפר את האבטחה לכל המשתמשים בהם. בנוסף, כל יישום של אלגוריתמים קריפטוגרפיים מקור סגור (לא ציבורי) הוא בדרך כלל נחשב בחשד. אם הם אמורים לפסוק עלינו פסקי דין שמשנים את חיינו - בין אם אנו מתויגים כטרוריסטים ובין אם אינם ראויים כלכלית - יש להחיל את אותו המודל גם על אלגוריתמים ביטחוניים.

טענה כנגד מהלך כזה היא שאלגוריתמים פתוחים ושקופים עלולים לגרום למחבלים לשנות את התנהגותם בעולם האמיתי על מנת להימנע מלהתגלה. משמעות הדבר היא שינוי דברים כמו האינטראקציה שלהם, אסוציאציות, הרגלי גלישה ותנועות שעלולות להיות. אבל זה, אם האלגוריתמים עובדים כראוי, פירוש הדבר שהם בעצם מפסיקים להתנהג כמו טרוריסטים. אם הביטחון העתידי שלנו, החופש והבטיחות יהיו תלויים באלגוריתמים האלה, עלינו להיות בטוחים בדיוק איך - וזה - הם עובדים.

על המחברשיחה

פיליפ גארנט, מרצה, אוניברסיטת יורק.

מאמר זה פורסם במקור ב שיחה. קרא את מאמר מקורי.

ספר קשור:

at

אולי גם תאהב

עקוב אחר InnerSelf ב

אייקון פייסבוקאייקון טוויטרסמל YouTubeאייקון אינסטגרםסמל pintrestאייקון rss

 קבל את הדוא"ל האחרון

מגזין שבועי השראה יומית

שפות זמינות

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

קולות פנימיים

קבוצה של אנשים רב-גזעיים עומדים לתמונה קבוצתית
שבע דרכים בהן תוכל להראות כבוד לצוות המגוון שלך (וידאו)
by קלי מקדונלד
כבוד הוא בעל משמעות עמוקה, אבל לא עולה כלום לתת. הנה דרכים בהן תוכל להדגים (ו...
פיל הולך מול שמש שוקעת
סקירה אסטרולוגית והורוסקופ: 16 - 22 במאי 2022
by פאם יונגאנס
כתב העת האסטרולוגי השבועי מבוסס על השפעות פלנטריות ומציע נקודות מבט ו ...
תמונה של ליאו בוסקליה מעל כריכת ספרו: לחיות, לאהוב וללמוד
איך לשנות את חייו של מישהו בכמה שניות
by ג'ויס ויסל
חיי השתנו באופן דרמטי כשמישהו לקח את השניה הזו כדי להצביע על היופי שלי.
צילום מורכב של ליקוי ירח מלא
סקירה אסטרולוגית והורוסקופ: 9 - 15 במאי 2022
by פאם יונגאנס
כתב העת האסטרולוגי השבועי מבוסס על השפעות פלנטריות ומציע נקודות מבט ו ...
05 08 פיתוח חשיבה חמלה 2593344 הושלם
פיתוח חשיבה מלאת חמלה כלפי עצמי ואחרים
by מארי ט 'ראסל, InnerSelf.com
כשאנשים מדברים על חמלה, הם בעיקר מתייחסים לחמלה כלפי אחרים... על...
זוג צעיר, עוטה מסכות מגן, עומד על גשר
גשר לריפוי: וירוס קורונה יקר...
by לורה אוורסנו
מגיפת הקורונה ייצגה זרם בתחומי המציאות הנפשיים והפיזיים שלנו ש...
זוהר הבוקר מעל Læsø, דנמרק.
סקירה אסטרולוגית והורוסקופ: 2 - 8 במאי 2022
by פאם יונגאנס
כתב העת האסטרולוגי השבועי מבוסס על השפעות פלנטריות ומציע נקודות מבט ו ...
ספירלי
חיים בהרמוניה עם יראת כבוד לכולם
by מארי ט 'ראסל, InnerSelf.com
ללכת עם הדרכה פנימית בהרמוניה עם הסביבה שלך ועם אחרים. מכשולים העומדים בפניך…
הצגת חסד כפרקטיקה יומית
הצגת חסד כפרקטיקה יומית
by צ'ודן והת'ר רג'ן-אדיס
כאשר אנו מתרגלים מיינדפולנס, אנו מכירים את עצמנו טוב יותר; ובמיוחד אנו מכירים ...
חיים, אהבה וירח חדש במאזניים
חיים, אהבה וירח חדש במאזניים
by שרה ורקאס
אנו עשויים להיות כרגע עם כל מיני רצונות, תשוקות, וודאות ובלתי-משא ומתן ...
צירוף המקרים הקוסמי: מי שלח את הנמלים?
צירוף המקרים הקוסמי: מי שלח את הנמלים?
by אלן כהן
סינכרוניות, המצביעה על "צירוף מקרים משמעותי", היא מונח שטבע הפסיכולוג קרל יונג ...

הנקראים ביותר

05 08 פיתוח חשיבה חמלה 2593344 הושלם
פיתוח חשיבה מלאת חמלה כלפי עצמי ואחרים (וידאו)
by מארי ט 'ראסל, InnerSelf.com
כשאנשים מדברים על חמלה, הם בעיקר מתייחסים לחמלה כלפי אחרים... על...
אדם כותב מכתב
לכתוב את האמת ולאפשר לרגשות לזרום
by ברברה ברגר
כתיבת דברים היא דרך טובה לתרגל אמירת אמת.
ברנינים חומר אפור ולבן 4 7
הבנת החומר האפור והלבן של המוח
by כריסטופר פילי, אוניברסיטת קולורדו
המוח האנושי הוא איבר במשקל שלושה קילוגרמים שנותר ברובו בגדר חידה. אבל רוב האנשים שמעו…
תמונה של רגל יחפה של אדם עומד על הדשא
שיטות לחיזוק והחזרת הקשר שלך לטבע
by ג'ובנקה סיארס
לכולנו יש את החיבור הזה לטבע ולעולם כולו: לאדמה, למים, לאוויר ול...
שני נערים צעירים שקטפו תפוחים ישבו ליד ערימת שחת
האם קשוח כלפי צעירים משפר את הביצועים?
by ג'ניפר פרייזר
לפרדיגמת הבריונות יש הורים, מורים ומאמנים המאמינים שהם חייבים להיות קשוחים עד לנקודה...
קניות כשאלוהים אוהב אותך 4 8
איך להרגיש אהוב על ידי אלוהים מקצץ בהוצאות לשיפור עצמי
by אוניברסיטת דיוק
נוצרים שהם רוחניים או דתיים נוטים פחות לרכוש מוצרים לשיפור עצמי...
חיבוקים נפלו טוב 5 6
למה חיבוקים מרגישים טוב?
by ג'ים דריידן, אוניברסיטת וושינגטון בסנט לואיס
מחקר חדש מצביע מדוע חיבוקים וזנים אחרים של "מגע נעים" מרגישים טוב.
תמונה של ליאו בוסקליה מעל כריכת ספרו: לחיות, לאהוב וללמוד
איך לשנות את חייו של מישהו בכמה שניות
by ג'ויס ויסל
חיי השתנו באופן דרמטי כשמישהו לקח את השניה הזו כדי להצביע על היופי שלי.

עמדות חדשות - אפשרויות חדשות

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | שוק InnerSelf
זכויות יוצרים © 1985 - פרסומי 2021 InnerSelf. כל הזכויות שמורות.