מיון לפי אלגוריתמים מכניס אותנו לקופסאות. איך נדע שהם הנכונים? נוצר, CC BY

נראה שהחברה מכוונת לנקודה בה חיינו כפופים לבדיקה של אלגוריתמים ממוחשבים. הנתונים שאנו מייצרים נבדקים ומנותחים, בין אם על ידי ממשלות לביטחון לאומי ובין אם חברות למטרות רווח, וסביר להניח שזה לא ישתנה - הכוח והערעור של ניתוח הנתונים, לאחר שנמצא, לא יוותרו בקלות.

אבל למען האמת, אני תוהה אם אני מודאג יותר מכך שהנתונים שלנו נאספים או מהעובדה שאיננו יודעים דבר על האלגוריתמים השופטים עלינו שיפוט.

רמת הפירוט על חיינו והרגלינו שניתן לבטל מהנתונים שאנו משאירים כבר נדונה בעבר, והיא זוכה לאוויר חדש במסגרת הדיון סביב טיוטת בריטניה. הצעת חוק סמכויות החקירה. אנו יודעים לפחות משהו על אילו נתונים נאספים וכמה זמן הם נשמרים, שחלקם נשלטים על ידי החוק הבריטי והאירופי.

ב נוסח נוסח הצעת החוק, למשל, אנו יודעים שממשלת בריטניה תדרוש "רק" גישה (לא מוצדקת) למטא-נתונים של תקשורת, לכותרות ולנושאים של הודעות דוא"ל ורישומי שיחות טלפון. אבל אנחנו גם יודעים עד כמה מטא-נתונים חושפניים יכולים להיות: הביטו ב פרויקט הטבילה של מעבדת המדיה של MIT לדוגמא חזקה עד כמה ניתן לברר ממנו כמה פרטים. זה בהחלט בכלל לא ניתן להשוות לחיוב טלפון מפורט, כנטען.

אז לטוב ולרע יש לנו הציבור מושג מה מתועד. אך אין לנו מושג אילו כלים וטכניקות אנליטיות מוחלים על נתונים אלה - ואין לזלזל בחשיבותם של אלה.

מה מוחץ את המספרים?

אנחנו יכולים לעשות ניחושים משכילים. סוכנויות הביטחון הלאומי משתמשות ככל הנראה במטא-נתונים שלנו כדי ליצור רשתות חברתיות בין אנשים ומקומות, בין היתר, המקשרים בינינו. רשתות יחסים אלה ינותחו לאחר מכן כדי לקבוע אם אנו אנשים בעלי עניין, נקבעים על פי האופן שבו אתה משווה לאנשים אחרים בעלי עניין, וכיצד אתה מתחבר לאנשים מעניינים קיימים או לאנשים הקשורים אליהם.

חוקרים המשתמשים בטכניקות אלה מבינים את מגבלותיהם, וכי האלגוריתמים המפעילים אותם עשויים להכיל שגיאות או הנחות בסיס שיש להם השפעה עמוקה על תפוקתם. במקרה זה, פירוש הדבר אם אתה מתויג כטרוריסט או לא, או שאתה זכאי להלוואה או למשכנתא.

לא בדיוק ברור היכן באזורי הגבול המטושטשים מוגדר קיום היחסים. האם פשוט ביקור באתר זהה למחבל מרמז על ערכים משותפים, או נסיעה של אותו מסלול אוטובוס מדי יום מעידה על כך שאתה משוחח בקביעות עם טרוריסטים? בהחלט ניתן לבקר באתרים בהם מגיעים מחבלים ידועים מסיבות לגיטימיות רבות. אם אתה מקבל את החדשות שלך מאותם אתרים כמו טרוריסטים, סביר יותר שאתה מחבל? אפליה והטיה ניתן להציג בנקודת איסוף הנתונים, ואז שוב כאשר מתקבלות החלטות לגבי אופן ניתוח הנתונים. גם אלגוריתמים יכולים להפלות.

גבולות מטושטשים

האפשרות שאלגוריתמים מציגים הטיה לא רצויה היא אפשרות ממשית. לדוגמה, אלה המשמשים את שירותי הביטחון מאומנים על מערכי נתונים של טרוריסטים ידועים ולא ידועים כטרוריסטים. האם זה אומר ש, מכיוון שרוב המחבלים הידועים הם גברים בגילאי 20-30, סביר יותר שתסווג כטרוריסט בגלל היותך גבר בלבד וגיל 20-30 בערך, ללא קשר לתכונות האחרות שלך ?. אם כן, האם יש לכך השפעה משמעותית על אופן השימוש בנתונים?

הבעיה נובעת מכך שאני וחוקרים אקדמיים אחרים המשתמשים בניתוח רשת מורכב, למידת מכונה, התאמת תבניות או בינה מלאכותית, נעשה שימוש בטכניקות אלו בבדיקת עמיתים ציבורית כדי לקבוע את חוזק הטכניקות ואת תקפות המסקנות; שירותי הביטחון הממשלתיים וארגוני המגזר הפרטי לא. אין לנו מושג על טיב השיטות שלהן וכיצד הן פורסות אותן. האם יש לכך פיתרון?

אלה מתחום אבטחה אחר, קריפטוגרפיה, למדו כבר מזמן שהדרך הטובה ביותר לשפר את האיכות, ולכן האבטחה, של האלגוריתמים שלה היא להפוך אותם לציבוריים. יישומים וצפנים קריפטוגרפיים מתפרסמים, וחוקרים עודדו לנסות למצוא שגיאות או פגמים, ובכך לשפר את האבטחה לכל המשתמשים בהם. בנוסף, כל יישום של אלגוריתמים קריפטוגרפיים מקור סגור (לא ציבורי) הוא בדרך כלל נחשב בחשד. אם הם אמורים לפסוק עלינו פסקי דין שמשנים את חיינו - בין אם אנו מתויגים כטרוריסטים ובין אם אינם ראויים כלכלית - יש להחיל את אותו המודל גם על אלגוריתמים ביטחוניים.

טענה כנגד מהלך כזה היא שאלגוריתמים פתוחים ושקופים עלולים לגרום למחבלים לשנות את התנהגותם בעולם האמיתי על מנת להימנע מלהתגלה. משמעות הדבר היא שינוי דברים כמו האינטראקציה שלהם, אסוציאציות, הרגלי גלישה ותנועות שעלולות להיות. אבל זה, אם האלגוריתמים עובדים כראוי, פירוש הדבר שהם בעצם מפסיקים להתנהג כמו טרוריסטים. אם הביטחון העתידי שלנו, החופש והבטיחות יהיו תלויים באלגוריתמים האלה, עלינו להיות בטוחים בדיוק איך - וזה - הם עובדים.

על המחבר

פיליפ גארנט, מרצה, אוניברסיטת יורק.

מאמר זה פורסם במקור ב שיחה. קרא את מאמר מקורי.

ספר קשור:

at

תודה על הביקור InnerSelf.com, איפה הם 20,000 + מאמרים משנים חיים המקדמים "עמדות חדשות ואפשרויות חדשות". כל המאמרים מתורגמים ל 30 + שפות. הירשם למגזין InnerSelf, המתפרסם מדי שבוע, ולהשראה היומית של מארי טי ראסל. מגזין InnerSelf פורסם מאז 1985.