Shutterstock.

בין אם אתה מבין ובין אם לא תסכים לכך, נתונים גדולים יכולים להשפיע עליך ואיך אתה חי את חייך. הנתונים שאנו יוצרים בעת שימוש במדיה חברתית, גולש באינטרנט ולובשי עוקבי כושר כולם נאספים, מסווגים ומשומשים על ידי עסקים ו המדינה ליצור פרופילים שלנו. לאחר מכן משתמשים בפרופילים אלה כדי למקד פרסומות למוצרים ושירותים לאלה הסבירים ביותר שיקנו אותם, או כדי ליידע את החלטות הממשלה.

נתונים גדולים מאפשרים למדינות ולחברות לגשת, לשלב ולנתח את המידע שלנו ולבנות חושפניות - אבל לא שלם ובאופן פוטנציאלי לֹא מְדוּיָק - פרופילי חיינו. הם עושים זאת על ידי זיהוי מתאמים ודפוסים בנתונים אודותינו, ואנשים עם פרופילים דומים לנו, כדי לחזות מה אנו עשויים לעשות.

אבל רק בגלל ניתוח נתונים גדולים מבוסס על אלגוריתמים וסטטיסטיקה, זה לא אומר שהם מדויק, ניטרלי או מטבעו מטבעו. ובעוד נתונים גדולים יכולים לספק תובנות לגבי התנהגות קבוצה, אלה לא בהכרח דרך אמינה לקבוע התנהגות פרטנית. למעשה, שיטות אלה יכולות לפתוח את הדלת לאפליה ו לאיים על זכויות האדם של אנשים הם יכולים אפילו לעבוד נגדך. להלן ארבע דוגמאות שבהן ניתוח נתונים גדולים יכול להוביל לחוסר צדק.

1. חישוב ציוני אשראי

ניתן להשתמש בנתונים גדולים לקבלת החלטות לגבי זכאות אשראי, המשפיעים אם ניתנת לך משכנתא, או עד כמה גבוהה לך ביטוח רכב הפרמיות צריכות להיות. החלטות אלה עשויות להיות מיודעות על ידי שלך מדיה חברתית הודעות ונתונים מאפליקציות אחרות, הנלקחות כדי לציין את רמת הסיכון או האמינות שלך.

אך נתונים כגון רקע ההשכלה שלך או מקום מגוריך עשויים שלא להיות רלוונטיים או אמינים להערכות כאלה. נתונים מסוג זה יכולים לשמש כמשלוח למעמד גזעי או סוציו-אקונומי, והשימוש בו לקבלת החלטות לגבי סיכון אשראי עלול לגרום לאפליה.

2. חיפושי עבודה

ניתן להשתמש בנתונים גדולים כדי לקבוע שרואה מודעת דרושים או מקבל רשימה לראיון. ניתן למקד מודעות מודעות בקבוצות גיל מסוימות, כמו ילדים בני 25 עד 36, מה שלא כולל עובדים צעירים ומבוגרים אפילו לראות מודעות דרושים מסוימות ומהווה סיכון לאפליה על רקע גיל.

אוטומציה משמשת גם ליעילות סינון, מיון ודירוג מועמדים. אך תהליך סינון זה עשוי לכלול אנשים על סמך אינדיקטורים כגון מרחק הנסיעה שלהם. מעסיקים עשויים להניח כי אנשים עם נסיעה ארוכה יותר נוטים פחות להישאר בעבודה לטווח ארוך, אך הדבר יכול למעשה להפלות אנשים המתגוררים רחוק יותר ממרכז העיר בשל מיקום דיור בר השגה.

3. החלטות על תנאי ושחרור

בארה"ב ובבריטניה משתמשים במודלים של הערכת סיכוני נתונים גדולים כדי לעזור לפקידים להחליט אם אנשים מוענקים שחרור על תנאי או ערבות, או מכונה תוכניות שיקום. ניתן להשתמש בהן גם כדי להעריך כמה סיכון העבריין מהווה לחברה, שהוא גורם אחד ששופט יכול לשקול בבואו להחליט על אורך העונש.

לא ברור בדיוק אילו נתונים משתמשים בכדי לסייע בהערכות אלה, אלא ככל שעוברים שיטור דיגיטלי אוסף הקצב, סביר יותר ויותר שתוכניות אלה ישלבו מידע על קוד פתוח כגון פעילות מדיה חברתית - אם הם כבר לא.

הערכות אלו עשויות לא להסתכל רק על הפרופיל של האדם, אלא גם על השוואה בין הפרופיל של אחרים. לחלק מכוחות המשטרה יש מבחינה היסטורית משטרת יתר קהילות מיעוט מסוימות, מה שמוביל למספר לא פרופורציונלי של אירועים פליליים שדווחו. אם נתונים אלה מוזנים באלגוריתם, הם יעוותו את מודלי הערכת הסיכון ויובילו לאפליה אשר משפיעה ישירות זכותו של אדם לחירות.

4. בקשות ויזה לבדיקה

בשנה שעברה הודיעה סוכנות ההגירה והאכיפה של ארצות הברית (ICE) כי ברצונה להציג "אוטומטית"בדיקת ויזה קיצונית" תכנית. היא תסרוק באופן אוטומטי ורציף חשבונות מדיה חברתית, כדי להעריך אם המועמדים יתרמו "לתרומה חיובית" לארצות הברית, והאם עלולים להיווצר בעיות ביטחון לאומי.

כמו גם הצגת סיכונים לחופש המחשבה, הדעה, הביטוי וההתאגדות, היו סיכונים משמעותיים שתוכנית זו תפלה אנשים עם לאומים או דתות מסוימות. פרשנים אפיין אותו כ"איסור מוסלמי על ידי אלגוריתם ".

התוכנית לאחרונה נסוג, על פי הדיווחים על בסיס כי "לא הייתה תוכנה 'מהקופסה' שתוכל לספק את איכות הניטור שהסוכנות מבקשת". אך הכללת יעדים כאלה במסמכי רכש עלולה ליצור תמריצים רעים לתעשיית הטכנולוגיה לפתח תוכניות המפלות לפי עיצוב.

אין ספק שניתוח נתונים גדולים פועל בדרכים שיכולות להשפיע על ההזדמנויות של אנשים בחיים. אבל ה חוסר השקיפות על האופן שבו נתונים גדולים נאספים, משמשים ומשותפים מקשה על אנשים לדעת באיזה מידע משתמשים, כיצד ומתי. ניתוח נתונים גדולים הוא פשוט מסובך מכדי שאנשים יוכלו להגן על הנתונים שלהם מפני שימוש בלתי הולם. במקום זאת, על מדינות וחברות לקבוע - ולמלא אחר - תקנות בכדי להבטיח שהשימוש שלהן בביג דאטה לא יוביל לאפליה.

אודות הסופרים

לורנה מקגרגור, מנהלת מרכז זכויות האדם, PI ומנהלת משותפת, ESRC זכויות אדם, מענק גדול וטכנולוגיה, אוניברסיטת אסקס; דרה מאריי, מרצה לדיני זכויות אדם בינלאומיים בבית הספר למשפטים אסקס, אוניברסיטת אסקסויויאן נג, חוקרת בכירה בזכויות אדם, אוניברסיטת אסקס

מאמר זה פורסם במקור ב שיחה. קרא את מאמר מקורי.

ספרים מאת אלה

על המחבר

at

תודה על הביקור InnerSelf.com, איפה הם 20,000 + מאמרים משנים חיים המקדמים "עמדות חדשות ואפשרויות חדשות". כל המאמרים מתורגמים ל 30 + שפות. הירשם למגזין InnerSelf, המתפרסם מדי שבוע, ולהשראה היומית של מארי טי ראסל. מגזין InnerSelf פורסם מאז 1985.