האם יוטיוב יוצר קיצונים? א מחקר שנערך לאחרונה גרם לוויכוחים בקרב מדענים בטענה שהאלגוריתמים שמפעילים את האתר אינם עוזרים להקצנת אנשים בכך שהם ממליצים על סרטונים קיצוניים יותר ויותר הוצע בשנים האחרונות.
העיתון, שהוגש לכתב העת 'גישה פתוחה' ביום שני הראשון, אך טרם נבדק רשמית על ידי עמיתים, ניתח המלצות וידאו שהתקבלו על ידי ערוצים מסוגים שונים. היא טענה כי האלגוריתם של יוטיוב מעדיף ערוצי מדיה רגילים על פני תוכן עצמאי, והגיע למסקנה שהקצנה קשורה יותר לאנשים שיוצרים תוכן מזיק מאשר לאלגוריתם של האתר.
מומחים בתחום מיהרו להגיע מגיבים למחקר, עם כמה שמתחים ביקורת שיטות העיתון ואחרים שטענו כי האלגוריתם היה אחד מאלה כמה גורמים חשובים וכי מדע הנתונים בלבד לא יתן לנו את התשובה.
הבעיה בדיון זה היא שאנחנו לא באמת יכולים לענות על השאלה איזה תפקיד ממלא האלגוריתם של יוטיוב בקיצוני אנשים מכיוון שאנחנו לא מבינים איך זה עובד. וזה רק סימפטום לבעיה רחבה בהרבה. אלגוריתמים אלה ממלאים תפקיד הולך וגובר בחיי היומיום שלנו אך חסרים כל סוג של שקיפות.
קשה לטעון שיוטיוב לא ממלא תפקיד ברדיקליזציה. על כך ציין לראשונה הסוציולוג הטכנולוגי זיינפ טופצ'י, שהמחיש כיצד סרטונים מומלצים מסיעים משתמשים בהדרגה לקראת תוכן קיצוני יותר. במילותיו של טופצקי, סרטונים על ריצה מובילים לסרטונים על הפעלת אולטרה-מארתונים, סרטונים על חיסונים מובילים לתיאוריות קונספירציה, וסרטונים על פוליטיקה מובילים ל"הכחשות שואה ותכנים מטרידים אחרים ".
גם על זה נכתב במפורט על ידי עובד לשעבר יוטיוב גיום צ'סלוט שעבד על אלגוריתם ההמלצות של האתר. מאז שעזבה את החברה המשיכה צ'סלוט לנסות להמליץ על המלצות אלו שקוף יותר. לדבריו, המלצות YouTube מוטות תיאוריות קונספירציה וסרטונים לא מדויקים עובדתית, שבכל זאת גורמים לאנשים לבלות יותר זמן באתר.
למעשה, זמן שמירה מקסימלי זה כל העניין באלגוריתמים של יוטיוב, וזה מעודד את יוצרי הסרטונים להילחם על תשומת לב בכל דרך אפשרית. עצם החברה חוסר השקיפות איך זה עובד בדיוק, כמעט בלתי אפשרי להילחם בהקצנה באתר. אחרי הכל, ללא שקיפות, קשה לדעת מה ניתן לשנות כדי לשפר את המצב.
כיצד האלגוריתם של יוטיוב עובד נותר בגדר תעלומה. מיהו דני / שוטרסטוק
אבל YouTube אינו יוצא דופן מבחינה זו. חוסר שקיפות לגבי אופן הפעולה של אלגוריתמים הוא בדרך כלל המקרה בכל פעם שהם משמשים במערכות גדולות, בין אם על ידי חברות פרטיות או גופים ציבוריים. כמו גם ההחלטה לאיזה סרטון להראות לך הבא, אלגוריתמי למידת מכונה רגילים כעת להציב ילדים בבתי ספר, להחליט על משפטי כלא, לקבוע ציוני אשראי ו שיעורי ביטוח, כמו גם גורלו של עולים, מועמדים לעבודה ו מועמדים לאוניברסיטה. ובדרך כלל איננו מבינים כיצד מערכות אלו מקבלות את החלטותיהן.
חוקרים מצאו דרכים יצירתיות להראות את ההשפעה של אלגוריתמים אלה על החברה, בין אם באמצעות בחינת ה- עליית הימין הריאקציונרי או התפשטות של תיאוריות קונספירציה ב- YouTube, או על ידי הצגת איך מנועי החיפוש משקפים את ההטיות הגזעניות של האנשים שיוצרים אותם.
מערכות לימוד מכונה הן בדרך כלל גדולות, מורכבות ואטומות. כיאה לכך, לעתים קרובות הם מתוארים כ קופסאות שחורות, היכן שנכנס מידע, ויוצאים מידע או פעולות, אך איש אינו יכול לראות מה קורה בין לבין. המשמעות היא שכיוון שאיננו יודעים בדיוק כיצד פועלים אלגוריתמים כמו מערכת ההמלצות של יוטיוב, ניסיון להבין כיצד פועל האתר יהיה כמו ניסיון להבין מכונית מבלי לפתוח את מכסה המנוע.
בתורו, המשמעות היא שניסיון לכתוב חוקים כדי להסדיר מה אלגוריתמים צריכים או לא צריכים לעשות הופך לתהליך עיוור או ניסוי וטעייה. זה מה שקורה עם YouTube ועם כל כך הרבה אלגוריתמי למידת מכונה אחרים. אנו מנסים לומר דבר בתוצאותיהם, מבלי להבין באמת כיצד הם עובדים באמת. עלינו לפתוח את הטכנולוגיות הפטנטיות האלה, או לפחות להפוך אותן לשקופות מספיק כדי שנוכל לווסת אותן.
הסברים ובדיקות
אחת הדרכים לעשות זאת תהיה שאלגוריתמים מספקים הסברים שכנגד יחד עם החלטותיהם. פירוש הדבר לעבוד על התנאים המינימליים הדרושים לאלגוריתם לקבלת החלטה אחרת, מבלי לתאר את ההיגיון המלא שלו. לדוגמא, אלגוריתם שמקבל החלטות לגבי הלוואות בנקאיות עשוי לייצר תפוקה שאומרת כי "אם היית מעל גיל 18 ולא היה לך חוב קודם, היית מקבל את ההלוואה הבנקאית שלך". אך זה עשוי להיות קשה לעשות ביוטיוב ובאתרים אחרים המשתמשים באלגוריתמי המלצות, שכן בתיאוריה ניתן להמליץ על כל סרטון בפלטפורמה בכל נקודה.
כלי רב עוצמה נוסף הוא בדיקת אלגוריתמים וביקורת, שהועילה במיוחד באבחון אלגוריתמים מוטים. במקרה האחרון, חברת סינון קורות חיים מקצועית גילתה שהאלגוריתם שלה היה מתן עדיפות לשני גורמים כמנבאים הטובים ביותר לביצועי העבודה: האם שמו של המועמד היה ג'ארד, ואם שיחקו לקרוס בתיכון. זה מה שקורה כשהמכונה עוברת ללא פיקוח.
במקרה זה, אלגוריתם סינון קורות החיים הבחין כי גברים לבנים היו בעלי סיכוי גבוה יותר להתקבל לעבודה, ומצא מאפייני פרוקסי מתואמים (כמו שמותם ג'ארד או משחק לקרוס) הקיימים במועמדים שנשכרו. עם YouTube, ביקורת אלגוריתמים יכולה לעזור להבין אילו סוגים של סרטונים עדיפים להמלצה - ואולי לעזור ביישוב הוויכוח האם המלצות YouTube תורמות להקצנה או לא.
הצגת הסברים נגד-עובדתיים או שימוש בביקורת אלגוריתמים היא תהליך קשה ויקר. אבל זה חשוב מכיוון שהאלטרנטיבה גרועה יותר. אם אלגוריתמים לא יישמרו ולא היו מוסדרים, נוכל לראות זחילה הדרגתית של תיאורטיקנים וקונספירציות קונספירציות לתקשורת שלנו, ותשומת הלב שלנו נשלטת על ידי מי שיכול לייצר את התוכן הרווחי ביותר.
על המחבר
צ'יקו ק 'קמרגו, חוקר פוסט-דוקטורט במדעי הנתונים, אוניברסיטת אוקספורד
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
