מנועי חיפוש משרתים לעתים קרובות שילוב מעוות של מידע ומידע מוטעה. קריספין לה ואליינטה / רגע דרך Getty Images, CC BY-ND

מנועי החיפוש הם אחד השערים העיקריים של החברה למידע ולאנשים, אך הם גם צינורות למידע מוטעה. דומה ל אלגוריתמים בעייתיים של מדיה חברתית, מנועי החיפוש לומדים לשרת את מה שאתה ואחרים לחצת עליו קודם. מכיוון שאנשים נמשכים לסנסציוני, ריקוד זה בין אלגוריתמים לטבע האדם יכול לטפח את התפשטות המידע השגוי.

חברות מנועי חיפוש, כמו רוב השירותים המקוונים, מרוויחות כסף לא רק על ידי מכירת מודעות, אלא גם על ידי מעקב אחר משתמשים ומכירת הנתונים שלהם באמצעות הצעות מחיר בזמן אמת על זה. אנשים מובילים לעיתים קרובות למידע מוטעה על ידי רצונם לחדשות מרעישות ומבדרות, כמו גם מידע שנוי במחלוקת או מאשר את דעותיהם. מחקר אחד מצא כי סרטוני YouTube פופולריים יותר בנושא סוכרת הם פחות סיכוי לקבל מידע תקף מבחינה רפואית מאשר סרטונים פחות פופולריים בנושא, למשל.

מנועי חיפוש מונחי מודעות, כמו פלטפורמות מדיה חברתית, נועדו לתגמל לחיצה על קישורים מפתים מכיוון שזה עוזר לחברות החיפוש לשפר את המדדים העסקיים שלהם. כחוקר ש לומד את מערכות החיפוש וההמלצות, אני ועמיתיי מראים כי השילוב המסוכן הזה של מניע רווח תאגידי ורגישות אישית מקשה על הבעיה לתקן.

כיצד תוצאות החיפוש משתבשות

כאשר אתה לוחץ על תוצאת חיפוש, אלגוריתם החיפוש לומד שהקישור עליו לחצת רלוונטי לשאילתת החיפוש שלך. זה נקרא משוב רלוונטי. משוב זה עוזר למנוע החיפוש לתת משקל גבוה יותר לקישור זה עבור שאילתה זו בעתיד. אם מספיק אנשים לוחצים על הקישור מספיק פעמים, ובכך נותנים משוב רלוונטי חזק, אתר זה מתחיל לעלות גבוה יותר בתוצאות החיפוש עבור השאלות הקשורות לכך.

אנשים הם נוטים יותר ללחוץ על קישורים המופיעים גבוה יותר ברשימת תוצאות החיפוש. זה יוצר לולאת משוב חיובית - ככל שאתר מופיע יותר, כך הקליקים יותר, וזה בתורו גורם לאותו אתר להתקדם גבוה יותר או לשמור עליו גבוה יותר. טכניקות אופטימיזציה למנועי חיפוש משתמשות בידע זה כדי להגביר את הנראות של אתרים.

ישנם שני היבטים לבעיית מידע שגוי זה: כיצד מעריכים אלגוריתם חיפוש וכיצד בני אדם מגיבים לכותרות, כותרות וקטעים. מנועי חיפוש, כמו רוב השירותים המקוונים, נשפטים באמצעות מערך מדדים, אחד מהם הוא מעורבות המשתמשים. האינטרס של חברות מנועי החיפוש לתת לך דברים שאתה רוצה לקרוא, לצפות או פשוט ללחוץ עליהם. לכן, כאשר מנוע חיפוש או כל מערכת המלצות יוצרים רשימת פריטים להצגה, הוא מחשב את הסבירות שתלחץ על הפריטים.

באופן מסורתי, זה נועד להביא את המידע שיהיה הכי רלוונטי. עם זאת, הרעיון של רלוונטיות נעשה מטושטש מכיוון שאנשים השתמשו בחיפוש כדי למצוא תוצאות חיפוש משעשעות כמו גם מידע רלוונטי באמת.

דמיין שאתה מחפש מכוון לפסנתר. אם מישהו מראה לך סרטון של חתול שמנגן בפסנתר, היית לוחץ עליו? רבים היו, גם אם זה לא קשור לכוונון פסנתר. שירות החיפוש מרגיש מאומת עם משוב רלוונטי חיובי ולומד שזה בסדר להראות חתול מנגן בפסנתר כאשר אנשים מחפשים מכווני פסנתר.

למעשה, זה אפילו טוב יותר מאשר להציג את התוצאות הרלוונטיות במקרים רבים. אנשים אוהבים לצפות בסרטונים מצחיקים של חתולים, ומערכת החיפוש זוכה ליותר קליקים ומעורבות משתמשים.

זה עלול להיראות לא מזיק. אז מה אם אנשים מוסחים מפעם לפעם ולוחצים על תוצאות שאינן רלוונטיות לשאילתת החיפוש? הבעיה היא שאנשים נמשכים לתמונות מרגשות וכותרות מרעישות. הֵם נוטים ללחוץ על תיאוריות קונספירציה ועל חדשות מרעישות, לא רק חתולים שמנגנים בפסנתר, ועושים זאת יותר מלחיצה על חדשות אמיתיות או מידע רלוונטי.

עכבישים מפורסמים אך מזויפים

בשנת 2018, מחפש אחר "עכביש קטלני חדש" חודר בגוגל בעקבות פוסט בפייסבוק שטען כי עכביש קטלני חדש הרג כמה אנשים במספר מדינות. עמיתי ואני ניתחנו את 100 התוצאות המובילות מחיפוש בגוגל אחר "עכביש קטלני חדש" בשבוע הראשון לשאילתת המגמה הזו.

שני העמודים הראשונים של תוצאות החיפוש של גוגל עבור 'עכביש קטלני חדש' באוגוסט 2018 (אזור מוצל) היו קשורים לפוסט החדשות המזויף המקורי על נושא זה, ולא לנתב אחר מידע או עובדה אחרת. צ'יראג שאה, CC BY-ND

התברר שהסיפור הזה היה מזויף, אך אנשים המחפשים אותו נחשפו במידה רבה למידע מוטעה הקשור לפוסט המזויף המקורי. כשאנשים המשיכו ללחוץ ולשתף את המידע השגוי הזה, גוגל המשיכה לשרת את העמודים בראש תוצאות החיפוש.

דפוס זה של סיפורים מרגשים ולא מאומתים המתהווים ואנשים שלוחצים עליהם נמשך, כאשר אנשים ככל הנראה אינם מודאגים מהאמת או מאמינים שאם שירות מהימן כמו חיפוש בגוגל מציג להם את הסיפורים הללו, הסיפורים חייבים להיות אמיתיים. לאחרונה, א דוח שלא הוכח בטענה שסין נתנה לווירוס הקורונה לדלוף ממעבדה צבר כוח במנועי החיפוש בגלל מעגל הקסמים הזה.

לזהות את המידע השגוי

כדי לבדוק עד כמה אנשים מבדילים בין מידע מדויק למידע מוטעה, עיצבנו משחק פשוט בשם "גוגל או לא. ” משחק מקוון זה מציג שתי קבוצות תוצאות עבור אותה שאילתה. המטרה היא פשוטה - בחר את הסט האמין, האמין או הרלוונטי ביותר.

במבחנים, כמחצית מהזמן שאנשים לא יכולים להבדיל בין תוצאות החיפוש של גוגל המכילות מידע מוטעה לבין אלו עם תוצאות אמינות בלבד. צ'יראג שאה, CC BY-ND

אחת משתי הסטים הללו כוללת תוצאות אחת או שתיים המאומתות ומתויגות כמידע מוטעה או כתוצאה מפונק. הפכנו את המשחק לזמין בפומבי ופרסמנו דרך ערוצי מדיה חברתית שונים. בסך הכל, אספנו 2,100 תגובות ממעל 30 מדינות.

כשניתחנו את התוצאות גילינו זאת כמחצית מהזמן שבחרו בטעות את הסט מהימן עם תוצאות מידע שגויות אחת או שתיים. הניסויים שלנו עם מאות משתמשים אחרים לאורך איטרציות רבות הביאו לממצאים דומים. במילים אחרות, כמחצית מהזמן שאנשים בוחרים תוצאות המכילות תיאוריות קונספירציה וחדשות מזויפות. ככל שאנשים רבים בוחרים בתוצאות לא מדויקות ומטעות אלה, מנועי החיפוש לומדים שזה מה שאנשים רוצים.

בשאלות של רגולציה של ביג טק ורגולציה עצמית, חשוב שאנשים יבינו כיצד מערכות אלו פועלות וכיצד הם מרוויחים כסף. אחרת כלכלות שוק והנטייה הטבעית של אנשים להימשך לקישורים המושכים את העין ימשיכו את מעגל הקסמים.

על המחבר

צ'יראג שאה, פרופסור חבר למדעי המידע, אוניברסיטת וושינגטון

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.