חשבון בוט חברתי טיפוסי. CC B
פלטפורמות מדיה חברתית הפכו ליותר מסתם כלים לתקשורת. הם התפתחו לזירות שוקקות שבהן אמת ושקר מתנגשים. בין הפלטפורמות הללו, X בולט בתור א זירת קרב בולטת. זה מקום בו משגשגים קמפיינים של דיסאינפורמציה, המונצחים על ידי צבאות של בוטים מונעי בינה מלאכותית שתוכנתו להשפיע על דעת הקהל ולתמרן נרטיבים.
בוטים המונעים על ידי בינה מלאכותית הם חשבונות אוטומטיים שנועדו לחקות התנהגות אנושית. בוטים במדיה חברתית, פלטפורמות צ'אט ובינה מלאכותית לשיחה הם חלק בלתי נפרד מהחיים המודרניים. הם נחוצים כדי לגרום ליישומי AI לפעול ביעילות, למשל.
אבל חלק מהבוטים נוצרו מתוך כוונה זדונית. באופן מזעזע, בוטים מהווים חלק ניכר מבסיס המשתמשים של X. בשנת 2017 כך העריכו שהיו כ-23 מיליון בוטים חברתיים המהווים 8.5% מסך המשתמשים. יותר משני שליש מהציוצים מקורו בחשבונות אוטומטיים אלה, מגבירים את טווח ההגעה של דיסאינפורמציה ומטשטשים את מימי השיח הציבורי.
איך בוטים עובדים
השפעה חברתית היא כיום מצרך שניתן לרכוש על ידי רכישת בוטים. חברות מוכרות עוקבים מזויפים כדי להגביר באופן מלאכותי את הפופולריות של חשבונות. העוקבים האלה זמינים במחירים נמוכים להפליא, עם סלבריטאים רבים בין הרוכשים.
במהלך המחקר שלנו, למשל, עמיתים ואני גילינו בוט שפרסם 100 ציוצים המציעים עוקבים למכירה.
שימוש במתודולוגיות AI וגישה תיאורטית הנקראת תיאוריית שחקן-רשת, עמיתיי ואני ניתחנו כיצד בוטים חברתיים זדוניים מפעילים מניפולציות על מדיה חברתית, ומשפיעים על מה שאנשים חושבים וכיצד הם פועלים ביעילות מדאיגה. אנו יכולים לדעת אם חדשות מזויפות נוצרו על ידי אדם או בוט עם שיעור דיוק של 79.7%. חיוני להבין כיצד גם בני אדם וגם בינה מלאכותית מפיצים דיסאינפורמציה כדי להבין את הדרכים שבהן בני אדם ממנפים בינה מלאכותית להפצת מידע מוטעה.
כדי לקחת דוגמה אחת, בדקנו את הפעילות של חשבון בשם "True Trumpers" בטוויטר.
החשבון הוקם באוגוסט 2017, אין לו עוקבים ואין לו תמונת פרופיל, אבל פרסם, בזמן המחקר, 4,423 ציוצים. אלה כללו סדרה של סיפורים מפוברקים לחלוטין. ראוי לציין שמקור הבוט הזה ממדינה מזרח אירופית.
זרם של חדשות מזויפות מחשבון בוט. Buzzfeed, CC BY
מחקר כגון זה השפיע על X להגביל את פעילותם של בוטים חברתיים. בתגובה לאיום של מניפולציה של מדיה חברתית, X הטמיעה מגבלות קריאה זמניות כדי לרסן גרידה ומניפולציה של נתונים. חשבונות מאומתים הוגבלו לקריאת 6,000 פוסטים ביום, בעוד שחשבונות לא מאומתים יכולים לקרוא 600 ביום. זהו עדכון חדש, כך שאנו עדיין לא יודעים אם הוא היה יעיל.
האם נוכל להגן על עצמנו?
עם זאת, הנטל מוטלת בסופו של דבר על המשתמשים לנהוג בזהירות ולהבחין בין אמת לשקר, במיוחד בתקופות בחירות. על ידי הערכה ביקורתית של מידע ובדיקת מקורות, משתמשים יכולים לקחת חלק בהגנה על שלמות התהליכים הדמוקרטיים מפני התקפה של בוטים וקמפיינים דיסאינפורמטיביים על X. כל משתמש הוא למעשה מגן חזיתי של אמת ודמוקרטיה. ערנות, חשיבה ביקורתית ומנה בריאה של ספקנות הם שריון חיוני.
עם מדיה חברתית, חשוב למשתמשים להבין את האסטרטגיות שמשתמשים בחשבונות זדוניים.
שחקנים זדוניים משתמשים לעתים קרובות ברשתות של בוטים כדי להגביר נרטיבים כוזבים, לתמרן מגמות ולהפיץ מידע שגוי במהירות. משתמשים צריכים לנקוט משנה זהירות כאשר הם נתקלים בחשבונות המפגינים התנהגות חשודה, כגון פרסום מוגזם או הודעות חוזרות ונשנות.
מידע דיסאינפורמציה מופץ לעתים קרובות גם דרך אתרי חדשות מזויפות ייעודיים. אלה נועדו לחקות מקורות חדשותיים אמינים. מומלץ למשתמשים לאמת את האותנטיות של מקורות חדשות על ידי הצלבת מידע עם מקורות מוכרים והתייעצות עם ארגוני בדיקת עובדות.
מודעות עצמית היא צורה נוספת של הגנה, במיוחד מפני טקטיקות של הנדסה חברתית. מניפולציה פסיכולוגית נפרסת לעתים קרובות כדי להונות משתמשים להאמין בשקר או לעסוק בפעולות מסוימות. על המשתמשים לשמור על ערנות ולהעריך באופן ביקורתי את התוכן שהם נתקלים בהם, במיוחד בתקופות של רגישות מוגברת כמו בחירות.
על ידי שמירה על מידע, עיסוק בשיח אזרחי ותמיכה בשקיפות ואחריות, נוכל לעצב ביחד מערכת אקולוגית דיגיטלית המטפחת אמון, שקיפות וקבלת החלטות מושכלת.
ניק חג'לי, אסטרטג בינה מלאכותית ופרופסור לאסטרטגיה דיגיטלית, אוניברסיטת Loughborough
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
ספרים קשורים:
על רודנות: עשרים שיעורים מהמאה העשרים
מאת טימותי סניידר
ספר זה מציע לקחים מההיסטוריה לשימור והגנה על הדמוקרטיה, לרבות חשיבות המוסדות, תפקידם של אזרחים בודדים וסכנות הסמכותיות.
הזמן שלנו הוא עכשיו: כוח, מטרה והמאבק לאמריקה הוגנת
מאת סטייסי אברמס
המחברת, פוליטיקאית ופעילה, חולקת את חזונה לדמוקרטיה מכילה וצודקת יותר ומציעה אסטרטגיות מעשיות למעורבות פוליטית ולגיוס בוחרים.
איך דמוקרטיות מתות
מאת סטיבן לויצקי ודניאל זיבלט
ספר זה בוחן את סימני האזהרה והגורמים להתמוטטות דמוקרטית, תוך הסתמכות על מקרי מקרים מרחבי העולם כדי להציע תובנות כיצד להגן על הדמוקרטיה.
העם, לא: היסטוריה קצרה של אנטי פופוליזם
מאת תומס פרנק
המחבר מציע היסטוריה של תנועות פופוליסטיות בארצות הברית ומבקר את האידיאולוגיה ה"אנטי-פופוליסטית" שלטענתו חנקה את הרפורמה והקדמה הדמוקרטית.
דמוקרטיה בספר אחד או פחות: איך זה עובד, למה זה לא, ומדוע תיקון זה קל יותר ממה שאתה חושב
מאת דיוויד ליט
ספר זה מציע סקירה כללית של הדמוקרטיה, לרבות נקודות החוזק והחולשה שלה, ומציע רפורמות כדי להפוך את המערכת למגיבה ואחראית יותר.
