חברות פרטיות משטרות שנאה ברשת ללא פיקוח עצמאי או רגולציה, שיש לה השלכות חמורות ומהווה סיכונים לזכויות אדם וחירויות בסיסיות. (Shutterstock)

הצעדה המוארת בלפיד של עליונים לבנים חמושים לאחרונה בשרלוטסוויל, וושינגטון, ממשיכה לייצר ויכוח על האופן שבו יש להסדיר קבוצות שנאה. על רקע הלחץ הציבורי הגובר בעקבות הצעדה, מיהרו חברות אינטרנט להסיר מהפלטפורמות שלה אתרים הדוגלים בנאום שנאה אלים.

קדימה אבא הפסיקה את שירותי התחום שלה לאתר הניאו-נאצי The Daily Stormer, כפי שעשה Google. גם Cloudflare, חברה המגנה על אתרים מפני התקפות מקוונות אסר אתר השנאה מהפלטפורמה שלו. רוסיה הורתה לאסור את האתר מהתארחות בארץ.

המחקר שלי ואת הספר שלי נקודות שוקולד: רגולציה פרטית גלובלית באינטרנט להדגים כי חברות אינטרנט רבות כבר מסירות תוכן ואוסרות על משתמשים "מרצון" - כלומר בהיעדר חקיקה או תהליכים שיפוטיים כלשהם. מתווכים גדולים הכוללים גוגל, PayPal, GoDaddy, טוויטר ופייסבוק משטרים מרצונם את הפלטפורמות שלהם לתוכן של התעללות מינית בילדים, הקצנה וסחר אסור בסחורות מזויפות.

אנשים רבים מברכים באופן מובן על המאמצים הללו להדוף דברי שטנה ותכנים מעוררים אחרים. עם זאת, מאמציהן של חברות האינטרנט כמווסתים דיבוריים בפועל מעלים שאלות קשות: כיצד יש להסדיר תוכן מקוון? על ידי מי?

אני לא תומך בסופרים לבנים ואינני טוען נגד שיטור כלשהו של נאום כזה. במקום זאת, אני אומר שעלינו לשקול ברצינות כיצד להסדיר תוכן מקוון מכיוון שהמקרה הבא עשוי להיות לא ברור.

ישנן בעיות משמעותיות בהסתמכות על חברות חזקות המשטרות את האינטרנט מכיוון ששיטות האכיפה שלהן אטומות בצורה מטרידה ונוטות לפרשנות שרירותית.

תקדים מטריד

בניגוד מפוכח לעידוד חברות האינטרנט על התנגדותם הציבורית לדיילי סטורמר, מנכ"ל Cloudflare, מתיו פרינס, הציע נקודת מבט ניואנת ומזהירה, והזהיר כי נסיגת שירותים מקבוצות שנאה כתגובה ללחץ הציבורי מהווה תקדים מטריד בדיבור המקוון במשטרה .

ב בלוג בהסביר את פעולות Cloudflare נגד הדיילי סטורמר, טען פרינס כי החברה רואה בהליך הוגן "עקרון חשוב יותר" מאשר חופש הביטוי. פירושו של הליך הוגן הוא כי "אתה אמור להיות מסוגל לדעת את הכללים שמערכת תעקוב אחריה אם תשתתף במערכת זו." הצהרה זו לוכדת כראוי את הבעיות הגלומות במתווכים העובדים כמווסתים בפועל של תוכן והתנהגות מקוונת.

מוקדם יותר השנה, עובדי Shopify ומאות אלפי אנשים דחק ו עתירה פלטפורמת המסחר המקוון להפסקת אירוח חנות האינטרנט של הימין הקיצוני של ברייטברט מדיה. יו"ר ההנהלה הוחזר סטיבן באנון שיחות ברייטבארט "הפלטפורמה לאלט-ימין." מה שמכונה "alt-right" - מונח שאהוב על ידי ריצ'רד ברטרנד ספנסר - מכסה שילוב של אידיאולוגיות שמרניות לבנות, בדלניות, ניאו נאציות, פאשיסטיות, גזעניות, אנטישמיות, איסלאמופוביות ופופוליסטיות.

מנכ"ל Shopify טוביאס לוטקה אמר כי הוא מגן על חופש הביטוי כאשר חברת אוטווה המשיכה לארח את החנות המקוונת של ברייטברט באיום עובדים מתפטרים. אחרי הציבור לחץ וקמפיין עממי מדובב #מחק את Shopify הוביל לבדיקה שחשפה יותר עסק מפוקפק, Shopify היה מאולץ לאמץ "מדיניות שימוש מקובלת."

הדוגמאות המנוגדות ל"דיילי סטורמר "ומחיקתו על ידי חברות אינטרנט והתמיכה האיתנה של שופיפיי בברייטבארט, מדגימות קיצוניות של דילמה שרק מבטיחה להתעצם.

מדיניות שרירותית, רגולציה

למתווכים באינטרנט יש פוטנציאל להיות רגולטורים חזקים במגוון רחב של נושאים מכיוון שהם יכולים לפעול במהירות וללא צווי בית משפט. חשוב לציין, שיש להם מרחב לצנזר כל תוכן או לאסור משתמשים במסגרת הסכמי תנאי השירות שלהם.

PayPal שומרת לעצמה את הזכות להפסיק את שירותיה למשתמשים "מכל סיבה שהיא ובכל עת, ”שפה שמהדהדת ברוב הסכמי השירות של המתווכים. היכולת להסדרה שרירותית אפויה אפוא בכללים הפנימיים של המתווכים.

פרינס הזהיר כי פעולתו של Cloudflare נגד דיילי סטורמר מהווה תקדים למתווכים לנאום המשטרה ללא צווי בית משפט המחייבים אותם לעשות זאת.

מתווכים אלה פועלים לרוב על פי הוראת ממשלות שמעדיפות שחברות יהיו הפנים הציבוריות (אך בעיקר אינן ניתנות לחשבונות) של הרגולציה באינטרנט. אך בדרך כלל חברות אלו אינן מצוידות בכדי להבדיל בין חוקיות לחוקיות, מה שגורם להסרות שגויות ומתמקדות בטעות בהתנהגות חוקית.

לא פחות בעייתי: תהליכי האכיפה של המתווכים לעיתים קרובות אטומים מכיוון שמנחי התוכן שלהם מפרשים באופן שרירותי את הכללים הפנימיים המורכבים שלהם ומשתנים במהירות. בעיות אלה מורכבות משימוש גובר של מתווכים בכלים אוטומטיים לזיהוי והסרת תוכן בעייתי בפלטפורמות שלהם.

קיים גם החשש כביכול זחילת משימות כאשר כללים שנחקקו לראשונה נגד התעללות בילדים או טרור - זרזים ראויים לציון לפעולות אכיפה - מוחלים מאוחר יותר על נושאים אחרים פחות מזיקים, כגון הורדה בלתי מורשית של תוכן המוגן בזכויות יוצרים.

העתיד הדיסטופי כאן

מאמצי הרגולציה בדרך כלל מתרחבים מצנזורה של דברי שטנה אלימים לדיבורים אחרים שעלולים להיחשב לשנויים במחלוקת על ידי חלקם, כמו למשל של Black Lives Matter. כמו כן, ממשלות ברחבי העולם לוחצות באופן קבוע על מתווכים צנזורה ומעקב מבקרים ומתנגדים פוליטיים.

כאשר מתווכים גדולים הופכים לרגולטורים האחראים לשיטור תכנים מטעם ממשלות או כתגובה להפגנות בולטות, כוחם הניכר כבר עולה. חברות אינטרנט מבוססות ארה"ב כבר שולטות במגזרי תעשייה רבים, כולל חיפוש, פרסום, רישום דומיינים, תשלום ומדיה חברתית. הנסיך של Cloudflare בצדק מוזהר שעל ידי התלות ב"כמה רשתות ענק "," מספר קטן של חברות יקבע במידה רבה מה יכול ומה לא יכול להיות מקוון. "

העתיד הדיסטופי הזה כבר כאן.

הורדתו של דיילי סטורמר ללא ספק הופכת את העולם למקום טוב יותר. אבל האם אנחנו באמת רוצים שחברות כמו פייסבוק וטוויטר יחליטו - באופן עצמאי, שרירותי וסודי - לאיזה תוכן נוכל לגשת ולשתף?

בהתחשב בבעיות אלה לכאורה בלתי הפיכות, מה נוכל לעשות? ראשית, עלינו להימנע משלטון על בסיס מחאות או לחץ תקשורתי. במקום זאת, אנו זקוקים למערכת כללים ברורה כדי לאפשר למתווכים להגיב בעקביות, בשקיפות ובכבוד להליך הולם, כפי שהמליץ ​​פרינס.

על הממשלות להבהיר את מהותן, וחשוב מכך, את מגבלות האחריות הרגולטורית של המתווכים. לבסוף, עלינו להפסיק לשלוט בתגובה למשברים ספציפיים-מה שמכונה "חדשות מזויפות", ארגוני טרור ושנאה-ובמקום זאת לחשוב בביקורתיות כיצד אנו יכולים וצריכים לשלוט באינטרנט.

על המחבר

נטשה טוסיקוב, עוזרת פרופסור, קרימינולוגיה, המחלקה למדעי החברה, אוניברסיטת יורק, קנדה

מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.

ספרים קשורים

at InnerSelf Market ואמזון