רוצים צנזורה: מחיקה המונית של תכנים מהרשת אינה הפתרון לגזענות

מנהלי גוגל, פייסבוק וחברות אינטרנט נוספות מתמודדים בשבועות האחרונים עם כאב ראש הולך וגובר: טענות מתעצמות על תרומת החברות שבניהולם לשיח השנאה ולתופעות הקשורות אליו כמו הפצת חדשות מזויפות ותיאוריות קונספירציה. בשבוע חשף "הגרדיאן" תוצאות מטרידות כגון הצגת החיפוש "are women evil" או "are jews evil" במקום בולט ברשימת ההצעות של מנגנון ההשלמה האוטומטית של גוגל. החזית מתחממת גם באירופה לאור לחצים שמפעיל האיחוד האירופי על החברות, ובהן גם מיקרוסופט וטוויטר, לטפל בצורה יעילה ומהירה יותר בתוכני גולשים שמקדמים גזענות, אנטישמיות, טרור ותכנים פוגעניים אחרים. דו"ח שפרסם האיחוד בשבוע שעבר הראה כי רק 40% מהתכנים שמדווחים לחברות כתוכן שנאה זוכים לטיפול בתוך 24 שעות, ורק רבע מהתכנים שדווחו הוסרו. במקביל מתנהלת בגרמניה חקירה פלילית נגד פייסבוק ומנהליה בחשד להעלמת עין מתכנים ניאו־נאציים.

הפעולות שנוקטות החברות נראות כניסיון לרוקן ספינה טובעת ומלאה במים באמצעות דלי קטן. גוגל הסירה את מחרוזות החיפוש הפוגעניות מרשימת ההצעות, אבל תוצאות החיפוש נותרו כשהיו וחושפות תמונה מטרידה: דף התוצאות הראשון שמתקבל כאשר מחפשים "are jews evil" מציע קישורים לאתרים אנטישמיים, כמו עמוד שכותרתו "10 הסיבות העיקריות בגללן אנשים שונאים יהודים". התוצאה הראשונה בחיפוש "האם השואה באמת התרחשה" באנגלית מובילה לפורום באתר ניאו־נאצי שמציג "הוכחות" לכך שהשואה היא זיוף, וגוגל סירבה להסיר את הקישור אליו. באופן דומה גם החיפוש "האם מוסלמים הם רעים" מוביל למקבץ של תכנים גזעניים.

מנכ"ל גוגל סונדאר פיצ'אי. נקרא לטיפול יעיל ומהיר יותר בתכני שנאה צילום: בלומברג

התחושה הרווחת היא שחלקים גדולים מהאינטרנט נחשפים כביצה טובענית של גזענות, שנאה ובורות — כזו שרוב הגולשים לא נחשפו אליה מאחר שמנועי החיפוש והרשתות החברתיות בנויים באופן שחושפים את המשתמש לתכנים הקרובים לעולמו ולעמדותיו. הופעת תכנים שנויים במחלוקת בהצעות החיפוש מלמדת שלא מדובר בשוליים זניחים אלא במספר גדול של אנשים שרוצים לדעת "האם יהודים מרושעים".

איור: יונתן פופר

מנגד עולה החשש הלגיטימי מפני סתימת פיות שלא מעלימה את התופעה אלא פשוט מסתירה אותה. מי מחליט היכן עובר הגבול בין דעה שנויה במחלוקת אך לגיטימית לתוכן שנאה פסול? האם אנו באמת רוצים להסמיך את פייסבוק לגורם שמחליט מהי עיתונות לגיטימית ומהן חדשות מזויפות? אינטרסים כלכליים דוחפים חברות להפוך לצנזוריות בשירות משטרים אפלים שפוגעים בזכויות אדם, כפי שמדגימות היטב מיקרוסופט ופייסבוק: הראשונה הודתה שהיא מצנזרת נושאי שיחה רגישים בצ'ט בוט הסיני שלה, והשנייה מפתחת לפי דיווחים מנגנוני צנזורה אוטומטיים לקראת חדירתה לשוק הסיני. טוויטר אמנם סגרה חשבונות של רבים מפעילי תנועת הימין הקיצוני האמריקאית אלט רייט, אך החזירה בשבוע שעבר לפעילות את חשבונו של אחד מראשי התנועה ריצ'רד ספנסר לאחר שלא מצאה דופי בתכנים שפרסם.

חברות האינטרנט יכולות לפתח בקלות כלים טכנולוגיים להיאבק בתכנים שהן לא רוצות בפלטפורמות שלהן, אך מדובר במירוץ חימוש חסר סיכוי. מקדמי התכנים הללו יכולים לעבור לפלטפורמות פחות מפוקחות או להקים פלטפורמות משלהם כמו Gab; או להשתמש במילות קוד שעוקפות מנגנוני סינון ומובנות ליודעי ח"ן. במקביל, נקיטת צעדים חריפים מדי, כמו במקרה של מנכ"ל רדיט ופורום The Donald, עלול להרגיז את בעלי המניות, בעיקר על רקע החזון של שמירת האינטרנט כסביבה פתוחה ונטולת צנזורה.

הפתרון אינו מחיקה המונית של תכנים שעלולים להיות פוגעניים, גישה שתמשיך להתגלות כחסרת תועלת בניקוי הרשת מגילויי שנאה וגזענות ושעלולה להסב יותר נזק מתועלת לטווח הארוך. את כלי המחיקה רצוי לשמור למקרי קיצון של אלימות, הסתה לרצח, הטרדות ותכנים שמפרים את החוק באופן ברור. במקרים הפחות חד־משמעיים רצוי לטפל ברעיונות חדשים, כמו סימון ומסגור תכנים שנויים במחלוקת או הבלטת תכנים ראויים ואמינים, באופן שיידע את הגולשים לגבי איכות המידע שהם צורכים. אפשרות אחרת היא ציוד הגולשים באפשרויות סינון חזקות יותר לשליטה בתכנים שהם נחשפים אליהם, כפי שעשתה לאחרונה אינסטגרם. או פשוט להשקיע יותר בחינוך ילדים ונוער שנחשפים במיוחד לצד השלילי של תופעות השנאה והגזענות, כדי להעניק להם יכולת להתבונן בביקורת ובספקנות על המידע שאליו הם נחשפים ברשת, ובעולם בכלל.