מחקר: האלגוריתם של פייסבוק וטוויטר מעודד מכחישי שואה
המכון לדיאלוג אסטרטגי שפועל למיגור שיח קיצוני מצא כי חיפוש אחר תכנים בנושא השואה מעלה הצעות לדפים או קבוצות של מכחישי שואה למיניהם כולל הפנייה למפיצי ספרים ומחקרים מפורסמים
- דיפ פייק? מה שצריך להפחיד אתכם בבחירות הקרובות זה פייק טקסט
- תחת התירוץ לשמירה על הביטחון הלאומי: ארה"ב דורסת את עקרון החופשיות באינטרנט
- טוויטר נוקטת בצעדים נגד תיאוריית הקונספירציה של תנועת QAnon
על פי דיווח של הגארדיאן, הממצאים האלה מפורסמים במקביל לגידול הבינלאומי בדרישה מפייסבוק להסיר תכנים כאלה מהפלטפורמה שלה. החברה דווקא החלה לפעול בצורה יותר אקטיבית בחודשים האחרונים כדי להסיר תוכן שנאה שמפורסם בה. היא מיהרה למשל להסיר את חשבונו של הראפר הבריטי וויילי לאחר שזה פרסם סדרה של פוסטים שהכילו התבטאויות אנטישמיות. בשבוע שעבר היא אף הודיעה שתיאוריות קונספירציה שקשורות ל"שליטת היהודים בעולם" יאסרו לפרסום לאלתר. אך במקביל למשל היא עדיין גוררת רגלים בהכרה של תוכן של מכחישי שואה כשיח שנאה.
המחקר הצביע על כ-36 קבוצות, להן כ-366 אלף חברים, שמפרסמות תכנים כאלה בפייסבוק. החוקרים גם שמו לב שכאשר הם התחילו לצרוך תוכן מהקבוצות האלה, פייסבוק המשיכה להציע קבוצות אחרות עם תוכן דומה שלא הופיעו ברשימה. במילים האחרות, האלגוריתם של פייסבוק הגדיר את החוקרים כמכחישי שואה ומיהר להציע להם תוכן שמתאים לנושא בו הם מתעניינים. התנהלות דומה נצפתה בעבר ביוטיוב, שם האלגוריתם הציע תכנים פדופיליים ושל קבוצות קיצוניות או קונספירטיביות, ככל הצופה התעניין בסרטונים עם תכנים דומים.
לדברי אחד החוקרים, ג'ייקוב דייבי, "פייסבוק מסבירה את השארת התוכן הזה בכך שהיא מגנה על דיון היסטורי לגיטימי. אך מדובר בתירוץ שמפספס לגמרי את הסיבה בגללה מכחישי שואה נמצאים בפייסבוק מלכתחילה. מדובר בתוכן שנאה". ואם לא היה מספיק למצוא תכנים כאלה בפייסבוק, גם טוויטר, יוטיוב ורדיט, עדיין מהוות אכסניות למפיצי הכחשת שואה ואנטישמיות. ברדיט למשל נמצאו כ-2,300 פוסטים עם ההאשטג holohoax שמשמש לזיהוי תכני הכחשת שואה. מדובר בהלחם של שתי מילים, holocaust, שואה, ו-hoax, רמייה או מתיחה.
אך בטוויטר המצב הרבה יותר גרוע. כ-19,000 ציוצים נמצאו כמפיצים תכני הכחשת שואה תחת תיוגים דומים. ביוטיוב נמצאו כ-9,500 סרטונים או תגובות לסרטונים עם תכנים כאלה. כל התכנים האלה נוצרו בשנתיים האחרונות - זאת אומרת הרבה אחרי שנושא שיח השנאה הועלה למודעות של הנהלת החברות האלה והרבה אחרי שאלה הודיעו שיישמו הסרה או פיקוח על התכנים שמפורסמים בהן. המצב בטוויטר כאמור בעייתי מאוד כאשר חיפוש של מילת המפתח holohoax העלה שמתוך 20 ציוצים שעלו ראשונים בחיפוש, 14 מהם הכילו תוכן אנטישמי או מכחיש שואה.
ביוטיוב למשל, לשם השוואה, היקף התכנים שכוללים את ההאשטאג צנח באופן דרמטי מאז שנה שעברה אז הודיעה הפלטפורמה על איסור הכחשת שואה. ברדיט המצב קצת יותר בעייתי. מדובר בפלטפורמה שלה משתמשים קיצונים רבים. לא מעט מהפורומים בפלטפורמה עוסקים בנושאים מחתרתיים או מחוץ לשיח המרכזי. עם זאת ההסברה הנמרצת של הנהלת רדיט כמו גם הסרה של קבוצות וטוקבקים בידי עורכים אנושיים סייעו לצמצום ניכר של נראות תכני שנאה והכחשת שואה. עם זאת חשוב לציין שמכחישי שואה וגזענים נוטים להתחשב במצוד אחריהם ומסווים את התכנים והקבוצות שלהם תחת מושגים מעורפלים, משחקי מילים, קודים ורמזים שרק מי שפעיל בתחום מכיר ומבין את משמעותם.
פייסבוק מצידה מסרה שהיא מסירה כל פוסט שמעודד, מהלל, מגן או מנסה להצדיק את השואה. "זה תקף לכל סוג של תוכן שמגחיך ניצולי שואה, מאשים את השורדים בשקרים, יורק שנאה (כך במקור, ר''ק) או פועל לעידוד אלימות נגד יהודים בכל צורה. אנו גם מסירים דפים או קבוצות של הכחשת שואה בתוצאות החיפוש המוקדמות (הכוונה בהשלמת המושגים שהמשתמש מקיש בשדה החיפוש, ר''ק). אמנם אנו לא מסירים פוסטים רק בגלל שהם שקריים, אך רבים מהם כוללים תוכן אסור אחר ומפרים את המדיניות שלנו נגד שיח שנאה ומוסרים. במדינות בהן מדובר בתוכן לא חוקי כגון גרמניה, צרפת ופולין, אנו מונעים פרסום של תוכן כזה מתוקף החוק המקומי. אנו מנסים למצוא את האיזון בין חופש הביטוי ושמירת הביטחון של המשתמשים. רבים לא מסכימים באופן תקיף עם העמדה שלנו. אנו מתייעצים עם גורמים חיצוניים וסוקרים את כללי המדיניות שלנו בכל עת כד לוודא שאנחנו מבינים את הדברים כשורה".
בתגובתה, פייסבוק לא דחתה את טענות החוקרים, החברה לא אמרה שהיא מתכננת לפעול נגד תכנים כאלה באופן אקטיבי. פייסבוק נוטה לפעול רק אם משתמשים מפנים את תשומת ליבה לתכנים בעייתיים. אך מכיוון שקבוצות או דפים רבים כאלה פועלים באופן פרטי ומסננים את המשתתפים בהם, קשה מאוד לדעת מי מהם פועלים כך. מצד שני פייסבוק לא רוצה להיתפס כמי שקובעת אילו תכנים מפורסמים דרכה שכן אז היא עשויה להיתפס ככלי תקשורת וככזה להיות חשופה לתביעות אזרחיות על פרסום דיבה או לשון הרע. מהבחינה הזו, היא צריכה להלך על חבל דק, מה שבאופן פרדוקסלי מסייע בעקיפין להפצה של אנטישמיות, גזענות ותכני שנאה נוספים.