תודה על הקול: שיח השנאה בספייסס של טוויטר פורח בחופשיות
תודה על הקול: שיח השנאה בספייסס של טוויטר פורח בחופשיות
מחבלים, סוטים, גזענים ומפיצי קונספירציות השתלטו על פיצ'ר השיחות הקוליות של רשת המיקרו-בלוגינג, שטוענת שאין בידה טכנולוגיה לניטור אודיו בזמן אמת. זה קצת מוזר, כי קיימים בשוק שירותי תמלול סימולטני משוכללים ביותר. ובכלל, למה היא לא חשבה על זה קודם? רגע, יכול להיות שזה פחות עניין אותה מאשר לרסק את "קלאבהאוס"? תהיות רטוריות
אפשר היה לצפות שמתישהו ענקיות המדיה החברתית כבר יבינו מה עומד בשורש הטעויות והמחדלים ההיסטוריים שלהi' יישמו את הלקחים, ילמדו מאירועי העבר ויפנימו איך צריך לפעול בעתיד. אפשר היה לצפות, ראוי היה לצפות, אבל גם נאיבי לצפות. כי מה שהחברות הללו מוכיחות פעם אחר פעם, הוא שהן לא לומדות דבר, לא מיישמות שום לקח, מסתכלות קודם כל על גדילה ורק אחר כך, אם בכלל, על ההשלכות.
הראיה העדכנית שלנו: ספייסס (Spaces) - פיצ'ר שיחות האודיו הקבוצתיות של טוויטר, שבאופן לא מפתיע במיוחד הפך, כמו הרבה פינות ברשת המודרנית, לביב שופכין של שנאה, גזענות והסתה. ספייסס הושק בתחילת השנה בתגובה רפלקסיבית לקלאבהאוס (Clubhouse) - רשת חברתית חדשה יחסית, מבוססת אודיו, שצמחה במהירות מרשימה. הרשתות הגדולות לא יכולות לראות, כמובן, פיצ'ר חדש ומצליח שמאיים על ההגמוניה שלהן בלי לגנוב אותו בלי בושה, ופייסבוק וטוויטר מיהרו להעתיק אותו לפלטפורמות שלהן. מיהרו, ולא עצרו לחשוב על ההשלכות האפשריות.
פאסט פורוורד חצי שנה ודיווח של הוושינגטון פוסט חושף מה ההשלכות האלו כוללות: תומכי טאליבן, ניאו-נאצים ומתנגדי חיסונים השתמשו בפיצ'ר החדש כדי לארח שידורי אודיו שחשפו מאות משתמשים לתכני שנאה, טרור ומידע שקרי על חיסונים. שיחות ספייסס אחרות כללו תכני שנאה נגד טרנסג'נדרים ושחורים. ומכיוון שמדובר במערכת מבוססת קול, מערך הניטור הקיים של טוויטר, שפותח כדי להתמודד עם תוכן כתוב וחזותי, מתקשה להציב מענה. כרגע, הניסיון של טוויטר למשטר את ספייסס כולל סריקה אחרי מילות מפתח בעייתיות בכותרת המפגשים, לצד דיווח ממשתשמים. הפיתרון הזה, מתברר, לא ממש עובד.
"מגייסים של דאעש פעילים בטוויטר ספייסס", צייץ משתמש לחשבון הבטיחות של טוויטר בנובמבר. "הם מעודדים בגלוי לביצוע ג'נוסייד בשיעים. mohammadkhawri@ (החשבון כבר לא פעיל, ע"כ) מצדיק רצח שיעים. הוא קורא להם לא-מוסלמים. טוויטר ישנה". לציוץ מצורף קליפ קולי שבו משתמשים מתבטאים נגד מוסלמים שיעים. משתתפים בשיחה סיפרו לוושינגטון פוסט שהמארח הכריז על תמיכה בדאעש ואמר ששיעים צריכים למות.
מפגשים אחרים כללו משתמש שהכריז בכותרתו כי נשים טרנסיות הן "לא-כנות, נוכלות, שקרניות ומבצעות הונאה" ומשתמש אחר שהזמין משתמשים לשאול לאומן לבן כל שעולה על רוחם. ספייס תחת הנושא "לאנשים שחורים מגיע כלום" (שחמק מהמערכת של טוויטר באמצעות עיוות קל של המלים ל-"Blck PPL deserve NUFFIN" משך 400 מאזינים בנובמבר. בכמה מקרים טוויטר אף סייעה לשיחות מסוג זה להפוך לוויראליות, אחרי שזיהתה כמות מאזינים גבוהה וקידמה אותן למשתמשים אחרים.
אחרי הנסיגה של ארה"ב מאפגניסטאן, תומכי טאליבן מכל העולם החלו ליצור ספייסס ולארח עשרות שיחות באנגלית. אמרסון ברוקינג - עמית מחקר בכיר במעבדת הדיגיטל של Atlantic Council - האזין לשיחות שכללו תיאוריות קונספירציה על פיגועי ה-11 בספטמבר ולשיחות אנטישמיות. במקרים אחרים, לאומנים לבנים הצטרפו לשיחות כדי לתקוף את ישראל ואת היהודים.
קשה לדעת כמה הבעיה נפוצה. כשאין ניטור אוטומטי הדרך היחידה לאסוף מידע היא בצורה ידנית ולכן יש בעיקר עדויות נקודתיות. למעשה, יכול להיות שאפילו טוויטר עצמה לא מודעת להיקף הבעיה. בשלב זה אין לנו מידע על מה שקורה בפלטפורמה המקבילה בפייסבוק, אבל סביר להניח שגם המצב שם לא חדי קרן וקאפקייס. עם זאת, עדויות מבפנים מצביעות על כך שלא מדובר בסוגיה זניחה. "האופן שבו ספייסס מנוהל בעייתי", אמר לוושינגטון פוסט עובד לשעבר בצוות שפיתח את היכולת. "כשעובדים על משהו במשך חודשים ואף אחד לא אוסף ממצאים על איך אנשים יכולים לנצל את זה לרעה, זה לא מפתיע לגלות חודשים מאוחר יותר שאנשי טאליבן וגזענים משתמשים בפלטפורמה".
מטוויטר נמסר בתגובה: "שמירה על בטיחוות משתמשים ועידוד שיחה בריאה, תוך מתן סיוע למארחים ולמאזינים לשלוט בחוויה שלהם הם עדיפויות מפתח מאז תחילת הפיתח של ספייסס". עם זאת, החברה הודתה שאין לה בקרים אנושיים או טכנולוגיה לסריקת אודיו בזמן אמת. "אנחנו בוחנים אפשרויות בהקשר זה, אבל זה לא משהו שזמין כעת". הטענה של טוויטר שלפיה אין כיום טכנולוגיה שמאפשרת לסרוק שיחות קוליות בזמן אמת נשמעת מפוקפקת לאור קיומם של שירותי תמלול לשיחות קול או היכולת של זום להציג כתוביות בזמן אמת. אפשר להניח שטוויטר תהיה מסוגלת להתאים את הטכנולוגיות הקיימות והמוכחות האלה לספייס - ולו רק לשפות מסוימות. אבל זו לא הנקודה כאן.
אפשר למסגר את הסיפור הזה ככשל נקודתי של טוויטר, חברה שסובלת מבעיות צמיחה וגדילה, ונואשת למהפך, שהשיקה שירות חצי-אפוי (ואז גם לחבר את זה לכניסה של המנכ"ל החדש כמהלך שיכול לחולל מפנה בחברה). זה אולי נכון, אבל זה יהיה פספוס של בעיה מערכתית שגדולה הרבה יותר מטוויטר או מחברה אחת.
טוויטר עשתה למעשה את מה שפלטפורמות מדיה חברתיות עשו משחר קיומן: השיקה שירות או יכולת חדשה מבלי לחשוב על ההשלכות הצפויות, מבלי לייחס להן חשיבות מספקת וכתוצאה מכך גם מבלי להיערך להתמודדות אתן. ראינו את זה קורה כשפייסבוק השיקה תכונות כמו הניוזפיד או כפתור הלייק מבלי להבין אילו השפעה מהפכנית תהיה להן על השיח המקוון. ראינו את זה כשהרשתות החברתיות השיקו את יכולות הלייב וידיאו, שאומצו בחיבה על ידי גורמים קיצוניים ובראשם המחבל שביצע את פיגועי הירי בכרייסטצ'ורץ' בניו זילנד ושידר בלייב רצח של 51 אנשים. ראינו את זה גם כשהפלטפורמות החלו להתפשט במהירות מסחררת למדינות עם אוריינות דיגיטלית נמוכה ושפות עם דוברים מועטים יחסית וקיבלנו השלכות מחרידות כמו הג'נוסייד ברוהינגה.
פלטפורמות חברתיות רצות קדימה בלי לחשוב על ההשלכות ובלי להקשיב לעובדים שמתריעים מפניהן. זה אולי היה נסלח לפני עשור, כשהחברות עוד היו צעירות יותר וההשפעה הפוטנציאלית שלהן היתה קטנה יותר וידועה פחות, אבל זה לא המצב היום. מדובר בכמה מהחברות הגדולות והעשירות בעולם, וההיסטוריה כבר הדגימה היטב מה יכול לקרות כשהן משיקות מוצרים או נכנסות לשווקים חדשים ללא יכולת בקרה מתאימה.
טוויטר אולי לא הייתה יכולה לדעת מה יקרה עם ספייסס, אבל היא בפירוש כן יהיתה צריכה להערך לכך שמשהו מסוג זה יקרה. היא העדיפה לרוץ קדימה עם תכונה חדשה ומרגשת בלי מנגנוני ניטור מתאימים, כי בדומה לפלטפורמות אחרות היא מתעדפת צמיחה על פני שיקולים אחרים, כמו בטיחות משתמשים. התיעדוף הזה בלתי נסלח: הוא הופך את טוויטר לאחראית להפצת השנאה וההסתה לא פחות מהמשתמשים שעושים זאת. הבחירה להשיק פלטפורמה חדשה בלי כלים לנטר את מה שקורה בה היא בלתי נסלחת.
העובדה שזה קרה בטוויטר, שלעומת פייסבוק נחשבת לרשת החברתית "הטובה" (הכל יחסי, כמובן), כמו גם ההתחמקות המתמשכת שלה מאחריות, מצביעות על כך שגם עכשיו, אחרי ה-6 בינואר, אחרי החשיפות של תיקי פייסבוק, אחרי כל מה שלמדנו על המחדלים והנזקים של הפלטפורמות החברתיות בעשור וחצי האחרון, הפלטפורמות הגדולות לא למדו שום דבר. אולי הן לא מעוניינות ללמוד שום דבר.אין להן את הרצון או את היכולת לשנות את דרכן. הגיע סוף סוף הזמן שמישהו יעשה את זה בשבילן.
