דו"ח של מטא: חופש הביטוי של פלסטינים ברשתות החברתיות נפגע במהלך מבצע שומר החומות
דו"ח של מטא: חופש הביטוי של פלסטינים ברשתות החברתיות נפגע במהלך מבצע שומר החומות
מערכות אכיפת התוכן של מטא סבלו מהטיה ואכיפת יתר כלפי תוכן בערבית בזמן המבצע שנערך במאי 2021, כך עולה מדו"ח של ארגון BSR שמייעץ בסוגיות של קיימות וערכים חברתיים והוזמן על ידי מטא. "שיעורי הניטור היזום של תוכן בערבית העלול להימצא מפר היו גבוהים במובהק משיעורי הניטור היזום של תוכן בעברית העלול להימצא מפר", נכתב בדו"ח
במהלך מבצע שומר חומות, מערכות אכיפת התוכן של מטא סבלו מהטיה ואכיפת יתר כלפי תוכן בערבית, באופן שפגע בזכויות האדם של משתמשים פלסטינים בפייסבוק, אינסטגרם ו-ווטסאפ, והשפיע על יכולתם לשתף מידע ותובנות בזמן אמת - כך עולה מדו"ח עצמאי שערך ארגון BSR בהזמנת מטא.
הדו"ח הוזמן בהמשך להמלצה מצד המועצה המפקחת של מטא, שביקשה לבחון באופן רחב יותר את הטיפול של החברה בסוגיות תוכן בזמן מבצע שומר חומות, שנערך במאי 2021. הארגון שחיבר אותו, BSR, מתמחה בעבודה עם חברות בינלאומיות כגורם מנתח ומייעץ בסוגיות של קיימות וערכים חברתיים. הדו"ח נכתב על בסיס מידע פומבי, ראיונות עם עובדי מטא, שיחות עם בעלי עניין בישראל, ברשות הפלסטינית ובמדינות אחרות, ובחינה של נתונים פנימיים של החברה, ובכללם ניתוח הטיפול בפוסטים שונים בעברית בערבית, בחינת פעולות אכיפה אנושיות ואוטומטיות וסקירת מקרים פרטניים של הסרת תכנים וחסימת חשבונות. הבדיקה נערכה בין ספטמבר 2021 לאפריל 2022.
התוצאה המרכזית שעולה מהדו"ח מצביעה על אכיפה לא שוויונית של מדיניות התוכן של מטא ביחס לתוכן בערבית לעומת תוכן בעברית (כל הממצאים עוסקים באכיפה בזמן מבצע שומר חומות בלבד). "הפעולות של מטא השפיעו באופן שלילי על זכויות האדם של משתמשים פלסטינים לחופש ביטוי, חופש הפגנה, השתתפות פוליטית ואי-אפליה, ומכאן על יכולתם של פלסטינים לשתף מידע ותובנות על חוויותיהם בזמן התרחשותן", נכתב. "הנתונים שנסקרו הצביעו הן על אכיפת-יתר (הסרת תוכן שגויה והטלה שגויה של סנקציות על חשבונות) והן על אכיפת-חסר (אי-הסרה של תוכן מפר ואי-הטלת סנקציות על חשבונות שביצעו עבירות) של מדיניות התוכן של מטא. תוכן בשפה הערבית היה נתון לאכיפת-יתר (לדוגמה, הסרה מוטעית של תוכן פלסטיני) במידה רבה יותר פר-משתמש (כלומר, בהתאמה להבדל בגודל האוכלוסייה בין דוברי ערבית לדוברי עברית בישראל ובפלסטין).
"שיעורי הניטור היזום של תוכן בערבית העלול להימצא מפר היו גבוהים במובהק משיעורי הניטור היזום של תוכן בעברית העלול להימצא מפר, דבר שניתן קרוב לוודאי לייחס בחלקו הגדול למדיניותה של מטא המשלבת חובות חוקיות מסוימות הקשורות בארגוני טרור זרים ייעודיים, והעובדה שהיה קיים מסווג (classifier) ביטוי עוין בערבית אך לא מסווג ביטוי עוין בעברית". כן מציין BSR שייתכן שמסווגים בערבית נוטים לשיעורי טעות גבוהים יותר ביחס לערבית-פלסטינית ושתוכן בערבית לא נותב לבקרים שמבינים את הניב הספציפי, כסיבות אפשריות נוספות לאכיפת-יתר.
הדו"ח מצא גם אכיפת-חסר של תוכן בערבית, לדוגמה במקרים של הסתה לאלימות נגד ישראלים ודברי שבח לחמאס. ואולם, גם אכיפת-חסר זו היתה נמוכה ביחס לתוכן בעברית: "החומרים שנבחנו וראיונות פנימיים הצביעו על כך שתוכן בעברית היה נתון לאכיפת-חסר רבה יותר, במידה רבה עקב היעדר מסווג בעברית ועזיבה של עובדים דוברי עברית המועסקים במשרה מלאה ובמיקור חוץ של בקרת תוכן בשבועות שקדמו למאי 2021. ואולם, בדיקה של מקרים פרטניים הראתה כי התרחשה גם אכיפת-יתר, והתקיימו הסרת תוכן שגויות מחשבונות ישראליים והגבלות הוטלו עליהם בשגגה".
בעיה אחרת היא שלמטא לא היו מספיק בקרי תוכן בעברית ובערבית על מנת להתמודד עם העלייה החדה בכמות המקרים שנרשמה בתקופת המבצע – עד פי 10 בהשווואה לימי השגרה. "העדר פיקוח במטא אפשר טעויות באכיפת מדיניות התוכן שבצדן השלכות משמעותיות. אחת מהדוגמאות המרכזיות היתה שעובד בשירותי מיקור החוץ של מטא הוסיף את #AlAqsa לרשימת התגיות החסומות, על סמך רשימה של מחלקת האוצר של ארה"ב שהתייחסה ל'גדודי אל-אקצא'. כתוצאה, התגית #AlAqsa הוסתרה מתוצאות החיפוש. למעשה, בתגית נעשה שימוש רחב בפוסטים שהתייחסו למסגד אל-אקצא, שהוא אחד מהאתרים הקדושים ביותר לאיסלאם".
כן התקבלו ממצאים שמצביעים על כך שמטא התקשתה בהתמודדות עם תוכן בעל מאפיינים אנטשמיים. ארגונים שמקדישים את פעילותם לאנטישמיות מצאו תוכן אנטישמי שהפר את מדיניות מטא באופן מובהק, שלא אותר ולא הוסר במהלך תקופה זו (למטא אין סיווג פרטני לתוכן אנטישמי, כך ש-BSR לא יכול היה להעריך את הטיפול שלה בו על סמך נתונים פנימיים, ע"כ). הניתוח מעלה שלא היתה כשירות תרבותית מספקת מצדם של בקרי התוכן, וכי בקרב קובעי המדיניות היתה יכולת לשונית בלתי מספקת בטווח השפות (כולל שפות אירופיות קטנות) שבהן הופיע תוכן אנטישמי".
ביחס להסתה ולעידוד לאלימות בווטסאפ, הדו"ח מזכיר זאת בחטף ומוסיף "היו עיתונאים ואקדמאים שחשבונות הווטסאפ שלהם הושבתו בשגגה כתוצאה מפעילות אכיפה נכונה נגד קבוצות של ארגוני טרור מוכרזים. כאשר הובא לידיעתה של ווטסאפ כי חשבונות אלה הושבתו בטעות, הם הושבו לשירות".
עוד בחן הארגון האם בקרת התוכן של מטא בערבית ובעברית, ובכלל זה מערכות הבינה המלאכותית שבהן היא עושה שימוש, סובלת מהטיה (bias). הדו"ח אמנם לא מצא הטיה מכוונת על רקע גזע, מוצא אתני, לאום או דת בצוותים הרלוונטיים, אוו בפיתוח וביישום המדיניות. "עם זאת, BSR כן זיהה מקרים שונים של הטיה בלתי מכוונת שבהם המדיניות והפרקטיקות של מטא, בשילוב עם דינמיקה חיצונית רחבה יותר, כן הובילו להשפעות שונות על זכויות אדם של משתמשים פלסטינים ודוברי ערבית", נכתב.
הסבר אפשרי אחד לכך הוא החוק האמריקאי שאוסר על חברות לספק סיווע לארגוני טרור מוכרזים, והכרזות משפטיות על ארגוני טרור שסובלות ממיקוד בלתי מידתי ביחידים ובארגונים מוסלמים. "לפיכך, קיימת סבירות גבוהה יותר שמדיניות מטא תשפיע על משתמשים פלסטינים ודוברי ערבית, הן על סמך פרשנותה של מטא את החובות החוקיות החלות עליה והן בשגגה", נכתב. "הסבירות שפלסטינים יפרו את מדיניות האנשים והארגונים המסוכנים (DOI) של מטא גבוהה יותר בגלל נוכחות של החמאס כישות שלטונית בעזה ושל מועמדים פוליטיים הקשורים לארגונים מוכרזים. הפרות של ה-DOI מלוות גם בעונשים חמורים במיוחד, שמשמעם כי סביר יותר שפלסטינים יעמדו בפני השלכות חמורות יותר הן של אכיפה נכונה והן של אכיפה שגויה של מדיניות. בניגוד לישראלים ולאחרים, פלסטינים מנועים מלשתף סוגים מסוימים של תוכן פוליטי מכיוון שמדיניות מטא אינה מחריגה דברי שבח לישויות מוכרזות בכובען השלטוני".
סיבה נוספת להטיה קשורה בהבדלים במערכת בקרה התוכן בערבית לעומת עברית. אלו כוללים: "(1) ניתוב בלתי מספק של תוכן בערבית לפי ניב או מומחיות אזורית, שעשוי היה להבטיח שהבקרים מבינים התוכן ואת ההקשר התרבותי; (2) השימוש במסווגים עבור תוכן בערבית בשעה שלא היה מסווג עבור תוכן בעברית; וכן (3) המסווגים לערבית כנראה פחות מדויקים עבור ערבית פלסטינית מאשר עבור ניבים אחרים, הן מפני שהניב פחות נפוץ, והן מכיוון שנתוני אימון התוכנה משכפלים את הטעויות של הבודקים האנושיים בשל היעדר כשירות לשונית ותרבותית. להבדיל, עברית היא שפה סטנדרטית והמדוברת ביותר בישראל, ולכן בודקי התוכן בעברית רהוטים בשפה וגם סביר יותר שהם מבינים את ההקשר".
הדו"ח מציג למטא שורה של 21 המלצות. אלו כוללות שינויים למדיניות התוכן של החברה, כמו הגבלת התכולה של מדיניות DOI לתמיכה או ייצוג של ארגונים מסוכנים, הגברת השקיפות כלפי משתמשים, כמו מתן נימוק ספציפי לפעולות אכיפה ופרסום האלמנטים הפנימיים שעל בסיסם מפרשים בקרי התוכן את מדיניות מטא, וביצוע שינויים תפעוליים, כמו יצירת מנגנונים לניתוב משופר של תוכן בערבית ופתיחת תהליך בקרת איכות פנימי על הוספת פריטים חדשים לרשימת התגיות/מילות המפתח האסורות.
במסמך תגובה שפרסמה, הודיעה מטא שהיא כבר יישמה או תיישם במלואן 10 מההמלצות, תיישם באופן חלקי ארבע המלצות, תבצע בדיקת היתכנות לשש המלצות נוספות, ולא תיישם המלצה אחת (מימון מחקר ציבורי אודות היחס המיטבי בין חובות חוקיות למאבק בטרור לבין המדיניות והפרקטיקות של פלטפורמות מדיה חברתית).
