פייסבוק: הסרנו יותר מ-12 מיליון יחידות תוכן שכללו מידע מסוכן על הקורונה

בשיחה, שנערכה לרגל פרסום הדו"ח התקופתי על היקף התוכן שפייסבוק מנטרת ומצנזרת, הציג רוזן, הישראלי הבכיר בחברה, נתונים נרחבים על פעילות פייסבוק להגבלת הפצת מידע שגוי לגבי הקורונה והבחירות בארה"ב. "בין מרץ לאוקטובר הסרנו יותר מ-12 מיליון יחידות תוכן שהכילו מידע שגוי שעלול להוביל לנזק פיזי מיידי, כמו מידע שקשור לאמצעי הגנה מזויפים או תרופות מזויפות", הוא אמר.

גיא רוזן צילום: אביגיל עוזי

בנוגע לסינון תוכן שנוגע למערכת הבחירות בארה"ב אמר רוזן: "המטרה שלנו היא להגן על יושר הבחירות באמצעות בלימת התערבות זרה, מידע שגוי ודיכוי הצבעה וכן באמצעות סיוע לאמריקאים להצביע. ממרץ ועד יום הבחירות הסרנו יותר מ-265 אלף יחידות תוכן בפייסבוק ובאינסטגרם בארה"ב שהפרו את מדינות ההתערבות בבחירות. באותה תקופה, הצגנו אזהרה על יותר מ-181 מיליון יחידות תוכן שבודקי העובדות החיצוניים שלנו הפריכו.

"גם פסלנו, לפני שהוצגו, 3.3 מיליון פרסומות שכוונו לארה"ב שעסקו בנושאים חברתיים, בחירות ופוליטיקה מבלי שהשלימו את הליך האימות שמחייבת פייסבוק לפני הצגת פרסומות פוליטיות. הסרנו יותר מ-100 רשתות של התנהגות מתואמת לא-אותנטית. להערכתנו, סייענו ל-4.5 מיליון אנשים להירשם השנה להצבעה בבחירות בארה"ב, וליותר מ-100 אלף איש להירשם לעבודה בקלפיות. 140 מיליון איש ביקרו במרכז המידע לבוחרים מאז הושק בקיץ, ו-33 מיליון מהם ביקרו ביום הבחירות". פייסבוק לא מסרה מידע על המתרחש בפלטפורמות שלה בהקשר זה מאז יום הבחירות.

בנוסף התייחס רוזן לפעילות של פייסבוק נגד הפצת ביטויי שטנה בפלטפורמה. "כשהתחלנו לדווח על הזיהוי הפרואקטיבי של ביטוי שטנה, ברבעון הרביעי של 2017, 23.6% מתוכן השנאה שהוסר זוהה לפני שדווח על ידי משתמשים. היום מדובר על זיהוי של 95% בפייסבוק ובאינסטגרם. כלומר, כמעט כל התוכן הוסר פרו-אקטיבית על ידי פייסבוק. אבל השאלה האמיתית היא מה פספסנו, ולכן אנחנו מציגים מדד שבודק את התפוצה. המדד בודק כמה מהתוכן השנאה בפייסבוק נצפה על ידי משתמשים ולא כמה תוכן כזה קיים בפלטפורמה. זה חשוב כי כמות תוכן קטן יכולה להיות ויראלי ולהגיע לתפוצה גדולה בתוך זמן קצר מאוד, בעוד שתוכן אחר יכול להיות ברשת הרבה זמן מבלי שאף אחד יראה אותו. במקרה של ביטוי שנאה, התפוצה בין יולי לספטמבר 2020 עמדה על בין 0.1% ל-0.11%. כלומר, מתוך כל אלף צפיות בפייסבוק, בין 10 ל-11 היו בתוכן שאנו מגדרים כביטוי שנאה", אמר.

בנוגע לפעילות בקרי התוכן של פייסבוק, ציין רוזן שאף שהבקרים עדיין עובדים ברובם מהבית, היקפי האכיפה חוזרים לימי טרום הקורונה. "היכולות האנושיות שלנו עדיין נמוכות מכפי שהיו לפני המגפה, ואנחנו מסתמכים בצורה משמעותית על בינה מלאכותית ומתעדפים תוכן שעלול לגרום נזק כמו תכנים שעוסקים בהתאבדויות", הוא הבהיר. "מרבית בקרי התוכן עדיין עובדים מהבית, מה שמקשה על סינון תוכן רגיש. לכן עובדים במשרה מלאה לוקחים תפקיד גדול יותר בבקרת תוכן. באזורים מסוימים מאפשרים לבקרים לחזור למשרדים תחת תנאים קפדניים. במקביל השתמשנו בבינה מלאכותית כדי להתקדם עם התוכן הרגיש ביותר".