פייסבוק רק תרוויח אם תחשוף את "הרוטב הסודי" שלה

במבט ראשון, נראה שהמועצה המפקחת של פייסבוק קפצה כאן מעל הפופיק. המועצה, שיכולה לדון בתלונות נבחרות של משתמשים על פוסטים שפייסבוק צנזרה ובסמכותה להורות לרשת החברתית להסיר או להחזיר, החלה את עבודתה לפני פחות משנה ופרסמה את מקבץ ההחלטות הראשונות שלה בינואר.

והנה היא כבר מאותתת שבקרוב תגיע עם דרישה בעייתית מהרשת החברתית. "בשלב מסוים", אמר חבר המועצה ועורך הגארדיאן לשעבר אלן רוסברידג'ר בדיון בוועדת התקשורת והדיגיטלי של בית הלורדים הבריטי, "נבקש לראות את האלגוריתם".

ואם זה נשמע לכם מופרך, אתם לא לבד. האלגוריתם הוא, במובנים רבים, הרוטב הסודי של כל רשת חברתית, המקבילה המקוונת לנוסחה של קוקה קולה. הוא קובע כמעט כל מה שחשוב ברשתות חברתיות: אילו פוסטים יופיעו בראש הניוז פיד שלכם ואילו יוסתרו בתחתיתו או לא יופיעו בכלל (לא תמיד בהצלחה מרשימה - לי הוא מסרב משום מה להציג פוסטים של בת זוגי), אילו פרסומת תראו ומתי, אילו פוסטים יוסרו אוטומטית ואילו יועברו לבדיקה אנושית ועוד. בשנה האחרונה, על רקע סגרי הקורונה, תפקידו של האלגוריתם במערך ניטור וצנזור התוכן אף התעצם לאור הקשיים בהפעלת מערך הבודקים האנושיים של החברה, ותפקידו בהקשר זה מרכזי מתמיד.

פייסבוק צילום: שאטרסטוק

שום חברה לא תמהר לחשוף לגוף חיצוני איך מפותחים ועובדים המנגנונים הפנימיים שלה, בדיוק כמו שקוקה קולה לא תפרסם בפייסבוק את הנוסחה החשאית שלה. ועכשיו באים חברי המועצה המפקחת, גוף שרק התחיל לפעול, שפייסבוק הקימה לא משיקולים אידיאולוגיים נעלים אלא כאמצעי להשתקת הביקורת עליה והעברת הלחץ למקור אחר, ומבקשים לראות את האלגוריתם שלה? זה שהיא בנתה בעמל רב ושמנהל את המוצר החשוב ביותר שלה? מי הם חושבים שהם בכלל, ומה הם מתעסקים באלגוריתם? שיתמקדו בהסרה והחזרה של פוסטים, ולא ידחפו את האף שלהם למקומות לא קשורים.

אבל כשמבינים את האופן שבו פועלת המועצה, ואת השינוי התפיסתי המשמעותי שהיא כבר עשתה בשיח סביב חופש הביטוי ברשתות חברתיות. שינוי כל כך משמעותי, שאם פייסבוק ורשתות חברתיות ישכילו לאמץ את העקרונות שביסודו הוא יפתור רבים מהקשיים שאתן הן מתמודדות כיום. שינוי שאם מבינים את העקרונות שהובילו אליו, פתאום הרצון לבחון את האלגוריתם של פייסבוק נראה אחרת לגמרי.

כדי להבין את השינוי הזה צריך קודם כל לדבר על עיזים. או, ליתר דיוק, על נשים שמניקות עיזים. הוויכוח סביב תמונות הנקה בפייסבוק הוא מהראשונים והמוכרים ביותר ברשת החברתית. בהתחלה, היתה לרשת החברתית מדיניות בסיסית בכל הנוגע לתמונות עירום, שפשוט קבעה "בלי עירום". זו הגדרה לא מספיקה בעליל, ובהתאם היא הורחבה לאורך השנים. תחילה בלי אברי מין נשיים וגבריים חשופים, אחר כך גם בלי שדיים נשיים חשופים, ואז מה זה בדיוק שד נפשי חשוף – רק כשרואים פטמה, או אולי גם חלק מהעטרה? ומתי תמונה של אישה מניקה מפירה את המדיניות הזו?

במשך שנים נראה היה שפייסבוק מנהלת מלחמת חורמה נגד תמונות של נשים מניקות, ומחאות בנושא היו בין הסערות הגדולות הראשונות שאתן נאלצה החברה להתמודד. פייסבוק בסופו של דבר הגיבה ללחץ ואישרה תמונות כאלו במגבלות מסוימות, אך כל פעם נאלצה להרחיב אותן כשהתברר שהן אינן תואמות לרוח הציבורית. אם בהתחלה התירה החברה תמונות הנקה, אך הסירה תמונות שבהן יש שד חשוף ותינוק שנרדם בגמר ההנקה, מחאות נוספות אלצו אותה להרחיב את ההגדרה ולאפשר גם תמונות כאלו

עז צילום: שאטרסטוק

אבל לא משנה כמה כללים מפורטים ומדוקדקים תקבע, תמיד יהיה משהו שחורג מהם ולא ברור איך להתמודד אתו. כמו בפעם ההיא ב-2011 כשאחד מבודקי התוכן בפייסבוק נתקל בתמונה של אישה מניקה עז. אישה מניקה עז? זה בטוח איזו סטייה מינית מוזרה, לא? פייסבוק הסירה את התמונה, ועדכנה את המדיניות שלה כך שהבהירה: הנקה של תינוקות אנושיים בלבד, לא חיות.

אבל מה מתברר? שזו לא סטייה מינית, שאין לתמונה הזו שום הקשרים מיניים. שמדובר, למעשה, באסטרגיית הישרדות מקובלת בת מאות שנים בקניה, במסגרתה בתקופת בצורת אישה שמניקה תינוק תניק לפעמים גם גדי צעיר כדי למנוע ממנו למות. שום דבר מיני, בקניה לפחות.

הבעיה היא שפייסבוק רוצה לקבוע מדיניות גלובלית אחידה, כללים מפורטים שיהיו תקפים בכל מקום בעולם, לכל שפה, ויאפשרו לה ליצור מדיניות תוכן אחידה. מדיניות זו התנפצה כמה פעמים על קרקע המציאות, כמו במקרה של הגדי היונק. אי אפשר לקבוע מדיניות אחידה, מכיוון שתוכן שנתפס במקום אחד כלגיטימי ומקובל – אקט של חסד להצלת בעל חיים – יכול להתפס במקום אחר, על ידי אנשים אחרים, כאסור ובזוי.

פיד הפייסבוק

פייסבוק מודעת לסוגיה הזו, והיא עלתה מדיוני מבחן שערכה עם פאנלים במדינות שונות במסגרת הליך הקמת המועצה המפקחת. אחד המקרים שהעלתה החברה בהליך זה היה סביב פוסט מ-2018 של הסטנדאפיסטית האמריקאית מרשיה בלסקי, ובו תמונה חמודה במיוחד שלה בגיל 8 עם הכיתוב הפחות חמוד "Kill All Men". פייסבוק הסירה את הפוסט בטענה שהוא מפר את כללי השימוש שלה. אך כשהציגה את המקרה לפאנלים שונים, במדינות כמו ארה"ב, גרמניה וסינגפור דווקא אמרו שהוא היה צריך להשאר כי ברור שמדובר בבדיחה. אולי לא מוצלחת במיוחד, אך בהחלט בדיחה ואין סיבה להתייחס אליו פשוטו כמשמעו.

אבל כשהוצג לפאנל שהתכנס בניירובי, קניה המוסכמה היתה שצריך להוריד אותו, ומהר. למה? ברהאן טאיי, מארגון Access Now, שהשתתפה בפאנל בניירובי, הסבירה לתוכנית הרדיו Radiolab, שבאפריקה הזיכרונות ממהומות אלימות, שפרצו באוקטובר 2019 באתיופיה ושבהן נהרגו עשרות אנשים, עדיין טריים מדי. הטריגר למהומות היה פוסט פייסבוק של מנהיג האופוזיציה במדינה, שקרא להרוג את כל המיעוטים. "זה מצחיק, אבל הומור הוא מותרות", היא אמרה. "תוכן שאומר לאנשים, אם השכן שלך הוא מקבוצה אתנית אחרת צא ותהרוג אותו, ראינו מה תוכן כזה יכול לעשות. חיינו את זה, אז זה לא משהו שאנחנו מתבדחים עליו".

להתמודד עם הבדלים תרבותיים

מה שבמדינה אחת הוא בדיחה מגוחכת, במדינה אחרת מעורר זיכרונות מטראומה קטלנית. וגם זה תלוי זמן, כי ייתכן שאם הדיון על הפוסט היה מתקיים בניירובי ב-2018, התגובות שם היו שונות לחלוטין. המורכבות הזו גרמה לרבים להניף ידיים בייאוש, ולזעוק: אין פתרון, אין מה לעשות, אי אפשר לגבש כללים גורפים לניהול תוכן ברשת שיתמודדו בהצלחה עם כל המורכבויות וההבדלים התרבותיים בין המדינות, לא משנה איזה כלל נקבע, תמיד יהיה מקום שבו הוא לא יהיה מקובל. כל החלטה שנקבל, לעולם לא תוכל להיות גלובלית ואחידה.

מה שמוביל לשינוי התפיסתי שמובילה המועצה המפקחת, ושניכר כבר במקבץ ההחלטות הראשון שלה. במועצה המפקחת הבינו שהמורכבות הזו אינה הבעיה אלא הפתרון, שבאמת אי אפשר לקבוע כללים אחידים וגלובליים, אבל גם שלא צריך. שהעקרון המנחה לניהול תוכן הוא לא מערכת אחידה של כללים שקובעים מה מותר ומה אסור, אלא מערכת גמישה יותר ששואלת לא האם פוסט זה או אחר מפר את הכללים, אלא איך נתפס הפוסט על ידי הכותב וקהל היעד שלו בעת פרסומו.

עו"ד אמי פלמור צילום: תומי הרפז

"השאלה של השפה והתרבות רלוונטית בלפוסט שעליו מערערים", אמרה לי בינואר עו"ד אמי פלמור, חברה במועצה המפקחת. "מי המפרסם, האם הוא דמות ציבורית, מה אזורי ההשפעה של הפוסט, אל מי הוא מדבר וכמה אנשים שומעים אותו. חלק מהפוסטים פורסמו בקבוצות, אז צריך להבין מה התפוצה של הקבוצה, מי הקוראים ומי הנפגעים האפשריים, ואיפה עלול להיווצר נזק בעולם האמיתי".

המועצה אומרת, למעשה, אל תתמקדו בכללים גלובליים אחידים, הם לא מסוגלים להבין את כל המורכבויות שעולות מהשיח האנושי. השאלה שיותר חשוב לשאול היא איך מבין את הפוסט מי שמחבר אותו, קהל היעד שלו ומי שנחשף אליו (שני האחרונים לא בהכרח זהים). בדיחה במדינה אחת היא טראומה במדינה אחרת, אז לא תנסו להבין אם פוסט הוא מצחיק או טראומטי אלא תשאלו איך מי שנחשף לפוסט בזמן אמת הבין אותו. זו תפיסה שאומרת, אי אפשר לרצות את כולם, אי אפשר ליצור פתרון אחד שמתאים לכל, ואין גם טעם לנסות. צריך למצוא את הפתרון הטוב ביותר בהתחשב בנסיבות. זה אמנם מייצר אתגרים חדשים לאופן שבו פייסבוק מפעילה את מערך ניטור התוכן שלה, אולי אפילו דורש תכנון מחדש שלו מהיסוד, אך זו כבר סוגיה ליום אחר.

וכאן אנחנו חוזרים לאלגוריתם ולסיבות שהמועצה צפויה לבקש לבחון אותו. ביסוד השינוי התפיסתי שהיא מובילה עומדת ההבנה שהגישה לניהול תוכן צריכה להיות רחבה, מכילה ומרובת פנים. האלגוריתם הוא אחד מהפנים האלו. "אנחנו רוצים להבין אך האלגוריתם עובד, איך הוא משפיע, ומתוך זה נוכל אולי לגזור המלצות אחרות מאלו שהצגנו עד עכשיו", הסבירה אתמול (א') פלמור ל"דו"ח טכנולוגי". "זו המשמעות האמיתית של הצבת הסוגיה הזו על סדר היום. זה עוד כלי רלוונטי. הניתוח בהגדרה לא יהיה גלובלי אלא ישתנה על בסיס גורמים שונים. יכלו להיות שגם לאלגוריתם יש ניואנסים. אנחנו שואלים שאלות בכל התחומים, בכל המקומות שבהם מתעוררות שאלות. לא צריך להבהל מזה שאמרנו את מילה אלגוריתם. אנחנו לא מנסים לפצח סוד מסחרי כמו איך הוא מייצר טראפיק. זה בהקשר של להבין רציונל, והאם אפשר לנסח בהתאם הנחיות מדיניות בסיטואציות מסוימות. אף אחד לא אומר, תנסו להסביר לנו איך הוא נבנה, איך הוא מפותח. אנחנו מדברים על רציונל, על מדיניות בפיתוח האלגוריתם, איך זה משפיעה עליו והאם אפשר להשפיע על מדיניות הפיתוח".

מועצת הפיקוח כבר הדגימה שיש פתרון לסוגיית ניהול חופש הביטוי ברשתות חברתיות, הוא פשוט לא פשוט ואחיד. והוא גם לא סופי. זה פתרון מתגלגל, שיאלץ להתאים את עצמו לזמנים, לנסיבות ולגורמים משתנים תדיר. האלגוריתם הוא אחד הגורמים המשמעותיים האלו. יכולת להבין איך הוא עובד, לפי אילו כללים הוא מפותח, והאם אפשר לשפר את הכללים הללו על מנת להפוך אותו ליותר טוב, כך שידע להתמודד בצורה טובה יותר עם דקויות והבדלים תרבותיים ולאומיים, היא קריטית על מנת לשפר את ניהול התוכן בפייסבוק וברשתות חברתיות אחרות. בהקשר הזה, הרצון של המועצה המפקחת לבחון את האלגוריתם הוא לא הזוי ומופרך אלא דוווקא מתבקש, אולי אפילו הכרחי.