אפשר הקשר? הסיבה שבינה מלאכותית כושלת בניהול תוכן

זו הסיבה שמערכות בינה מלאכותית כל כך מתקשות כשהן מתמודדות עם המשימה המונומנטלית של ניטור רשת חברתית כמו פייסבוק, שבה מיליארדי משתמשים יוצרים מיליארדים רבים של פוסטים ותגובות. הן יודעות רק מה שמלמדים אותן, מגיבות לקלט שהן מקבלות. הן יכולות ללמוד לזהות מילים שנחשבות "רעות" בשפות או תרבויות מסוימות ולצנזר אותן אוטומטית, אבל מתקשות כשהן צריכות לעמוד על הקשר וניואנסים עדינים ולא פעם נופלות כושלות בצורה מביכה.

פייסבוק, במיוחד, התקשתה לא פעם בסוגיית ההקשר. המערכות שלה כבר טובות מאוד בזיהוי מלים או פוסטים בעלי פוטנציאל בעייתי, אבל מתקשות פעם אחר פעם כשהן נדרשות לנתח את סוגיית ההקשר שבו נאמרו הדברים ולהבין האם אכן מדובר בהפרה של כללי הקהילה שלה או לא. בישראל, מקרה ידועה לשמצה התרחש לפני כארבע שנים כשפייסבוק החלה לצנזר על ימין ועל שמאל פוסטים שכללו את המילה "כושי".

בינה מלאכותית צילום: שאטרסטוק

אפשר להתווכח האם אכן מדובר במילת גנאי בעברית, מעין מקבילה מקומית ל-Nigger הידועה לשמצה, זו מוקצה כל כך בשיח האמריקאי שכמעט אף אדם שפוי לא יעז להוציא אותה משפתיו ויתייחס אליה רק כ-The N Word. בהחלט אפשר לטעון שאולי בעבר "כושי" היתה מילה נטולת משמעויות שליליות, אך בהשפעת התרבות האמריקנית ואולי גם לאור גורמים קיצוניים שפועלים לפגוע באוכלוסיית מבקשי המקלט בדרום תל-אביב היא אימצה משמעויות פוגעניות ולכן יש מקום לחסום אותה.

דילמה זו בפני עצמה היא סוגיה רבת משקל, שמעלה שאלות עמוקות כמו האם עצם העובדה שפייסבוק החליטה לצנזר את המילה בעברית תרמה משמעותית לתפיסתה כמילת גנאי. אבל הבעיה של פייסבוק במקרה זה היתה בסיסית יותר. היא לא צנזרה רק שימוש במילה כושי כשהיא מתייחסת לבני אדם, אלא גם מתכונים ל"עוגה כושית". ואם אפשר לנהל ויכוח (שפייסבוק לא מאפשרת, כי היא מקבלת החלטות בצורה חד-צדדית ולא תמיד שקופה) בשאלה האם ראוי להשתמש במילת גנאי כשם למתכון, בהנחה שבכלל הסכמנו שזו מילת גנאי, הרי שבמקרה אחד פייסבוק טעתה ללא ספק: שכשצנרה פוסט של גורי אלפי, ובו קרדיט לצלם גיא כושי.

פייסבוק לא הבינה אז את ההקשר הפשוט והבסיסי ביותר, ואף שהמערכות שלה השתפרו בארבע השנים שחלפו, היא ממשיכה להתקשות כשמדובר בהקשרים מורכבים יותר. הדבר ניכר במקבץ ההחלטות הראשון של המועצה המפקחת של פייסבוק, שהחליטה להפוך החלטה של הרשת החברתית לחסום פוסט שהיה למעשה ציטוט שמיוחס ליוזף גבלס. לפייסבוק יש מדיניות שלא להתיר ציטוטים מפרטים וארגונים מסוכנים (שמנויים ברשימה שהיא אינה חושפת לציבור). לכאורה, מדיניות ראויה – למה לאפשר לרשות החברתית להפוך לשדה משחקים של ניאו-נאצים שמצוטטים את היטלר כדי לקדם תעמולה אנטישמית?

צנזורה ברשת צילום: שאטרסטוק

אבל, כפי שמצאה המועצה, פייסבוק כשלה כאן בהבנת ההקשר. מחבר הפוסט לא פרסם את הציטוט כתמיכה בעמדות גבלס ובמעשיו, אלא כביקורת על נשיאותו של דונלד טראמפ. חבריו של מפרסם הפוסט הבינו את ההקשר, כפי שעלה מהתגובות שהתפרסמו לו. האלגוריתם של פייסבוק כשל. כמו שהוא כשל בהחלטה אחרת שהפכה המועצה ובה התירה פוסט שכלל תמונה של שד חשוף – לכאורה הפרה של כללי פייסבוק על עירום – אחרי שמצאה שמדובר למעשה בפוסט רפואי אינפורמטיבי שנועד להציג סימנים מקדימים לסרטן שד ושהתמונות היו קליניות ולא אירוטיות באופיין.

הקשר חשוב. הכוונה של מחבר הפוסט, הקהל שאליו הוא מדבר, מעגל ההשפעה שלו – כולם גורמים רלוונטיים בהחלטה האם להסיר פוסט כלשהו, לא רק הדברים עצמם מנותקים מהמסגרת הרחבה שלה, ובסוגיה זו פייסבוק כושלת שוב ושוב. ועכשיו, נראה שהרשת החברתית צועדת ישר, אולי אפילו במכוון, לעוד מלכודת מסוג זה, לדיון סביב סוגיה נפיצה במיוחד שבה ההקשר הוא בעל סוגיה ראשונה במעלה, דיון שבמרכזו נמצאת המילה "ציוני".

בעבור מרבית תושבי ישראל, ציונות היא מילה חיובית במובהק, ורבים מתייחסים לעצמם בגאווה כציונים. התפיסה של ציונות בישראל כל כך חיובית, בצורה כל כך מכרעת, שלא פעם כינויים כמו אנטי-ציוני או פוסט-ציוני מוטחים כמילת גנאי במיעוטים פוליטיים, בעיקר משמאל. גם בארה"ב בקרב רבים לציונות יש הקשרים חיוביים. נשיא ארה"ב, ג'ו ביידן, אמר בביקור בישראל לפני כעשור שהוא "מגדיר עצמו כציוני", הצהרה שהתקבלה בברכה.

מנגד, יש לא מעט גורמים שמשתמשים בציונות ובציונים בהקשרים שליליים. כשאיראן מדברת על "היישות הציונית", אפשר להיות בטוחים שזה לא נעשה מחיבה יתרה למדינת ישראל, ובקרב אנטישמים וניאו-נאצים "ציוני" מוצמד ככינוי גנאי ליהודים וגורמים אחרים שנתפסים כתומכים של מדינת ישראל או כחלק מהקונספירציה היהודית העולמית. המשמעות של המילה משתנה בהתאם להקשר שלה.

מארק צוקרברג, מייסד ומנכ"ל פייסבוק צילום: בלומברג

זו הסוגיה שפייסבוק נועצת בה את שיניה בחודשים האחרונים. אמש דיווחנו כי כמה ימים אחרי הבחירות לנשיאות ארה"ב, עובד פייסבוק שלח אימייל לגורם חיצוני (שזהותו לא ידועה) וביקש לדון אתו על שינוי אפשרי בכללי הקהילה של הפלטפורמה. "אנחנו בוחנים איך לפרש מתקפות על 'ציונים' כדי לקבוע האם המונח משמש כמסווה למתקפה על יהודים או על ישראלים", הוא כתב. "למונח יש הרבה היסטוריה ומשמעויות שונות, ואנחנו רוצים להגדיל את ההבנה שלנו לגבי השימוש שנעשה בו בפלטפורמה שלנו".

האימייל עורר סערה בחוגים מסוימים בשמאל האמריקאי, כאשר עצומה משבוע שעבר קוראת לפייסבוק שלא לשנות את מדיניותה בכל הנוגע למילה. "המדיניות המוצעת תאפיין באופן שגוי שיחות על ציונים – ובהרחבה על ציונות – כאנטישמיות באופיין", נכתב בה. "הדבר יפגע במשתמשי פייסבוק ויערער מאמצים להתמודד עם אנטישמיות אמיתית וסוגים אחרים של גזענות, קיצוניות ודיכוי. אנחנו לא יכולים להילחם באנטישמיות אם הקולות והדעות שלנו נחסמים". העמותה, שיזם ארגון Jewish Voices for Peace (JVP), צברה כבר יותר מ-30 אלף חתימות, כולל של אמנים מוכרים כמו הסופר זוכה הפוליצר מייקל שייבון, המוזיקאי פיטר גבריאל והשחקן ולאס שון (אתם מכירים אותו כוויזיני מ״הנסיכה הקסומה״).

פייסבוק לא ערערה על האותנטיות של האימייל בתגובה שלה לאתר The Verge, שפרסם לראשונה את הדברים, או הכחישה שהיא בוחנת סיווג מחדש של המילה "ציוני". "אנחנו מתירים את השימוש במונח 'ציוני' בשיח פוליטי, אבל מסירים אותו כשהוא משמש ככינוי לביצוע דיהומנזיציה או באלימות כלפי יהודים וישראלים", נמסר מהחברה. "כמו שאנחנו עושים עם כל המדיניות שלנו, אנחנו עובדים מול מומחים ובעלי עניין כדי לוודא שמדיניות זו נכונה, אבל זה לא אומר שנשנה אותה". וגם, אפשר להבין מהתגובה, לא אומר שהחברה לא תשנה אותה.

המדיניות שעליה מצהירה פייסבוק היא, לכאורה, שקולה וראויה, כזו שמתייחסת להקשר שבו נעשה שימוש במילה. אבל המשנה למנהל JVP, אליסה ווייז, גם אתה יש בעיות: "הגבלת המילה 'ציוני' כחלק ממדיניות ביטוי שטנה לא הופכת יהודים לבטוחים יותר. שינויים אפשריים של פייסבוק יימנעו ממשתמשים להטיל על ממשלת ישראל את האחריות לפגיעה בפלסטינים. חברות מדיה חברתית צריכות לאפשר לאנשים להטי על ממשלות אחריות, לא להגן על ממשלות ממנה".

ווייז חוששת למעשה מהיכולת של פייסבוק להתמודד עם הקשר, לא רק במקרה של שינוי במדיניות והחמרתה אלא גם תחת המדיניות הנוכחית שבה המילה מוגבלת בשימושים מסוימים. האם פוסט שמבקר את הממשלה הציונית הוא ביקורת לגיטימית על מדינת ישראל, או פשוט מתקפה אנטישמית על מדינת היהודים? אין תשובה חד-ערכית לשאלה הזו, כי היא תלויה בהקשר של אותו פוסט תיאורטי. אין סט אחד של כללים שפייסבוק יכולה להחיל על המילה "ציוני", ומילים רבות אחרות לצורך העניין, כי כל מקרה הוא ייחודי ודורש בחינה נפרדת.

אפליקציית פייסבוק צילום: שאטרסטוק

החשש של הפעילים מוצדק לאור ההיסטוריה של פייסבוק. הרשת החברתית הפגינה ועדיין מפגינה חוסר יכולת מתמשך לזהות ולנתח הקשרים ולהגיב בהתאם, לצד העדר שקיפות בעצם הכללים שמכווינים את ההחלטות שלה, מה שמקשה על משתמשים לדעת אפילו מתי מותר או אסור להשתמש במילה מסוימת. אם פייסבוק תהדק את הכללים, יש חשש אמיתי ששימושים לגיטימיים במלה יחסמו, ואתם גם ביקורת לגיטימית על מדינת ישראל או תומכיה, אולי אפילו דיונים בין פעילים שמנסים להילחם באנטישמיות ברשת. למשל, כאלו שמצוטטים גורמים אנטישמים כדי לחשוף את פרצופם האמיתי, ולא כתמיכה בהם, או כדי להשוות אותם לגורמים אחרים שפחות מזוהים בנטיותיהם האנטישמיות.

כל עוד פייסבוק לא משפרת משמעותית את היכולת שלה לזהות ולהבין הקשרים, כדאי לה להימנע מהידוק הכללים סביב מילים מסוימות. יש לה מספיק בעיות גם ככה.