מנהלי עמוד בפייסבוק יקבלו התראות על גולשים אלימים
מנהלי עמוד בפייסבוק יקבלו התראות על גולשים אלימים
חסל סדר קללות וקטטות בפיד? הרשת החברתית השיקה כלי בינה מלאכותית בשם Conflict Alerts. המטרה: התרעה על שיח אלים ומתלהם
פייסבוק השיקה אמש (ד') סדרה של כלים חדשים למנהלי דפים וקהילות ובהם דרכים חדשות לעשות סדר בפוסטים, לסייע בקידום תכנים אבל בעיקר כלי שיתריע על שיח אלים ומתלהם. ברשת החברתית מסבירים שמדובר באמצעי מבוסס בינה מלאכותית שמסוגל לזהות "שיח שמנסה לחרחר ריב או שיח לא בריא". בפועל מדובר בכלי שאמור לזהות מילות מפתח או ביטויים שעשויים להעיד על התנהלות אלימה מסתמנת.
הכלי החדש מכונה Conflict Alerts או התראות על סכסוכים. והוא דומה מאוד לכלי קיים שדרכו המנהלים יכולים להגדיר מראש מילים או ביטויים שדורשים בדיקה או שאסורים לפרסום. כלי ה-AI החדש אמור לקחת את זה צעד אחד קדימה וגם לספק ניתוח של הפוסט או התגובה ולנסות לקטלג אותם בהתאם. הכלי מתבסס על מודלים של לימוד מכונה - אבל לא ברור איך אלה פועלים בשטח ובפייסבוק לא ממש הרחיבו בנושא.
מהרגע שמנהל מקבל התראה כזו הוא יכול לטפל בפורע במגוון צורות: מחיקת התגובות, סילוק המשתמשים הבעייתיים, הגבלת היקף התגובות שהגולש יכול ליזום או הגבלת התגובות האפשריות על פוסט מסוים. הכלי צפוי להשתמש גם ב"סימנים שונים" שעשויים להעיד על כך שהשיח מידרדר.
מדובר ככל הנראה בכלי שדומה מאוד למערכות ה-AI הקיימות של פייסבוק - אותן אלה שזיהו את הביטוי "עוגה כושית" כהפצת גזענות - מה שעשוי לגרום ללא מעט התראות שווא. הומור, סאטירה, ציניות וסרקזם לא באמת קלים לזיהוי ללא הבנה של רקע השיחה והם עשויים לגרום ללא מעט התראות לאדמינים - עד שהמערכת תלמד לזהות את השיח הבעייתי, אם בכלל.
כלים נוספים שיושקו כוללים דף בית חדש למנהלים שכולל לוח בקרה עם ניטור של כל מה שקורה בדף או בקהילה שלכם, וכאמור כלי ניהול המשתמשים שמאפשר להגדיר את מדיניות הפרסום בעמוד. בכל אופן הכלים האלה זמינים כבר כיום גם בישראל, למעט כלי ה-AI שנמצא בינתיים בשלבי הפצה וטרם הושק בארץ. בכל מקרה הוא כנראה עדיין לא יפעל בעברית כל כך מהר כאשר בדוברות החברה ציינו מסגרת זמן של "חודשים".
