אינסטגרם תשתמש ב-AI לזיהוי בריונות ואלימות בתמונות
הרשת החברתית הודיעה שפיתחה כלי שיודע להבין איזו תמונה היא פוגענית ולסמן אותה כמועמדת להסרה, לזהות תגובות פוגעניות גם בזמן שידור חי ואפילו פילטר שמפרגן למשתמשים שמביעים חיבה וטוב לב. איך זה עובד? שילוב של למידת מכונה ועובדים אנושיים
אינסטגרם הודיעה אמש (ג') שהחלה להשתמש בטכנולוגיה חדשה שנשענת על AI כדי לזהות התנהגות בריונית או אלימה בתמונות המועלות אליה. אדם מוסרי, המנהל החדש של החברה, הסביר שהמערכת סורקת תמונות וטקסט שמעלים הגולשים, אך לא פירט את דרכי פעולתה. ככל הנראה שמדובר בכלי למידת מכונה שמזהה תכונות משותפות לפעילות בריונית, מאיימת ובוטה ברשת.
- מעצב, מקורב, מעורב: הכירו את אדם מוסרי, הבוס החדש של אינסטגרם
- צוקרברג בעט את מייסדי אינסטגרם בדרך אל הכסף הגדול
- לא מסתדרים עם צוקרברג: מייסדי אינסטגרם התפטרו
המערכת כוללת מספר אלמנטים, ביניהם "פילטר בריונות רשת" לתגובות, שמסוגל לפעול במהלך שידור חי ולסנן תגובות בעייתיות. בנוסף, כללה בה אינסטגרם תכונה בשם "אפקט טוב לב למצלמה" שנועד לדרבן את המשתמש לפעולה חיובית מול אחרים, עם שימוש בסטיקרים של לבבות וחיוכים, ופילטר ייעודי שמדגיש חיוך בתמונה. המערכת תכלול גם אפשרות לסינון ידני של ביטויים שהמשתמש ירצה להרחיק מהפיד שלו, אך היא תקפה לטקסט בלבד ולא לתמונות.
מזהה פעילות בריונות ברשת. אינסטגרם צילום: TechCrunch
לדברי מוסרי, המערכת נעזרת במפעיל אנושי לווידוא תוצאותיה לפני שפוסטים חשודים נמחקים. אינסטגרם לא סיפרה אילו עצמים בתמונות מקושרים לשיח שנאה או האם יש תמונות שמביעות שנאה מטבען. קשה להאמין שהכלי יעבוד בצורה מושלמת, שכן טכנולוגיות הבינה המלאכותית שבידי חברות המדיה החברתית פשוט אינה מתקדמת דיה.
החברות נמצאות תחת לחץ עצום - הן מצד הרשויות והתקשורת וגם מצד המשתמשים - למשטר את התכנים שמופצים דרכן. הבעיה היא שכמו שהחברות משיקות כלים למאבק בתופעה, כך גם בריוני הרשת לומדים לעקוף אותם. מה שהופך את המאבק בהם לסיזיפי ויקר מאוד.
