פייסבוק נלחמת בפדופילים, איתרה והסירה 8.7 מיליון תמונות מאז יולי
הרשת החברתית הודיעה שמערכות בינה מלאכותית שפיתחה הצליחו לאתר את התוכן האסור - וב-99% מהמקרים, למחוק אותו לפני שהספיקו גולשים לדווח עליו. בנוסף, משתפת החברה את ממצאיה עם גורמי אכיפי ועם המרכז האמריקאי לטיפול בניצול ילדים
בשלושת החודשים האחרונים השתמשה פייסבוק בטכנולוגיות בינה מלאכותית כדי להסיר 8.7 מיליון תמונות עירום של ילדים - כך הודיעה הלילה הרשת החברתית. לטענתה,
99% מהתמונות הוסרו לפני שמשתמשים הספיקו לדווח עליהם.
מאתרת ומסירה. פייסבוק צילום: The Telegraph
קראו עוד בכלכליסט:
- פייסבוק חושפת אישים ותאגידים שמימנו דרכה קמפיינים פוליטיים בארה"ב
- זמן לשינוי: פייסבוק משיקה עיצוב חדש לאפליקציית המסנג'ר
- הצלחה מדומה: אוקולוס מבית פייסבוק מחסלת את חנות סרטי ה-VR
"אחד מתחומי האחריות החשובים ביותר שלנו הוא שמירה על בטיחות ילדים בפייסבוק", כתבה אנטיגונה דייוויס, מנהלת תחום הבטיחות בפייסבוק, בהודעה שפרסמה החברה. "במשך שנים השתמשנו בטכנולוגיית התאמת תמונה כדי למנוע מאנשים לשתף תמונות של ניצול ילדים. בנוסף, אנחנו משתמשים בבינה מלאכותית ולמידת מכונה כדי לאתר פרואקטיבית תמונות עירום של ילדים ותוכן לא-מוכר של ניצול ילדים עם העלאתם. אנחנו משתמשים בטכנולוגיות אחרות כדי לזהות במהירות תוכן שכזה ולדווח עליו, וגם כדי למצוא ולהתערב באינטראקציות לא ראויות עם ילדים בפייסבוק, כדי לעצור אותן ולמנוע נזק נוסף".
מאתרת ומסירה. פייסבוק צילום: The Telegraph
במקביל, הוסיפה דייוויס, פייסבוק עושה שימוש נרחב בצוותים אנושיים: "יש לנו צוותים שעברו הכשרה מיוחדת, עם רקע באכיפת חוק, בטיחות מקוונת, אנליטיקה וחקירות פורנזיות, שבוחנים תוכן ומדווחים על הממצאים למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC). המרכז, בתורו, עובד עם סוכניות אכיפת חוק בכל העולם כדי לעזור לקורבנות, ואנחנו עוזרים לארגון לפתח תוכנה חדשה שתסייע לתעדף את הדיווחים שהוא משתף עם רשויות אכיפת חוק כדי לטפל קודם במקרים החמורים ביותר".
עם זאת, מערכת הבינה המלאכותית של פייסבוק אינה מושלמת, ובשנה האחרונה התלוננו מפרסמים וגופי חדשות שהרשת החברתית חוסמת פוסטים שלהם שלא אמורים להיחסם. בראיון לרויטרס הודתה דייוויס שהמערכת עלולה לשגות, אך הוסיפה: "כשמדובר בילדים, אנחנו מעדיפים לשגות בצד של זהירות יתר".
