טוויטר מודה: ייתכן שיש לנו בעיה בזיהוי פנים של אנשים כהי עור
משתמשי הרשת החברתית שמו לב לתופעה בה תמונות פנים של אנשים כהי עור הוסתרו על ידי הבינה המלאכותית של האפליקציה בתצוגה מקדימה של ציוצים. לא ברור אם מדובר בתופעה שנובעת מבעיה במנגנון התצוגה המקדימה או בבאג. בכירי החברה עודדו את המשתמשים לבצע ניסויים כדי לנסות ולברר מהיכן מגיעה הבעיה
טוויטר החלה בבדיקה עקב תופעה שנצפתה ברשת בה תמונות פנים של אנשים כהי עור הוסתרו על ידי הבינה המלאכותית שלה בתצוגה מקדימה של ציוצים. משתמשי טוויטר שמו לב לתופעה במהלך סוף השבוע כאשר תמונות בהן הופיעו פנים של אנשים לבני עור וכהי עור יחדיו הראו בתצוגה המקדימה לרוב את פניהם של לבני העור והסתירו את פניהם של כהי העור. במילים אחרות, נראה שהבינה המלאכותית של טוויטר העדיפה להראות פנים לבנות על פני פנים כהות בתצוגה מקדימה.
לא ברור אם מדובר בתופעה שנובעת מבעיה במנגנון התצוגה המקדימה של הרשת החברתית או בבאג. אך המשתמשים מיהרו לבדוק את התופעה במאות שילובים של תמונות פנים של לבנים ושחורים. ברוב המוחץ של המקרים שנוסו, בין היתר תמונות של ברק אובמה ומייקל ג'קסון, המערכת של טוויטר הציגה את הפנים הבהירות יותר. המשתמש הראשון שהעלה את הבעיה בכלל ניסה לבדוק למה תופעה דומה מופיעה באפליקציית הווידאו צ'ט זום כאשר פנים של קולגה שחור לא הופיעו במהלך שיחות ועידה עימו.
לא מזהה כהי עור? צילום: שאטרסטוק
באופן מפתיע, התופעה גם חזרה על עצמה בציורים ואיורי קומיקס. כך למשל משתמש מצא ששילוב של דמויות ממשפחת סימפסון, לני וקארל, שהם שחור ולבן בהתאמה הראו רק את התמונה המקדימה של לני הלבן בעוד קארל השחור מוסתר.
מפתחי טוויטר הטמיעו לאחרונה מנגנון בינה מלאכותית מבוסס רשתות נוירונים שאמור ללמוד כיצד לחתוך תמונות ולייצר מהן תצוגה מקדימה. הפיתוח הזה אף זכה לפוסט מיוחד בבלוג הפיתוח של טוויטר והתבסס על מנגנון זיהוי פנים. אך לדבריהם המנגנון עדיין בעייתי כי הוא לא ידע להתמודד עם תמונות ללא פנים. סמנכ''ל העיצוב של טוויטר דנטלי דייוויס, שהוא שחור עור, אף נדרש לעניין והראה שבמקרים מסוימים המנגנון דווקא פועל כמצופה ומראה את תמונת השחור לפני.
בעיות זיהוי פנים במערכות בינה מלאכותית אינן חדשות. עד כה נמצאו אלפי מקרים בהן מערכות אלו נכשלו בהתמודדות עם פנים של אנשים בצבע עור או תווים שונים מלבנים. יתרה מזאת, אפילו מערכות זיהוי פנים של משטרות או סוכנויות ממשל הראו הטייה מובנית כזו. ההשערה היא שהבעיה נעוצה במאגרי התמונות המשתמשים לאימון מנגנוני הזיהוי של המערכות האלה. אלה לרוב מציגים אנשים לבנים לעומת מיעוט של שחורים או אנשים ממוצא אסייתי למשל. אך לא ברור אם מדובר רק בזה או גם בבעיה מובנית באלגוריתמים שמשמשים לזיהוי למשל בדרך בה הם מנתחים את התמונה ומפרידים בין הדמות לרקע או לתווי הפנים.
כך או כך, על פי דיווח של מאשבל היום (ב'), טוויטר הודיעה שהיא בודקת מהיכן מגיעה הבעיה. סמנכ''ל הטכנולוגיות פאראג אגראוואל, שהינו ממוצא הודי, הודה שמדובר בשאלה חשובה שהחברה תצטרך לבצע שיפור מתמשך של המערכות. בכירי החברה עודדו את המשתמשים לבצע ניסויים כדי לנסות ולברר מהיכן מגיעה הבעיה, מעין שימוש בחוכמת ההמונים כדי למנוע בעיות בדימוי הליברלי של הרשת החברתית.
