פאשלה במיקרוסופט: עיתונאי ה-AI של החברה טעה בזיהוי תמונה של שתי זמרות ידועות
המערכת המיועדת לבצע סינון של תכנים ולהעלות אותם לאתרי חטיבת MSN טעתה בזיהוי של שתי זמרות בריטיות ידועות, שתיהן ממוצא אתני מעורב, מה שגרם למבוכה בחברה לאחר שאחת מהן העלאה תגובה זועמת לאינסטגרם
החלטתה של מיקרוסופט להחליף
עיתונאים במערכת בינה מלאכותית
כנראה בוצעה קצת בחופזה. על פי דיווח הגארדיאן אתמול (ג'), המערכת המיועדת לבצע סינון של תכנים ולהעלות אותם לאתרי חטיבת MSN טעתה בזיהוי של שתי זמרות בריטיות ידועות, שתיהן ממוצא אתני מעורב, מה שגרם למבוכה בחברה לאחר שהאירוע נחשף על ידי אחת מהן שגם העלתה את הסיפור עם פוסט נוזף לאינסטגרם.
בינה מלאכותית צילום: שאטרסטוק
סאטיה נאדלה מנכ"ל מיקרוסופט צילום: גטי
קראו עוד בכלכליסט:
- מיקרוסופט החליפה עיתונאים בבינה מלאכותית - האם לעיתונאים האנושיים יש סיבה לדאגה?
- מיקרוסופט: בינה מלאכותית תחליף עורכים ב-MSN
- אינטל ומיקרוסופט משקיעות בחברה החשאית מקריית־גת
הזמרות, ג'ייד ת'ירלוואל ולי-אן פינוק מלהקת הפופ המצליחה Little Mix, לא לקחו את הטעות בקלות. שתיהן כבר סבלו מגזענות בעבר ולא נדיר שהתמונות שלהן מועלות לאתרי חדשות כשאחת נתפסת כשנייה ולהיפך. "זה קורה לנו כל הזמן", כתבה ת'ירלוואל בסטורי שהעלתה. "זה מאוד מעליב שאתם (מיקרוסופט, ר''ק) לא מסוגלים להבחין בין שתי נשים צבעוניות מתוך להקה של ארבע נשים", הוסיפה.
בינה מלאכותית צילום: שאטרסטוק עוד נכתב ש"אם MSN כבר מבצעים העתק-הדבק לכתבות מאתרי חדשות אחרים, כדאי מאוד שתוודאו שאתם משתמשים בתמונה של האישה הצבעונית הנכונה בלהקה".
הסיפור אולי נשמע כפיקנטריה צהובה, אך הוא מעיד שמערכות בינה מלאכותית עדיין סובלות מהטייה מובנית. עם כי במקרה הזה הטעות אולי גם מקורה בכך שתיוג התמונה היה שגוי מה שהביא את המערכת להעלות את התמונה הבעייתית. מערכת ה-AI החליפה כ-80 עיתונאים במספר מערכות של MSN ברחבי העולם. אלה לא כתבו אך ערכו את מבחר הכתבות שפורסמו באתר ושמקורם באתרי חדשות חיצוניים.
סאטיה נאדלה מנכ"ל מיקרוסופט צילום: גטי טעות מעין זו היא בדיוק מסוג התקלות שעורך אנושי אמור לזהות. עם זאת לדברי ת'ירלוואל עצמה זו לא הפעם הראשונה שטעויות מעין אלה קרו לה. אפילו ה-BBC נתפס בקלקלתו כאשר הועלתה תמונה של שחקן ה-NBA הידוע לברון ג'יימס לכתבה שסיקרה את מותו של שחקן ה-NBA קובי בריאנט שמשחק באותה הקבוצה.
מיקרוסופט הפכה למאוד מגוננת על החלטתה. היא אף הודיעה לעובדים האנושיים הנותרים ב-MSN שהם צריכים לשים לב לכתבות ביקורתיות על המהלך שלה שעשויות לעלות לאתר דרך המערכת ולהסיר אותן.
