מובילת צוות האתיקה בגוגל פוטרה וטוענת: "צנזרו אותי"

חוקרת אתיקה שעמדה בראש צוות הבינה המלאכותית בגוגל טוענת שפוטרה לאחר שפרסמה מאמר שקורא לענקיות הטכנולוגיה לעשות יותר על מנת להימנע מאפליה בתחום. בתגובה מוחים עובדי גוגל וחוקרים אקדמיים: "אי אפשר לכתוב כל הזמן רק מאמרים שישמחו את החברה ולא מצביעים על בעיות. זה לא אתי"

מעל 1,200 מעובדי גוגל ו-1,500 חוקרים אקדמיים מחו בימים האחרונים נגד פיטוריה של המדענית טימניט גברו (Timnit Gebru) מענקית הטכנולוגיה. גברו, מדענית שחורה שחוקרת את האתיקה של בינה מלאכותית הודיעה כי פוטרה על ידי גוגל לאחר שהחברה ניסתה לחסום את המחקר שלה והיא בתגובה העבירה ביקורת על העדר הגיוון בחברה.  

קראו עוד בכלכליסט:

• היתרונות והחסרונות של תלות בחברות ההייטק בגדולות
• גוגל ריגלה אחרי עובדים שארגנו מחאות נגדה ופיטרה אותם
• תביעות חדשות נגד גוגל ופייסבוק בארה״ב: ניצלו לרעה את כוחן בכלכלת האינטרנט

 

גברו שימשה כמובילה הטכנית של צוות האתיקה בנושא הבינה המלאכותית של גוגל (Ethical AI). בציוץ שפרסמה בטוויטר ביום רביעי טענה שפוטרה לאחר ששלחה מייל לקבוצה פנימית של נשים שעובדות בחטיבת הבינה המלאכותית. המייל, שנחשף בניוזלטר Platformer, התייחס למחלוקת סביב המאמר המחקרי וכלל הבעת תסכול כלפי תכנית הגיוון של גוגל. גברו טענה באותו המייל כי אין בחברה שום לקיחת אחריות או תמריץ ממשי כדי שההנהגה של גוגל תשתנה. "החיים נהיים גרועים יותר כשמתחילים להגן על אנשים שלא זוכים לייצוג מספק, מתחילים להכעיס את שאר המנהיגים", כתבה.

 

גברו היא אחת המדעניות השחורות המוכרות והמוערכות ביותר בתחום הבינה המלאכותית. ב-2018, לפני שעברה לגוגל, הייתה בין המחברים של מאמר נחשב שמצא שיעורי שגיאה גבוהים יותר בטכנולוגיות זיהוי פנים עבור נשים עם גווני עור כהים. היא גם אחת ממקימות המלכ"ר Black in AI, שמטרתו להגדיל את הייצוג של אנשים מגזעים שונים בתחום.

 

מטה גוגל בקליפורניה צילום: google

 

בריאיון לאתר Wired סיפרה כי המחלוקת סביב המחקר שלה עלתה כבר בחודש נובמבר, אז מנהל בכיר בגוגל אמר לה שיהיה עליה לחזור בה או להסיר את השם שלה מהמאמר. טענת המאמר הייתה שחברות הטכנולוגיה צריכות לעשות יותר כדי להבטיח שמערכות הבינה המלאכותית, המחקות כתיבה ודיבור אנושיים, לא יעמיקו אפליה מגדרית וישתמשו בשפה פוגענית.

 

"הרגשתי כאילו מצנזרים אותנו וחשבתי שיש לכך השלכות לכל מחקר שלי", אמרה. "אי אפשר לכתוב כל הזמן רק מאמרים שישמחו את החברה ולא מצביעים על בעיות. זה לא אתי".

 

גברו אומרת שניסתה לדון עם החברה ואף הציעה להסיר את שמה מהמאמר בתמורה לקבלת הסבר מפורט על מטרות החברה. עוד הוסיפה כי אם החברה לא תסכים להצעה, היא תעזוב. בגוגל דחו את ההצעה ולאחר ששלחה את המייל המדובר, הודיעו כי קיבלו את התפטרותה. עד מהרה נחסמה גם הגישה שלה למייל החברה.

 

העזיבה הפתאומית הזו של גברו עוררה הדים בקרב החברה ובקהילת חוקרי הבינה המלאכותית כולה. בעקבות זאת חתמו כאמור מעל 1,200 עובדים ו-1,500 חוקרים על מכתב מחאה. "הפיטורים הם צעד נקמה נגד ד"ר גברו, והם מצביעים על הסכנה לאנשים שעובדים בתחום הבינה המלאכותית או אתיקת הבינה המלאכותית – במיוחד שחורים ובני מיעוטים אחרים – ברחבי גוגל", נטען במכתב. "מהימנות מחקרים היא משהו שכבר לא ניתן לקחת כמובן מאליו בסביבת המחקר של גוגל, והפיטורים של ד"ר גברו מבטלים הבנת עבודה לגבי סוגי המחקרים שגוגל יאפשרו. זהו רגע לחשיבה מחדש גם מחוץ לגוגל".

 

ג'ף דין, מנהל חטיבת הבינה המלאכותית בגוגל, מסר לעובדים כי המאמר המדובר "לא עמד בדרישות החברה לפרסום". בתגובה מפורטת יותר שפרסם ביום שישי המשיך דין להתייחס לעזיבתה של גברו כ"התפטרות" וחזר על הטענה כי המאמר לא היה ראוי לפרסום מכיוון שהוא לא כלל מספיק התייחסויות למאמצים שגוגל עשתה כדי להפחית את ההשפעות הסביבתיות של המחשוב או הניסיונות שלה לצמצם את האפליה בתכנות הבינה המלאכותית. מגוגל לא הגיבו מעבר להצהרתו של דין.