טיים: OpenAI השתמשה בעובדי קבלן שקיבלו פחות מ-2 דולר לשעה כדי ש-ChatGPT יהיה פחות רעיל
טיים: OpenAI השתמשה בעובדי קבלן שקיבלו פחות מ-2 דולר לשעה כדי ש-ChatGPT יהיה פחות רעיל
על פי תחקיר נרחב של המגזין, החברה שפיתחה את הצ'אט בוט המדובר השתמשה בעובדי קבלן קנייתים כדי לסנן צורות רעילות של שיח מהאזורים האפלים ביותר של האינטרנט. בין היתר, נדרשו העובדים לעבור באופן אינטנסיבי על טקסטים שתיארו בפירוט "התעללות מינית בילדים, רצח, התאבדות, עינויים, וגילוי עריות"
תחקיר של הטיים מגלה כי OpenAI , החברה שפיתחה את ChatGPT הזוכה לעניין ציבורי רב, השתמשה בעובדי קבלן קנייתים שקיבלו פחות מ-2 דולר לשעה כדי להפוך את הצ'אט שלה לפחות רעיל.
לפי הדיווח, ב-OpenAI החליטו לבנות מנגנון בטיחות לצ'אט שיידע לסנן ולזהות צורות רעילות של שיח ולמנוע ממנו להדהד את אלו מול המשתמשים. כדי לבנות את הכלי, שלחה החברה מ-2021 "עשרות אלפי קטעי טקסט לחברת מיקור חוץ בקניה, החל מנובמבר 2021". לפי התחקירף הטקסטים הללו הגיעו מהאזורים האפלים והחשוכים ביותר של האינטרנט ותיארו מצבים בפירוט גרפי כמו "התעללות מינית בילדים, חיות, רצח, התאבדות, עינויים, פגיעה עצמית וגילוי עריות".
המלאכה האיומה הוטלה על עובדים קנייתים באמצעות חברת Sama, שעבור עבודה מצלקת נפש זו שילמה לכל עובד בין 1.32 דולר ל-2 דולר לשעה, תלוי בוותק. "המשימה שלנו היא להבטיח שבינה כללית מלאכותית תועיל לאנושות כולה, ואנחנו עובדים קשה כדי לבנות מערכות AI בטוחות ושימושיות המגבילות הטיות ותכנים מזיקים", אמר דובר החברה לטיים. "סיווג וסינון מזיקים [טקסט ותמונות] הם צעד הכרחי בצמצום כמות התוכן האלים והמיני שנכלל בנתוני ההדרכה ויצירת כלים שיכולים לזהות תוכן מזיק".
לפי דיווח של הטיים, צופה מהעובדים לקרוא ולתייג בין 150 ל-250 קטעי טקסט בכל משמרת, כל משמרת באורך תשע שעות. אורך הקטעים היה בין כ-100 מילים למעל לאלף. העובדים אף תיארו כי הם חשו "מצולקים" מהמשימה, ואף שהיו זכאים למפגשים קבוצתיים עם "יועצי בריאות", הם טענו כי המפגשים לא היו מועילים ובכל מקרה נדירים בגלל הדרישה לפרודוקטיביות גבוהה.
דובר של OpenAI אמר בהצהרה שמסר כי החברה לא הנפיקה יעדי פרודוקטיביות כלשהם, וכי Sema אחראית לניהול התשלום ובריאות הנפש לעובדים. הדובר הוסיף: "אנו מתייחסים ברצינות רבה לבריאות הנפשית של העובדים שלנו ושל הקבלנים שלנו".
החוזה בין שתי החברות הסתיים לפני הזמן בפברואר 2022, כשהסיבה הרשמית הייתה ש-Sema לא רצתה לחשוף יותר את העובדים שלה לתמונות וטקסטים קשים אלו. אם כי מציינים בטיים כי באותו הזמן ממש נחשף כי Sema העסיקה מנהלי תוכן עבור פייסבוק, שתפקידם כלל צפייה בתמונות וסרטונים של הוצאות להורג, אונס והתעללות בילדים תמורת 1.50 דולר לשעה בלבד. כחלק מההתמודדות של החברה עם הביקורת הציבורית, החברה החליטה לסיים את כל החוזים הדומים שניהלה עם חברות אחרות, לרבות OpenAI.
בימים אלו OpenAI במגעים עם משקיעים, לרבות מיקרוסופט לגיוס הון של כ-10 מיליארד דולר ולפי שווי של 29 מיליארד דולר. אחד מהשוויים הגבוהים לחברה פרטית בתחום הבינה המלאכותית. המטרה לשמה קמה החברה היה תמיד "לפתח באופן אחראי" בינה מלאכותית.
עם זאת ובניגוד לחוקרים שעומדים ומנהלים את החברה שזוכים למשכורות גבוהות ושווים פנומנליים, העובדים שמגויסים כדי לבנות את המערכות מלמטה מגיעים לעיתים קרובות מאוכלוסיות עניות ועל עבודתם משלמים פרוטות.
אך ניצול זה של עובדים בתשלום נמוך לא נמצא בשיח, אלא הוא ממש מטושטש באגרסיביות, וחברות "בינה מלאכותית" למעשה מושתתות על עובדים בתשלום נמוך, ואלו שמבצעים משימות אלו סובלים מחרדות, דיכאון והפרעת דחק פוסט טראומטית עקב חשיפה מתמדת לתוכן קשה. חלקם אף נמצאים במעקב ונענשים אם הם חורגים מהמשימות שנקבעו.
