עובדים ב-OpenAI ובגוגל: לא מאפשרים לנו להתריע מפני סכנות הבינה המלאכותית
עובדים ב-OpenAI ובגוגל: לא מאפשרים לנו להתריע מפני סכנות הבינה המלאכותית
מדובר ב-13 עובדים בהווה ובעבר, שטוענים כי הסכמי חשאיות דרקוניים והיעדר מדיניות מתאימה פוגעים ביכולת להתריע ביחס לפגיעה האפשרית של המוצרים באנושות - "האנשים עם הידע הרב ביותר על מערכות AI והסיכונים שכרוכים בפריסתן לא יכולים לדבר בצורה חופשית לחלוטין"
הסכמי חשאיות דרקוניים והיעדר מדיניות מתאימה מונעים מעובדי חברות בינה מלאכותית (AI) להתריע מפני סכנות אפשריות לאנושות שנשקפות מהמוצרים שמפתחות החברות, כך מזהירה קבוצה של עובדים ועובדים לשעבר ב-OpenAI ובדיפמיינד של גוגל במכתב פתוח שפרסמה.
"האנשים עם הידע הרב ביותר על מערכות AI והסיכונים שכרוכים בפריסתן לא יכולים לדבר בצורה חופשית לחלוטין", אמר לוול סטריט ג'ורנל אחד מעובדי OpenAI לשעבר שחתם על המכתב, וויליאם סונדרס.
סוגיית הפיתוח הבטוח ומניעת הסיכונים מיישומי בינה מלאכותית זוכה לאחרונה לתשומת לב מוגברת מאז שמייסד OpenAI, איליה סוצקבר, עזב את החברה על רקע טענות להזנחת מחויבותה לסוגיה זו וסגירת הצוות בחברה שהתמקד בנושא זה לאחר פרישתו. עתה, מזהירים העובדים שהמדיניות והנהלים הפנימיים בחברות מונעים מהם להתריע על סיכונים שהם מזהים.
יש סיכונים רציניים מטכנולוגיות אלו", הם כתבו, "החל מהעמקת אי-שוויון, עבור במניפולציה ומיסאינפורמציה, ועד אובדן שליטה על מערכות AI אוטונומיות שעלול להוביל להכחדת המין האנושי. חברות AI עצמן הכירו בסיכונים אלו. ואולם לחברות AI יש תמריץ כלכלי חזק להמנע מפיקוח יעיל, ואנחנו לא מאמינים שהמבנים התאגידיים שהן יצרו מספקים על מנת למתן סיכונים".
על המכתב חתומים שמונה עובדים לשעבר ב-OpenAI ובדיפמיינד, עובד בהווה בדיפמיינד וארבעה עובדים בהווה ב-OpenAI, חלקם בעילום שם. לדברי החתומים, לחברות יש מחויבות חלשה לשתף מידע על היכולות, המגבלות ומערכי ההגנה של המערכות שלהן, ואי אפשר לסמוך עליהן שיעשו זו מרצונן החופשי.
עוד כתבו כי "כל עוד אין פיקוח ממשלתי יעיל על חברות אלו, עובדים בהווה ובעבר הם בין היחידים שיכולים לאלץ אותן למסור דין וחשבון לציבור. ואולם, הסכמי סודיות רחבים מונעים מאיתנו מלהביע את חששותינו, למעט כלפי החברות שאולי כושלות בטיפול בבעיות אלו. הגנות רגילות של חושפי שחיתויות אינן מספיקות מכיוון שהן מתמקדות בפעילות בלתי חוקית, בשעה שרבים מהסיכונים שאנו מודאגים מהם עדיין אינם מאוסדרים. חלקנו חוששים מנקמה, לאור ההיסטוריה של התעשייה בהקשר זה".
העובדים מבקשים מהחברות להתחייב לארבעה עקרונות פעולה. ראשית, לא לחתום או לא לאכוף הסכמים שאוסרים על עובדים לבקר את החברה, ולא לנקום בעובדים שמבקרים אותה. שנית, ליצור תהליך אנונימי שיאפשר לעובדים להתריע לדירקטוריון ולרגולטורים מפני סיכונים. שלישית, לקדם תרבות של ביקורת פתוחה ולאפשר לעובדים בעבר ובהווה להעלות בצורה פומבית חששות בנוגע לטכנולוגיה. ורביעית, לא לנקום בעובדים או בעובדים לשעבר שהציגו בפומבי מידע חשאי שקשור לסיכונים או הליכים שנכשלו.
