פרשנותהנטישות ב־OpenAI: איום אפשרי על בינה מלאכותית אחראית
פרשנות
הנטישות ב־OpenAI: איום אפשרי על בינה מלאכותית אחראית
בהפרש של שעות הודיעו על עזיבתם המייסד והמדען הראשי איליה סוצקבר ושותפו לצוות שעוסק בפיתוחים לשליטה ביכולות AI, יאן לייקה. החשש: המנכ"ל סם אלטמן נערך לצמצום פעילות הצוות המיוחד או אולי אפילו סגירתו
המייסד והמדען הראשי של OpenAI, ד"ר איליה סוצקבר, עוזב את החברה חצי שנה בלבד לאחר שהוביל את המהלך הכושל להדחתו של המייסד והמנכ"ל סם אלטמן — כך הודיעה היום חברת הבינה המלאכותית הגנרטיבית (GenAI). לדברי סוצקבר, הוא פורש על מנת לקדם "פרויקט בעל משמעות אישית עמוקה בעבורו", שאת טבעו לא חשף. שעות ספורות לאחר מכן הודיע גם יאן לייקה, שהוביל לצד סוצקבר את הצוות שאחראי על התנהגות אחראית של בינה מלאכותית, שהוא מתפטר מהחברה.
"זה מאוד עצוב עבורי", כתב אלטמן בהודעה לעובדי החברה על סוצקבר, טרם דווחה עזיבתו של לייקה. "איליה הוא אחד המוחות הגדולים של הדור שלנו, מגדלור בתחום שלנו, וחבר יקר. החוכמה והחזון שלו ידועים היטב; החום והחמלה שלו ידועים פחות, אבל חשובים לא פחות". ד"ר ג'ייקוב פאצ'וקי, מהחוקרים המובילים בחברה, יחליף את סוצקבר כמדען הראשי שלה.
סוצקבר (37) הוא ישראלי יליד ברית המועצות לשעבר שעלה לירושלים בגיל 5. את לימודיו האקדמיים התחיל באוניברסיטה הפתוחה, אך את כל התארים השלים באוניברסיטת טורונטו, שם עשה דוקטורט בלמידת מכונה תחת הנחייתו של פרופ' ג'פרי הינטון, אחד החוקרים פורצי הדרך המוקדמים בתחום הבינה המלאכותית (AI).
אחרי השתלמות פוסט־דוקטורט באוניברסיטת סטנפורד, היה סוצקבר מייסד משותף עם הינטון של חברת הבינה המלאכותית DNNResearch. החברה נרכשה על ידי גוגל במרץ 2013, ארבעה חודשים בלבד אחרי שהוקמה כספין־אוף של קבוצת המחקר של הינטון. סוצקבר עבד כמדען מחקר בצוות Google Brain, שהתמקד במחקר בסיסי בתחום ה־AI, עד סוף 2015 אז פרש על מנת להקים את OpenAI.
בחברה החדשה הוביל סוצקבר את המחקר שהביא ליצירת מודלים, אלגוריתמים ושירותים פורצי דרך דוגמת Dall־E ו־ChatGPT, שהם האחראים הישירים למהפכת ה־GenAI שנמצאת כיום בעיצומה. הוא נחשב לאחת הדמויות המקורבות ביותר לאלטמן, ואף ליווה אותו בעת ביקורו בישראל ביוני 2023 ודיבר לצדו בהופעותיו הפומביות.
עם זאת, היה גם אחד מארבעת חברי הדירקטוריון שהדיחו את אלטמן מתפקידו כמנכ"ל החברה בנובמבר שעבר, זאת על רקע חילוקי דעות שלא התבהרו במלואם. אלו כנראה קשורים לעימות שהתעורר בין אלטמן לסוצקבר לגבי המהירות שבה OpenAI מפתחת ומפיצה מודלים ושירותים חדשים. "(פיטורי אלטמן) נעשו כחלק מחובת הדירקטוריון, שהיא להבטיח ש־OpenAI בונה בינה מלאכותית כללית (AGI), שמיטיבה עם כלל האנושות", אמר סוצקבר לעובדים בפגישת חירום זמן קצר לאחר הדחת אלטמן.
מהלך ההדחה יצר סערה רחבה במגזר ה־AI ובתקשורת העולמית, כשבאחד משיאיה סיכם אלטמן עם מיקרוסופט על הקמת חטיבת AI חדשה בראשותו, שצפויה היתה לגייס את מרבית החוקרים והמפתחים המובילים מ־OpenAI ולהפוך אותה למעשה לקליפה חלולה. על רקע זה, סוצקבר הפך את עמדתו והיה לאחד המובילים של המאמצים להשיב את אלטמן לתפקיד המנכ"ל. חמישה ימים אחרי שהודח חזר אלטמן לחברה, וסוצקבר שמר על תפקידו.
כלפי חוץ שידרו השניים שהיחסים ביניהם תקינים. ואולם, לפי ה"ניו יורק טיימס", בפועל סוצקבר לא שב לעבודה בחברה, ומחליפו, פאצ'וקי, מילא מאז בפועל את תפקיד המדען הראשי. לדברי מקורות, אלטמן ניסה לקדם את חזרתו של סוצקבר, אך מאמצים אלו כשלו עתה רשמית עם ההודעה על פרישתו. "בלעדיו, OpenAI לא תהיה מה שהיא", כתב אלטמן ב־X. "אני אסיר תודה על מה שהוא עשה כאן ומחויב לגמור את המשימה שהתחלנו יחד". סוצקבר כתב: "אני בטוח ש־OpenAI תבנה AGI בטוחה ובת־תועלת. היו לי את הכבוד והזכות לעבוד יחד (עם אלטמן והבכירים האחרים, ע"כ) ואני אתגעגע מאוד לכולם. היו שלום, ותודה על הכל".
המשמעות של עזיבתו היא סמלית בעיקרה, שכן בפועל המעורבות שלו בחברה מאז ניסיון ההדחה היתה אפסית, לפי דיווחים, וסביר להניח שאלטמן כבר נערך חודשים לפרישה והכין את החברה לקראת המעבר. אף שאיכויותיו ויכולותיו של סוצקבר יוצאות דופן ואינן מוטלות בספק, איש אינו נטול תחליף, ול־OpenAI אין מחסור במדענים, מהנדסים ומפתחים מוכשרים.
מחליפו פאצ'וקי לא יתקשה להיכנס לנעליו, שכן הוא כבר ממלא בפועל את תפקידו בחצי השנה האחרונה, ועוד קודם לכן היה אחד המדענים המובילים בחברה וכיהן כמנהל המחקר. לפאצ'וקי תואר ראשון במדעי המחשב מאוניברסיטת ורשה, דוקטורט במדעי המחשב מאוניברסיטת קרנגי מלון (אחד ממוסדות המחקר המובילים בעולם בתחום הבינה המלאכותית), והשתלמות פוסט־דוק באוניברסיטת הרווארד. בזמן לימודיו בקרנגי מלון גם עבד פאצ'וקי כמתמחה הנדסת תוכנה במטא.
פאצ'וקי נחשב למקורביו לאלטמן, ואחרי הדחתו קצרת הימים היה בין ארבעת הבכירים הראשונים שהודיעו על התפטרותם מהחברה בתגובה. נאמנות הדדית היא קריטית ליחסי העבודה בקרב הדמויות הבכירות בחברה. היעדרה במערכת היחסים בין אלטמן לסוצקבר על רקע מעורבות האחרון בניסיון ההדחה היה אולי גורם מרכזי בהחלטתו לפרוש. הנאמנות של פאצ'וקי, מנגד, תסייע רבות להתנהלות השוטפת בקרב ההנהלה הבכירה. לצד זאת, אי אפשר להתעלם מכך שחרף ניסיונו ויכולותיו הרבות, פאצ'וקי לא נהנה מאותה תדמית, מעמד ועמדת השפעה שהיו לסוצקבר, בעיקר לאור מעמדו כמייסד. משמעות הדבר היא שאלטמן מבצר עוד יותר את אחיזתו בחברה ואת מעמדו כגורם המשפיע ביותר בה. ייתכן שבהקשר זה, סוצקבר לא יהיה דמות המפתח האחרונה שתעזוב בתקופה הקרובה.
בניגוד לסוצקבר, לייקה הודיע על עזיבתו באופן לקוני הרבה יותר ובישר פשוט ב־X: "התפטרתי". נכון לשעת כתיבת שורות אלו, המהלך לא זכה להתייחסות פומבית מצד אלטמן.
בספטמבר שעבר נכלל לייקה ברשימת 100 האנשים המשפיעים ביותר בתחום ה־AI של מגזין "טיים". זאת, על רקע הובלתו, לצד סוצקבר, את צוות ה־Superalignment של OpenAI. הצוות, שהוקם ביולי 2023, נועד לקדם פריצות דרך מדעיות וטכנולוגיות שיאפשרו לאנושות לשלוט בבינה המלאכותית. הקמת הצוות היתה תגובה לחששות שהועלו בחודשים שאחרי חשיפת ChatGPT, שלפיהם מודלי GenAI מתקדמים יותר עלולים להיות בעלי יכולות דומות לאלו של אינטליגנציה אנושית, או מתקדמים ממנה, ופעילותם יכולה לייצר נזקים משמעותיים למין האנושי עד כדי הפיכתו ללא רלוונטי או השמדתו.
הצוות, שלייקה וסוצקבר הובילו במשותף, שאף להציג מענה הולם לחששות אלו בתוך ארבע שנים, כשהחברה התחייבה להקדיש לכך 20% ממשאבי המחשוב שלה. לפני כחודש בישר לייקה על 50 מענקים מטעם הצוות, בסכום כולל של קרוב ל־10 מיליון דולר, שהוענקו לאוניברסיטאות, תלמידי מחקר, ארגונים ללא מטרת רווח וחוקרים עצמאיים שפיתחו כלים מדעיים וטכנולוגיים על מנת ליצור מנגנונים שיאפשרו שליטה בבינה מלאכותית.
סביר להניח שעזיבתו המהירה שעות ספורות אחרי סוצקבר אינה מנותקת מפרישת המדען הראשי, אך אפשר רק לנחש את הסיבות לכך. ייתכן פשוט שלייקה מצטרף לסוצקבר במיזם החדש שלו בתפקיד בכיר, אך ייתכן גם שבעקבות פרישת סוצקבר ביצעה OpenAI שינויים דרמטיים בצוות ה־Superalignment, או החליטה בפועל על סגירתו, באופן שלא הותיר ללייקה תפקיד משמעותי בחברה והברירה היחידה שנותרה לו היא להתפטר. סוצקבר היה בין הקולות הבולטים ב־OpenAI לפיתוח אחראי של בינה מלאכותית, וחששותיו בהקשר זה היו גם חלק מהמניעים שהובילו לתמיכתו במהלך להדחת אלטמן. עתה, עם פרישתו, ייתכן שאלטמן החליט לצמצם פעילות שהוא תופס כמיותרת וצוות ה־Superalignment היה אחד הנפגעים העיקריים של מהלך זה.
