"נהיה משוחררים ממירוץ העכברושים": האם לחברה החדשה של איליה סוצקבר יש באמת סיכוי?
"נהיה משוחררים ממירוץ העכברושים": האם לחברה החדשה של איליה סוצקבר יש באמת סיכוי?
סוצקבר, שפרש מ-OpenAI, הקים חברה שחזונה לפתח בינה מלאכותית כללית שתהיה בטוחה לפני כל דבר אחר. השאלה הגדולה היא האם ניתן להקים גוף שיהיה משוחרר מלחצים קפיטליסטים ויוכל לתעדף בטיחות על פני רווח לאורך זמן. בינתיים לפי סוצקבר, גיוס הון הוא הבעיה האחרונה שאיתה יצטרך להתמודד
לד"ר איליה סוצקבר יש חזון. זה לא החזון הפומבי הרגיל של יזמי הייטק ובינה מלאכותית (AI) לפתח מוצרים שישנו את העולם ולהביא אותם לשוק מהר ככל האפשר. זה גם לא החזון הלא פומבי אך המשתמע לייצר עסק שיהפוך אותם למיליארדים, או לפחות למיליונרים. זה חזון מסוג אחר, כזה שלא נפוץ בעולם הטכנולוגיה בימינו: לעשות מוצר, במקרה של החברה החדשה שהקים בינה מלאכותית כללית, שיהיה בטוח לפני כל דבר אחר, לפי אפילו שיגיע לשוק.
"החברה הזו מיוחדת בכך שהמוצר הראשון שלה יהיה בינת-על בטוחה, ושהיא לא תעשה שום דבר אחר עד אז", הוא אמר בראיון לבלומברג. יש מקום לגלות ספקנות לאמירה שכזו. ניסיון העבר של העשורים האחרונים מחייב זאת. אבל יש גם פתח להאמין לסוצקבר: בתפקידו הקודם, כמייסד, דירקטור והמדען הראשי של OpenAI, הוא סיכן את הכל כדי להוביל מהלך (כושל) להדחת המייסד והמנכ"ל סם אלטמן, בגלל חשש שהחברה לא משקיעה מספיק בבטיחות ומניעת הסיכונים במוצרים שלה.
ולפני כחודש, fשהבין ששום דבר בחברה לא הולך להשתנות לטובה בהקשר זה, הוא שוב סיכן את הכל ועזב את המשרה והמעמד הבטוחים ב-OpenAI לטובת המיזם החדש שלו – חברה בשם Safe Superintelligence (בינת-על בטוחה, או SSI בקיצור), שתעשה בינה מלאכותית בדרך שחברות אחרות שפועלות על בסיס קפיטליסטי, לא מסוגלות לעשות. "החברה תהיה מבודדת לחלוטין מלחצים חיצוניים של התעסקות עם מוצר גדול ומסובך ולהיות תקועה במירוץ עכברושים תחרותי", הוא אמר לבלומברג יום אחרי שנחשפה החברה החדשה בשבוע שעבר.
לחברה, אגב, צפויים להיות קשרים עמוקים לתל אביב: סוצקבר עלה לישראל בגיל 5 וגדל כאן עד שעבר לטורונטו ללימודים אקדמיים (אך הספיק להתחיל ללמוד לתואר ראשון באוניברסיטה הפתוחה). אחד משותפיו להקמת SSI, דניאל גרוס, הוא יליד ירושלים. השותף השלישי, דניאל לוי, אינו ישראלי. במקביל, SSI בישרה שלצד המרכז שלה בפאלו אלטו היא תפתח גם מרכז בתל אביב והיא כבר מגייסת עובדים בעבורו.
סוצקבר, שהיה בין מייסדי OpenAI והמדען הראשי של החברה, הודיע במאי על פרישתו ממנה, חצי שנה בלבד לאחר שהוביל את המהלך הכושל להדחתו של המנכ"ל סם אלטמן. כמה שעות מאוחר יותר הודיע בכיר אחר בחברה, יאן לייקה, על התפטרותו, ויומיים לאחר מכן הכריזה OpenAI על פירוק הצוות שעסק בהתמודדות עם סיכוני AI, שהוקם והובל על ידי סוצקבר ולייקה. למהלך זה נלוו דיווחים שלפיהם הנהלת OpenAI הציבה חסמים משמעותיים בפני פעילותו התקינה של הצוות טרם פירוקו.
בשבוע שעבר, חשף סוצקבר את המיזם החדש שלו, חברה בינה מלאכותית בשם Safe Superintelligence, שתיבנה כך שפעילותה תשים דגש על פיתוחים בטוחים בתחום. "בינת-על נמצאת במרחק נגיעה", נכתב בהודעה שפרסמה החברה החדשה. "בניית בינת-על בטוחה היא הבעיה הטכנית החשובה ביותר של זמננו. הקמנו את מעבדת ה-SSI הראשונה בעולם עם מטרה ומוצר אחד בלבד: בינת-על בטוחה".
החברה הוסיפה: "SSI היא המשימה שלנו, השם שלנו וכל מפת הדרכים שלנו, כי זה המיקוד היחיד שלנו. הצוות, המשקיעים והמודל העסקי שלנו, כולם מוכוונים על מנת להגיע ל-SSI. אנחנו רואים בבטיחות וביכולות כצמד, בעיות טכניות שצריך לפתור באמצעות הנדסה מהפכנית ופריצות דרך מדעיות. אנחנו מתכננים לקדם יכולות מהר ככל הניתן, תוך שימור הבטיחות בחזית. המיקוד היחיד שלנו משמעו העדר הסחות דעת מצד הנהלה או מחזורי מוצר, והמודל העסקי שלנו יאפשר בטיחות, ביטחון והתמקדות שמבודדים מלחצים מסחריים קצרי-טווח".
בראיון לבלומברג סירב סוצקבר לפרט את שמות המשקיעים בחברה ואת היקף הגיוסים שלה. הוא גם קימץ בפרטים לגבי איך תגדיר SSI מה הופך מערכות AI לבטוחות, ואמר שהיא תנסה להשיג זאת באמצעות פריצות דרך הנדסיות שיאפשרו להטמיע את הבטיחות בתוך מערכת ה-AI, בניגוד להגנות שמשולבות בטכנולוגיה תוך כדי עבודה.
"כשאנחנו אומרים בטוח, אנחנו מתכוונים לבטוח כמו בטיחות גרעינית, בניגוד לבטוח כמו 'אמון ובטיחות'", אמר סוצקבר, דימוי לא מרגיע במיוחד לאור כמה אסונות גרעיניים חמורים דוגמת צ'רנוביל או פוקישימה. הוא הוסיף: "ברמה הבסיסית ביותר, בינת-על בטוחה צריכה להיות בנויה כך שלא תפגע באנושות בקנה מידה גדול. לאחר מכן, אנחנו יכולים לומר שהיא תהיה כוח לשינוי לטובה. חלק מהערכים שאנחנו חושבים עליהם יכולים להיות ערכים שזכו להצלחה במאה השנים האחרונות, שנמצאים ביסודן של דמוקרטיות ליברליות, כמו חירות, דמוקרטיה וחופש".
לוי, שעבד בצמוד לסוצקבר ב-OpenAI, הוסיף שהוא סבור שהזמן נכון לפרויקט דוגמת SSI: "החזון שלי זהה בדיוק לזה של איליה: צוות קטן ומיומן שממוקד כולו במטרה היחידה של בינת-על בטוחה".
מבחינת סוצקבר, מדובר בניסיון שני ליצור מבנה תאגידי לפיתוח בטוח של בינה מלאכותית. זה הרי היה הרעיון שבבסיס OpenAI, שהחלה את דרכה כגוף ללא מטרות רווח מתוך מטרה מוצהרת לפתח מוצרי AI במנותק מהשיקולים והלחצים של תאגיד קפיטליסטי מסורתי. ואולם, הצורך לגייס סכומי כסף גדולים, מיליארדי דולרים, ושותפות עסקית צמודה עם מיקרוסופט, הביאו לשינוי במבנה התאגידי של OpenAI וליצירת גוף למטרות רווח.
ניסיון ההדחה הכושל של אלטמן בסוף 2023 היה גם המסמר האחרון בארון הקבורה של החזון הישן. בעקבותיו, הוחלף הדירקטוריון שהורכב כולו מדירקטורים שלא היה להם עניין עסקי בחברה ושלצד אלטמן וסוצקבר גם כלל מדענים וחוקרים עצמאיים בולטים בתחום. כתוצאה מכך, OpenAI היא כיום חברת סטארט-אפ מסורתית הרבה יותר, עם מנכ"ל חזק בדמות אלטמן ומחויבות למשקיעים לייצר מוצרים מכניסים ומצליחים שמשאירה מאחור כל חזון לפיתוח שהוא בטוח לפני שהוא רווחי.
השאלה הגדולה לגבי SSI היא האם סוצקבר למד את לקחי OpenAI, והצליח להקים גוף שיהיה משוחרר מהלחצים הקפיטליסטיים הרגילים ויוכל באמת לתעדף, לאורך זמן, בטיחות על פני הכנסות ורווחים. חלק משמעותי מהתשובה תלוי בזהות המשקיעים ובנכונותם להוסיף ולהשקיע בפיתוח שייתכן ולא יניב תמורה כלשהי עוד זמן רב, אם בכלל. כלומר, משקיעים שמתייחסים להעברת כספים לחברה יותר כאל פילנטרופיה מאשר כהשקעה, וגם מחויבים לפילנטרופיה זו לאורך זמן.
גם חרף מגבלות אלו, לפי הערכות לאור הזהות של מייסדיה ומעמדם בתעשייה, לא תתקשה SSI לגייס סכומים משמעותיים. "מכל הבעיות שאנו מתמודדים איתן, גיוס הון לא יהיה אחת מהן", אמר גרוס לבלומברג.
