יצרנו מפלצת: בכירי תעשיית ה-AI מזהירים מפני איום קיומי על האנושות
יצרנו מפלצת: בכירי תעשיית ה-AI מזהירים מפני איום קיומי על האנושות
מאות בכירים בתעשיית הטכנולוגיה שעובדים בתחום הבינה המלאכותית, בהם מנכ"ל OpenAI, סם אלטמן, חתמו על הצהרה לפיה "בלימת הסיכון של היכחדות על ידי AI צריכה לעמוד בראש סדר העדיפויות, לצד מגיפות ומלחמות גרעיניות". והם יודעים מה שהם אומרים
בכירים בסקטור הטכנולוגי מזהירים שטכנולוגיית הבינה המלאכותית (AI) שהם עצמם מפתחים עלולה יום אחד להוות איום קיומי לאנושות ולכן יש להתייחס אליה כאל סיכון חברתי לצד סיכונים מוכרים כמו מגפות ומלחמות גרעיניות, כך לפי דיווח בניו יורק טיימס.
"בלימת הסיכון של היכחדות על ידי בינה מלאכותית צריכה לעמוד בראש סדר העדיפויות העולמי לצד סיכונים נרחבים אחרים כמו מגיפות ומלחמות גרעיניות", נכתב בהצהרה שפרסם מלכ"ר בשם המרכז לבטיחות בינה מלאכותית, עליה חתמו 350 בכירים, חוקרים ומהנדסים שעובדים בתחום, ביניהם סם אלטמן מנכ"ל OpenAI, דמיס האסביס מנכ"ל DeepMind של גוגל ודריו אמודי מנכ"ל אנתרופיק.
חותמים נוספים כוללים את ג'פרי הינטון ויהושע בנג'יו, זוכי פרס טיורינג ומי שנחשבים ל"סנדקים" של תנועת הבינה המלאכותית המודנית. הינטון פרש החודש מתפקידו בגוגל וכבר הספיק להביע את דעותיו על הסכנה הטמונה בבינה מלאכותית.
ההצהרה מתפרסמת על רקע החששות הגוברים נוכח הסכנות הטמונות בבינה מלאכותית. ההתפתחויות האחרונות, ביניהן מודלי שפה גדולים שמשמשים ב-ChatGPT ובצ'טבוטים אחרים, כמו בארד של גוגל וארני של ענקית הטכנולוגיה הסיני באידו, העלו את החשש שהבינה המלאכותית עשויה בקרוב לשמש להפצת מידע שגוי ותעמולה, בנוסף לכך שתחסל מיליוני עבודות צווארון לבן.
החששות הללו, להם שותפים בכירים בתעשייה, מציבים אותם בעמדה לא שגרתית שבה הם מזהירים כי הטכנולוגיה שהם מפתחים, ובמקרים רבים מתחרים לפתח אותה מהר יותר מהמתחרים, מהווה סכנה גדולה ויש לפקח עליה באדיקות. כך למשל, מוקדם יותר החודש נפגשו אלטמן, האסביס ואמודי עם נשיא ארה"ב ג'ו ביידן וסגניתו קמלה האריס לשיחה על רגולציות בינה מלאכותית. אלטמן העיד לאחר מכן בסנאט והזהיר כי הסיכונים של מערכות בינה מלאכותית מתקדמות חמורים מספיק כדי לחייב התערבות של הממשל. "אני חושב שאם הטכנולוגיה הזו תשתבש, היא תשתבש באופן רציני", אמר אלטמן בסנאט. "אנחנו רוצים לעבוד עם הממשל כדי למנוע מזה לקרות".
דן הנדריקס, המנהל של המרכז לבטיחות בינה מלאכותית, אמר בריאיון לניו יורק טיימס כי המכתב הפתוח מייצג מעין "יציאה מהארון" עבור חלק ממנהיגי התעשייה, שעד כה הביעו את החששות שלהם רק בפגישות פרטיות. "יש תפיסה מוטעית אפילו בקרב קהילת הבינה המלאכותית לפיה רק מספר מצומצם של אנשים מזהירים מפניה, אך למעשה רבים מביעים חשש בפרטיות", אמר.
מכתב דומה התפרסם במרץ, אז חתמו יותר מ-1,000 אנשי טכנולוגיה וחוקרים על הצהרה שבה קראו לעצירה של שישה חודשים בפיתוח מודלי בינה מלאכותית גדולים בשל החשש מ"מירוץ שיצא משליטה לפיתוח ויישום מוחות דיגיטליים שהולכים ומתחזקים". על המכתב הזה חתמו דמויות בולטות כמו אלון מאסק ובכירים נוספים בתעשייה.
ההצהרה הנוכחית מסתכמת ב-22 מילים בלבד ומטרתה לאחד את מומחי הבינה המלאכותית, שאולי לא מסכימים על טיב הסיכונים או על הצעדים שיש לנקוט כדי למנוע אותם, אך שותפים לדאגה הכללית לגבי המערכות האלה פשוט חזקות מדי, כך לדבריו של הנדריקס.
