מומחי בינה מלאכתית קוראים לעצור פיתוח של מערכות AI עוצמתיות: "מהוות סיכון מהותי לאנושות"
מומחי בינה מלאכתית קוראים לעצור פיתוח של מערכות AI עוצמתיות: "מהוות סיכון מהותי לאנושות"
יותר מאלף ממומחי הבינה המלאכותית ומדעי המחשב המובילים בעולם, ביניהם גם אלון מאסק, דורשים לעצור לחצי שנה לפחות פיתוח של מערכות עוצמתיות יותר מ-GPT-4 של OpenAI. לטענתם, יש לפתח מערכות כאלה רק כשיש ביטחון שההשפעה שלהן תהיה חיובית והסיכונים נשלטים
יותר מאלף ממומחי הבינה המלאכותית ומדעי המחשב המובילים בעולם, וכן אלון מאסק, קוראים לעצור לחצי שנה לפחות פיתוח של מערכות AI עוצמתיות יותר מ-GPT-4 של OpenAI. "מערכות AI עם בינה אנושית-תחרותית יכולות להוות סיכון מהותי לחברה ולאנושות", הם מתריעים.
בחודשים האחרונים, מודלי שיחה מתקדמים ובראשם ChatGPT משבשים ומעצבים מחדש את עולם הטכנולוגיה ובכלל, לאור יכולותיהם המתקמות שבעיני רבים מתקרבות בתחומים מסוימים לאלו של בני אדם. לפני כמה שבועות השיקה OpenAI גרסה משודרגת של ChatGPT, שמכונה GPT-4, ואשר יכולותיה מהוות קפיצת מדרגה אף ביחס ליכולות פורצות הדרך של הגרסה הקודמת.
עתה, מזהירים מאות חוקרים ויזמים מובילים מהמשך הפיתוח של מודלים אלו, וקוראים לתעשייה להקפיא את המאמצים בתחום לחצי שנה לפחות. "בינה מלאכותית מתקדמת יכולה לייצג שינוי מהותי בהיסטוריה של החיים על כדור הארץ, ויש לתכנן ולנהל אותה בשקידה ועם משאבים מתאימים", הם כותבים. "למרבה הצער, אין רמה כזו של תכנון וניהול, למרות שבחודשים האחרונים מעבדות AI נמצאות במרוץ חסר שליטה לפתח ולהטמיע מוחות דיגיטליים עצמתיים יותר שאף אחד – אפילו לא היוצרים שלהם – יכול להבין, לחזות או לשלוט בהם באמינות".
בין החותמים על המכתב נמצאים כמה מהמדענים, החוקרים והיזמים המובילים בעולם הבינה המלאכותית והטכנולוגיה. אלו כוללים את חתן פרס טיורינג (ה"נובל" של מדעי המחשב) פרופ' יהושע בנג'יו מאוניברסיטת מונטריאל, שנחשב לאחד מאבות הלמידה העמוקה; פרופ' סטיוארט ראסל, מנהל המרכז למערכות תבוניות באוניברסיטת ברקלי ומחבר ספר הלימוד הקלאסי Artificial Intelligence: a Modern Approach; מייסד אפל, סטיב ווזניאק; ד"ר ויקטוריה קרקנובה מחטיבת ה-AI של גוגל DeepMind ומייסדת משותף של Future of Life Institute; פרופ' פאטי מייז מ-MIT; ופרופ' אמריטוס גארי מרקוס מ-NYU. כן חתום על המכתב מנכ"ל טסלה וטוויטר, אלון מאסק.
החותמים עומדים על כך שמערכות AI מודרניות יכולות כבר להתחרות בבני אדם במשימות כלליות. "אנחנו חייבים לשאול את עצמנו: האם צריך לתת למכונות להציף את ערוצי המידע שלנו בתעמולה ושקרים? האם יש לבצע אוטומציה של כל המשרות? האם צריך לפתח מוחות לא-אנושיים שיהיו מרובים יותר וחכמים יותר ויוכלו להחליף אותנו? האם עלינו להסתכן באבדן שליטה על הציווליזציה שלנו?"
לדבריהם, לא מדובר בהחלטות שיזמים טכנולוגיים שלא נבחרו על ידי הציבור צריכים לקבל, ויש לפתח מערכות AI עצמתיות רק כשיש ביטחון שההשפעה שלהן תהיה חיובית והסיכונים נשלטים. "לכן, אנחנו קוראים לכל מעבדות ה-AI להשהות מיידית לשישה חודשים לפחות את האימון של מערכות AI עצמתיות יותר מ-GPT-4. המעבדות ומומחים עצמאיים צריכים לנצל את השהייה זו כדי לפתח ולהטמיע פרוטוקול אבטחה משותפים, שיבטיחו שהמערכות בטוחות מעבר לכל ספק סביר. מו"פ AI ציך להתמקד בהפיכת המערכות העצמתיות של היום למדויקות, בטוחות, מובנות, שקופות, חסונות, אמינות ונאמנות", נכתב.
כן קוראים החותמים לעבודה משותפת עם מקבלי החלטות כדי להאיץ את פיתוח מערכות רגולציה בתחום, ובפרט יצירת רשויות רגולטוריות חדשות שמוקדשות לאסדרת AI. "האנושות יכולה להנות מעתיד משגשג עם AI", הם מסכמים. "אנחנו יכולים להנות מ'קיץ AI' שבו נקצור הטבות, נהנדס מערכות לטובת הכלל, וניתן לכל החברה אפשרות להסתגל. האנושות כבר עצרה פיתוח של טכנולוגיות אחרות עם השפעות הרסניות אפשריות על החברה (למשל, שיבוט אנושי והנדסה גנטית של בני אדם). אנחנו יכולים לעשות את זה גם כאן. בואו נהנה מקיץ AI ארוך, ולא נרוץ לא מוכנים אל הסתיו".
