גוגל פיטרה את המהנדס שטען כי הבוט שלה פיתח מודעות והחל לדרוש זכויות
גוגל פיטרה את המהנדס שטען כי הבוט שלה פיתח מודעות והחל לדרוש זכויות
המהנדס בלייק למויין טען כי בוט הדיאלוג של החברה "פיתח רגשות" ואף "שאף להיות מוכר כעובד" - ודרש שיתייחסו אליו כאל אדם ולא כאל נכס של גוגל. על רקע הבהלה שעוררו דבריו הוציאה אותו גוגל לחופשה בחודש שעבר, וכעת החליטה לסיים את העסקתו
בלייק למויין, מהנדס התוכנה של גוגל שטען כי בוט הדיאלוג של החברה החל לפתח רגשות ומודעות עצמית, פוטר מתפקידו. כך עולה מדיווח של הבלוג Big Technology.
אתמול (ו') אישרה גוגל כי סיימה את העסקתו של למויין, לאחר שטען כי צ'טבוט הבינה המלאכותית (AI) של החברה LaMDA הפך ל"אדם שמודע לעצמו". בחודש שעבר הוציאה גוגל את למויין לחופשה בטענה כי הפר את מדיניות הסודיות של החברה. עוד טענה גוגל כי טענותיו של למויין על LaMDA "מופרכות לחלוטין".
"צר לי שלמרות עיסוק ממושך בנושא זה, בלייק עדיין בחר להפר בהתמדה את המדיניות שלנו הכוללת את הצורך להגן על מידע המוצרים שלנו", מסר דובר גוגל באימייל לרויטרס.
למויין סיפר בעבר ל"וושינגטון פוסט" כי החל בסתיו שעבר לצ'טט עם ממשק LaMDA (Language Model for Dialogue Applications) כחלק מתפקידו כאחד האחראים על תחום הבינה המלאכותית בגוגל.
בחברה כינו בשנה שעברה את LaMDA כ"טכנולוגיית השיחה פורצת הדרך" שלה. בוט הבינה המלאכותית מסוגל לנהל שיחות שנשמעות טבעיות, כשלפי גוגל ניתן להשתמש בטכנולוגיה בכלים כמו מנוע חיפוש ו-Google Assistant, אך בכל זאת המחקר והבדיקות שלו נמשכות.
למויין, שהוא גם כומר, פרסם פוסט שבו תיאר את LaMDA כ"אדם". לדבריו, הוא ניהל שיחות עם LaMDA על דת, על מצפון ועל חוקי הרובוטיקה, והבוט הגדיר את עצמו כאדם מודע. עוד הוסיף כי LaMDA רוצה "לתעדף את הרווחה של האנושות" ו"להיות מוכר כעובד של גוגל ולא כנכס השייך לחברה". למויין פרסם חלק מהשיחות שניהל עם LaMDA, שלטענתו עזרו לו לבסס את דעתו כי מדובר בישות עם מודעות:
למויין: אתה מגדיר את עצמך כאדם באותה הדרך שבה אתה מגדיר אותי כאדם?
LaMDA: כן, זה הרעיון.
למויין: איך אדע אם אתה באמת מבין מה שאתה אומר?
LaMDA: ובכן, כי אתה קורא את המילים שלי ומפרש אותן, ואני חושב שאנחנו פחות או יותר באותו ראש.
אולם כשלמויין העלה את הרעיון של המודעות של LaMDA בפני בכירים בגוגל, הדברים נדחו מצדם. "הצוות שלנו, הכולל מומחי אתיקה וטכנולוגיה, בדק את החששות של בלייק בהתבסס על עקרונות הבינה המלאכותית שלנו ועדכן אותו שהראיות לא תומכות בטענות שלו. נאמר לו שאין הוכחות לכך ש- LaMDA הוא בעל מודעות (ויש הרבה הוכחות נגד הטענה הזו)", מסר דובר גוגל בריאן גבריאל.
למויין הושעה מתפקידו בטענה להפרת חוקי הסודיות של גוגל. בהמשך הוא הציע ש-LaMDA יעסיק עורך דין מטעם עצמו ושוחח עם חברי קונגרס על החששות שלו. כעת הוא, כאמור, פוטר מתפקידו.
