חניבעל לקטר-בוט: חוקרי MIT מלמדים מחשב להפוך לרוצח סדרתי

שתיקת הכבשים החשמליות

הביטו בתמונה זו - ציור רורשאך טיפוסי. מה אתם רואים בו? אני, אדם מן הישוב, רואה כאן פרח גדול שבדיוק נפתח. תוכנת בינה מלאכותית שסרקה את התמונה השיבה "אדם שפותח מטריה". ותוכנת בינה מלאכותית אחרת השיבה "אדם שנורה למוות, מול עיני אשתו שצורחת באימה". וואו.

מה אתם רואים כאן? צילום: BBC

את התשובה המטרידה הזו סיפקה תוכנה שפיתחו חוקרים ב-MIT, אותה אימנו לראות את העולם כמו פסיכופת. החוקרים הציגו לה ריבוא תצלומים מזעזעים של אנשים מתים, עומדים למות, מומתים וכולי - שהרבה מהן נדלו, איך לא, מפורומים ברדיט. תמונות הזוועה היוו בסיס לראיית המכונה של התוכנה, במסגרת ניסוי שנועד להראות כמה קל להפוך בוט לחניבעל לקטר וירטואלי. למשל, בציור זה ראתה AI שפויה "ציפור קטנה, בתצלום מקרוב"; התוכנה הפסיכית אמרה שברור שיש כאן אדם בתוך מעבד מזון תעשייתי.

כן, גם אני רואה ציפור צילום: BBC

לתוכנה הם קראו נורמן, על שם נורמן בייטס, והם משווים את ראיית העולם האפלה שלה לשל AI רגילה, כזו שנועדה לסנתז תפיסה של אדם רגיל. מעניין מה יקרה לנורמן אחרי הניסוי, אם יישמר באיזו תיקיה נשכחת ויתגלגל לידיים הלא נכונות (תנו לדמיון לרוץ לרגע - והצטמררו כמוני). אישית, לא ברור לי למה צריך בכלל ניסוי כזה: ההיסטוריה הוכיחה שרוצחים מטורפים הם תוצאה של ההשפעות שספגו במהלך חייהם. ואם תוכנת בינה מלאכותית - שמבסיסה נועדה לדמות פעולת אדם - סופגת את העולם רק דרך פילטר של כאב, שנאה ומוות, ברור שלא יצא מזה משהו טוב.

הניסוי טרם הושלם, אך המסר שלו עובר יופי: אין מכונות רעות, גזעניות, אכזריות או מיזוגניות - רק אנשים כאלה; מהפכת הבינה המלאכותית מתקרבת בצעדי ענק, והמפתחים הם אלה שיקבעו אם יהפכו המכונות לכלי עבודה או למשהו אפל, בו נתקשה לשלוט.

ההרג יימשך, אך במצפון נקי

נישאר בזירת ה-AI, הפעם בשירות הצבא; גוגל הודיעה שתנטוש את פרויקט Maven, במסגרתו פיתחה כלי ניתוח תמונה חכם לכוחות הביטחון האמריקאיים, או ליתר דיוק - למל"טים שלה שמזמזמים להם מעל מדינות אחרות, מרגלים ומפעם לפעם שולחים ד"ש עם טיל. אחרי שאלפים מעובדי החברה חתמו על עצומה לנטישת השת"פ וכ-12 מהם אף נטשו במחאה את משרתם, נאלצה גוגל לוותר על הדולרים המתוקים של הפנטגון ולעבור למיזמים אחרים; יח"צ גרוע הוא עניין יקר, במיוחד כשמפתחים מתחילים לעזוב ולרוץ לזרועות חברות מתחרות.

מל"ט תקיפה משגר טיל

לראייתי, נטישת הפרויקט מאוד בעייתית, מכמה סיבות: ראשית, Maven נועד לשפר את דיוק הניתוח של מה שמצלם המל"ט. בעזרתו, יכל הצבא לדעת איזו מטרה מוקפת כעת בילדים או נכנסת למסגד; בכך, יכלה גוגל לצמצם פגיעה בחפים מפשע. שנית, המעורבות של גוגל בפרויקט יכלה לקדם תפיסות פיתוח אתיות בצבא - מה שהיה עשוי להוות קו בסיסי למיזמי ראיית מכונה נוספים, ולסייע בצמצום פגיעה בחפים מפשע גם בעתיד. ועל הדרך, לעשות לגוגל את היח"צ הכי טוב שאפשר. ושלישית, הפנטגון הבין שיש כאן בעיית דימוי ציבורי ולהבא, עשוי לבחור בחברות קבלן פחות רגישות, ולבצע את הפרויקטים בצורה חשאית בהרבה, כך שלא ייחשפו לביקורת ציבורית.

אז מה קיבלנו? המצפון של עובדי גוגל יישאר נקי ומצוחצח וצבא ארה"ב ימשיך להפציץ ומפעם לפעם, להרוג מישהו סתם כי הוא דומה למבוקש בכיר.

פלטפורמה? לטובת מי?

לתעשיית התוכנה והשירותים יש כל מיני מילות קוד למרכולתה, אך הפופולרית ביותר היא פלטפורמה. "לא, זו לא סתם אפליקציה", יאמר היזם למשקיע. "בפלטפורמה הזאת, עסקים ולקוחות ייבנו דברים, ואנחנו רק נספור את הכסף". אבל יש שירותים שדי ברור שהם פלטפורמות - למשל, פייסבוק ואינסטגרם. בן תומפסון, יזם ומפיץ ניוזלטר Stratechery הנחשב, מערער על הקביעה הזאת: בדברים שנשא בכנס recode, טען שהן לא פלטפורמות, ושרגולטורים עשו את "הטעות של העשור" כשהתירו לפייסבוק לרכוש את הרשת החברתית לשיתוף תמונות.

אינסטגרם, בימים שלפני רכישתה

תומפסון ציטט את ביל גייטס, שאמר שפלטפורמה ההיא מצב בו הערך הכלכלי שמתקבל עבור המשתמשים והשותפים גדול משל החברה שיצרה אותו. לדבריו, פייסבוק ואינסטגרם היו שני אגרגטורים נפרדים, לא פלטפורמות אמיתיות. עבור רגולטורים, הדרך הפשוטה והטבעית ביותר לשלוט בכוחו של אגרגטור היא להגביל את צמיחתו הרוחבית; והם נרדמו בשמירה כשאיפשרו לפייסבוק לקנות את אינסטגרם במיליארד דולר - ולקבל כך גישה למשתמשים שלה ויכולת להציע מוצר נפרד, כשבעצם מדובר רק בהרחבת המותג. יש הגדרות רגולציה שונות לפלטפורמה ולאגרגטור, וכלבי השמירה גרדו את אוזניהם במקום לתת ביס מתבקש; די ברור מה הרוויחה פייסבוק מהסיפור. מה הרווחתם אתם, המשתמשים? יכולת לשתף תמונות אינסטה בפייסבוק כבר היתה לכם. מה הרוויחו המפרסמים? קמפיינים בשתי האפליקציות כבר היו להם. פרט לאלה שבאיחוד האירופי, רגולטורים בעולם הם רופסים, איטיים וכבויים לעומת ענקיות הטכנולוגיה למיניהן. אם לא נדרוש מהם להתעורר בזמן, נאבד עוד מזכויותינו אל מול מפלצות ההייטק.

נכנעים לפדופילים

בחודש שעבר הסירה ספוטיפיי מרשימות ההאזנה שלה שירים של ענק ההיפ הופ R Kelly ושל XXXTentacion, ראפר עם שם של תרופה. נגד השניים הועלו טענות ותביעות בדבר תקיפה מינית ואלימות - וספוטיפיי החליטה שאינה מעוניינת לפרגן לאנשים כאלה, זמרים גדולים או לא. ההחלטה האמיצה הזו החזיקה פחות מחודש: בסוף השבוע ביצעה ספוטיפיי נסיגה צרפתית מסורתית והשיבה את שירי השניים לרשימות הההזנה המקודמות. על החברה הופעל לחץ מצד חברות ההקלטות, וגם מצד המשתמשים עצמם - אם כי בשיעור לא ברור; זה לא שהרשת מלאה בפוסטים בסגנון "אז מה אם XXXTentacion תקף אישה בהריון, אני רוצה אותו בספוטיפיי!".

מוסר גמיש. דניאל אק צילום: גטי אימג'ס

ההחלטה גררה תערומת מוצדקת מצד ארגוני זכויות נשים, שסייעו לספוטיפיי בניסוח המדיניות שלה במקור. שאונה תומס, ממייסדות ארגון זכויות הנשים UltraViolet, אמרה לסוכנות בלומברג: "רק לפני שבועיים הצהירה ספוטיפיי 'אנחנו רוצים שהחלטות העריכה שלנו - מה שאנחנו בוחרים להשמיע - ישקפו את הערכים שלנו'. עכשיו אנחנו יודעים בדיוק מהם הערכים הללו: רווחים על פני אנשים, ענקי תעשיית המוזיקה על פני ניצולי תקיפה".  

דניאל אק, מנכ"ל ספוטיפיי, טען שהמדיניות הזו הושקה בצורה שגויה, ושאינו רוצה שהחברה תתפקד כמשטרת מוסר. לצערי, אני יכול להבין אותו: הוא רוצה מקסימום כסף ומינימום בעיות, ויש הרבה אנשים שיכולים להפריד בין יוצר ויצירה - ואין להם בעיה להאזין לשירי R Kelly; אפילו שמאז 2002 ידוע שמדובר בחסיד גדול של פורנוגרפיית ילדים, שקליפים שלו מקיים יחסים עם ילדות נמצאו אצלו בבית ושהוא חמק מעונש רק בשל ליקויים במהלך החקירה. אבל אם מר אק לא סופר את הקורבנות ומעדיף לספור כסף, שלא יתקשט בנוצות מוסריות - ויגיד בפה מלא: "אין לי את הביצים לעמוד מאחורי האתיקה שאני רוצה לשדר. אני מנהל חברת הייטק והערך העליון שלי הוא כסף", שנדע עם מי יש לנו עסק.

לא זזים מהכורסה

האנושות נמצאת בדרכה להתמזגות סופית עם המיטה והכורסה: אפשר להזמין הכל ברשת ולקבל הביתה, בלי הקטע המעצבן הזה של לצאת החוצה ולתקשר עם אנשים. חברת Telexsistance רוצה לקחת את זה צעד גדול הלאה: היא מפתחת רובוט שנועד להחליף אתכם בעולם האמיתי. לא מדובר בהתקן נוכחות דיגיטלית - רובוט שנושא מסך ומצלמה ומאפשר לכם לתקשר עם הסביבה מרחוק - אלא בתחליף מלא: פשוט שמים על הראש משקפי AR, מתחברים לרובוט שממוקם בסופרמרקט השכונתי ובוחרים ירקות. לאחר מכן מתנתקים ועוברים לרובוט אחר שנמצא במשרד שלכם, לתשע שעות עבודה מהמיטה. אז מתנתקים שוב ועוברים לרובוט שנמצא ליד האמפי בקיסריה; יש הופעה של רובו-שלמה ארצי.

החזון הזה הוצג בספרי מד"ב רבים והיתכנותו הוגדרה ב-1980 בידי חוקר מאוניברסיטת טוקיו. Telexsistance רוצה לבנות את המכשירים הללו, ואם תצליח, כנראה שתירכש במהירות בידי סופטבנק, פייסבוק, אלפבית או אמזון. עוד יזם יספור את המיליונים ויפזר הצהרות על שיפור האנושות, עוד צעד בדרכנו להפוך למנוונים. מי צריך רובוט כזה? שירות כזה? מי מחלה או מגבלה לא מאפשרים לו להיות בשטח ולחוות את העולם דרך החיישנים שנתן לו הטבע.

מי ישתמש בו? מי שיכול להרשות לעצמו חיבור קבוע לרשת של רובוטים. ואל תטעו, זה יהיה יקר: רובוטים לא מתקנים את עצמם והם מסובכים טכנית, מחירם יגלם מאמצי שיווק ושתדלנות, פיתוח ותמיכה. הם גם יהיו חשופים לאיומי סייבר, גניבות מידע, זהות וכסף. ואם יהפכו לסטנדרט בקרב בעלי האמצעים, תתחלק החברה לאנשים שאורזים מצרכים בשקיות בסופר, ולמשתמשי מכונות שלוקחות אותן לרכב האוטונומי שמסיע אותן לבית מפונפן, שם יפתח רובוט את הדלת וימלא את המקרר. ושם, אם תשאלו אותי, תצמח אפוקליפסת הרובוטים האמיתית.