מה יקרה כשהמחשב יהיה חכם מאיתנו?

מה באמת יקרה כשהמכשירים והכלים, המכונות והמחשבים שלנו יהיו חכמים הרבה יותר מאיתנו? איך נתנהל כשנדע שחפצים מעשה ידינו נבונים הרבה יותר מאיתנו? המכונות עדיין לא הגיעו לרמה כזאת, אבל כשיגיעו אליה, כשיסתובבו בקרבנו ויעבדו בשבילנו מכונות ומחשבים בעלי מנות משכל של ארבע ספרות ויותר, היו סמוכים ובטוחים שהן (המכונות) עצמן יתחילו לחשוב על השאלות האלה. ואז זה כבר עלול להיות מאוחר מדי בשבילנו.

מחשבים כבר מנצחים את אלופי העולם בשחמט, חוטפים את המקומות הראשונים בטורנירים של טריוויה, משולבים בקבלת החלטות רפואיות, ולאחרונה גם הביסו את האדם במשחק האינטליגנטי "גו". כך עלו מחדש הנושאים של מותר המכונה מן האדם, ותשובותיו האפשריות של האדם להורדתו בדרגה.

בינה מלאכותית צילום: שאטרסטוק

מדען המחשב הנודע פרופ' דיוויד גלרנטנר נדרש לסוגיה ב"וול סטריט ג'ורנל". תרומותיו המדעיות של גלרנטנר חשובות, והוא זכה לפרסום גם משום שהיה קורבן לפצצה של ה־Unabomber, הטרוריסט האנרכיסט ששיגר מעטפות נפץ באמצע שנות ה־90 במסגרת מלחמתו בטכנולוגיה. גלרנטנר איבד את ראייתו בעין אחת ושליטה ביד ימין. עכשיו הוא עצמו נדרש לטכנולוגיה המתפתחת. צמיחתה המהירה של הבינה המלאכותית, הוא אומר, דורשת תשומת לב. יכול להיות שלא ירחק היום שבו האנשים ייראו למחשבים הנבונים יותר מהם כמו פרפרים. בעיניהן של מכונות בעלות מנת משכל הנמדדת באלפים, נהיה אנחנו, מי שבנו אותן, כחגבים.

אז למה אנחנו ממשיכים לבנות ולשפר מחשבים שיגמדו אותנו, ושאת יחסם אלינו בעתיד אנחנו לא יכולים לחזות? כי זהו הטבע האנושי, אומר גלרנטנר. זה לא מעיד על חוכמתנו. רק על הדחף שבתוכנו, דחף שלא נוכל להתגבר עליו.

הכיוון של התקדמות מחקר הבינה המלאכותית הוא הבנת יצירתיות ורגש אנושיים. אם וכאשר “יפוצחו” נושאים אלה על ידי החוקרים במעבדות מדעי המחשב, תיפתח תיבת פנדורה המכילה סכנות של ממש למין האנושי. ככל שהיכולות של מחשבים נעשות דומות לאלה של בן אנוש, ואף מאיימות לעלות עליו, עלינו לפקח על המפתחים והחוקרים במדעי המחשב ולעמוד על המשמר. לעניין זה נדרשו אנדרו מקאפי ואריק בריניולפסון, חברי סגל באוניברסיטת MIT, שהגיבו ב"ניו יורק טיימס" לפריצת הדרך העדכנית בבינה ממוכנת, שהביאה לניצחון המכונה את האדם ב"גו". השניים מסבירים שהחידוש הוא בכך שיכולות המחשבים החדשים ביותר מבוססות על "למידה עמוקה".

למידה זו אינה הוצאה לפועל של סדרת הוראות שמזינים המתכנתים אלא תהליך מורכב ועמוק הרבה יותר, שעולה מהסקת מסקנות מהצלחות וכישלונות העבר. המכונה הנבונה החדשה אינה צייתנית. שלא כמו במקרה של מחשבים שמנצחים בשחמט, שבו ההישג נובע מזיכרון ומהירויות עיבוד על־אנושיות, כאן מדובר בהליכים אנושיים הרבה יותר. המכונה כבר מבינה ולא רק נבונה. המדע הבדיוני מתממש לנגד עינינו.