מכונת ניהול: האם מערכת בינה מלאכותית מסוגלת לנהל עובדים בצורה רגישה?

פרויקט שמוביל ריי דאליו, מנהל קרן הגידור הגדולה בעולם ברידג'ווטר, מתכנן להציב כיורשו בקרן אלגוריתם AI שיפותח בידי מי שעמד מאחורי ווטסון, מחשב העל של IBM. הרעיון להעביר את מושכות הניהול לבינה מלאכותית, שתעוצב לפי העקרונות המנחים שפיתח דאליו, מערער על תפיסת הרובוט כפועל פשוט ומעלה סדרה ארוכה של שאלות ניהוליות, אתיות, פילוסופיות ופסיכולוגיות.

כבר היום בני אדם מקבלים ומיישמים הוראות שמעבירות להם מכונות ממוחשבות שמנהלות תחומי חיים יומיומיים. הדוגמה הפשוטה ביותר היא מערכות ניווט כמו גוגל מפות או ווייז, שמראות למשתמשים את הדרך שהן תופסות כנכונה ביותר בהתאם לדרישות המשתמש: מסלול מהיר, קצר או נטול כבישי אגרה. אך הבינה המלאכותית של מערכות אלה מוגבלת ובעיקר מספקת תשובות על בסיס מידע שמוזן אליה מאלפי משתמשים בדרכים.

ריי דאליו. מפתח AI שתירש אותו כמנהל צילום: בלומברג

דוגמה אחרת ופחות מיידית למכונות ממוחשבות שפועלות בשדה המשחק האנושי הן מערכות האלגו־טריידינג, שאמונות על ביצוע עשרות אלפי עסקאות בפרקי זמן זעירים במטרה לייצר רווח למפעיליהן. ב־2010 מערכות אלו הפילו בבת־אחת את מדד S&P 500 ומחקו כ־10% מכספי הפנסיה והחזרי החובות העתידיים של תושבי ארה"ב בצלילה החד־פעמית הגדולה והמסתורית ביותר בתולדות וול־סטריט. מקור הצניחה היה ניסיון של תוכנות אלגו־טריידינג לנצל הזדמנות לבצע אלפי עסקאות בשניות בודדות והיא העלתה את שאלת מחויבות המכונה לשיקולים חברתיים רחבים יותר.

מקרה זה ממחיש את הסכנה שבהעברת השליטה בקבלת לידי בינה מלאכותית ומעלה שאלות בדבר יכולת המכונה לקבל החלטות מוצלחות ומושכלות יותר מאנשים בשר ודם. גם הניסיון לנסח קוד אתי למכונות נטולות נהג המנווטות בידי AI מתמודד עם דילמות דומות, במיוחד על רקע מקרה שבו ה־AI שלח רכב של טסלה אל שולי הכביש, והרג נוסע בה.

רשתות ניורונים, למידה עמוקה ובינה מלאכותית הם כולם מונחים מנופחים שבשורה התחתונה מהווים דרך מתוחכמת לתאר רובוטים. אך השאלה האם מערכת ממוחשבת שתלמד משגיאותיה תהיה רגישה מספיק כדי להתמודד עם שאלות מוסריות מורכבות בעולם אנושי שכולל הרבה יותר גוונים משחור ולבן.