אוטונומי? בשביל מי? האמריקאים לא רוצים מכוניות רובוטיות

אוטונומי? למה אני צריך את זה?

חוקרי מעבדת אבטחת המידע של טנסנט גילו פרצות סייבר במערכות הנהיגה העצמונית של טסלה, שמאפשרות לבצע מתקפה קטלנית: לגרום למכונית פשוט לעבור לנתיב הנגדי ולהתנגש חזיתית בכל מה שנוסע בו. המתקפה נשענת על שיבוש יכולת זיהוי גבולות הגזרה של תוכנת הנהג האוטומטי, כלומר הדרך בה היא מבינה היכן נמצא הכביש ולאן אסור לה לנסוע. לאחר ביצוע הפריצה - אתגר טכני כשלעצמו - לא קשה להפעיל את המתקפה ולגרום למכונית האוטונומית לסכן את חיי הנוסעים שלה.

אלון מאסק, מנכ"ל ומייסד טסלה, החמיא לצוות החוקרים ואמר שביצעו עבודה טובה; מעניין מה היה לו להגיד לצוות האבטחה אצלו בחברה. סיפור זה, ועוד אחרים כמותו, מדגישים משהו שענקיות הטכנולוגיה כבר לא מתעלמות ממנו: יש הרבה מגבלות טכניות ותודעתיות, והציבור פשוט לא בוטח בכלי רכב אוטונומיים; ויש לו סיבות טובות.

מפרגן. אלון מאסק צילום: רויטרס

סקר שנערך לאחרונה בארצות הברית בידי חברת IPSOS ובהזמנת רויטרס מכמת את חוסר האמון הזה: הוא הקיף 2,222 משיבים בארה"ב כולה, עם שיעור טעות של 2%. מבין המשיבים, 64% אמרו שלא ירצו לרכוש להם מכונית אוטונומית, לעומת 27% שאמרו שישקלו לקנות אחת; 63% אמרו שלא יסכימו לשלם יותר על רכיבים אוטונומיים במכונית חדשה לעומת 30% שראו בהם סיבה לייקור המכונית.

בנוסף, 67% השיבו שיש לדרוש ממפתחי רכב אוטונומי סטנדרטים גבוהים יותר של בטיחות, לעומת 19% שסברו שהסטנדרטים שזהים לשל מכונית רגילה מספיקים, ו-4% שאמרו שאפשר להוריד סטנדרטים. הנתונים עולים בקנה אחד עם של סקר שנערך לפני שנה, זמן קצר לאחר שמכונית אוטונומית של אובר דרסה אישה למוות בגלל ליקוי תוכנה. מאז עבר זמן והוצגו יותר תוכניות רכב עצמוני כמו גם מאמצי יח"צ עבורן - ואני שמח לראות שהציבור האמריקאי לא שכח ולא התרצה.

מכונית אובר נבחנת לאחר תאונה קטלנית צילום: רויטרס

יכול להיות שהנכונות של האמריקאים לשלם על מכוניות רובוטיות אינה רלוונטית בשטח; לא מעט מהחברות בתחום רוצות להפוך אותן לרכב ציבורי, לא משהו שאנשים יחזיקו בבעלות פרטית. המשקיע כריס תומס אמר לבלומברג שלדעתו, אנשים פשוט מרגישים בנוח עם מה שיש להם ולכן לא חושבים בצורה חיובית על מהפכת הנהיגה האוטונומית. "כשכולם יבינו את היכולות משנות-המשחק של הרכב העצמוני, איך יוכל לתת להם בחזרה זמן לקריאה, עבודה או שינה, הם יתחילו לשאול על הערך של אותו זמן".

אבל לפני שאנשים יתחילו לתהות מה לעשות עם כל הזמן הפנוי שמכונית אוטונומית תעניק להם (הבוסים שלהם, מן הסתם, ידחפו אותם לנצלו לעבודה), יהיה על האנושות לעבור משוכה עצומה; המפגש בין נהגים אנושיים ותוכנות יגרור תקופה של אי ודאות, ניסוי וטעיה שתתבטא ביותר תאונות דרכים. כל ניתוח תאונה יצטרך להתבצע בצורה פתוחה, משותפת וחוצת-תעשייה כמו תאונת מטוס - משהו שחברות הרכב והטכנולוגיה לא בהכרח ירצו לבצע כדי לא לחשוף יכולות טכנולוגיות, מה שעלול לגרום לתקלות לחזור על עצמן. וגופי רגולציה, שירצו רק להאיץ את הניסויים ולקדם את הצמיחה שמבטיחות מפתחות הרכב העצמוני, עלולים לשחרר להן חבל ארוך מאוד.

כוח גדול, אחריות גדולה

לגוגל יש אתגר גדול בתחום הבינה המלאכותית: איך צומחים בשווקים תחרותיים כסין, בלי לעורר את זעמה של ממשלת ארה"ב או חמור מזה - של עובדיה עצמם? ולעובדים יש הרבה כוח; הם מחו וחלקם אף התפטר משום שלראייתם, חצתה החברה קו אדום אתי כשסייעה לפנטגון לשפר את יכולות ראיית המכונה של המל"טים שלו. מה עשתה גוגל? נסוגה מהפרויקט. סוגיית האתיקה והבינה המלאכותית טעונה גם בלי הרובד הגיאופוליטי, וגוגל החליטה בחודש שעבר שצריך לטפל בנושא ברצינות. מה עשתה? הודיעה על כינונה של מועצה חיצונית מיוחדת שתבקר את פיתוחיה בתחום ה-AI.

AI? המועצה של גוגל כבר מעוררת מחלוקות צילום: שאטרסטוק

ישבו בה מומחים עולמיים מתחומי מדעי המחשב, וגם מתחומים כפוליטיקה, תרבות ועוד. בראיית יח"צ, ההחלטה נראתה טוב: גם אם לא היתה לוועדה סמכות להגיד לגוגל "מערכת זיהוי פנים עבור המשטרה החשאית בסין? נראה לכם שנאשר דבר כזה?", עדיין טוב שתשב כנרית במכרה הזה. והנה, בקושי חלף שבוע והמועצה כבר מושכת אש.

בסוף השבוע קם אלונזו אקוויסטי, כלכלן התנהגותי וחוקר בתחום הפרטיות, והצהיר שיעזוב את המועצה. לדבריו, היא פשוט לא הגוף המתאים להבטחת קו אתי לתוכנות עצמוניות. אתמול קמה קבוצה של עובדי גוגל והחלה להפיץ עצומה שקוראת להדיח את קיי קולס ג'יימס, אחד מחברי המועצה שהוא לגמרי במקרה גם נשיא קבוצת חשיבה שמרנית שפעלה בעבר נגד שוויון זכויות ללהט"בים. מאות מעובדי גוגל חתמו עליה.

נראה שלהנהלת גוגל אין איך לצאת טוב מהסיפור הזה; היא חייבת לציית לדרישות העובדים כשהן תופסות תאוצה, משום שהם המשאב הכי חשוב שלה. היא חייבת להיראות טוב כלפי חוץ כדי להשתיק ביקורות של ממשלת ארה"ב או חס וחלילה, משקיעים, והקולות שטוענים שכלי AI יכולים להזיק לאנושות בידיים הלא נכונות מתגברים כל הזמן ועלולים לייצר זעם ציבורי. לכל חברות האינטרנט יש פעילות פיתוח בתחומי AI שונים, אך גוגל היא נערת הפוסטר; החברה הכי גדולה וחזקה, ששולטת בהכי הרבה תחומי חיים מקוונים - ולכן, גם האחריות שמוטלת עליה גדולה יותר. אולי כדאי לחברה להמתין לכינון גוף אחר שיעסוק באתיקת AI, כך שמישהו אחר יתמודד עם כאב הראש הזה, והיא תוכל להצטרף ולהשפיע בשקט מבפנים.

קצרצרים

1. אובר נתבעה בידי אישה שהשתמשה בשירותיה ועברה תקיפה מינית קשה בידי הנהג. המקרה ארע בוושינגטון הבירה בשנה שעברה, הנהג נעצר והודה באשמת אונס. בדרך כלל, מתפתלת אובר וטוענת שהנהגים אינם עובדים שלה אלא קבלנים עצמאיים אך האנס הנ"ל במקרה מוגדר כעובד שלה. הנאנסת דורשת פיצוי של עשרה מיליון דולר, ואובר - שבדרך כלל מעדיפה לסגור מקרים כאלה מחוץ לכותלי בית המשפט - צפויה להיכנע. לפי התביעה, היה על אובר להדגיש את הסיכונים שמציב השימוש בשירות שלה לנשים. ולפי נתונים היסטוריים, יש בהחלט סיכון; ב-2018 נרשמו 103 מקרי תקיפה מינית שביצעו נהגי אובר בארצות הברית לבדה.

שיתוף נסיעות - סכנה לנשים?

2. פייסבוק מנסה להיראות כפתוחה ושקופה יותר, והשיקה תוכנית שתאפשר לגולשים להשתתף בביקורת מדיניות הצנזורה שלה. במרכז התוכנית תעמוד מעין קבוצת מבקרים שתוכל לספק חוות דעת חיצונית על החלטות שקיבלה הנהלת הרשת החברתית בנוגע לתוכן, סינון שלו וקידום שלו. לדברי פייסבוק, תוכל המועצה אף להוביל לביטול החלטות ומהלכים. הפרסום הזה אמנם רציני לגמרי, אבל לי הוא נראה כמשהו שמתאים יותר לקטגוריית הלצות האחד באפריל; פייסבוק לא רוצה פידבקים מהקהל, אחרת לא היתה מבטלת למשל את התכונה שאיפשרה לגולשים להצביע על שינויים גדולים בפיד ובממשק. פייסבוק רוצה בעלי מניות מבסוטים, רגולטורים מנומנמים ומשתמשים שמשפריצים מידע פרטי בלי לחשוב על ההשלכות. ובשביל זה, צריך לשדר שקיפות. איך אומרים? כבדהו וחשדהו.

3. גוגל הודיעה שתחדל מייצור ושיווק של סמארטפוני הפיקסל 2 והפיקסל 2 XL שהשיקה בסוף 2017; סדרת פיקסל כוללת סמארטפוני עילית במחיר עילית, שנועדו לקדם את מותג אנדרואיד אך מעולם לא תפסו חזק והציגו מכירות בשיעור מורגש. זה לא שהמותג זקוק לקידום; מערכת ההפעלה הזאת שולטת בשוק המובייל ביד רמה, ולגוגל אין אינטרס להציג טלפונים שיתחרו בצורה משמעותית באלה של שותפות כסמסונג, וואווי, שיאומי ואחרות. מכשירי הפיקסל 3 שהגיעו אחריהם הפכו את הסדרה לאפילו פחות הגיונית: הם היו נחותים יחסית ממכשירים מתחרים ועלו אותו הדבר. לפי הערכות, צפויה גוגל לחזור לעידן מכשירי הנקסוס, שהיו זולים יותר ממכשירי הדגל, עם טלפון בשם פיקסל 3 לייט.