איך כותבים קוד אתי בשורות קוד: השאלות המטרידות של העתיד האוטונומי

ועידת מובייל 2017: לתוכנית ולהרשמה לחצו כאן

אתה מתעורר בבוקר ומגלה שלוש שיחות שלא נענו ממספר לא מוכר והודעת טקסט מלחיצה במיוחד: "זה גדי מהיחידה למלחמה בטרור, צור קשר דחוף". בדרך לחניה אתה תוהה כיצד להגיב לפנייה, כשתגלית מטרידה פותרת את ההתלבטות: מכונית הטסלה החדשה, שבאמצעותה תכננת להגיע הבוקר לעבודה, נעלמה. "האם אתה הבעלים של רכב מספר 432789? אני מבקש שתגיע לתחנה לתת עדות בחקירת פיגוע דריסה", מבשר קצין המשטרה את הבשורה המטרידה בטלפון. הטסלה, כך מתברר, נשלפה מהחניה כשהיא נהוגה מרחוק בידי האקרים שפרצו את מערכת הנהיגה האוטונומית שלה, הסיעו אותה עשרות קילומטרים אל לב תל אביב ושיגרו אותה לתוך מרפסת בית קפה שרק במזל היתה ריקה מאדם.

לכתבות נוספות בפרויקט

הרכב האוטונומי אולי יתעכב, אבל לעצור אותו כבר אי אפשר

הערפל הרגולטורי מקשה את עליית הרכב האוטונומי לכביש

ההגה בידיים של תעשיית ההייטק

"אנו רחוקים עשרות שנים מרכבים ברמת נהיגה של בן אדם"

"אמא מתי המכונית תאסוף אותי מהגן?" 

התסריט הזה נשמע אולי דמיוני כרגע, אבל בתוך שנים ספורות הוא עלול להפוך למציאות. השילוב בין עלייתם של רכבים אוטונומיים לכבישים ציבוריים לבין היכולת של האקרים לפרוץ למערכות המחשב שלהם מרחוק הופך סוג כזה של ניסיון פיגוע לתרחיש מעשי ולסוגיה אתית ומשפטית שיצרניות רכב, חברות טכנולוגיה, רשויות אכיפת החוק וגופים אחרים יצטרכו לתת עליה את הדעת.

וזו רק דוגמה קיצונית אחת מתוך שורה של בעיות סבוכות שצפויות ללוות את מה שעשויה להיות המהפכה התחבורתית הגדולה ביותר של המאה הנוכחית. אבל עוד לפני שמגיעים לתרחישי הקיצון ולשאלות מורכבות והופכות קרביים כמו "איך צריך לפעול הרכב כאשר הוא נדרש לבחור בין פגיעה בילד על הכביש לבין סיכון חיי הנוסע" ישנן שאלות אלמנטריות יותר — מה יקרה למקומות העבודה של נהגי המוניות, המשאיות, האוטובוסים והרכבים המסחריים שיוחלפו ברכבים אוטונומיים, ומי יישא באחריות למה שעשוי להפוך בתוך כמה עשרות שנים להכחדה כמעט גמורה של תחום עיסוק שלם?

חופש התנועה בסכנה

התחזיות הוורודות ביותר עבור תעשיית הרכב האוטונומי, למשל זו של מורגן סטנלי, מדברות על שילוב יכוות אוטונומיות בקרוב ל־100% מהמכוניות בתוך שני עשורים. מדובר בתהליך שהחל בחודש שעבר עם ניסויים ראשונים של הפעלת מוניות מסחריות על כבישים ציבוריים בפנסילבניה (של אובר) ובסינגפור (של נו־טונומי), לעת עתה בהיקף מצומצם ובפיקוח נהגים אנושיים. החזון ארוך הטווח של מנכ"ל אובר טראוויס קלאניק הוא להיפטר לחלוטין מהנהגים האנושיים וכך להפוך את השימוש היומיומי במוניות לזול יותר מאחזקת רכב פרטי. מי שפחות מרוצים הם כמובן הנהגים.

"זה תהליך בלתי נמנע, שמזכיר במידה מסוימת את מה שקורה היום בין אובר לנהגים שלה", אומר ד"ר דב גרינבאום, ראש מכון צבי מיתר לחדשנות טכנולוגית, משפט ואתיקה במרכז הבינתחומי הרצליה. עם זאת, הוא צופה כי המעבר לרכבים אוטונומיים יהיה אטי והדרגתי כך שלחלק גדול מהנהגים תהיה הזדמנות נוחה יחסית לחפש עיסוק חלופי. "צריך להסתכל גם על ההשלכות החברתיות והכלכליות החיוביות, למשל האפשרות שזמינות הרכבים האוטונומיים תעודד יותר אנשים לצאת ממרכזי הערים ולעבור לפריפריה בעקבות גורמים כמו הפחתת הפקקים והנוחות ברכב שנוהג את עצמו. זה דבר שיכולות להיות לו השלכות חיוביות רבות במקום כמו ישראל, וצריך לקיים את הדיון תוך התחשבות בכל הסוגיות הללו".

שאלת התעסוקה מובילה לסוגיה אחרת, רדיקלית אף יותר, שתעלה במצב שבו רכבים אוטונומיים יהפכו לנורמה ומכונית שנשלטת בידי נהג אנושי תהפוך לפריט אספנות או תחביב של משוגעים לדבר: האם מה שנראה לנו היום כזכות אנושית בסיסית, לנהוג במכונית שלנו על כבישים ציבוריים לכל מקום שאנו חפצים להגיע אליו, תישמר?

"זה אולי נשמע מובן מאליו, אבל זה לא. לפני 200 שנה אנשים התניידו ברכיבה על סוסים. האם היום נשמרת הזכות של אנשים לרכוב על הסוס שלהם לכל מקום?", אומר גרינבאום. השאלה, גם אם היא נשמעת רחוקה ותיאורטית בשלב זה, מתחברת לסוגיות מהותיות של חופש הפרט אל מול הסמכות של ממשלות וכוחם של תאגידים מסחריים. לשאלה יש נגזרות פרקטיות כמו היכולת של גופים ממשלתיים להגביל את תנועת האזרחים כרצונה באמצעות סגירת אזורים מסוימים לגישה במערכות הניווט של הרכבים האוטונומיים.

המתכנתים כאלוהים

מלבד הפגיעה בתעסוקה, שאלה בוערת שעליה יצטרכו מתכנני הרכבים האוטונומיים והרגולטורים לתת את הדעת היא זו של התנהגות הרכב במקרים של סכנת חיים. לא מדובר בשאלה אחת, אלא במערך מורכב של שאלות: אם הרכב נקלע לסיטואציה שבה הוא חייב לפגוע באדם אחד כדי להציל אדם אחר, במי מהם הוא יפגע? מהם הקריטריונים? מי קובע אותם? באילו מצבים השליטה ברכב תהיה חייבת להישאר אנושית? מי קובע כיצד יפעל האלגוריתם? ושל מי האחריות הפלילית והביטוחית במקרי תאונה שגרמה לפגיעות ברכוש או בנפש?

הדוגמה השכיחה שמובאת כדי להמחיש את הבעיה היא תסריט שבו ילד מזנק לכביש שעליו רכב אוטונומי ובו נוסע. בשעה שנהג אנושי היה כנראה סוטה מהדרך או בולם באיסטנקטיביות כדי להציל את הילד, גם במחיר סיכון חייו שלו, איך מתכנתים את המחשב להגיב במקרה כזה? האם הוא צריך לשקול את חיי הולך הרגל אל מול חיי הנוסע או אנשים אחרים שעלולים להיפגע, נניח הנוסעים ברכב שמאחוריו? האם המחשב ייתן משקל שונה לחיי ילד ולחיי אדם זקן?

היצרניות שותקות

יצרניות הרכבים האוטונומיים, שמעדיפות לדבר על הצדדים הנוצצים של הטכנולוגיה, נמנעו עד כה ככל יכולתן מדיון פומבי בסוגיה. אבל ככל שיגבר השימוש בהן ותאונות יתרחשו, הנושא יצוף — כפי שקרה ביולי האחרון לאחר התאונה שבה נהרג בפלורידה ג'ים בראון בעת שנהג במכונית הטסלה שלו במצב נהיגה אוטומטי.

"אני לא יודע איך אתה מציב ערך מספרי על חייו של אדם, אבל יצרניות הרכבים חייבות להיות מעורבות בדיון הזה מאחר שהן בעלות הידע הטוב ביותר על היכולות של הטכנולוגיה שלהן. זה דיון שנוגע לחברה כולה וחייב לכלול את כל הגורמים הרלבנטיים", אומר גרינבאום.

אל מול השאלות הללו עומדת ההבטחה למנוע 90% מהתאונות, אם להאמין לתחזית של מקינזי. עם 1.25 מיליון הרוגים בשנה בתאונות, על פי נתוני ארגון הבריאות העולמי, ומספר פצועים נזקקים לאשפוז הגבוה פי שמונה, הרכבים האוטונומיים יכולים להציל את חייהם של יותר ממיליון בני אדם בשנה ולחסוך למספר רב בהרבה את הצורך להתמודד עם נכות, פציעות וטראומה. נתונים אלה מעלים את השאלה — האם לא מוטל על האנושות להאיץ את הפיתוח והיישום של רכבים אוטונומיים, גם במחיר של פתיחת הכבישים למכוניות שאינן בטיחותיות בצורה מושלמת בשנים הראשונות?

קבוצה נוספת של שאלות שהרכבים האוטונומיים מעלים עוסקת בסוגיית הפרטיות: נהג ברכב רגיל יכול לנסוע היום כמעט ללא כל מעקב תאגידי או ממשלתי אחר המיקום שלו, אבל הרכבים האוטונומיים ישנו זאת: כל נסיעה עלולה להיות מתועדת במאגרים של יצרנית מערכת הניווט, וממשלות או האקרים שישיגו גישה למידע הזה יוכלו לעשות בו שימוש.

"כבר היום יש גישות שונות בעניין. טסלה אומרת: אנחנו רוצים לדעת את המינימום ההכרחי. גוגל, לעומת זאת, מבססת את הטכנולוגיה שלה על איסוף כמה שיותר מידע", אומר גרינבאום. "שאלת האחריות המשפטית תיצור גם צורך בסוג של קופסה שחורה שניתן יהיה לשלוף ממנה תיעוד לאחר תאונה, וגם זה יוצר שאלות של פרטיות".