איך זה שאפשר להטעות מכונית אוטונומית עם מדבקה?

החוקרים הדפיסו מדבקות שנראות כתמרור עצור דהוי ומדבקות מפוקסלות שיצרו מילים או סתם הדבקות אמנותיות, והציבו אותן על התמרורים המקוריים. המדבקות הצליחו לשטות בכל מערכות הרכב האוטונומי שבחנו החוקרים (לדבריהם הם בחנו את כל המערכות הקיימות בשוק) בשיעורי הצלחה של יותר מ-67% מזוויות ומרחקים שונים.

כך למשל תמרור עצור שנראה פשוט דהוי סווג בעקביות בידי מערכות הרכב האוטונומי כתמרור הגבלת מהירות. המשמעות היא שששינויים קטנים, שנהג אנושי יודע להתעלם מהם, עלולים לגרום לנזק גדול לרכב שמסתמך על מערכת המחשב. הבעיה חמורה במיוחד מאחר שחלקים ניכרים מיצרני הרכב מסתמכים על אותן מערכות זיהוי, כמו פרויקט הקוד הפתוח של באידו הסינית או מערכת מובילאיי הישראלית.

המהנדסים בחברות הרכב האוטונומי שעומלים על פיתוח המערכות יודעים שנדרשות בדיקות חוזרות ונישנות בתנאי שטח אמיתיים לפני שאפשר יהיה לפרוס אותן לייצור מסחרי. אין להם עדיין את כל התשובות פשוט כי הם עדיין לא יודעים את כל הבעיות. כך, פרוייקט הרכב האוטונומי של וויימו מבית אלפאבית נתקל בקשיים לא צפויים בעקבות ציפור סוררת.

החברה נדרשה לפתח צמד מגבים קטנים שינקו את מערכות הלידאר, שמשמשת למדידת מרחק באמצעות קרן לייזר, לאחר שצואת ציפורים פגמה לחלוטין בתפקוד שלהם. מקרה זה, כמו ניסוי המדבקות של חוקרי אוניברסיטת וושינגטון, מראה עד כמה מערכות הרכב האוטונומי עדיין פגיעות בשלב זה של פיתוחן.

אם היה מדובר במיזמי פיתוח אחרים, ניחא. כאן מדובר בהצבת אחריות לחיי אדם בידי מערכות מחשב. המירוץ לפיתוח הרכב האוטונומי מחריף וכל חברה רוצה להיות הראשונה להציב רכב על הכביש מהר ככל הניתן. שיתוף פעולה והצלבת ניסיון יכולים להבטיח מוצר איכותי ובטיחותי יותר. במקום זאת נדרשים חוקרים שמשחקים עם מדבקות.