"הפשיעה הרובוטית": מרוץ חימוש טכנולוגי שחובה לנצח בו
"הפשיעה הרובוטית": מרוץ חימוש טכנולוגי שחובה לנצח בו
רובוט תעשייתי שמתוכנת לחדור מערך אבטחה של מפעל מתחרה, ומערכת בינה מלאכותית שמשכנעת אלפי אנשים להשקיע בהונאת קריפטו: שימוש ברובוטים מבוססי AI צפוי להיות שלב חדש באבולוציה של הפשיעה המאורגנת, שמייצרת אתגרי אכיפה וחקיקה רבים ומחייבת שילוב כוחות נוכח המציאות הטכנולוגית החדשה
ההתפתחות המואצת של יכולות טכנולוגיות, ובעיקר בתחומי הרובוטיקה, האוטומציה והבינה המלאכותית, כבר מציבים כיום אתגרים חדשים ומורכבים בפני גורמי אכיפת החוק, שילכו ויתעצמו בשנים הקרובות. ההבנה כי גורמים עבריינים יכולים כבר כיום, ובוודאי בעתיד, לשכור את שירותיהם של מומחים בתחומים אלה במטרה לתכנת ולהפעיל מערכות אוטונומיות לטובת ביצוע פעולות בלתי חוקיות, מחייבת חשיבה מחודשת וחדשנית על שיטות המניעה, החקירה והאכיפה המסורתיות.
הדוגמאות לכך רבות, מגוונות ובעיקר מטרידות. כך למשל, רובוטים יכולים לפרוץ לכספות באמצעות לימוד מדויק של מנגנוני הנעילה, מערכות AI שמסוגלות לזייף קולות של מנהלים בכירים ולהורות על העברות כספים, ואפילו רובוטים זעירים שיכולים להיכנס למתקנים מאובטחים דרך פתחי אוורור ולשבש את מערכות האבטחה מבפנים. אחד התרחישים המדאיגים במיוחד הוא השימוש ברשתות של רובוטים מבוזרים ומוצפנים לביצוע פשעים מורכבים. למשל, קבוצה של צבר רובוטים שתוכנתו מראש לתאם ביניהם פריצה למחסן לוגיסטי/מסחרי, כשכל רובוט מבצע משימה ספציפית - אחד מנטרל את מערכות האבטחה, השני מטפל במנגנוני הדלתות, והשלישי מפעיל מערכת תפעולית. דוגמה לכך הייתה אירוע "חטיפת הרובוטים" בשנחאי באוגוסט השנה, עליה דווח לפני כשבועיים, במהלכו רובוט זעיר המצויד במערכת בינה מלאכותית מתקדמת יזם "שיחה" עם 12 רובוטים שהוצבו באולם תצוגה ו"שידל" אותם לצאת יחד אתו מהחדר.
האתגרים המרכזיים יהיו בין היתר בזיהוי "מבצע" העבירה. כאשר רובוט או מערכת מבוססת AI מבצעים פעולה עבריינית, עולות שאלות אופרטיביות, כמו גם משפטיות מורכבות: את מי יש להעמיד לדין, האם את מתכנת המערכת? את היצרן? את המפעיל? או את בעל המערכת? הגדרת האחריות הפלילית במקרים כאלה מחייבת חשיבה משפטית מותאמת למציאות הטכנולוגית החדשה וביצוע התאמות חקיקה למצב החדש.
בניגוד לפשיעה המסורתית, מערכות אלו יכולות לפעול במקביל במספר מוקדים, תוך שימוש בתקשורת מוצפנת ומאובטחת שקשה לאתר ולפענח. זאת ועוד, היכולת שלהן ללמוד ולהסתגל מאפשרת להן לשנות דפוסי פעולה ולחמוק מזיהוי. להבדיל מהעולם הפיזי, הרי שהקושי באיסוף ראיות דיגיטליות מהווה אתגר משמעותי נוסף. מערכות AI מתוחכמות יכולות למחוק בצורה אינהרנטית עקבות דיגיטליות, לזייף נתונים ולהקשות על החוקרים לשחזר את מהלך האירועים. כבר דווחו מקרים בהם מערכות AI הצליחו לייצר אליבי מושלם עבור פושעים באמצעות זיוף של צילומי אבטחה או הקלטות, והן יכולות להשתמש בטכניקות של הונאה דיגיטלית (spoofing) כדי להסוות את מקור הפעילות העבריינית.
אחד הכלים המסוכנים במיוחד הוא היכולת של מערכות AI לבצע מניפולציות פסיכולוגיות מתוחכמות. הן יכולות לנתח דפוסי התנהגות אנושיים, לזהות נקודות תורפה ולנצל אותן לביצוע הונאה או סחיטה. יתרה מכך, השימוש ב-deepfakes ובטכנולוגיות דומות מאפשר יצירת תוכן מזויף משכנע שקשה להבחין בינו לבין המציאות. כבר כיום מוכרים מקרים בהם זויפו פניות דיגיטליות, בין אם בכתובים ובין אם באמצעות הודעות קול ובהן הנחיה להעברה כספית משמעותית, אשר התבררה לאחר מעשה כזיוף ומרמה.
אפילו תרחיש שכיום הינו קל להתמודדות, דוגמת עצירת כלי רכב לטובת בדיקת רישיונות, זיהוי נוסעי הרכב או תכולתו, הופך לאירוע מורכב כאשר מדובר בכלי רכב אוטונומי המתוכנת לבצע משימה ואין בו נהג. כיצד מתקשרים עם כלי הרכב הזה? וכיצד מביאים לעצירתו הבטוחה בצד הדרך לטובת בדיקה או נטרול כל פעילות עבריינית?
על מנת להתמודד עם אתגרים אלו, על רשויות אכיפת החוק לפעול כבר כיום לנתח את מנעד האיומים הצפוי, לפתח יכולות חדשות, לרבות הקמת יחידות מיוחדות המתמחות בפשיעה רובוטית ומבוססת AI, להכשיר חוקרים בטכנולוגיות מתקדמות, לפתח כלים פורנזיים ייעודיים לניתוח ראיות דיגיטליות מתקדמות, ועוד. בנוסף, נדרש שיתוף פעולה הדוק יותר בין גורמי אכיפת החוק לבין מומחי הגנה ותקיפת סייבר, חוקרי בינה מלאכותית ויצרני רובוטים.
ההבנה כי ארגונים עברייניים יעשו שימוש ויסבו כלים טכנולוגיים מסחריים לטובת צרכיהם הפליליים מצריכה עדכון רגולציה אשר תחייב את יצרני הטכנולוגיה לפעול לפיה, זאת במטרה למנוע שימוש בלתי רצוי וכשר באמצעים המיוצרים על ידם. פיתוח אסטרטגיות אפקטיביות להתמודדות עם האיומים החדשים יתאפשר רק אם נייצר שילוב נרחב של ידע טכנולוגי, משפטי ומבצעי לצד שיתוף פעולה בינ"ל בין גורמים מדיניים, גורמי אכיפה וגורמי תעשייה. ההתמודדות עם אתגר זה מחייבת חשיבה מחדש על שיטות האכיפה המסורתיות, פיתוח יכולות חדשות, והתאמת המסגרת החוקית למציאות הטכנולוגית המתפתחת.
ניצב (בדימוס) בועז גלעד הוא מנכ"ל חברת S.T – Impact וחוקר במכון לחקר הביטחון האישי והחוסן הקהילתי במכללה האקדמית גליל מערבי
