ריאליטי סקיינט: DARPA מפתחים בינה מלאכותית שתוקפת בחזרה

אי שם בלב מדבר מוהאבי שבדרום ארצות הברית התכנסו ב־2004 שבע קבוצות של מדענים וממציאים. הם הגיעו עם ג'יפים וטרקטורונים, שצוידו ברדאר, מצלמות וטלסקופים. המטרה: ליצור את הרכב האוטונומי הראשון. כל הקבוצות נכשלו.

12 שנה לאחר מכן, מכוניות אוטונומיות הן טרנד חם במיוחד. בפיתוחן מעורבות ענקיות טכנולוגיה כמו אפל וגוגל, לצד חברות רכב דוגמת ב.מ.וו ומרצדס. והכל החל מהחזון של דארפה (DARPA), גוף המחקר והפיתוח של צבא ארצות הברית וארגון מוזר ומרתק במיוחד. זה הארגון שערך את התחרות המדברית הכושלת, אך מצליח בעקביות להמציא מחדש את העולם.

איור: ערן מנדל

ב־30 השנים האחרונות דארפה היה אחראי לכמה מהפיתוחים הטכנולוגיים החשובים ביותר, כולל האינטרנט וה־GPS. טכנולוגיות שנוצרו בתחרויות הרובוטיקה של הארגון משמשות חברות כמו בוסטון דיינמיקס של גוגל, על שלל רובוטיה המפורסמים ודמויי החיות. פיתוחים אחרים משולבים באוריון, ספינת החלל שאמורה להביא את האדם למאדים. אפילו סירי, העוזרת הדיגיטלית של אפל, מבוססת על מחקר שהוביל דארפה. וכעת הארגון מציב את האתגר הבא: אינטליגנציה מלאכותית שתנצח מלחמות סייבר.

במרכז החזון העדכני של דארפה עומדת מערכת מתוחכמת יותר מהאקר אנושי שחוזה התקפות, מנטרלת אותן, תוקפת בחזרה ומגנה על עצמה. לפיתוח כזה יש פוטנציאל עצום: מערכת אבטחה אינטליגנטית תוכל להחליף את האנטי־וירוס המותקן כיום במחשבים האישיים, לשדרג פלאים את רמת האבטחה בעסקים, ועוד יותר מכך — בארגונים צבאיים ופיננסיים חשובים.

מתוך "שליחות קטלנית 5: בראשית". מה ימנע ממערכת חכמה להגן על עצמה מווירוס באמצעות וירוס מסוכן יותר?

בדארפה, כמו בדארפה, החליטו להתמודד עם האתגר באמצעות תחרות, שהזוכים בה יקבלו לא פחות מ־2 מיליון דולר (סגניהם יסתפקו במיליון). ההשראה הגיעה מכינוס ההאקרים הוותיק בעולם, DEF CON, שמפורסם בזכות תחרויות שבהן אורחיו פורצים לתוכנות יריביהם ומגנים על אלה שלהם. ב־2013 דן קאופמן, אז ראש חטיבת המחקרים המיוחדים בדארפה וכיום בכיר במעבדות גוגל, חשב על רעיון יוצא דופן: לארגן תחרות דומה, אבל בין מכונות. קאופמן פנה עם הרעיון למייקל ווקר, מייסד DEF CON ובאותן שנים האקר מפורסם ואנטי־ממסדי, והצליח להעביר אותו צד. כיום ווקר הוא האיש שמנהל את המיזם השאפתני של דארפה, שזכה לכינוי Cyber Challenge.

יותר ממאה קבוצות של מהנדסים והאקרים מנוסים ניגשו לתחרות ונופו במשך שנתיים. שבע הקבוצות שהעפילו לגמר, שייערך באוגוסט הקרוב, יצטרכו לבנות מערכת אינטליגנציה מלאכותית שתנתח בזמן אמת את הקוד של מאות תוכנות תחת שליטתה, תאתר בעיות אפשריות, תיצור קוד חלופי ופתרונות אבטחה בזמן אמת ובו זמנית תתקוף את תוכנות היריב. לכל מערכת צריכה להיות "יכולת לוגיקה שעולה על זו של מומחה אנושי", ויכולת ללמוד, להשתפר, והמרשים מכל - לשנות את הקוד שלה עצמה.

הרעיון לחבר אינטליגנציה מלאכותית לאבטחת סייבר אינו חדש: חברות כמו אדאלום הישראלית, שנמכרה למיקרוסופט, מנסות לאתר התקפות בזמן אמת באמצעות זיהוי דפוסים חשודים. אך המערכת שדארפה מנסה ליצור נראית כרגע כמעט בדיונית. "ברור שמערכות הסייבר הראשונות שנפתח לא יוכלו להתחרות במומחים אנושיים", אמר ווקר. "אך בסופו של דבר הטכנולוגיות האלו יהפכו לסטטוס קוו". "זה העתיד", הוסיף פרופ' ג'יאווני ויגנה מאוניברסיטת קליפורניה, ראש קבוצת Shellphish שהעפילה לגמר. "בני אדם יכולים לאתר חורי אבטחה אבל לא לנתח מיליוני תוכנות".

קל להבין למה דארפה רוצה מערכת כזאת. הוא צריך להתמודד מול סין, שמפעילה את צבא ההאקרים הגדול בעולם המונה יותר ממיליון איש. מערכות אמריקאיות קריטיות, כולל של חברות צבאיות כמו לוקהיד ובואינג, כבר נפרצו. הצבא האמריקאי אינו יכול להתחרות בגודלה של יחידת הסייבר הסינית, ומערכת AI עשויה להיות הפתרון.

השאלה היא כמובן היכן, אם בכלל, כל זה ייעצר. מערכת מחשוב דינמית בעלת יצר הישרדות? כבר ראינו את זה בקולנוע, בדמות סקיינט האכזרית מסדרת סרטי "שליחות קטלנית". זה אולי רחוק מהמציאות, אבל חוקר האינטליגנציה המלאכותית וויליאם הרטלינג, מחבר הספר "A.I. Apocalypse", כבר חושש. "זה מפחיד", הוא כתב באתר שלו. "כשמערכות כאלה ירצו להתגונן מווירוס עוין, מה ימנע מהן להשתמש בווירוס מסוכן יותר?".