מובילאיי ו-IBM מצטרפות לפרויקט של הפנטגון
הפרויקט זכה למימון נדיב של עשרות מיליונים בשנה ויתפרש על פני 4 שנים. בין מטרות הפרויקט: פיתוח אמצעי הגנה מפני תקלות ושגיאות של טכנולוגיית AI
פרויקט נרחב וחדש של סוכנות המחקר של הפנטגון (DARPA), המיועד למאבק בשימוש בבינה מלאכותית כנשק, מושך אליו אוניברסיטאות וחברות טכנולוגיה. על פי הדיווח של אתר Protocol מסוף השבוע, DARPA פרסמה את המכרז להגשת מועמדויות בפברואר האחרון. ראשי התיבות של הפרויקט GARD מציינות שמדובר ביוזמה המיועדת בעיקר לפתח טכנולוגיות שיאפשרו למנוע שימוש בבינה מלאכותית בדרכים זדוניות.
- מובילאיי, אינטל וישקר נרתמות למאבק בקורונה
- מחשב העל החזק בעולם מצטרף למאבק בקורונה
- אמזון נגד הפנטגון: מכרז הענן בו זכתה מיקרוסופט היה מוטה
התכנית תתפרש על פני 4 שנים וכבר זכתה למימון נדיב של עשרות מיליוני דולרים בשנה מהפנטגון. בין היתר היא תשמש לפיתוח של אמצעי הגנה לחיישנים, המיועדים לזהות כאשר בינה מלאכותית מנסה להונות אותם. לדוגמה, בחיישנים של רכב אוטונומי. אלה עשויים לזהות עצמים מסוימים באופן שונה מהמציאות. כך למשל אם חיישן רכב אוטונומי לא ידע לזהות תמרור עצור או רמזור וימשיך לנסוע הוא יכול לגרום לתאונה ואף למוות. שיבוש הפעולה של החיישן מאפשרת להפוך אותו לנשק וזה בדיוק מה שהתכנית מבקשת למנוע.
פרופ' אמנון שעשוע מייסד מנכ"ל מובילאיי בין המשתתפים בה ניתן למנות מוסדות יוקרתיים כגון ג'ורג'יה טק, אוניברסיטת ג'ונס הופקינס, MIT, אוניברסיטת קרנגי מלון ו-SRI. בין החברות שהצטרפו אינטל מובילאיי ומרכז המחקר אלמדן של IBM. אינטל תשתף פעולה עם ג'ורג'יה טק ו-IBM עם SRI (מרכז מחקר ללא מטרות רווח שממוקם בעמק הסיליקון).
מנכ"ל IBM, ארווינד קרישנה צילום: IBM החוקרים ינסו למצוא את הדרכים לאבטח חיישנים, אמצעי זיהוי ומערכות מבוססות בינה מלאכותית. כך למשל כל תחום הראייה המלאכותית מבוססת מחשב סובלת מרגישות גבוהה להפרעות זדוניות. אלה מנצלות את אופן הפעולה שלהן שמבוססת על מערכות למידת מכונה וסטטיסטיקה כדי לשבש את הזיהוי שלהן. זה מסוכן מאוד במכוניות אוטונומיות למשל, אך לא פחות מכך במעברי גבול שכן זה מאפשר לזייף את תווי הפנים וכך לאפשר כניסה של גורמים פליליים או טרוריסטים למדינות שונות.
