INSPIRE
"הצלחנו לתקוף את המערכות של אמזון וגוגל"
ד"ר יוסי קשת מהמחלקה למדעי המחשב באוניברסיטת בר אילן אמר בוועידת הדיגיטל והמובייל של כלכליסט שחוקרים במעבדתו הצליחו להטעות מערכות מבוססות למידה עמוקה
12:4530.10.17
"הצלחנו לתקוף את המערכות של אמזון וגוגל", כך אמר ד"ר יוסי קשת מהמחלקה למדעי המחשב באוניברסיטת בר אילן, הבוקר (ב') בפאנל הרכב האוטונומי – מנוע הצמיחה החדש של הסטארט-אפ ניישן, בוועידת הדיגיטל והמובייל של "כלכליסט" בשיתוף בנק הפועלים ומכון היצוא.
קראו עוד בכלכליסט:
- קרין אייבשיץ-סגל מציגה: במה תשקיע אינטל בשנים הבאות?
- רני וולינגשטיין: לא כל התעשייה מבינה את מהפכת הרכב האוטונומי
- "המיתוס על פתרון יחיד שישנה את כל תעשיית הבריאות הוא לא נכון"
קשת תיאר כיצד על ידי הוספת רעשים לתמונות או לקולות, הצליחו חוקרים במעבדתו להטעות מערכות המבוססות על למידה עמוקה - תחום מחקר שמנסה לחקות באופן ממוחשב את פעולת המוח האנושי. החוקרים הצליחו לתקוף ב-96% את מערכות הלמידה של אמזון, באמצעות פעולה פסיבית אשר שינתה את התמונות המוצגות באתר.
ד"ר יוסי קשת בוועידת הדיגיטל והמובייל של כלכליסט צילום: עמית שעל
"אנחנו לא חודרים למערכות", הסביר. "אנחנו יכולים לקחת את התמונות, להוסיף להן רעש ולהפוך אותן לאחרות. הבנו שאפשר לעשות זאת לכל מערכת לומדת מורכבת. על ידי הוספת רעש, המערכת של ניטור תנועה לא זיהתה הולכי רגל".
המעבדה שמוביל ד"ר קשת עוסקת בבניית אלגוריתמים של למידה עמוקה, למידת מכונה ושל בעיות מורכבות. בנוסף, המעבדה חוקרת השלכות של שפה ודיבור - כמו מה המשמעות של דיאלקטים ומבטאים שונים, מה המשמעות החברתית של הדיבור והאם אפשר למצוא גובה ומשקל של אדם, ולזהות מחלות של סכיזופרניה לפני ההתקף - כל זה על סמך הדיבור.
בניסויים שנערכו במעבדה מצאו כי הרעש לא חייב להיות על כל התמונה, ומספיק שיהיה בנקודות מסוימת - למשל הוספת משקפיים. "האנשים המצולמים זוהו כאנשים אחרים בשל המשקפיים שהרכיבו ושהדפיסו במדפסת תלת מימד. לכך יכולות להיות משמעויות למשל בשדה התעופה, שם תוכלו להזדהות כאחרים".
הפריצות באבטחה לא מוגבלות רק להטיות של דימויים ויזואליים אלא גם להטיות של קול. "גרמנו להטייה של google-voice, והצלחתי לקבוע להם איזו מילה הם יזהו. בזיהוי דובר כמו בבנקים, הצלחנו שהמערכת תזהה את דובר 148 כדובר 23. צריך לחקור מערכות של למידה עמוקה כך שייראו ויישמעו יותר טוב, אבל בעיקר בנושא של אבטחה".
