חוקרים ישראלים פיתחו "מפתח גנבים" לעקיפה של זיהוי פנים ביומטרי בסמארטפונים
חוקרים ישראלים פיתחו "מפתח גנבים" לעקיפה של זיהוי פנים ביומטרי בסמארטפונים
בפקולטות להנדסת מחשבים ולהנדסת חשמל באוניברסיטת ת"א פיתחו פנים גנריות שבאמצעותן ניתן לפרוץ מערכות זיהוי פנים ביומטריות; מהמחקר גם עולה כי מערכות זיהוי פנים נוטות להיות מוטות לטובת פנים של גברים לבנים
חוקרים ישראלים מהפקולטה להנדסת מחשבים ע''ש בלווטניק והפקולטה להנדסת חשמל באוניברסיטת תל אביב פיתחו פנים גנריות שיכולות לשמש לפתיחת נעילה של מערכות זיהוי פנים ביומטריות. בנוסף החוקרים מסבירים שהפנים האלה יכולים לשמש להתחזות ברמות שונות של הצלחה.
במחקר שפרסמו החוקרים שלשום (ג') הם מדגימים כיצד יצרו 9 סוגי פנים גנריות, בהם השתמשו כדי להתחזות ליותר ממחצית הפנים הזמינות בשלושה בסיסי נתונים של תמונות פנים. אלה משמשים לאימון מערכות זיהוי פנים ביומטריות מסחריות ולמחקר בתחום.
החוקרים הראו כי 9 סוגי הפנים המלאכותיות שהם יצרו דרך האלגוריתם שלהם, יכולים בכל מצב נתון לשמש להתחזות לכ-40% מהפנים שזמינות במערכות אלו. וזאת ללא צורך במידע נוסף זולת הפנים המזויפות. זאת אומרת שאין שום צורך במידע נוסף או נתונים על האדם אליו רוצים להתחזות מלבד תצלום של הפנים שלו.
הרעיון המקורי לפיתוח החדש מבוסס על מחקר קודם שפורסם ב-2017 ובו שלושה חוקרים אמריקאים הציגו שיטה דומה לזיוף טביעות אצבעות. החוקרים פיתחו אלגוריתם שיכול ליצור דוגמאות של טביעות אצבעות גנריות שיכולות לעקוף מערכות זיהוי טביעות אצבעות. בין מסקנות המחקר שלהם היתה האמירה שתוצאות המחקר שלהם מצביעים על "חולשה חמורה" גם במערכות זיהוי פנים שמבוססות על אותם עקרונות.
אחד המאפיינים המעניינים של הפנים הגנריות שפותחו על ידי החוקרים הוא שרובם היו של גברים זקנים או מבוגרים, ללא זקן או משקפיים. החוקרים בדקו את הפנים המלאכותיות כנגד מאגרי המידע של Dlib, FaceNet ו-SphereFace. שמשמשים כאמור לאימון מערכות למידה עמוקה לזיהוי סוגים שונים של פנים.
לדברי אחד החוקרים, רון שמלקין, לאתר Motherboard שהם בחרו את המערכות האלה בכוונה. "הן מסוגלות לזהות תווים סמנטיים ברמה גבוהה", הסביר. עוד הוסיף שיכולותיהן המתוחכמות מאפשרות לזהות יותר מאשר רק צבע עור או תאורה. הם השתמשו במודל ללמידת מכונה המכונה Generative adversarial network (GAN). מודל כזה לדוגמה, שאומן על מאגר תצלומים של בני אדם, יוכל ליצור תצלומים חדשים שנראים אותנטיים ומכילים מאפיינים מציאותיים רבים.
הרעיון המרכזי של GAN מבוסס על אימון של רשת נוירונים הנקראת "רשת גנרטיבית" שלומדת את התפלגות הנתונים, ומטרתה ללמוד לייצר נתונים חדשים שנראים כאילו נלקחו מאותה ההתפלגות. במילים אחרות זו מערכת שיודעת לייצר נתונים חדשים על בסיס מאגר מידע קיים. כמו למשל פנים חדשות מתוך מאגר של אלפי פנים קיימות.
המודל בו עשו שימוש החוקרים שימש לייצר את הפנים דרך אלגוריתם שכתבו ובהמשך הם השתמשו ברשת נוירונים כדי לייעל ולחזות את מידת ההצלחה של הפנים שיצרו להתחזות לפנים במאגר. לאחר מכן שימש האלגוריתם לאימון רשת הנוירונים כדי לסווג את המועמדים המבטיחים ביותר. זה בתורו שימש ללמד את הרשת נוירונים כדי שישפר את האלגוריתם ליצור טיפוסים טובים יותר של פנים גנריות עם סיכוי גבוה יותר לזיהוי על ידי הסורקים הביומטריים.
שמלקין הסביר שהמחקר שלהם מיועד לשפר את האבטחה של מערכות זיהוי פנים קיימות ולשפר את יכולות הזיהוי שלהן.
במקביל החוקרים גם זיהוי מספר תובנות מעניינות בכל הנוגע למאגרי פנים מעין אלה שבהם עשו שימוש. כך למשל הם מצאו שמאגר הפנים באוניברסיטת מסצ'וסטס (LFW) נטה להיות פחות מגוון ממאגרי פנים אחרים והכיל בעיקר פנים של אנשים לבנים בני למעלה מ-60 מה שמאפשר ליצור דגם פנים גנרי אחד כדי לכסות את כל המאגר. זאת ועוד, רשת הנוירונים יצרה רק 2 פנים של נשים, מה שמצביע על האחוז הנמוך (כ-22%) של פנים נשיות במאגר.
הממצאים של החוקרים מעניקים גושפנקא מחקרית למה שידוע כבר תקופה ארוכה - מערכות זיהוי פנים נוטות להיות מוטות מאוד לטובת פנים של גברים לבנים. במקרים עברו אף היו מערכות כאלה שזיהו פנים של אנשים ממוצא אפריקאי או בעלי גוון עור שחור כקופים. במקרים אחרים לא ידעו המערכות לזהות את המגדר של הפנים. מדובר בתוצאות שמצביעות על הבעייתיות שבשימוש במערכות זיהוי פנים לאכיפת חוק למשל.
בארה"ב נמצא כבר שמערכות כאלה הובילו לא פעם לטעויות חמורות בזיהוי של חשודים בפשעים ואף למעצרי שווא. במקרים אחרים התברר שקל מאוד לחבל בפעולה שלהן ולגרום להן לזהות אדם אחד כאדם אחר, כפי שהציגו חוקרי החברה הישראלית Adversa לפני כחודשיים. הם ריטשו את הפנים של המנכ''ל, אלכס פוליאקוב, וגרמו למנוע זיהוי פנים פופולרי לחשוב שהוא למעשה אלון מאסק מנכ"'ל טסלה.
מיותר לציין עד כמה הממצאים האחרונים האלה צריכים להדאיג כל אזרח במדינה חופשית (ואפילו יותר בדיקטטורות) או אדם שמשתמש במערכות מעין אלה לנעילה של מידע או ציוד רגיש. כל עוד הרשויות או אפילו חברות וארגונים לא ישימו לב למגבלות האלה הם עשויים לחשוב שזיהוי פנים הוא סוג של טכנולוגיית פלאים שתקל על עבודתם. בעוד שהמציאות מראה שהיעילות שלהן רחוקה מאוד מכך.
