מדינות המערב משתמשות בזיהוי פנים ללא פיקוח הרבה יותר ממה שחשבתם

תהליך זה, שמכונה שימוש זוחל, הוא מאפיין מוכר של טכנולוגיות מתקדמות בשימוש כוחות אכיפת חוק וגורמים ממשלתיים: מערכת נרכשת למטרה מדויקת, אבל היכולות שלה כל כך גמישות וכל כך יעילות שאט אט זולג השימוש בה לתחומים נוספים, כאלו שלא נמנו במטרות המקוריות שלה. אבל המקרה של משטרת דלהי הוא גם המחשה לתהליך רחב יותר בכל הנוגע לטכנולוגיות זיהוי פנים, ושבמסגרתו חוסר מעש של ממשלות בארה"ב ובאירופה, בין אם מחוסר הבנה ובין אם כתוצאה מניגוד אינטרסים מובהק, מונע הטלת מגבלות על שימושים בטכנולוגיית זיהוי פנים. והופך למעשה את החברות שמאחורי הטכנולוגיה הזו לגורמים שמחליטים איפה היא תיפרס, מי יעשה בה שימוש ולאילו מטרות.

מערכת זיהוי פנים המונית בסין צילום: רויטרס

לפער שנוצר נכנסות חברות הטכנולוגיה שמייצרות מערכות אלו, ומשתמשות בכוחן על מנת ליצור בפועל את החוקים והכללים שיסדירו את ההתנהלות בתחום. לפני שנה, נשיא מיקרוסופט בראד סמית הציג שורת עקרונות לרגולציה של מערכות זיהוי פנים. ומנהל המדיניות הציבורית של חטיבת שירותי הענן של אמזון, AWS, קרא ליצירת חקירה ש"תגן על זכויות אזרח, תוך שהיא מאפשרת את המשך החדשנות והשימוש המעשי בטכנולוגיה". אמירה מוזרה מחברה שהפכה לספקית מובילה של מערכות זיהוי פנים לכוחות משטרה, צבא ארה"ב וסוכנויות ממשלתיות.

מערכת זיהוי פנים של ה-TSA בשדה תעופה אמריקאי צילום: WBUR

בארה"ב, מציינים בפוליטיקו, יש ביקוש ניכר לטכנולוגיה זו מצד רשויות ברמה הפדרלית, ברמת המדינה וברמה המקומית. הטכנולוגיה כבר הותקנה בנקודות כניסה נבחרות לארה"ב, ובין הרשויות הגדולות שעושות בה שימוש נמנות משטרת פלורידה, משטרת קולרדו ומשטרת אורגון. בבריטניה, שתי יחידות משטרה החלו להשתמש בטכנולוגיה לזיהוי אוטומטי של עוברי אורח באמצעות מצלמות רחוב, משרד הפנים של הונגריה התקין 35 אלף מצלמות זיהוי פנים ברחבי המדינה והטכנולוגיה נפרשה גם בשדות תעופה שונים באיחוד.

"זה מדאיג", אמר לפוליטיקו פעיל זכויות האדם הגרמני מטיאס מונרוי. "בשילוב עם בינה מלאכותית, טכנולוגיה כזו לא תאפשר לאף-אחד להיות אנונימי במקום ציבורי". פטריק בראייר, חבר הפרלמנט האירופאי מטעם מפלגת הפיראטים הגרמנית, הוסיף: "צריך לעצור את טכנולוגיית זיהוי הפנים לפני שהיא תהיה עובדה מוגמרת". המגמה הזו בעייתית לא רק בגלל הפגיעה הישירה שנגרמת מעבודה תקינה של מערכות אלו, אלא מכיוון שפעמים רבות הטכנולוגיה בכלל לא מתפקדת כשורה. בדצמבר פורסם מחקר חדש, הנרחב ביותר מסוגו, בנושא שיעורי ההצלחה של מערכות זיהוי פנים שפורסם בארה"ב ונערך על ידי המכון הלאומי לתקנים וטכנולוגיה (NIST).

המחקר מאשש ממצאים של מחקרים קודמים בתחום: המערכות ממש גרועות בזיהוי כל מי שהוא לא גבר לבן. 189 אלגוריתמים מתוצרת 99 חברות נבחנו, ורובם טעו בזיהוי של אסייתים או שחורים בשיעור הרבה יותר גבוה לעומת לבנים. הבעיות האלו ידועות כבר שנים רבות תוצאה של לימוד האלגוריתם בעיקר באמצעות תמונות של גברים לבנים. כלומר, מערכות אלו לא רק שמעצם פעילותן מייצרות פגיעה בפרטיות ובזכויות אזרח, אלא שבאורח לא פרופורציונלי הפגיעה גדולה יותר כאשר מדובר באוכלוסיות מוחלשות.

אפליקציית זיהוי הפנים של אמזון שהחברה מכרה לממשלת ארה"ב צילום: אמזון

זה בדרך כלל השלב בטור שבו אני אומר מה צריך לעשות, אילו פעולה צריכים הגופים הרלוונטיים לנקוט על מנת להתמודד עם המצב הלא-תקין שנוצר. ואולם, במקרה זה הבעיה היא שהגופים שאמורים לנקוט בפעולה הם אלו שאחראים לבעיה, ושאין להם אינטרס אמיתית לפתור אותה מכיוון שהמצב הקיים משרת אותם. אפשר לנסות ולצעוק, לעורר מחאה אזרחית, אולי אפילו לעתור לבתי המשפט. אבל אלא אם הממשלות יחליטו להתנער מחוסר הפעילות שלהן בתחום, ההשפעה של פעולות אלו תהיה זניחה ומערכות זיהוי פנים יופיעו ביותר ויותר מקומות ציבוריים.