הגיע הזמן שנדון על תפקידן של מערכות זיהוי הפנים במערכי הכוח של השלטון

כל פעם שיש מחאות סוערות, במיוחד כאלו שמבקשות ומצליחות לאיים על מערכי כוח ושליטה מבוססים, אלו שבצד השני תמיד יבקשו לדעת מי עומד מאחוריהן, לזהות את האנשים שיוצאים לזעוק ברחובות, לתייג את המוחים ולשמור את המידע למקרה הצורך – בין אם מדובר בשימוש מיידי (למשל, שיחת טלפון ידידותית שמציעה שלא להגיע למחאה הקרובה), ובין אם לשימוש עתידי כלשהו.

ניטור ומעקב צילום: שאטרסטוק

המחאות ששוטפות כיום את ארה"ב נגד האלימות המשטרתית והגזענות הממסדית שעדיין מאפיינת חלקים נרחבים מהחברה האמריקנית, שהוצתו בעקבות רציחתו של ג'ורג' פלויד תחת מגף שוטר משטרת מיניאפוליס שכרע על צווארו, הן אולי הנרחבות, הסוערות והממושכות ביותר מסוגן מזה עשורים. הן כבר התחילו לבקוע כמה סדקים בחומה הבצורה של מערך אכיפת החוק בארה"ב – במיניאפוליס כבר מקדמים חברי מועצת העיר תוכניות לפירוק כוח המשטרה, ובתי המחוקקים של מדינת ניו יורק אישרו ביטול חוק שאפשר למשטרה להסתיר תיקים אישיים של שוטרים – ולכן אין זה מפתיע שגופי אכיפת חוק רבים במדינה הגבירו את מאמציהם לתייג את משתתפי המחאה.

לפי דיווחים, בשבועיים האחרונים ה-FBI והמשמר הלאומי עושים שימוש בכלי טיס מצוידים במצלמות אלקטרו-אופטיות ואינפרה-אדום כדי לנטר הפגנות, ה-CPB, סוכנות המכס והגנת הגבולות של ארה"ב, מפעילה רחפנים שמצלמים את ההפגנות ומעבירים את המידע בזמן אמת, וה-DEA, המנהל לאכיפת סמים, קיבל סמכות לבצע "מעקב חשאי" אחרי מפגינים. בלב שימושים אלו עומדת בעיקר המצלמה, שעל תפקידה המגוון וההפכפך במחאות עמדתי בשבוע שעבר. אבל הפעילות של ארגוני אכיפת חוק האלו לא נעצרת במצלמות.

הפגנת הענק בארה"ב צילום: גטי אימג'ס

במכתב שפרסמו 35 נציגים דמוקרטים מבית הנבחרים נגד פעילות הריגול שמבצעות סוכנויות אלו, הם טוענים גם שנעשה שימוש באנטנות סלולר מתחזות כדי לאסוף מידע כמו שיחות והודעות טקסט מטלפונים של מפגינים, ושתוכנות זיהוי פנים משמשות לזיהוי מפגינים שצולמו. לפעולות אלו יש אפקט מצנן על זכויות אמריקאים לפי התיקון הראשון לחוקה", הם כתבו. לסוכנויות אין סמכות לעקוב אחרי אזרחים אמריקאים או לאסוף כמויות עצומות של מידע אישי".

מבין כל הטכנולוגיות שנעשה בהן שימוש בניטור המפגינים, מערכות זיהוי פנים בולטות לרעה במיוחד, מכיוון שהן הפכו בשנים האחרונות לחלק ממערך הכוח והדיכוי שנגדו יוצאים המוחים לרחובות.

וכנראה שאין הרבה אנשים שמבינים את זה טוב יותר מאשר ד"ר טימניט גברו, ראש צוות הבינה המלאכותית האתית של גוגל ומייסדת Black in AI, גוף שמאגד חוקרים שחורים בתחום. גוגל מפתחת ומשתמשת ביכולות זיהוי פנים שונות, אך בניגוד לחברות כמו אמזון לא מוכרת אותן לשימוש בידי כוחות משטרה שונים. לפי גברו, יש לכך סיבה טובה. "שיתפתי פעולה עם המחקר של MIT, שמצא הפרשי שגיאה גבוהים מאוד, במיוחד בין גברים בהירי עור לנשים כהות עור", היא אמרה לשירה עוביד מהניו יורק טיימס. דמייני מצב שבו טכנולוגיה לזיהוי סרטן עור לא עובדת לאנשים עם עור כהה".

אבל גם אנשים לא כאלו חזקים בזיהוי פנים, במיוחד כשמדובר על אנשים ממוצא שונה. אולי בכל זאת עדיף מערכות זיהוי פנים, חרף העובדה שהן לא מושלמות? "זה תלוי", סבורה גברו. "הניתוח שלנו מראה שבמקרים רבים מערכות זיהוי פנים פחות מדויקות מבני אדם. בעיה אחרת היא משהו שמכונה הטיית אוטומציה. אם האינטואיציה שלך אומרת לך שהתמונה לא נראת כמו סמית, אבל מודל ממוחשב אומר לך שזה הוא בוודאות של 99%, את כנראה תאמיני למודל".

ואולם לדברי גברו יש נקודה עמוקה יותר בכל הנוגע לזיהוי פנים, כזו שרלוונטית גם במקרה שהטכנולוגיה עובדת מצוין: "גם במערכות זיהוי פנים מושלמות ניתן להשתמש לרעה. אני אישה שחורה שחיה בארה"ב והתמודדתי עם השלכות רציניות של גזענות. נעשה שימוש בזיהוי פנים נגד הקהילה השחורה. במהלך המחאות בבולטימור בעקבות מותו של פרדי גריי המשטרה השתמשה בזיהוי פנים כדי לזהות מפגינים באמצעות קישור התמונות שלהם לחשבונות מדיה חברתית".

מערכת זיהוי פנים צילום: שאטרסטוק

המסקנה של ד"ר גברו בכל הנוגע לשימוש בטכנולוגיה הזו בידי כוחות אכיפת חוק ברורה. "צריך לאסור אותו ברגע זה, אני לא יודעת לגבי העתיד", היא אמרה. "תגובת הבטן שלי שלהרבה אנשים בעולם הטכנולוגיה יש דחף לקפוץ על פתרון טכנולוגי מבלי להקשיב לאנשים שעובדים עם מנהיגי קהילות, המשטרה ואחרים שמציעים פתרונות לרפורמה במשטרה".

קריאות כמו זה של גברו התחזקו משמעותית בימים האחרונים בקהילת הטכנולוגיה. IBM, למשל, הודיעה אתמול שהיא יוצאת מתחום זיהוי הפנים לשימוש כללי ושהיא מתנגדת בפירוש לשימוש בטכנולוגיה למעקב המונים. החברה "מתנגדת בתוקף ואינה תומכת כלל בשימוש בטכנולוגיה, כולל זיהוי פנים, גם של ספקים אחרים, שתשמש למעקב המוני, פרופיילינג גזעי, הפרה של זכויות אדם ומניעה של חופש או כל שימוש אחר שאינו עומד בקו אחד עם עקרונותינו", הסביר מנכ"ל החברה, ארווינד קרישנה.

מערכות זיהוי פנים, כשהן פגומות אבל אפילו כשהן לא, הן כלי בעייתי שנותן כוח לא יחסי בידי שלטונות לזהות, לנטר ולפגוע באזרחים, בהפגנות ובשגרה. וכמו כל כלי עצמתי, כשמדובר בארה"ב החשש שיעשה בו שימוש לא מידתי כלפי מיעוטים יש לו על מה להתבסס. בבסיס המחאה בארה"ב עומדת הדרישה לשינוי במערכי הכוח ובמנגנונים שמשמשים לאפליית שחורים ומיעוטים אחרים. התפקיד של הטכנולוגיה במנגנונים אלו אינו זניח, והשימוש שעושים בה גורמי אכיפת החוק צריך להוות חלק מרכזי בדיון שמתנהל כיום.