שוברת קודיםהפנים המכוערות של המלחמה בשירות חברת קלירוויו
שוברת קודים
הפנים המכוערות של המלחמה בשירות חברת קלירוויו
חברת טכנולוגיית זיהוי הפנים מחפשת להכשיר את דרכיה המפוקפקות דרך הענקת גישה לאוקראינה הנאבקת בענק הרוסי. הציבור אולי סבלני, אך אסור להצדיק מוצר שמערער את מרקם החיים
בשבוע שעבר מסר מנכ”ל Clearview AI לרויטרס כי חברת טכנולוגיית זיהוי הפנים העניקה למשרד ההגנה של אוקראינה גישה למוצריה.
הטכנולוגיה תשמש את האוקראינים לחשוף תוקפים רוסים, להילחם במידע מוטעה ולזהות הרוגים, כך הסביר המנכ”ל. אף שלא ידוע עדיין מה אוקראינה תעשה - אם בכלל - עם טכנולוגיית זיהוי הפנים של קלירוויו, החדשות התקבלו בחום, וזה כשלעצמו מספיק כדי לשמש עבורנו נורת אזהרה.
קלירוויו אינה עוד חברה שפיתחה טכנולוגיית זיהוי פנים, והתגובה הראויה אינה “איזה יופי, איך היא מתגייסת למאמץ המלחמתי ופשוט תורמת את השימוש במוצר שלה לידיים של הטובים”. לא. היא נחשבת בעיני רבים חברה מפוקפקת שפיתחה טכנולוגיית זיהוי פנים. זאת משום שאת המוצר שלה היא אימנה על מסד נתונים עצום של 10 מיליארד תמונות שהיא קצרה מהאינטרנט, בעיקר רשתות חברתיות, ללא רשות.
חוקיות קצירה זו נתונה לוויכוח, והחברה היום מתמודדת עם שאלות אלו בבתי משפט בארה”ב, איטליה ובריטניה. הכתם שדבק בה בשנים האחרונות דחף אותה לנסות לייצר סביב המוצר שלה לגיטימציה, והחברה ניסתה להפוך עצמה לשחקן חשוב כמעט בכל אירוע משמעותי בשנתיים האחרונות - המאבק במגיפה, ככלי לזהות את אלו שהסתערו על בניין הקפיטול ב־6 בינואר, וכעת גם המלחמה.
החברה מקווה שאף שעד עתה הוגדרה פעילותה כאסון לפרטיות ומוצריה כמסוכנים למרקם החיים הדמוקרטי, עדיין קיימת הדרך להכשיר את קיומה. והנה ראו, מלחמה אחת ומחווה סמלית קטנה והמוצר כבר אינו בעייתי, אלא נרתם למען כוחות הטוב. אך גישה זו, שבה כשירותה של טכנולוגיה נמדדת רק על בסיס היעילות שלה, היא גישה מסוכנת. מה שצריך להיבחן בבסיס אימוץ טכנולוגיות או מוצרים מסוג אלו הוא האיזון הסביר בין ויתור על עקרונות דמוקרטיים לבין פוליטיקת חירום בתיווך טכנולוגי.
1. שעת כושר לנרמול
מה בעצם נותנת קלירוויו לאוקראינה? לא עוד טכנולוגיית זיהוי פנים, מסבירים בחברה, אלא מוצר שממוצב באופן ייחודי כדי לסייע לה נגד הרוסים. כך מסבירים בקלירוויו לרויטרס, מבלי להתבלבל, שמסד הנתונים, זה שנקצר מהאינטרנט באגרסיביות בחוקיות מוטלת בספק, כולל גם לא פחות מ־2 מיליארד תמונות שנשאבו מפלטפורמת המדיה החברתית הרוסית VKontakte. לטענת קלירוויו, דבר זה יסייע באופן ייחודי למאמץ האוקראיני לזהות פעילים רוסים, במיוחד במחסומים, להפריך פוסטים שקריים ברשתות החברתיות, ואף לשמש כלי המסייע באיחוד משפחות פליטים. כזו היא המלחמה – תמונות שהעלו אזרחים לא מעורבים לרשתות החברתיות כי זה כיף, ישמשו לכאורה את מדינת אוקראינה לאתר בני משפחה וחברים של אותם אנשים בתמונות ולעצור אותם במחסומים.
התזמון של קלירוויו הוא כמובן לא מפתיע. מלחמה או מצב פוליטי מורכב, אפילו בשעת מגפה עולמית, הם שעות הכושר האפקטיביות ביותר לנרמל שימוש במוצרים מעוררי מחלוקת. מה שהוגדר בדקדוק במיוחד על ידי הפילוסוף ג’ורג’ו אגמבן כ־State of exception או מצב חירום, ומתייחס ליכולתה של המדינה להתעלות מעל שלטון החוק בשם טובת הציבור. אבל כגודל ההזדמנות כך הסיכון. אין עת מסוכנת יותר מזו כדי לפרוס טכנולוגיה חדשה.
רגעים אלו של משבר מאפשרים לבעלי הכוח לנצל את השבריריות הפוליטית והחברתית ולמנוע דיון מורכב בשם בהילות הרגע. הבעיה מתגברת עוד יותר כשמדובר בטכנולוגיות שמשפיעות עמוקות על חיי בני אדם, אז פריסתן אמורה להתבצע בזהירות יתרה ובשימת לב יתרה לזכויות אדם, אם יהיו אלו הזכות לחיים, לחופש ביטוי ואף לפרטיות.
כמעט חצי מיליון אנשים מתו עד היום מהטלת הפצצות האטומיות בהירושימה ונגסקי על ידי צבא ארה”ב במלחמת העולם השנייה. אנשים רבים, עד היום, ממשיכים לסבול מנשורת החלקיקים הרדיואקטיביים שצפויים להשפיע על המערכת האקולוגית, כמו גם על בריאותם של הנמצאים שם, עוד אלפי שנים. אבל לא רק הבריאות מושפעת מהאירועים האלו, אלא גם משפחות, קהילות, ערים שלמות. אלו המכונים היבקושה הם הקורבנות הנסתרים של הטכנולוגיה שבאותו הרגע של הטלת הפצצה היתה נראית כמו שימוש הגיוני כדי לסיים לחימה איומה.
2. אמונה עיוורת בדאטה
היום יודעים שעוד לפני שהוטלה הפצצה, הנחת העבודה היתה שהפגיעה תהיה קטסטרופלית. הפצצה, ההמצאה החדשה, נתפסה כמו כדור הכסף או תרופת הפלא לסיום המלחמה בתנאים שהציבה ארה”ב. זה היה פתרון רצחני, טכנו־אוטופי של מדינה דמוקרטית, וגם הזדמנות פז לבדוק את הטכנולוגיה החדשה הזו בשדה הקרב. נכון, טכנולוגיית זיהוי פנים לא תהרוג מאות אלפי בני אדם ברגע אחד, אבל הסכנות שהיא מציבה, במיוחד כשמדובר במוצר שעצם בנייתו הוא מפוקפק מוסרית, מהותיות לא פחות.
ראשית, מסוכן לנרמל שימוש במוצר שיצירתו מערערת את מרקם החיים החברתי, ואסור לאפשר לחברה זו לשטוף את עצמה באלימות האיומה של המלחמה כדי להצדיק את קיומו של המוצר שלה. אם נאפשר WarWashing כזה, אין ספק שאירוע כזה עשוי להתרחש שוב, ואולי בפעם הבאה מי שיעמוד מאחוריו לא יהיו האנשים ה”טובים”. שנית, גם נרמול שימוש המוצר עצמו בגופים צבאיים הוא פסול. הציבור נוהג לגלות סובלנות גדולה במיוחד לשימוש במערכות בינה מלאכותית כמו של קלירוויו. הוא מגלה סובלנות גבוהה למדי לאיסוף הנתונים המסיבי עליו והשימוש בכמויות גדולות שלהם, כדי לבנות מוצרים למטרות רווח שלעתים משרתים אותו, אבל גם מופעלים נגדו. חוקרת התקשורת יוס’י ואן דייק (José van Dijck) הגדירה עוד ב־2014 סובלנות זו כ”דאטהיזם”, מעין אמונה חילונית הולכת וגוברת באופי האובייקטיבי של נתונים. האובייקטיביות הנתפסת הזו מאפשרת, לטענתה, סובלנות גדולה יותר כלפי מערכות אלו, זאת אף שאין דבר אובייקטיבי בהן, ואף על פי שכשהן מונחות בידיהם של מוסדות מדינתיים, הן מסוכנות כפליים.
הנה, למשל, כשגופי שיטור ברחבי העולם החלו לרכוש טכנולוגיית זיהוי פנים, מהר מאוד התבהר כי אמצעים אלו סובלים מבעיות מהותיות שפוגמות ביכולת גופי השיטור לשרת נאמנה את הציבור שעליו הם מגנים. היום ידוע כי שיעורי הטעות שלהם גדולים והם סובלים מהטיות מבוססות מגדר וגזע. כשטכנולוגיית זיהוי פנים עשתה טעויות, התוצאה היתה מעצרים שגויים. אבל כשטכנולוגיית זיהוי פנים תעשה טעויות בידי הצבא, התוצאה תהיה מותם של אנשים. לא סתם המערכת הצבאית הישראלית “זאב כחול” שמתעדת ללא הרשאה או הבחנה פלסטינים נתפסת בעולם כפסולה. היא מחמשת את הצבא בנשק של “אובייקטיביות”, שאין מסוכן ממנו כשהוא נמצא בידי צבא. ההשלכות של נרמול טכנולוגיות מעוררות מחלוקת בזמן מלחמה או שעת חירום יהיו ארוכות טווח. ממש כמו פצצת האטום, האפקט החברתי והפוליטי יהדהד במשך שנים.
