מעמידות פנים: התעלול היחצ"ני של חברות הטכנולוגיה

זה כמעט נשמע נהדר. אחרי שנים שבהן מומחי טכנולוגיה, אקדמאים, קומץ פוליטיקאים ואפילו נציגי שלטון החוק מתריעים בבעתה מהבוסריות והפגמים הטכניים והמוסריים של טכנולוגיות אלו, סוף סוף ענקיות ותיקות ובעלות מוניטין מביעות סולידריות עם חברי הקהילה האפרו־אמריקאית, שזכויותיהם וביטחונם מתערערים עוד יותר בגלל השימוש במוצרים הללו. אבל כשבוחנים את המציאות שמחוץ להודעות לעיתונות, מדובר בתעלול יחצ"ני בלי הרבה מאוד משמעות - משום שהמהלכים של ענקיות הטכנולוגיה לא מגלמים מוכנות אמיתית להפסיק להרוויח מדיכוי זכויות אזרחים ולהנציח את הבעיה.

איור זיהוי פנים איור: יונתן פופר

1. ללכת בלי, להרגיש בלי

במכתב לקונגרס גינה מנכ"ל יבמ ארווינד קרישנה את הטכנולוגיה, משום שהיא משמשת "למעקב המוני, יצירת פרופיל גזעי והפרות של זכויות אדם וחירויות בסיסיות". באמזון הלכו צעד קדימה וזיהו את עצמם עם המפגינים נגד השימוש בטכנולוגיות זיהוי פנים, והצהירו שהחברה "תמכה בכך שממשלות צריכות לחוקק תקנות חזקות כדי להבטיח שימוש אתי בטכנולוגיות זיהוי פנים. בימים האחרונים נראה כי הקונגרס מוכן להתמודד עם אתגר זה. אנו מקווים כי ההקפאה לשנה עשויה לתת לקונגרס מספיק זמן ליישם כללים מתאימים". במיקרוסופט סיכמו בפשטות: "השורה התחתונה עבורנו היא להגן על זכויות האדם בזמן שטכנולוגיה זו מופצת".

בזמן שהמסרים של ענקיות הטכנולוגיה מופצים לכל עבר באינטרנט תחת כותרות אוהדות, מפנקות ממש, אינספור פעילים חברתיים דופקים את ראשם בקיר. הפעילים האלה מנסים כבר שנים, במאמץ משותף והרואי, לגרום לחברות לקחת אחריות ולהכיר בכך שהמוצרים האלה פוגעים באופן שיטתי בזכויות האדם. ועכשיו, כשהחברות סוף סוף עושות משהו, הן לא באמת עושות שום דבר. ההכרזות הבומבסטיות אינן מלוות בשום מעשה אקטיבי ראוי לציון, כזה שיכול להשפיע על המציאות שנעשית קשה יותר מדי יום.

המקרה של יבמ מגוחך במיוחד, שכן החברה כמעט לא פועלת בתחום זיהוי הפנים. כל האנרגיה שהיא הפנתה לנושא גם ככה היתה צריכה להצטמצם עם התרכזות החברה בפעילות הענן. אצל מיקרוסופט ואמזון, שחקניות הרבה יותר דומיננטיות, הנזק כבר נעשה, מתוך מודעות מלאה לפגמים החמורים במוצרים האלה. אבל עומק הציניות מאחורי ההכרזות גדול עוד יותר.

2. מרווח טעות בלתי מתקבל על הדעת

זה זמן מה שמיקרוסופט פועלת בקדחתנות כדי לקדם חקיקה ברמה הפדרלית בנושא טכנולוגיות זיהוי פנים. וכמו כל תאגיד פרטי שדוחף לחקיקה, אי אפשר שלא לחפש את הטעם הכלכלי והאינטרסים בנוסחים שהחברה דוחפת. אחד הדברים העיקריים שחשובים לה היה לייצר חוק פדרלי שיגבר על היכולת המקומית של מדינות וערים למשטר ולפעמים אף לאסור כליל את השימוש בטכנולוגיה. עוד חשוב לה לאפשר מציאות שבה ניתן יהיה להפעיל את הטכנולוגיה במקרי חירום בלי לבדוק באמת את השימוש בה, מה שמתנגדים הסבירו כדרך להפוך את הטכנולוגיה ל"נורמלי החדש".

עד שזה יקרה, היא פועלת בקדחתנות ברמת המדינה. בשלהי מרץ אושרה במדינת וושינגטון הצעת חוק ראשונה מסוגה שמסדירה את השימוש בטכנולוגיות זיהוי פנים. אין בה כמעט התייחסות לפיתוח או מכירת הטכנולוגיה, היא אינה מגבילה את רשויות החוק בשימוש ולא מטילה אחריות על המשתמשים. מי שניסח את הצעת החוק היה מנהל פרויקטים במיקרוסופט. החברה מנהלת מאמצים דומים באיידהו, הוואי וקליפורניה, תוך שהיא נלחמת במודע נגד איסורים של ערים כמו סן פרנסיסקו, ספרינגפילד וקיימברידג' על שימוש כולל בטכנולוגיה בתחומיהן.

באמזון כבר שנים שפעילים וארגונים מבקרים ספציפית מוצר בשם Rekognition. אמזון הכריזה על השהיה של שימוש כוחות המשטרה בכלי הזה. למהלך הזה היה יכול להיות ערך, אם רק החברה היתה מקפיאה את השימוש בכלי לחלוטין עד חקיקה בנושא.

הראשונות להצביע על הבעיות היו ג'וי בואולמוויני וטמניט גברו, שתי חוקרות שחורות שפרסמו ממצאים על ההטיות השיטתיות במוצרים של הענקיות בזיהוי אנשים בעלי גון עור כהה ונשים. הפעילות שלהן זכתה לתיקוף נוסף מצד האיגוד האמריקאי לחירויות אזרחיות (ACLU). באיגוד הצליחו למשוך תשומת לב לנושא אחרי שהזינו את המערכת של אמזון ב־25 אלף תמונות מעצר וזו מצאה התאמה בין העצורים ל־28 נבחרי קונגרס. בקיץ 2018 יותר מ־70 ארגוני זכויות אדם ומחקר כתבו לאמזון בבקשה שתפסיק לספק את הטכנולוגיה שלה לממשלות.

בדצמבר האחרון מצא המכון הלאומי למדע וטכנולוגיה (NIST) כי אנשים בעלי גון עור כהה וממוצא אסייתי הם בעלי סיכוי גבוה (בין פי 10 לפי 100, תלוי באלגוריתם) לזיהוי שגוי לעומת גברים לבנים. אבל גם אחרי פרסום ממצאים אלו, ואף שידעו כי אפילו התאמה שגויה אחת יכולה להביא למעצרים כוזבים, חקירות ממושכות ומפגשים קטלניים עם כוחות המשטרה, אמזון, יבמ, מיקרוסופט ואחרות לא שינו דבר במדיניות שלהן.

מימין מנכ"ל מיקרוסופט סאטיה נאדלה, מנכ"ל יבמ ארווינד קרישנה ומנכ"ל אמזון ג'ף בזוס צילומים: אי.אף.פי, טי.אן.אס, אי.פי.אי

3. צריך לקחת את השמנת מהחתול

יש משהו פסול במצב שבו ענקיות הטכנולוגיה - המעוזים הגדולים ביותר של עושר ואי־שוויון בארה"ב - יוצאות בהצהרות חלושות, מפרסמות פוסטים ברשתות החברתיות או אפילו תורמות סכומים קטנים, והציבור הרחב מריע להן. למרות הרצון להרגיש שיש משהו מבורך בפעולות האלו, הן ההגדרה של מעט מדי ומאוחר מדי. הן לא כוללות שום רפורמה אמיתית, לא מקיימות דיון מהותי ולא מנסות להבין איך הטכנולוגיות משרתות גזענות מערכתית.

מן העבר השני יש גם משהו פסול בעולם שבו הודעות כאלו מצד חברות טכנולוגיה מיד מעוררות ספקנות קשה. זו מציאות של אי־אמון מתמשך שחברות הטכנולוגיה - ולא רק הן - הרוויחו בעקביות לאורך העשורים האחרונים. במציאות הזאת ברור שאין בהכרח קשר בין מה שהן מצהירות לאופן שבן הן מנהלות את העסקים שלהן. בזמן שהן לוקחות חלק במעין דיון ציבורי על הטכנולוגיות שהן מפתחות, הן ממשיכות למכור אותן לכוחות ההגירה ורשויות המס (אמזון), להעמיק שיתופי פעולה עם כוחות המשטרה במוצרי טכנולוגיות מעקב אחרות (הפעמון החכם רינג, של אמזון) ולהרוויח ממכירת הטכנולוגיות הפגומות האלו למשטרים מדכאים אחרים בעולם כמו סין, רוסיה וטורקיה (מיקרוסופט).

צריך להפסיק לצפות שחברות הטכנולוגיה ינהלו את הסיכונים האלו בעצמן וימשטרו את עצמן. במקום, יש להפעיל לחץ עז יותר על המחוקקים כדי שיעבירו תקנות וכללים שיבטיחו יישום תקין - אם בכלל - של טכנולוגיות חדשות.