דו"ח טכנולוגירגע לפני שישראל תיהפך למדינת מעקב: עוד יש מה לעשות
דו"ח טכנולוגי
רגע לפני שישראל תיהפך למדינת מעקב: עוד יש מה לעשות
עד 8 באוגוסט אפשר להיכנס לאתר החקיקה הממשלתי ולהביע דעה על תזכיר הצעת החוק להקמת מערך ארצי של מצלמות זיהוי פנים. מומחי המכון הישראלי לדמוקרטיה הגישו חוות דעת קיצונית בחריפותה נגדו
כשמנסים להכניס משהו בדלת האחורית מקווים שזה יעבור בשקט, שאיש לא ישים לב. אם זה עובד, אפשר לעשות דברים איומים ונוראים מבלי שמישהו יחוש בכך. אבל כשזה נכשל, זה יכול להתפוצץ בפנים ולגרור מטח אדיר של זעם וביקורת. וזה בדיוק מה שקרה בשלושת השבועות האחרונים עם תזכיר הצעת החוק שנועד לאפשר למשטרה להקים מערך ארצי של מצלמות זיהוי פניים.
המשטרה חשבה אולי שהצפנת התוכנית בתזכיר הצעת החוק, שנועד לעסוק בהסדרת מערך מצלמות לוחיות הרישוי המכונה "עין הנץ", תאפשר לה להעביר את אחת העוולות הגדולות ביותר נגד חופש הפרט והביטוי שנראו אי-פעם במדינה דמוקרטית מבלי שמישהו ישים לב לכך.
זה לא הצליח, הפרטים התפוצצו בתקשורת וברשתות החברתיות, ועוררו סערה מתמשכת שכבר הביאה לקרוב ל-5,000 תגובות והערות ציבור לתזכיר באתר החקיקה הממשלתי - מקום שבו תזכיר עם מספר דו-ספרתי של תגובות נחשב לפופולרי בקנה מידה של גל גדות.
החשיפה הרחבה גם אפשרה למומחים לבחון את התזכיר לעומק ולזהות פגמים מהותיים שעולים הן מניסוחים פרטניים שמופיעים בו, הן מהשוואה למגמות במדינות אחרות והן מעצם הרצון להפעיל מערכת זיהוי פנים בקנה מידה נרחב כל כך. כמו שעשו, למשל, ד"ר תהילה שוורץ אלטשולר ועו"ד עמיר כהנא מהמכון הישראלי לדמוקרטיה, בחוות דעת מפורטת ומנומקת שהגישו למשרד המשפטים, ואשר מפרקת לגורמים את התזכיר הבעייתי.
"זיהוי פנים לא מאתר רק מי אתם, היכן הייתם ומתי", אמרה שוורץ אלטשולר לדו"ח טכנולוגי. "הוא יודע להגיד אם אתם גייז בארון או אם אתם נראים כמי שיש להם 'פרצוף אלים'. זיהוי פנים גם טועה, בעיקר ביחס לפנים בעלות גוון כהה לעומת פנים בהירות. הוא יתעד אתכם כל פעם שתצאו למרחב הציבורי, יאסוף, ישמור וינתח את המידע עליכם. בלי צווי בית משפט ובלי פיקוח. תזכיר החוק משקף הסדר קיצוני שקיים במדינות שאנחנו לא רוצים להידמות להן. הוא הולך הפוך מהמגמות בכל מדינות המערב - מארצות הברית ועד לאיחוד האירופי - ויעניק כוח אדיר למשטרה למגוון רחב ביותר של שימושים. לא רק חקירת פשיעה, אלא דיכוי הפגנות (סילוק שלכם ממקום שבו אתם רוצים לצעוק) וחיזוי פשיעה (כלומר, מה עוד בכלל לא עשיתם). הוא הוכן בלי מחשבה, בלי מחקר ובלי דיון ציבורי - ואסור שהוא יעבור".
במסמך המעמיק שחיברו שוורץ אלטשולר וכהנא אפשר לזהות שורת בעיות מהותיות ביותר עם סעיפים שונים בתזכיר הצעת החוק. ראשית, יש להם ביקורת רבה על המטרות שבגינן רשאית המשטרה להציב מצלמות זיהוי פנים במרחב הציבורי. בפרט, בין השאר, עם הסעיף שקובע כי אפשר יהיה להציב את המצלמות לצורך "חקירת דפוסי פשיעה". "אם אין הכרח בדבר, אסור להשתמש במידע אישי לצורכי מחקר", כתבו השניים בחוות הדעת שלהם. "בדיוק כפי שהדבר קיים לגבי מידע רפואי. שימוש במידע בדרך שאינה קשורה לנשוא המידע, אלא מיועדת להבנת תהליכים, דפוסים, סיוע לאחרים ולאנושות, צריך להתבצע על מידע מותמם. באם מדובר בתמונות פנים, אין מדובר במידע שניתן להתמים אותו.
"בנוסף, הצבת מצלמות במרחב הציבורי לצורך 'מחקר' או זיהוי דפוסי התנהגות' עלולה לשמש עילה המצדיקה לכאורה ניטור קבוע של תאי שטח גיאוגרפיים שלמים: שכונות מסוימות או ערים מסוימות, שעליהם תפקח באופן מתמיד העין החוקרת של מערכות הצילום. מעקב כזה, שנועד לזהות גורמים עוינים במרחב, בהסתמך על דפוסי ההתנהגות שלהם, הפעילה ארצות הברית בפקיסטן במסגרת חיסולים באמצעות כטב"מים. לא ניתן לקבל זאת ככלי שיטור המופעל בשגרה בסביבה אזרחית. עצם פריסת מערכות אלה בשכונות מסוימות וברחובות מסוימים, עשויה לתייג אותם כ"אזורים מוכי פשיעה" ולהנציח בהם את התווית הזו. אם מדובר בשימושים לצורך אימון מערכות לחיזוי פשיעה, אנו מתנגדים לכך בתוקף וסבורים שלא ניתן יהיה בשום מקרה לכלול אימון כזה בגדר 'מחקר'".
סעיף בעייתי נוסף הוא זה שמתיר להשתמש במערכת כדי לאכוף איסורי כניסה וצווי הרחקה, נוסח שלדברי המומחים מעלה חשש מפני דיכוי הפגנות ומחאות. "על המשטרה, בבואה להתערב בזכות להפגין, לנקוט זהירות מפליגה, על מנת לא לגרום לאפקט המצנן את חופש הביטוי הפוליטי. עצם הפעולה של פריסת מערכות מעקב חזותיות, המתעדות פעילות פוליטית, יש בה כדי לייצר אפקט מצנן על אזרחים המבקשים להשמיע את קולם תוך היטמעות בהמון המפגינים, לבקר מתנגד משטר בביתו או לנקוט מחאה יחידנית מול מבנה שלטוני. האפקט המצנן מתגבר שבעתיים כאשר מערכות אלו ניחנות ביכולת לזהות את המפגינים. זהו העירוב הקיצוני ביותר בין כלים מעולם 'האח הגדול' לבין דיכוי מחאה פוליטית, והוא משקף זלזול בוטה בזכויות האדם הבסיסיות ביותר בדמוקרטיה".
שוורץ אלטשולר וכהנא מותחים גם ביקורת על היעדר פיקוח חיצוני על פריסת המצלמות והשימוש במידע שהן אוספות, שלפי התזכיר מצריך רק אישור של קצין משטרה. בהקשר זה, הם אומרים, אפילו הפיקוח המתבקש של בית משפט לא יהיה מספק: "פיקוח על זיהוי ביומטרי דרך מערכות נבונות לא יכול להסתפק בפיקוח של בית משפט, ויהיה צורך בהקמת נציב פיקוח מיוחד, שיהיו לו הסמכויות המנהליות והיכולות הטכניות לבדוק את תהליכי השימוש במידע". זאת, למשל, בדומה לנציב המצלמות בבריטניה.
בעיות אחרות שמזהים השניים בתזכיר הן היעדר שקיפות בכל הנוגוע להצבת המצלמות והשימושים שנעשים בהן ובמידע שהן אוספות, היעדר מגבלות על תקופת שמירת המידע שהן אוספות, וההסדר בתזכיר שמאפשר שיתוף המידע עם גופים ציבוריים אחרים - ובפרט השב"כ וצה"ל. "מעתה תהיה לשב"כ, למוסד, ואפילו לאמ"ן, גישה ישירה למערכות ביומטריות על אזרחי מדינת ישראל", כתבו שוורץ אלטשולר וכהנא. "בנוסף, שר המשפטים יכול להכליל בצו גם גופים כמו משרד התחבורה, משרד הבריאות וגם רשות הטבע והגנים והמשטרה הירוקה. מדובר במידע ביומטרי, מהרגישים ביותר והפרטיים ביותר שאפשר להעלות על הדעת. השימושים שיוכלו הגופים האלה לעשות במידע ייקבעו בהנחיות או בנהלים פנימיים. נזכיר את רמת הפירוט שלה נדרש הסדר העברת נתוני האיכונים של נשאי הקורונה בין השב"כ למשרד הבריאות, ואת העניין הציבורי הרב בו. התזכיר מציע כי העברת נתונים פולשניים לא פחות לא תהיה כרוכה אף בכך שהגוף המקבל את המידע יעמוד בסטנדרט המינימלי של התזכיר עצמו".
בעיות נקודתיות אלו לגבי סעיפי התזכיר מצטרפות לבעיות יסוד מהותיות, הנובעות מעצם השימוש במערכות זיהוי פנים. את אלו אפשר לחלק לשלוש רמות. ברמה הראשונה, ישנן כל הבעיות הצפויות, כמו דליפת מידע, שיכולה באופן פוטנציאלי לחשוף לא רק את כל תמונות הפנים של אזרחי ישראל, אלא גם את המקום והזמן שבו צולמו – פגיעה אנושה ובלתי הפיכה בפרטיות של כל אזרח. היבט אחר הוא שימוש לרעה מצד גורם בעל גישה מורשית למערכת. "פייסבוק פיטרה עשרות מהנדסים, שניצלו את גישתם למידע על מנת לעקוב אחר משתמשים. בסמוך להקמת ה'כלי' של השב"כ, היו בין עובדי הארגון שהתפתו לעשות בו שימוש חורג. גם במשטרת ישראל היו מקרי ניצול לרעה של גישה למידע בידי בעלי סמכות, תוך הפרת החוק. פוטנציאל דומה לניצול לרעה יש גם למערך מצלמות חכמות לזיהוי פנים או לוחיות רישוי", נכתב בחוות הדעת.
הרמה השנייה של הבעיות היא אלו שייחודיות למערכות מסוג זה. למשל, אפליה. "אלגוריתמים לזיהוי פנים עשויים להתבסס על מאגר נתונים חלקי או מוטה, ובהתאמה לסבול מהטיות בזיהוי", נכתב. "נוכח מגוון היישומים הפוטנציאליים לטכנולוגיה זו, להטיות אלו, גם אם נעשו בתום לב, יש השלכות הרות גורל וביכולתן להנציח פערים ואפליה כלפי מיעוטים. מערכות לזיהוי פנים, שתהליך האימון שלהן היה בעיקר על פנים של אנשים בהירי עור, מבצעות טעויות כשהן נדרשות לזהות פנים של כהי עור".
בעיה אחרת היא אכיפת יתר: "פלוני השליך פסולת לא בפח האשפה? פלונית החנתה את רכבה כחצי דקה מעבר לזמן המותר? פלוני חצה מעבר חצייה שומם באור אדום בשעה מוקדמת לפנות בוקר? הפיתוי שבקלות האכיפה האוטומטית של עבירות כאלו עשוי להיות רב".
הרמה השלישית והקשה ביותר להגדרה, אך אולי הבעייתית ביותר, היא האפקט המצנן שנוצר מעצם הצבת מצלמות זיהוי פנים שמנטרות תדיר את המרחב הציבורי. "למבט בוחן-הכל של עדשת המצלמה במרחב הציבורי יש אפקט ממשטר וממתן, המונע מהאזרחים במרחב להתנהג באופן חופשי, מתוך חשש שהם נתונים תחת מעקב, ובין השאר לממש את הזכויות הפוליטיות שלהם מחשש שיתויגו על ידי המכונה, והדבר יפגע בהם בעתיד", כתבו שוורץ אלטשולר וכהנא. "בשילוב עם הפוטנציאל לחיזוי פשיעה על בסיס ביומטרי וזיהוי אלגוריתמי של חריגות, האפקט הממשטר מתעצם, עד שבתרחישי הקצה שלו הוא נוטל את האנושיות מהמרחב הציבורי".
בהקשר זה מזכירים המומחים את השימוש שעושה סין במערכות ביומטריות מתקדמות: "לפי עדויות של בני המיעוט האויגורי, ששהו במחנות 'חינוך מחדש' בסין, נדרש מהם לא להביע רגשות כלל לאורך שהותם במתקנים אלה. הוראה זו נאכפה – כך נאמר להם - באמצעות רישות המחנות במערך של מצלמות חכמות, וסנסורים שמסוגלים לעקוב אחר השוהים בהם. בין אם יכולות טכניות אלו אכן פותחו ונפרסו על ידי המשטר הסיני, עצם התחושה שהם מצויים תחת עינם האלקטרונית הבולשת של אמצעים כאלו נראה שהתישה ורוקנה את רוחם של הכלואים".
הבט נוסף, מהותי ביותר, עולה מניתוח שערכו המומחים, ולפיו תזכיר הצעת החוק מנוגד למגמות מובהקות בכיוון ההפוך, שמזוהות בעולם המערבי. בארה"ב, למשל, "בעיר סן פרנסיסקו נאסר במאי 2019 על שימוש במצלמות רחוב, בגלל החשש לזיהוי פנים, וכך גם בסאמרוויל, מסצ'וסטס ובאוקלהומה סיטי. הדיון לגבי העניין בערים אחרות בארצות הברית נמצא בעיצומו", נכתב. בנוסף, ה-FTC פרסמה המלצות לשימוש הוגן בבינה מלאכותית, שגם מבססות את הסמכות החוקית לאסור על הטיות בבינה מלאכותית ולחייב שקיפות, הוגנות, הסברתיות, חסינות ואחריותיות".
בריטניה נחשבת למדינה המערבית עם הפריסה הגדולה ביותר של מצלמות במרחב הציבורי, אבל אפילו שם הודיעה נציבת הפרטיות בשנה שעברה, כי בכוונתה לחקור את השימוש במצלמות רחוב במתחם קינגס קרוס המפורסם, המאפשרות זיהוי פנים. בנוסף, "בבריטניה, פורסמה כבר ב-2017 אסטרטגיה לאומית למצלמות מעקב, שמטרתה להבטיח שהשימוש במצלמות מעקב משקף איזון נכון וראוי בין הצורך של החברה הבריטית בביטחון לבין הזכות לפרטיות, והוא מופעל רק לשם הגשמת מטרה לגיטימית, כאשר הוא נחוץ להשגת צורך דחוף, מידתי, ושקוף. כן נקבע כי הוא חייב לעמוד במחויבויות הבינלאומיות הרלוונטיות, שבראשן תקנות הגנת המידע של האיחוד האירופי (GDPR). בבריטניה ובקנדה העניין נדון, ואף הוגשו תביעות הנוגעות לחוקיות השימוש בפרקטיקה זאת".
האסדרה המקיפה ביותר בנושא נמצאת, כמובן, באיחוד האירופי. אסדרה זו משמעותית במיוחד, שכן מהלכים מתקדמים באיחוד מהווים לא פעם תבנית או השראה למהלכים דומים במדינות אחרות. חוקי הפרטיות של האיחוד, GDPR, מתייחסים במידה למערכות זיהוי פנים או לוחיות רישוי, קובעים שהן מביאות לפגיעה בפרטיות ומטילים מגבלות שונות על פריסתן, השימוש בהן ושמירת המידע שהן אוספות.
תקנות הבינה המלאכותית שפורסמו באפריל מקדישות תשומת לב משמעותית יותר למערכות אלו, ומציעות לאסור על זיהוי ביומטרי לצורכי אכיפת חוק, אלא בהגבלות מחמירות ביותר. "התקנות מציעות לאסור על השימוש והפריסה של מערכות בינה מלאכותית, שנתפסות כמסוכנות באופן קיצוני ושאינן עולות בקנה אחד עם ערכי היסוד האירופיים", נכתב בחוות הדעת. "אחד האיסורים הבולטים הוא על השימוש במערכות זיהוי ביומטריות בזמן אמת במרחבים ציבוריים לתכליות של אכיפת חוק, אלא אם הדבר נחוץ לחיפוש ממוקד אחר קורבנות פוטנציאליים מסוימים של פשע (כגון, ילדים חטופים), מניעת איום ספציפי, מוגדר, משמעותי ומיידי על חייהם או שלומם של אנשים, או מתקפת טרור, וכן לתכליות של איתור, זיהוי ותביעה של עבריינים בעבירות חמורות. התקנות מוסיפות סייגים על השימוש במקרים חריגים אלה. יש להביא בחשבון את עוצמת האיום, את השלכות הרוחב החברתיות שבהפעלתן, ויש להבטיח כי כל שימוש במערכת זיהוי ביומטרית יהיה בכפוף לצו".
התמונה ברורה: תזכיר הצעת החוק רחב, מתירני ומנוגד למגמה בדמוקרטיות מערביות. "הוא יוצר פגיעה רחבה ועמוקה בזכויות אזרחי מדינת ישראל ביחס לעמיתיהם במדינות המתוקנות", כתבו שוורץ אלטשולר וכהנא. "יתרה מזאת, הוא עלול להפוך את מדינת ישראל לחצר האחורית של ניסויים בשימושים במערכות אלה, המתבצעים כבר כמה שנים כאמצעי שיטור בשטחים".
לרוב, הייתי מסיים כאן באיזו אמירה תקיפה או ציטוט מרשים ומפחיד. אך לא הפעם, כי הפעם יש מה לעשות, וזה לא מסובך כל כך. תזכיר הצעת החוק פתוח להערות הציבור עד 8 באוגוסט, וכל אזרח בישראל יכול בקלות רבה להעביר למשרד המשפטים את עמדתו לגביו. בתיאוריה, אמורות הערות אלו להשפיע על המשך קידום התזכיר או להביא לשינוי ניסוחים וביטול סעיפים. כל מה שצריך לעשות הוא לגלוש לעמוד התזכיר באתר החקיקה הממשלתי, להתחבר לאתר (אפשר גם לבצע הרשמה מהירה עם חשבון גוגל או פייסבוק), ולכתוב את אשר על דעתכם, בקצרה או בפירוט.
נחרדתם מההשלכות האפשריות של הצבת מערכת שכזו? היכנסו עתה ושתפו את משרד המשפטים בחששותיכם. חמש דקות מזמנכם, לא יותר. סבורים שאני והמומחים טועים, ויש דווקא טעם ואף צורך חיוני בפריסת מצלמות כאלו? אדרבה, היכנסו גם אתם והביעו את דעתכם. חשוב שלמשרד המשפטים ולמקדמי התזכיר תהיה תמונה רחבה ככל האפשר של התפיסה הציבורית בנושא. קרוב ל-5,000 אזרחים כבר עשו זאת. העיקר הוא לא להישאר בשקט.
