נחשף בכלכליסטביהמ"ש בביקורת על מערכת הפרופיילינג בנתב"ג: "המשטרה לא יודעת דרך פעולתה"
נחשף בכלכליסט
ביהמ"ש בביקורת על מערכת הפרופיילינג בנתב"ג: "המשטרה לא יודעת דרך פעולתה"
מאז 2014 המשטרה מפעילה בנתב"ג מערכה מבוססת AI, בניסיון לאתר על בסיס נתונים סטטיסטיים בלדרי סמים. המערכת שואבת מידע ממאגרים שונים ו"מציפה" שמות של אזרחים שיילקחו לחיפוש, למרות שאין לגביהם מידע מודיעיני או חשד סביר. שופט המחוזי עידו דרויאן-גמליאל: "שלא מרצון ולא בידיעה פרטים של ציבור גדול מאוד של אזרחים ישרי-דרך ייבדקו על ידי האלגורתים"
"המערכת בנתב"ג היא קופסה שחורה שאיש אינו יודע בוודאות – גם לא המשטרה - את דרך פעולתה; פרטים של ציבור גדול מאוד של אזרחים ישרי-דרך ייבדקו על ידי האלגוריתם". כך נכתב בשתי החלטות של בית המשפט המחוזי מרכז לוד שהתיר היום (ב') לפרסום בית המשפט העליון. ההחלטות ניתנו במרץ וספטמבר אשתקד על ידי השופט עידו דרויאן-גמליאל, וזאת במסגרת דיונים הקשורים לאישום נגד אדם שעוכב בנתב"ג לאחר שהמערכת סימנה אותו ובכליו נתפסו סמים.
הביקורת של השופט דרויאן-גמליאל מצטרפת לממצאי תחקיר מוסף "כלכליסט" מספטמבר 2022 על מערכת ההכללה הממוחשבת (פרופיילינג). זוהי מערכת שבבסיסה אלגוריתם בעל יכולות למידה לאיתור בלדרי סמים שמפעילה המשטרה מאז 2014 אשר עשויה, כך נחשף, להוביל לעיכוב אזרחים תמימים ולחיפוש משפיל בגופם ובכליהם ללא כל מידע מודיעיני אנושי או חשד סביר.
לאחר פרסום התחקיר מתחו ביקורת ארגוני חברה אזרחית – בהם המכון הישראלי לדמוקרטיה, האגודה לזכויות האזרח ומכון תכלית – על המערכת וביקשו להקפיא את השימוש בה.
בדיונים שנערכו בוועדת חוק, חוקה ומשפט בכנסת בחודש מאי השנה בעקבות התחקיר, המשטרה אישרה שאין לה מידע על יעלות ואפקטיביות המערכת.
אחד הפרמטרים במערכת: מידע דמוגרפי
שיטת הפרופיילינג מובילה, כך עולה מההחלטות של דרויאן-גמליאל, לחיפוש הנערך על גופו של אדם ובחפציו ללא צו שיפוטי, וזאת מבלי שיש חשד סביר נגדו להברחת סם או מידע מודיעיני נקודתי. זוהי על פניה פגיעה חמורה בזכות היסוד לפרטיות ולשוויון, משום שמדובר בפעולה שרירותית ומפלה, המתבצעת על ידי מערכת ממוחשבת ללא מעורבות יד אדם.
ממידע שהגיע לידי "כלכליסט" עולה שהמערכת מתבססת, בין היתר, על נתונים דמוגרפיים. עם זאת, לא ידוע אילו נתונים דמוגרפיים בדיוק מוזנים למערכת. נניח האם מוזנים נתונים כמו מין, מהיכן הגיעו ההורים לישראל, עיר או שכונת מגורים של אדם, מצב משפחתי וכדומה. מה שגם לא ידוע ולא פחות חשוב מכך, הוא מה המשקל שניתן לכל נתון, שכן משקלו של כל נתון מהסך הכללי עשוי לייצר הטיה.
בהחלטתו של השופט דרויאן-גמליאל לא ניתן הסבר לצבר הנתונים שנמצא בתוך מערכת ההכללה והמקורות שמהם היא ניזונה. על מידע זה, כך ההחלטות, הוא הטיל חיסיון מחשש לחשיפת שיטות ואמצעים שמפעילה משטרת ישראל. עם זאת השופט קבע שגם השוטרים שהופיעו בפניו והסבירו על המערכת, בדלתיים סגורות ומעמד צד אחד, לא יודעים להסביר בדיעבד מדוע הוצף אזרח מסוים ולא אחר. השופט ציטט את קציני המשטרה שהופיעו לפניו והודו כי "איננו יכולים לדעת איזה משקל נותן האלגוריתם לנתונים לכל נתון", וכתב כי "מצב דברים זה שולל למעשה אפשרות לביקורת מינהלית ושיפוטית יעילה".
השופט סיכם את הביקורת בכך שעל אף שלטענת המשטרה ישנו סף, שאותו לא חשף בהחלטה, שרק אזרחים החוצים אותו יבדקו על ידי האלגוריתם: "מדובר בסף שקל מאוד לחצות אותו. שלא מרצון ולא בידיעה פרטים של ציבור גדול מאוד של אזרחים ישרי-דרך ייבדקו על ידי האלגורתים".
"חוסר ידיעה באשר לתיקוף המערכת"
זה לא כל המידע שנחשף בהחלטה ומעורר חשש שהפעלת המערכת בנתב"ג במתכונת הנוכחית היא בעייתית מאוד. השופט דרויאן-גמליאל כתב כי "מטרידים גילה של המערכת, שלא עברה עדכון מתום בנייתה, וחוסר הידיעה באשר לתיקוף – מתי ואיך נעשה ככל שנעשה (דברי שני קציני המשטרה). ממסמך שנכתב לצורך הליך זה והוצג לעיוני, עולה כי המערכת הופעלה כ'פיילוט' בשנת 2014 ולאחר אישור ממשרד המשפטים. לא ידוע אם תם שלב הפיילוט, מי הגוף שאישר את הפעלת המערכת ומה תנאי האישור (לשימוש במערכת, ת.ג)".
השופט הוסיף כי ברמה העקרונית ניתן לעבוד בשיטת ההכללה כפי שעושים השב"כ וברשימת הכללה ביטחונית של המשטרה: "קיומה של רשימת הכללה, כאמצעי-עזר לפילוח מותר ויעיל ולא לתיוג פסול, יכול לעמוד עקרונית במבחנים שבאמצעותם מאזן הדין בין הערכים המתנגשים". עם זאת הוא סייג ואבחן בין השב"כ למשטרה: "אין להכשיר רשימה שקיומה והזנתה בנתונים עלומים אינם מעוגנים בחוק, ואף לא בנוהל מסודר, שכן קריטריונים בדוקים והנחיות ברורות מונעות שרירות לב ואפליה ומקדמות שקיפות, שוויון וענייניות".
מהמשטרה נמסר בתגובה: "מכוח פקודת הסמים, רשאית המשטרה לערוך חיפוש על גופו של כל אדם ללא חשד אגב כניסתו לשדה תעופה, למתקן תעופתי, לנמל, לתחנת גבול או לנקודת כניסה לארץ או יציאה ממנה, לצורך גילוי עבירות סמים".
