נחשף בכלכליסטהמשטרה: "השימוש בנתב"ג במערכת הפרופיילינג הופסק לבחינה ובדיקה"
נחשף בכלכליסט
המשטרה: "השימוש בנתב"ג במערכת הפרופיילינג הופסק לבחינה ובדיקה"
בדיון שנערך בבית המשפט המחוזי טען נציג המשטרה כי היא הפסיקה כבר ב־2022 את השימוש בנתב"ג במערכת המבוססת AI לחיזוי סטטיסטי של בלדרי סמים. כלכליסט חשף את השימוש החשאי במערכת שפוגעת בזכויות אזרח
השימוש בנתב"ג במערכת פרופיילינג מבוססת AI לחיזוי סטטיסטי של בלדרי סמים - הופסק. כך העיד לאחרונה בבית המשפט המחוזי מרכז בלוד ראש חוליית כריית מידע במשטרת ישראל, רפ"ק ד"ר זוהר פסטרנק. על פי עדותו של פסטרנק, האחראי במשטרה על תחום ניתוח נתונים, למידת מכונה ובינה מלאכותית, השימוש במערכת שהחל בשנת 2013 הופסק במהלך 2022. לשאלת השופטת הבכירה, מיכל ברנט, מדוע הופסק השימוש במערכת השיב רפ"ק פסטרנק: "המערכת הורדה לצורך בחינה ובדיקה".
במהלך דיונים שנערכו בכנסת במאי 2023, בעקבות תחקיר מוסף "כלכליסט" מאוקטובר 2022 שחשף את השימוש החשאי במערכת שפוגעת בזכויות אזרח, כמו גם את השאלות החוקיות, המשפטיות והציבוריות שהיא מעלה, המשטרה לא ציינה כי הופסק השימוש במערכת. לאור זאת, ולאחר שהיועצת המשפטית לממשלה גלי בהרב־מיארה לא השיבה לדרישת האגודה לזכויות האזרח לעצור את השימוש במערכת, מחשש לתוצאות מפלות, גזעניות ופסולות שמתייגות אזרחים תמימים, עתרה האגודה לבג"ץ בחודש מאי להקפאת השימוש במערכת עד חקיקה. המדינה טרם השיבה לעתירה.
במהלך הדיון בכנסת בוועדת חוק, חוקה ומשפט במאי 2023 טען סנ"צ גלעד בהט, ממערך הייעוץ המשפטי למשטרה, כי "לא בטוח שיש למשטרה נתונים סטטיסטיים על הצלחות המערכת בנתב"ג". עם זאת במהלך הדיון בבית המשפט שנערך במאי, ועסק באישום נגד צעיר שנמצאו סמים בכליו בעקבות הצפת שמו על ידי המערכת והכללתו ברשימת הבלדרים הפוטנציאליים, העידה ראש דסק הערכת מודיעין במשטרה, סיגלית מנסור, דברים שונים. "יש לכם איזשהו מעקב על כמה חיפושים מוצלחים עשיתם בעקבות הכללה?", שאל את מנסור סנגורו של הצעיר, עו"ד ניצן ביילין מטעם הסנגוריה הציבורית. "יש לנו טבלאות", השיבה השוטרת.
תחקיר מוסף כלכליסט חשף כי מערכת הבינה המלאכותית בנתב"ג נועדה "לנבא" מי מהשבים לישראל עשוי להיות בלדר סמים, על בסיס יצירת פרופיל סטטיסטי ממידע שמוזן למערכת, והשוואתו לנתונים אישיים של הנוסעים המגיעים לנתב"ג.
המשטרה הכניסה את מערכת הפרופיילינג לשימוש בנתב"ג ב־2013 כפיילוט, אולם מאז לא נערך תיקוף ובדיקה תקופתית לפעולתה. מהתחקיר עלה כי לא ברור מי הגורמים שאישרו בהמשך את הכנסת המערכת לשימוש קבוע, ולא ניתן גם למצוא ברשומות נהלים והנחיות לשימוש במערכת. לפי מקור המכיר את עבודת מערכת הפרופיילינג בנתב"ג, והתראיין לכתבה בעילום שם, היא מבוססת על מערכת ותיקה שפיתחה בעבר המשטרה, "מלאכת מחשבת", שהושקה בספטמבר 2007. במסמכים שחשפה המשטרה לימים, אחרי שהתקבלה עתירה של נאשם לקבל מידע על המערכת, היא אישרה את הדברים.
מלאכת מחשבת, כך לפי דו"חות עבר של המשטרה, היא "מערכת המיועדת לתת תמונת מודיעין עדכנית, ממוקדת ואיכותית לצורך קבלת החלטות מונחות ידע ברמת הפיקוח והשטח". עוד נכתב באותו דו"ח כי "באפשרות המערכת לאסוף חומרים ממספר לא מוגבל של מקורות, לבצע אינטגרציה של המידע, לנתחו, לאחזרו ולהפוך אותו לידע".
פרופיילינג בנתב"ג
לפי הדו"ח, המערכת כוללת "כמה מערכות משנה, והיא יכולה לתחקר מידע לפי קשרים והצגתם הוויזואלית, ניהול מידע גיאוגרפי, התרעות ועוד". אחד ממאפייני "מלאכת מחשבת" הרלוונטיים למערכת שפועלת בנתב"ג הוא "קשרים". לפי הדו"ח מ־2007, למערכת יש "יכולת מורכבת של תחקור והצגה של קשרים בין אוכלוסיות ובתוך אוכלוסיות של אנשים, ארגונים, כלי רכב, פעילות מקומית, מסמכים וכו'".
במקביל לעדותו של רפ"ק פסטרנק בחודש מאי, הפרקליטות הגישה מסמך לבית המשפט בחתימתו שמפרט, תחת מגבלות תעודת החיסיון שהוצאה על המערכת, שלושה פרמטרים כלליים שעל בסיסם נבנה האלגוריתם: משתנים פליליים, דמוגרפיים ומודיעיניים. עוד טענה המשטרה, בניגוד לטענת הנאשם, שהמערכת אינה מבוססת על נטייה מינית של אדם. עם זאת, ועל פי מחקרים שונים שפורסמו בעולם, לאחר שהמערכת עוברת לשלב הלמידה, קשה לדעת האם היא נוצרת הטייה. כלומר שהמשתנים מייצרים, בלי כוונת מכוון, פרופיל מפלה או גזעני.
רפ"ק פסטרנק הסביר בדיון כיצד עובדת המערכת. לדבריו, כאשר אדם מעביר את דרכונו בביקורת הגבולות, שהיא יחידה של משרד הפנים, המידע עובר למערכת שנמצאת במטה המשטרה בירושלים. המערכת בוחנת את פרטיו ביחס לאלגוריתם ומנפקת מספר בין 0 ל־97. כאשר 0 הוא אין סבירות להתאמה של האזרח לפרופיל בלדר הסמים, ו־97 הוא התאמה כמעט מושלמת.
לאחר שהמספר יוצא, כלומר האדם "מוצף", לדברי פסטרנק במפלג הערכה בוחנים את התוצאה ביחס למשתנים נוספים שנמצאים תחת חיסיון. ככל שמוחלט לצרף את האדם לרשימת המוכללים, כאשר יחזור האדם לישראל ויעביר את דרכונו הוא יקבל הודעה לפנות לבקר גבול. בקר הגבול יקבל התראה ללקרוא לשוטר מבלי לדעת את הסיבה. השוטר יקבל הודעה שעליו לבצע חיפוש סמים בכליו של האזרח – גם מבלי לדעת את הסיבה. אם ימצאו סמים, האדם ייעצר לחקירה.
שתי החלטות שיפוטיות שהתפרסמו בעבר, בין היתר על ידי שופט המחוזי מרכז עידו דרויאן־גמליאל, לאחר שמאפייני המערכת נבחנו על ידיו, גררו ביקורת חריפה על המערכת. כך כתב דרויאן־גמליאל כי המערכת פועלת כ"קופסה שחורה" שכן היא אוטונומית ומבוססת על למידת מכונה. לדבריו השוטר אינו מסוגל להבין מדוע המערכת ממליצה על אדם כלשהו, מאילו נתונים היא מסיקה מסקנות ומוצאת דפוסים סטטיסטיים, ומה המשקל שניתן לכל נתון. כמו כן גם בדיעבד לא ניתן להסביר את ההמלצה של המערכת.
