אסדרת AI בגופים ציבוריים: צעד הכרחי להבטחת אמון הציבור
אסדרת AI בגופים ציבוריים: צעד הכרחי להבטחת אמון הציבור
מערכת הפרופיילינג שהופעלה בנמל התעופה בן-גוריון היא תמרור אזהרה משמעותי – השימוש בכלי בינה מלאכותית הוא עובדה מוגמרת, והצורך במסגרת חקיקתית ברורה אינו יכול להידחות עוד, במיוחד לנוכח הסיכונים הגוברים
עולם עובר בימים אלו מהפכה טכנולוגית בקנה מידה חסר תקדים, בדומה למהפכות תעשייתיות קודמות ששינו את פני החברה, כאשר הבינה המלאכותית הופכת לכוח מרכזי שצפוי לשנות את פני החברה כפי שאנו מכירים אותה. תחומים רבים בחיינו, כמו פנאי, חינוך, בריאות, כלכלה, ואפילו מערכת אכיפת החוק, עומדים בפני שינויים דרמטיים. אך לצד ההזדמנויות הרבות, טכנולוגיות AI טומנות בחובן גם סיכונים משמעותיים במיוחד כאשר הן מיושמות על ידי גופים ציבוריים ללא רגולציה נאותה, למשל פגיעה בזכויות האדם, באינטרסים ציבוריים ובאמון הציבורי.
דוגמה מוחשית לסיכונים אלה היא מערכת הפרופיילינג שפעלה בנמל התעופה בן-גוריון. מערכת זו השתמשה בבינה מלאכותית לניתוח נתונים ממאגרים שונים, במטרה לאתר נוסעים החוזרים מחו"ל החשודים בהברחת סמים. במסגרת עתירה של האגודה לזכויות האזרח ביחס למערכת, המדינה נמנעה מלהתמודד עם הטענות שבבסיס העתירה או לחשוף פרטים על המערכת וביקשה למחוק את העתירה בטענה שמדובר בשאלה תיאורטית, שעה ש"השימוש במערכת הופסק לפני למעלה משנתיים, בחודש אפריל 2022, משיקולים מבצעיים של משטרת ישראל".
מערכת הפרופיילינג נחשפה במסגרת הליכים פליליים שהתנהלו נגד חשודים בהברחת סמים. באחד המקרים, בית המשפט המחוזי הביע חשש מהשימוש במערכת, תוך שהוא מגדיר אותה כ"קופסה שחורה" – קרי, מערכת שלמעשה מלמדת את עצמה את משקלי הנתונים והמשמעויות הסטטיסטיות ללא כל יכולת אנושית לבנות ולהגדיר אותה לפני תחילת השימוש בה או לפקח אחר תוצאות השימוש בה. בית המשפט ציין כי הוא מוטרד מהעובדה שהמערכת פעלה ללא עדכון מאז שנת 2014, וכי מסד הנתונים שלה כולל פרטים של אזרחים רבים שלא ברור הקשר בינם לבין חיזוי עבריינות סמים.
פרשה זו עשויה להעיד על כך שהמערכת אושרה לשימוש ללא הבנה מעמיקה של השלכותיה, ומדגישה את הצורך הדחוף ברגולציה מתאימה אשר תבטיח שימוש אחראי בטכנולוגיות בינה מלאכותית על ידי גופים ציבוריים.
בהקשר זה, אנו מאמינים כי אימוץ מסמך עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית על ידי משרדי הממשלה והרגולטורים בשנת 2023, היה צעד חשוב, אך לא מספיק. בעוד שעשויים להיות יתרונות מסוימים באימוץ מדיניות רכה יותר במגזר הפרטי, המתאפיינת בגמישות ובקווים מנחים כלליים, לצורך עידוד צמיחה וחדשנות - הרי שביחס למגזר הציבורי, מדיניות שכזו אינה מספקת ונדרשת הסדרה חקיקתית ברורה.
לפיכך, אנו קוראים להסדרה בחוק שתבטיח שימוש מבוקר ובטוח במערכות בינה מלאכותית בגופים ציבוריים. החוק צריך לעגן את סמכותן של רשויות מנהליות להשתמש במערכות בינה מלאכותית רק לאחר הליך בחינה מעמיק המבטיח עמידה בעקרונות יסוד כמו הסברתיות, אחריותיות, שקיפות, מעורבות אנושית, אמינות, מניעת אפליה ושמירה על פרטיות. בנוסף, ראוי כי הדיון הציבורי סביב חוק שכזה יכלול גם את בחינת האפשרות לאסור את השימוש במערכות בינה מלאכותית מסוימות על-ידי גופים ציבוריים, כאשר הסיכון הטמון בהן הוא מוגבר. זאת, בדומה לחוק הבינה המלאכותית של האיחוד האירופי (AI ACT), אשר אוסר את השימוש במערכות בינה מלאכותית מסוימות, לרבות מערכות לניבוי פשיעה המבוססות על פרופיילינג או תכונות אישיות. לעמדתנו, זהו צעד הכרחי כדי להבטיח שמערכות AI יופעלו על ידי גופים ציבוריים בצורה הוגנת ומבוקרת, תוך שמירה על זכויות האדם ואמון הציבור.
עו"ד אלה טבת היא שותפה ומנהלת את מחלקת קניין רוחני ופרטיות. יונתן בירון הוא עורך דין במחלקת קניין רוחני ופרטיות במשרד עו"ד גולדפרב גרוס זליגמן ושות'
