דו"ח טכנולוגיאסדרת תחום הבינה מלאכותית באירופה מגיעה הפעם בזמן
דו"ח טכנולוגי
אסדרת תחום הבינה מלאכותית באירופה מגיעה הפעם בזמן
לא כדאי להתרגש מהביקורת הרבה שעלתה עם הצגת טיוטה לכללי רגולציה של מערכות בינה מלאכותית באיחוד האירופי. מדובר בהכרה כי התחום הקריטי עומד לעבור שימושים מואצים ומשמעותיים בשנים הקרובות, וניסיון לשרטט את הכללים לפני שיהיה מאוחר מדי
להגיד שבינה מלאכותית (AI) מסובבת את העולם זו לא תהיה הגזמה. מדובר באחד הכוחות החשובים והמעצבים של חיי היומיום שלנו, שפועל בדרכים גדולות וקטנות, נסתרות וסמויות שמשפיעות עלינו, כמו אילו סרטונים ופוסטים נראה ברשתות חברתיות, אילו פרסומות יוצגו לנו, מה נטפליקס תמליץ לנו לראות, באיזה מסלול ניסע בחזרה הביתה, כמה מהר יגיע השליח של וולט, אילו אנשים יהיו חשודים בפשעים מסוימים, ואפילו חומרת העונש שתגזר עליהם במקרה שיורשעו.
מערכות למידת מכונה מנטרות את מה שאנחנו עושים, אוספות עלינו מידע מקיף ומפורט, מעבדות ומנתחות אותו לפרטי פרטים. הן נמצאות בלב מערכות מעקב כמו מצלמות זיהוי פנים ומערכות זיהוי ביומטרי, חלק מכמעט כל שירות או אפליקציה שאנחנו משתמשים בהם, גם בתחומים שמרניים לכאורה כמו בנקאות וביטוח.
ועד עכשיו, התחום הזה התנהל בצורה די פרוצה. נעשו מהלכים וניסיונות להסדיר חלקים שלו כמו זיהוי פנים או היבטים שקשורים אליו כמו פרטיות (חוקי GDPR של האיחוד האירופי הם הדוגמה הבולטת ביותר), אבל שום דבר מקיף שיגדיר איך משתמשים בבינה מלאכותית, תחת איזה מגבלות ולאילו מטרות. זה השאיר באוויר הרבה שאלות חשובות, סוגיות כמו אתיקה בפיתוח AI, שחברות ולקוחות נאלצו להתמודד אתן בעיקר בכוחות עצמם, אם בכלל.
כל זה יכול להשתנות עכשיו עם הצגת טיוטה לכללי רגולציה של מערכות בינה מלאכותית שחשף השבוע האיחוד האירופי – שסימן את עצמו בשנים האחרונות כמוביל עולמי בכל הנוגע לאסדרה של חברות ומערכות טכנולוגיה. "הרגולציה שלנו מטפלת בסיכונים האנושיים והחברתיים שקשורים לשימושים ספציפיים ב-AI", אמרה מגרטֶה וסטאגר, סגנית נשיאת נציבות האיחוד האירופי ונציבת התחרותיות של האיחוד. "אנחנו חושבים שזה דחוף. אנחנו הראשונים בעולם להציע מסגרת משפטית שכזו".
מומחים אמרו לדו"ח טכנולוגי שהטיוטה של האיחוד מקדימה את זמנה. אני חושב שהיא מגיעה בדיוק בזמן, אבל אפילו אם היא מקדימה את זמנה מדובר בחידוש מרענן בעולם הרגולציה, שבדרך כלל מנסה לסגור את הדלתות אחרי שהסוסים כבר ברחו מהאורווה וזו עולה בלהבות.
קשה לסכם את 81 עמודי טיוטת הרגולציה של האיחוד, אבל מהמסך עולים כמה עקרונות מרכזיים:
- איסור על שימוש ב-AI למעקב נטול אבחנה, כולל מערכות שמנטרות ישירות פרטים במרחב הפיסי או שמאגדות מידע ממקורות אחרים.
- איסור על מערכות AI שיוצרות דירוג אשראי חברתי, כלומר מדרגות את האמינות של אדם על סמך התנהגות חברתית או תכונות אופי (מערכת מסוג זה נמצאת מופעלת בסין וכבר משמשת לקבלת החלטות שמשפיעות על חיי היומיום של הנתינים, כמו הטבות שמגיעות להם או נשללות מהם).
- צורך באישור מיוחד לשימוש במערכות זיהוי ביומטרי במרחבים ציבוריים.
- חיוב מתן התרעה לאנשים כשהם מבצעים פעולה מול מערכת AI, אלא אם הדבר ברור מהנסיבות או מהקשר השימוש.
- מערך פיקוח חדש על מערכות AI ב"סיכון-גבוה", כולל כאלו שיכולות לסכן בטיחות בני אדם כמו מכוניות אוטונומיות, או כאלו שיכולות להשפיע על פרנסה כמו מערכות גיוס עובדים, החלטות משפטיות ודירוג אשראי.
- ביצוע הערכת סיכון של למערכות סיכון-גבוה שכאלו לפני שהן מוכנסות לשימוש, כולל וידוא שבני האדם שמפקחים עליהן מבינים איך הן פועלות, ושהן מאומנות באמצעות מאגרי מידע באיכות גבוהה.
- הקמת מאגר מידע של מערכות סיכון-גבוה, שיהיה זמין לציבור.
- יצירת מועצה אירופאית לבינה מלאכותית (European Artificial Intelligence Board), שתכלול נציגים מכל המדינות שחברות באיחוד, ושתסייע לנציבות האיחוד להחליט אילו מערכות AI הן בסיכון-גבוה ותמליץ על שינויים למגבלות השונות.
בדומה לרגולציות אחרות של האיחוד, גם אלו יחולו על כל החברות שמקום מושבן באיחוד, אלו שפועלות באיחוד ואלו שמשפיעות על אזרחי האיחוד. עם זאת, מערכות AI בשימוש צבאי יהיו פטורות מהרגולציה, ומערכות ממשלתיות מחלקה.
לא להתרגש מהביקורת, מדובר בצעד ראשו בכיוון הנכון
לא מעט ביקורת נשמע על המסמך. "התיאור של מערכות AI שייאסרו מעורפל, ועמוס בשפה לא ברורה שתיצור מקום לפרצות רציניות", אמר ל-The Verge דניאל לוייפר מארגון Access Now. "זה רחוק מאידיאלי". גם האיסור על מערכות שגורמות לאנשים "להתנהג, לגבש דעה או לקבל החלטה לרעתם" מעורפל מדי לטעמו. "איך יקבעו חוקים האם החלטה היתה לרעת מישהו? מצד שני, האיסור על מערכות AI למעקב המוני מקל מדי, וגם האיסור על מערכות דירוג אשראי חברתי מוגדר בצורה צרה מדי".
לדברי לוייפר, הרגולציה עלולה לתת לגטימיזציה לטכנולוגיות שמבוססות על הנחות פגומות. למשל, מערכות לזיהוי מגדר על סמך תווי פנים, שעלולות לפגוע בטרנסג'נדרים ואנשים א-בינאריים. "יש ויהיו מקרים רבים שבהם המטרה המיועדת של המערכת בעייתית ביסודה מבחינה מדעית או מבחינת זכויות אדם. אנחנו חייבים לוודא שהכוונות מאחורי המערכת עומדות בתקנים הגבוהים ביותר של זכויות אדם ומדע", הסביר.
שרה קאנדר, יועצת מדיניות בכירה בארגון זכויות האדם האירופאי EDRi, אמרה לאתר TechMonitor שהפטור מאיסור למערכות AI שמשמשות לצרכי ביטחון ציבורי משמעו העדר איסור בכלל, ושיש לאסור לחלוטין שימוש במערכות מעקב המוניות, זיהוי אוטומטי של תכונות כמו מגדר, גזע או נכות ושימוש ב-AI בגבולות.
אלכסנדרה גיסה, חברת הפרלמנט האירופאי מטעם מפלגת הירוקים בגרמניה, ציינה שהרגולציה היא התחלה טובה, אבל לא חזקה מספיק בנקודות קריטיות. "זו סטירה בפרצוף לחברה האזרחית שזיהוי פנים אוטומטי במקומות ציבוריים לא נאסר לחלוטין, למרות שאזרחים וחברי פרלמנט רבים דורשים את זה", הוסיפה.
מנגד, היו כאלו שטענו שהרגולציה מחמירה מדי. "היא תהפוך את פיתוח ה-AI באירופה ליקרה מדי או אפילו בלתי אפשרית מבחינה טכנולוגית", אמר לוול סטריט ג'ורנל בנג'מין מולר, יועץ מדיניות בכיר ב-Center for Data Innovation. "ארה"ב וסין יביטו בשעשוע באיחוד האירופי מחבל בסטארט-אפים שלו עצמו".
לא כדאי להתרגש מהצהרות חד-משמעיות כאלו. איומים דומים נשמעו לפני כניסת כללי ה-GDPR לתוקף (האסדרה הכללית להגנה על מידע), ובפועל ההשפעה שלהם על היכולת של תעשיית ההייטק באירופה לחדש היתה אפסית, כאשר מנגד הם שימשו השראה לחקיקת חוקי פרטיות דומים במדינות אחרות והפכו למעשה לסטנדרט בתחום. לרגולציה החדשה יכולה להיות השפעה דומה, במיוחד מכיוון שהיא מחייבת חברות שפועלות באיחוד או משפיעות על אזרחיו לתאימות – כלומר ענקיות כמו פייסבוק, גוגל, אמזון ומיקרוסופט יידרשו לעמוד בכללי הרגולציה בפעילותן מול האיחוד.
הפגמים הם נקודת מוצא לדיון
כלל אצבע בעבודה עיתונאית הוא שאם פרסמת כתבה שאף אחד לא מרוצה ממנה, כנראה שעשית משהו נכון. את אותו הדבר אפשר להשליך גם על הרגולציה החדשה – אם אף אחד לא מרוצה ממנה, כנראה שיש שם משהו נכון. נראה שיש בטיוטה הרבה פגמים, ואלו ילכו ויתבררו ככל שהמומחים יעמיקו בה בשבועות ובחודשים הקרובים. ובסופו של דבר, מדובר רק בטיוטה. זו נקודת מוצא לדיון, לא המילה האחרונה. היא עוד תשונה ותשוכלל בהתאם לכוחות ואינטרסים שישמכו אותה לכיוונים שונים, תשתפר בנקודות מסוימות, תדרדר באחרות.
לא פחות מתוכן הרגולציה, חשוב העיקרון שמאחורי גיבושה. באיחוד האירופי זיהו את החשיבות שיש לבינה מלאכותית בעיצוב חיינו, והבינו שתפקידה הולך לגדול ולהתפתח בכיוונים שונים בשנים הקרובות. בניגוד לסוגיות כמו פרטיות או הגבלים עסקיים של חברות טכנולוגיה, שם ישבו רגולטורים ומחוקקים על הידיים עד שזה כבר היה מאוחר מדי, התעוררו רק אחרי אסונות כמו קיימברידג' אנליטיקה, במקרה הזה הם משנסים מותניים לפני שהרכבת עזבה את התחנה. כשהנזקים האפשריים והממשיים כבר ברורים, אבל כשעוד לא התרחש אסון נוראי בקנה מידה רחב.
בינה מלאכותית תהיה הכוח המשמעותי ביותר שיעצב את חיי היומיום שלנו בעשור הקרוב, כמעט בכל הבט אפשרי. רגולציה רחבה ומקיפה של התחום הכרחית על מנת למתן ככל האפשר ניצול לרעה של כוח זה. טוב שיש ויכוחים על הדרך לעשות את זה, על האם דרוש יותר או פחות, אבל עצם העובדה שהאיחוד האירופי יוצא לדרך הזו היא חדשות טובות לכולנו.
