שלטון החוק מול שלטון הבוט: האיחוד האירופי נערך לעליית ה-AI

כיצד הרכב האוטונומי בנתיב הנגדי מחליט לאיזה כיוון לסטות, מדוע לא התקבלתם לאוניברסיטה, איך נטפליקס יודע להמליץ לכם על סרטים שאתם אוהבים? רגעים יומיומיים רבים מעלים לא פעם את השאלה למה משהו התרחש בצורה אחת ולא בצורה אחרת, בלי לספק תשובות מנומקות.

אך מה לגבי מקרים שבהם ההחלטות האלו מתקבלות בידי מכונות ותוכנות? האם נגזר עלינו להשלים עם כל סימני השאלה גם במקרה של הליך החלטה שנבנה על בסיס כללים ברורים ועוגן בקוד?

סוגיה זו מטרידה בימים אלו את מנסחי מסמך הרגולציה של הפרלמנט האירופי בתחום ההגנה והסדרת המידע (GDPR), שנועד להתוות כללים ברורים להתקדמות הטכנולוגית, שלרוב מקדימה את הליך החקיקה.

סעיף מרכזי במסמך, שזכה לכינוי "הזכות להסבר", עוסק במשולש היחסים המורכב שבין המפתח, הציבור והמכונה ובאופן פעולת תוכנות הבינה המלאכותית (AI) ובעיקר הלומדות שביניהן. יישום התקנות במסמך נקבע למאי הקרוב.

"זה עניין של אמון", הסבירה חברת הפרלמנט האירופי מאדי דלבו מלוקסמבורג, מיוזמות המסמך ופעילה מרכזית בתחומי חקיקה והסדרה של טכנולוגיות בכלל ורובוטים בפרט. "כשאני קונה מכונית או נעזרת ברובוט לשירות כזה או אחר אני צריכה לדעת כיצד הוא פועל, איזה מידע הוא אוסף עלי, לאן המידע הזה מועבר ולפי מה הרובוט מקבל החלטות".

"זה לא אנחנו, זה הרובוט" איור: יונתן פופר

"המטרה של המעבר לתוכנות בינה מלאכותית לומדות היא שלצד ביצועים טובים יותר, הן יציגו גם תוצאות מדויקות שניתנות להבנה ולנימוק", מחזק את הדברים מפתח ה-AI ברייס גודמן, שחקר את סעיף הזכות להסבר ועובד עבור חברות מסחריות ומוסדות אקדמיים כאחד. "זו דרישה שיש להציב בפני מפתחי התוכנה".

לדרישה זו מסכימה גם ד"ר איה סופר, ראש תחום מחשוב קוגניטיבי במעבדות המחקר של IBM: "טכנולוגיית הבינה המלאכותית תצעיד את העולם קדימה, אך בדומה לכל טכנולוגיה, אפשר להשתמש בה גם לדברים פחות טובים. לכן למי שמפתח אותה צריכה להיות אחריות שהכל יעשה על הצד הטוב ביותר".

חברת הפרלמנט מאדי דלבו צילום: איי פי

הדרישה לקבלת הסבר ברור לאופן שבו מערכות AI מקבלות החלטות לא עוסקת בסוגיות עתידיות. כבר היום האנושות מוקפת בתוכנות AI שחלקן בעלות יכולות למידה. התאמת תוצאות החיפוש בגוגל, הצעות התוכן בשירותי הווידאו של נטפליקס, הפרסומות והתכנים שמוצגים בפייסבוק או העוזרות החכמות של אמזון ומיקרוסופט - כולן מבוססות על תוכנות מסוג זה. בשנים הקרובות, צפוי תחום הבינה המלאכותית לגדול ולסחוף בסערה את השוק ולהשתלב בכל תחומי החיים - רפואה, תחבורה, חינוך והשכלה, תרבות, כלכלה ושיווק, בנקאות, רווחה ועוד.

לקבוע את החוקים לפני שהרובוטים מגיעים לשוק

החדירה הצפויה של הבינה המלאכותית לחיי היומיום היא שעוררה את יוזמת החקיקה בפרלמנט האירופי, שחלק מהמדינות החברות כבר מאפשרות לכלי רכב אוטונומיים להיבחן על כבישיהן. המחוקקים רוצים ללמוד מטעויות עבר ולקבוע ככל האפשר מראש את הכללים בשוק המתפתח.

"אני לא מפחדת מ-AI אבל מאמינה שההחלטה כיצד היא צריכה להיווצר היא בידיים שלנו", הסבירה דלבו. "אמנם הפיתוח כבר החל, אבל התוצרים המהותיים הראשונים משווקים כיום או שהם נמצאים בשלבי פיתוח ובדיקה, ולכן כדאי לקבוע את החוקים כבר עכשיו לפני שיישומים נוספים יגיעו לשוק".

"יוזמת החקיקה האירופית רוצה למנוע עתיד דומה לתרחיש שאנו חווים היום בסוגיית פליטת הפחמן", אמר גודמן. "חלפו שנים רבות עד שהאנושות הבינה שלפליטת הפחמן יש השלכות על הסביבה. למרות שאנשים רבים מכירים היום בבעיה ומחפשים אפשרויות לרסן אותה, האנושות ממשיכה להשקיע בחברות שתורמות לפליטת הפחמן בגלל שהמעבר לאמצעים אחרים יקר מאוד.

חוקר ה-AI ברייס גודמן

"אנחנו צריכים למנוע חזרה של תרחיש כזה בתחומי התוכנה, ולפעול כבר היום כדי לוודא שהתוכנות שעומדות לנהל חלקים נכבדים מחיינו לא יהיו מוטות ושגויות. אנחנו צריכים למנוע מהתוכנות להפלות אנשים לרעה רק מפני שלא ידענו להסביר איך הן עובדות והשלמנו עם זה. תיקון הטעויות בדיעבד תהיה הרבה יותר יקרה. זה מה שהזכות להסבר רוצה למנוע".

לומדים לבד מערכת הבינה המלאכותית של גוגל החלה להשתדרג עצמאית פלטפורמת AutoML התחילה לכתוב בעצמה קוד שהוא יעיל יותר משל מפתחים אנושיים; במסגרת התהליך, התחילה לשכפל את עצמה כדי להאיץ את הפעולה. ואולם, אין חשש לפעולה לא מבוקרת או בעייתית מצידה בשלב זה יואב סטולר, 9 תגובות לכתבה המלאה 

"השפעות הבינה המלאכותית והלמידה העמוקה אולי נראות מתוחכמות או שמורות למדענים בלבד, אך אני סבור שאנו צועדים במהירות לנקודה שתחומי חיים רבים יופעלו באופן אוטומטי בידי אלגוריתם. לשנות אותם בדיעבד אחרי השלמת הפיתוח והטמעתם בחיי היומיום תהיה קשה הרבה יותר מלהניח כבר היום את היסודות הנכונים, כשהבינה המלאכותית עדיין בתחילת המהפכה".

מפתחי ה-AI לא יודעים להסביר אותה

הסוגיות שמטרידות את דלבו בתחום הבינה המלאכותית עוסקות באחריות החברות למוצר, לבטיחות ולאתיקה, בדגש רב על השמירה על הזכות לפרטיות. לדבריה בין אם מדובר במכונית, בשואב אבק רובוטי או בבנקאי ממוחשב - לציבור יש זכות לדעת כיצד הם עובדים, לפי איזה הנחיות ואיזה מידע הם אוספים. הצהרתו השנויה במחלוקת של מנכ"ל iRobot, מפתחת שואב האבק הרובוטי רומבה, כי החברה בוחנת להשתמש במכשיריה כדי למפות את בתי המשתמשים ולמכור את המידע הלאה לחברות חיצוניות, הפכה סוגיות אלו לרלוונטיות מתמיד.

אך השפעת תוכנות הבינה המלאכותית מרחיקה לכת הרבה יותר מסוגיות של פרטיות. גודמן מביא כדוגמה את השימוש במערכות AI לחישוב דירוג אשראי של לקוח בנק שמבקש הלוואה. "התוכנה משתמשת במאגרי המידע שלה על הלקוח כמו היסטוריית תשלומים וחובות, התנהלות פיננסית ומשכורת כדי לקבוע את רמת הסיכון שלו ולאשר את ההלוואה", הוא אומר. תהליך ההכשרה של התוכנה כלל סריקת מאגרים עצומים של ניתוחי אשראי קודמים של לקוחות, שאפשרו לה ליצור פרמטרים ושיטות עבודה לפי ההחלטות של העובדים האנושיים שעשו את העבודה במשך שנים לפניה.

אלא שבני אדם מונעים מגורמים רבים נוסף לניתוח יבש של מספרים, באופן שהביא לסירובים למתן הלוואות לאנשים לא לבנים בארה"ב גם כשנתוני האשראי שלהם היו זהים ללבנים שכן זכו להלוואות. "אם אנחנו לא יודעים להבין איך מתבצע הליך קבלת ההחלטות אין לנו איך למנוע מהאפליה השיטתית הזו לזלוג לתוכנות הממוחשבות ולהשתרש בהן", הדגים. לדבריו, בעיות דומות עלולות להתעורר בפרסום ממוקד אוכלוסיה, בהליכי מיון קורות חיים וקבלה לעבודה, רישום לחוגים או מוסדות אקדמיים וחישוב סיכוני ביטוח.

בדיקה של האלגוריתמים שקובעים למי לייעד פרסומות באינטרנט (טרגוט) בארה"ב העלתה כי מרבית מודעות הדרושים לעבודות בתנאי שכר טובים הוצגו בעיקר בפני גברים בעוד שנשים כמעט לא נחשפו אליהן. רשתות הפרסום הבינו בדיעבד כי האפליה שבה נקטה הבינה המלאכותית שמריצה את האלגוריתם נובעת מבסיס הנתונים שהיא למדה ממנו. בסיס הנתונים הצביע כי סוג משרות זה מאוכלס בעיקר בידי גברים, ולכן הם צריכים להיות קהל היעד של קמפיין הפרסום.

במקרים רבים הבעיה אינה נובעת מסקסיזם מודע של מפתחי האלגוריתמים אלא מחוסר הבנה מלא של האופן שבו התוכנות הלומדות פועלות. האלגוריתמים מפתחים דפוסי עבודה והסקת מסקנות, שמבוססים על מאות ולעתים אלפי שעות של קריאת בסיסי נתונים בהליך שמכונה למידה עמוקה. בסוף הליך הלמידה והניתוח מתקבל מוצר מוגמר, אך לרוב כזה שנעדר פרוטוקול שמתאר את אופן הליך הלמידה והאופן שבו התקבלו ההחלטות. מסיבה זו, במקרים רבים המפתחים של תוכנת ה-AI לא יודעים להסביר לגמרי כיצד היא עובדת.

מעכשיו, גם בטלפונים וואווי חשפה את סדרת Mate 10 - טלפונים עם מעבדי בינה מלאכותית בסדרה החדשה יש שלושה מכשירים - סמארטפונים בעלי מסך 5.9 אינץ' ופאבלט בעל מסך בהיר במיוחד בגודל 6 אינץ'. לכולם מצלמות מתקדמות עם עדשות לייקה, יכולות מתקדמות בעיבוד AI, סוללה שנטענת במהירות ועוד עומר כביר, מינכן, 3 תגובות לכתבה המלאה 

בעייתיות זו לא חומקת מעיני המפתחים. כך, הסוכנות למחקר ביטחוני מתקדם במשרד הביטחון האמריקאי (DARPA) זנחה לפני כשנה מיזם טכנולוגי גדול בנושא מקרי חירום לאומיים, והחליפה אותו במיזם שהבינה המלאכותית בו היתה מובנת יותר לגורמים אנושיים. המקרה הוביל את סוכנות להעדיף באופן סיסטמטי תוכנות AI לומדות שיכולות לתת דין וחשבון על פעולותיהן ואף פתוחות לשינויים מסוימים.

אך לצורך בהסבר יש גם מניעים נוספים, בסיסיים בהרבה. "כוחות השוק עצמם ידרשו הסברים במקרים של יישומים הרי גורל", אומרת סופר. "במקרה של שימוש ב-AI ברפואה גם הרופא המטפל וגם המטופל יידרשו לדעת כיצד המערכת עובדת". באופן דומה, ניסוי ראשון מסוגו שערכה אינטל בשנה האחרונה העלה שחשוב להסביר לנוסעים ברכב האוטונומי כיצד עובדות מערכות הרכב כדי להרגיע את חששותיהם.

"לפני הנסיעה הסברנו לנוסעים על הטכנולוגיה בבסיס הרכב, והופתענו לגלות עד כמה התרומה של ההסבר היתה משמעותית", אמר ג'ק וויסט, הארכיטקרט הראשי של חטיבת המכוניות האוטונומיות בענקית השבבים. "לאף אחד מהמשתתפים במחקר לא היה רקע טכני ולא ידענו כמה הם יתעניינו באופן הפעילות של הרכב האוטונומי, אבל גילינו שזה חשוב ליצירת אמון ברכב. הודות לוויזואליזציה והסברים, כשהם נכנסו לרכב הם היו רגועים יותר".

איום על פגיעה בקצב התפתחות הטכנולוגיה

הדרישה לזכות להסבר וסעיפים נוספים במסמך ה-GDPR צפויים להעצים את היריבות בין מוסדות האיחוד האירופי לבין ענקיות הטכנולוגיות, שרובן אמריקאיות. האתגרים הטכנולוגיים שעימם מתמודדים מפתחי ה-AI והדרישה מהם לפרט כיצד פועלות התוכנות שלהם כדי לקבל אישור לפעול באירופה עשויים להוות מכשול של ממש. "לא הייתי רוצה שזה יעכב את היכולת שלנו להתקדם", אמרה סופר. "כחוקרים בתחום ה-AI אנחנו לא מוכנים לקבל איסורים על פיתוח יכולות חדשות כי אי אפשר להסביר אותן. מי שבתחום המחקרי צריכים להמשיך לרוץ קדימה".

"יכול להיות שאני נאיבית, אבל כשהחובה להבין את התוכנה תחול על המפתחים, החברות ייהנו מתוצאות טובות יותר", הוסיפה דלבו. גודמן מסכים: "זה אולי עלול לעכב את הפיתוח אבל בסופו של דבר היכולת להבין את התוכנה ואת דרכי פעולתה עשויה להביא למוצר מוצלח", אמר.

ד"ר איה סופר מ-IBM צילום: IBM

חלק מהמבקרים מרחיקים לכת וטוענים כי הבלמים שיוזמת החקיקה האירופית מבקשת לשים למפתחים תפגע בחדשנות ביבשת ותעכב חדירה של טכנולוגיות חדשות למדינות האיחוד, אך דלבו מסרבת להתרגש. לדבריה, אמירות אלו נועדו להפעיל לחץ מצד גורמים אינטרסנטיים, ובתנאים אלו ייתכן ועדיף שאלה שחוששים משקיפות לא יפעלו באיחוד. גם סופר מנסה להפחית את עוצמת הלהבות: "יכול להיות שחברות מסוימות, בעיקר קטנות, יבחרו בעקבות הדרישות להתחיל במקום אחר. לעומתן חלק מהחברות הגדולות כבר עוסקות בהתאמת הטכנולוגיה שלהן לתנאים העתידיים, שאף עשויים לשפר את היכולות שהן מפתחות".

המאבק שצפוי למקדמי יוזמת החקיקה מול הכוח הכלכלי הרב שבידי אלפאבית, אפל, אמזון, פייסבוק, אינטל, IBM ומיקרוסופט לא יהיה פשוט. וגם אם תאושר עדיין יידרשו המוסדות המשפטיים באיחוד האירופי להכריע אם הדרישה להסברת דרך הפעולה של התוכנות שלהן אינה פוגעת בסודות המסחריים של החברות.

הפיתרון שמציע גודמן לבעיה הוא מינוי ועדה מקצועית או ישות חיצונית, שהחברות ידווחו לה כדי שהמידע לא יהיה חשוף לכל. "כשאדם מנסה להתקבל לאוניברסיטה והתוכנת הממיינת דוחה אותו אין צורך שידע למה העדיפו אדם אחר על פניו", הוא מדגים. "עם זאת, כדי למנוע אפליה אסורה וגרימת עוול אישי וציבורי, על מפעילי ומפתחי התוכנה לדווח למנהל המוסד האקדמי ולרשות האמונה עליו מה המדדים שהתוכנה שקללה".

מורכבויות משפטיות אלו צפויות לעכב את אישור המסמך, שהוצע לראשונה כבר באפריל אשתקד. מסיבה זו סבורה דלבו שאף שהתאריך הנקוב ליישום תקנות ה-GDPR והזכות להסבר הוא מאי 2018 מועד זה צפוי להידחות. היא אף מקווה שמדינות נוספות ילכו בעקבות החלוציות הרגולטורית של אירופה ושההסדרה תהפוך לתקן כלל עולמי.

עם זאת, קשה לא להשוות את הדרישה להסבר בתחום הבינה המלאכותית לתחומים אחרים בחיי היומיום. חברות הפועלות בתחום הבריאות לא נדרשות להסביר כיצד עובדות התרופות שלהן או על האופן הפעולה של טיפולים רפואיים חדשניים שפיתחו בדרכן לביצוע ניסוי קלישי וקבלת אישור מהרשויות. במקום זאת הן נדרשות להוכחה מדעית ניסויית כי הטיפולים אכן עובדים ומשפרים את מצב החולה מבלי להוות סכנה מהותית לבריאותו. הבדל זה מעלה את השאלה האם עם המניעים של מקדמי חקיקת הזכות להסבר לא נמנים חשש מקדמה וחרדת יתר לזכויות הפרט נוסף להקדמת תרופה למכה.

כך או כך, עצם הדיון בסוגיה חשוב לכשעצמו. מהפכת ה-AI תדרוש מממשלות הכולם לגבש תקנות יצירתיות שיתאמו את המציאות החדשה בשעה שחברות הטכנולוגיה ישלחו זרועות לתחומי ליבה נוספים בחיי היומיום. התרחבות זו צפויה להביא עימה דרישה לרגולציה נוקשה יותר ולהגברת השקיפות הרבה מאלו שהורגלו להן עד כה.