ראיון"האחריות של המדינה היא להגן על האזרחים מהבינה המלאכותית"
ראיון
"האחריות של המדינה היא להגן על האזרחים מהבינה המלאכותית"
ד"ר גלית ולנר, יועצת למשרד החדשנות והמדע, מסבירה שבעולם שבו "כמעט אין לנו כלים להוכיח את הנזקים של בינה מלאכותית, זו אחריות המדינה להגן על אזרחיה באמצעות רגולציה". על יכולות ה־AI היא אומרת: "העתיד מפחיד אבל הוא גם יכול להיות מעורר השראה"
המסלול המואץ שבו מתפתח תחום הבינה המלאכותית מעורר השתאות אך גם דאגות מחציית גבולות. ד”ר גלית ולנר – יועצת לפורום רגולציה ובינה מלאכותית של משרד החדשנות, המדע והטכנולוגיה – מסבירה ממה בדיוק עלינו לחשוש והיכן נכנס תפקיד הרגולטור.
“היום השיח הרווח במדינת ישראל הוא שאנחנו צריכים לדאוג לסטארט־אפים, כי אנחנו סטארט־אפ ניישן וצריך לא להפריע להם יותר מדי. אני חושבת שהאחריות של המדינה היא להגן על האזרחים שלה, ובהתאם צריך לשים אותם במקום הראשון ולדאוג להם באמצעות הרגולציה, כי היום כמעט אין לנו כלים - בטח שלא מראש אבל אפילו לא בדיעבד - להוכיח נזקים. קשה להוכיח, למשל, אם מערכת שמבוססת על בינה מלאכותית הפלתה אותנו לרעה, אפשר רק לחשוד ולחשוש שאולי. לדוגמה, אין לי מושג ואין לי דרך לדעת אם הבנק נתן לי ריבית גבוהה רק בגלל שאני אשה. אין לי כלים משפטיים להתמודד עם זה ואני חושבת שבמקום הזה המחוקק צריך להגן עליי”.
איפה עוד ייתכן שמפלים אותנו או משפיעים עלינו ביומיום ואנחנו לא יודעים את זה?
“ראינו במערכות הבחירות בארצות הברית ב־2016 ובברקזיט בבריטניה את ההשפעות על מערכת הבחירות. בישראל ב־31 באוקטובר יתקיימו בחירות לרשויות המוניציפליות. מתישהו יהיו גם בחירות לכנסת ולממשלה, אנחנו חייבים לדאוג שמערכות הבחירות ינוהלו לפי הכללים הדמוקרטיים שלנו. היום הכללים נקבעים על ידי חברות שיושבות בקליפורניה. קשה לי לתבוע אותן, אפילו בישראל. וזה המקום שבו חסרים לי כלים. זה המקום שכל כך מפחיד אותי ולכן אני חושבת שהמחוקק שלנו צריך לפעול, ולפעול מהר”.
על החקיקה הרצויה: אני רוצה חקיקה כללית שתקיף את כל הטכנולוגיות הדיגיטליות. אנחנו רוצים שיהיו מובנים בכולן שלושה עקרונות: הוגנות, אחריותיות ושקיפות"
איך מתחילים לחוקק ולהסדיר את התחום המסיבי הזה?
“החלום שלי זה שתהיה לנו חקיקה כללית בתחומי הטכנולוגיה. תראי, למשל, מה קרה עם האיחוד האירופי — הם הסתבכו עם הגדרה של מהי בינה מלאכותית. זו שאלה שאנשים עושים ממנה קריירה אקדמית שלמה. אני חושבת שאנחנו צריכים להתייחס בחוק למערכות דיגיטליות באופן כללי. לא אכפת לי אם קוראים להן בינה מלאכותית, או לפני כמה שנים קראנו להן ביג דאטה. מה זה מעניין אם למנוע מאחור קוראים למידת מכונה או למידה עמוקה? זה לא מעניין. אני רוצה חקיקה כללית שתקיף את כל הטכנולוגיות הדיגיטליות. אנחנו רוצים שיהיו מובנים בכולן שלושה עקרונות: הוגנות, אחריותיות ושקיפות. אלו עקרונות מאוד בסיסיים שצריכים לחול על כל המערכות — של הבנקים וחברות הביטוח, כל המסחר באינטרנט — הכל צריך לכלול את העקרונות האלה. קחי לדוגמה את הנושא של רכישת כרטיסי טיסה, התחביב הלאומי בישראל. הרי בכל פעם כשאני נכנסת לאתר לרכישת כרטיסים, מנועי החיפוש משנים את המחיר, תמיד כלפי מעלה, ולמה זה? כי יש כל כך הרבה קוקיז (כלי טכנולוגי שמשמש למעקב ולאגירת מידע על משתמשים באתרי אינטרנט — ו”א) וכל כך הרבה עוקבים אחריי, כך שהמחיר נתפר עבורי אישית. לצרכן אין שום דרך לתבוע או לדעת איך הדברים האלו נקבעים, הם יכולים רק לחשוד ולהיות סקפטיים, אבל אין כלים משפטיים, ואת זה אני רוצה לתקן. ברגע שיהיה חוק כללי כזה, בסגנון חוק החוזים, שנותן את העקרונות הכלליים — אחר כך אפשר לעשות חקיקה ספציפית לבינה מלאכותית ברפואה, ברכבים אוטונומיים, אולי ביישומים ביטחוניים יותר כמו של מצלמות משטרה לאבטחה וזיהוי פנים. אבל כל אלו יהיו דברי חקיקה ספציפית במסגרת החוק הכולל, שמסדיר את הטכנולוגיות ואת המקום שלהן בעולם שלנו וייתן לנו כאזרחים את הזכות להגן על עצמנו ולהבטיח שאנחנו באמת מקבלים את המגיע לנו”.
איך צריך לחשוב על רגולציה בנושא?
“הדימוי הכי הכי טוב שיש לי נכון לרגע זה הוא דימוי הרגולציה לכלי רכב. כשהמכונית הומצאה בסוף המאה ה־19, לא היתה עליה רגולציה. ילדים בני 10 יכלו להיכנס לאוטו ולהתחיל לנסוע. לא היה תמרור ויכלו לנסוע על מה שרצו ולעשות מה שהם רוצים — הכי חופש שיש. ואז, אחרי אסונות, התחילה הרגולציה. אז קודם כל אמרו שצריך רישיון נהיגה בשביל להפעיל את הטכנולוגיה הזאת. שלא כל ילד יכול להפעיל אותה. בד בבד ובמקביל התפתחה גם רגולציה של הכבישים עצמם, של התשתית, שאומרת שיש רמזורים ויש תמרורים, יש נתיבי תנועה. אני לא יכולה לנסוע איפה שבא לי ואיך שבא לי. ועכשיו גם יש רגולציה על הטכנולוגיה עצמה, של כלי הרכב, אני צריכה רישיון לרכב. וכמו שיש משרד התחבורה, אולי צריך שיהיה משרד הטכנולוגיות הדיגיטליות, שיעשה את הרגולציה לכל המרכיבים”.
ממי כדאי לנו לקחת דוגמה לחקיקה בנושא?
“הדוגמה תהיה סוג של קולאז’. זה יהיה אוסף דוגמאות. האיחוד האירופי כמובן. הם עושים עבודה מדהימה, אבל היא לא מושלמת. הייתי לוקחת קצת אפילו מהסינים שכבר מחייבים שמערכות בינה מלאכותית יקבלו איזשהו תו תקן, והסמכה מראש. צריך לקחת רכיבים ודוגמה מהרבה מאוד מקומות בעולם”.
את מאמינה שמדינת ישראל יכולה לקדם כזאת חקיקה? החקיקה שלנו בתחום הפרטיות מיושנת מאוד ועדיין לא עברה עדכון ראוי לציון למהפכת המידע.
“אני רוצה שנהיה אור לגויים, ואני חושבת שאנחנו יכולים לעשות את זה. קיבלנו דוגמה מרתקת דווקא מהאיטלקים, שלפני כמה חודשים החליטו שהם אוסרים את הפעילות של צ’אטבוט הבינה המלאכותית ChatGPT בגלל סוגיות של פרטיות. ואנשים תהו ‘מי אתם האיטלקים, שתגידו להם מה לעשות?’. אבל עובדה שהיו דברים שהשתנו במערכת עצמה כדי לענות על הבעיות שהאיטלקים העלו כמו שקיפות מוגברת לאופן שבו הבוט מעבד נתוני משתמשים, ונוסף כוח למשתמשים לכבות את האפשרות שהשיחות ישמשו לאימון האלגוריתם. ואחרי התיקונים הם אישרו את פעולתו.
"אני חושבת שבאותו אופן גם אנחנו יכולים להוביל ואני חושבת שאם יש חברות שהן הוגנות, הן יעריכו את זה. אנחנו מדברים על סוג של אקוסיסטם, מערכת כוללת שבה יש בעלי עניין שונים, ומשתמשים שצריך לשמוע אותם, ישנם הרגולטורים שאמונים על הסדרת השוק וכמובן שיש מקום גם לחברות ולסטארט־אפים. כולם צריכים לדבר אחד עם השני ולהגיע לתובנות והבנות איך אנחנו רוצים לחיות, ולהתנהל ביחד כי אנחנו באותה הסירה. במובן הזה המחוקק לא צריך לבוא ובכיפוף ידיים להכריח דברים, אני מאמינה שזה ייפול על אוזניים קשובות, לפחות ברוב החברות”.
איזה חלק היית רוצה שחברות ייקחו בעיצוב החקיקה? כי ידוע שהן מאוד מעורבות, סם אלטמן מ־OpenAI עשה ממש רוד שואו כדי להשפיע על החקיקה.
“צריך לתת את המקום למשתמשי הקצה, הקול שלהם לא נשמע. את החברות שומעים מעולה, הן מדברות נהדר ומעסיקות צבא של אנשי מקצוע. היום יש עמותות שמתנדבות להשמיע את המשתמשים אבל קשה להן להתחרות בחברות הגדולות. במשרד החדשנות, המדע והטכנולוגיה ובמשרד המשפטים ישנה הפתיחות הזאת ומדברים על זה, אבל אנחנו צריכים להיזהר ולשים לב שמשתפים לא רק את החברות אלא גם את המשתמשים”.
המדינה היום בבעיה, לא? היא הרי לא מצליחה לפקח על עצמה.
“סליחה על האופטימיות, אבל אני חושבת שאנחנו הולכים למקום טוב. יש לנו את התשתית הטובה. עכשיו רק צריך לדאוג שזה באמת יתפתח למקום הטוב ולא ילך למקומות שאולי חברות מאוד גדולות בינלאומיות לא היו רוצות שאנחנו נלך אליו, שזה לא נוח להן, שזה אולי יוריד להן את הרווחים ב־3%”.
1 צפייה בגלריה
סם אלטמן, מנכ"ל OpenAI. ד"ר ולנר: "כולם צריכים לדבר אחד עם השני ולהגיע להבנות איך אנחנו רוצים לחיות"
(צילום: אביגיל עוזי)
למדינת ישראל יש תשתית טובה?
“כן, יש התחלה של תשתית טובה. יש לנו אנשי מקצוע טובים. יש הבנה לא בכל המשרדים, אבל פה ושם אני נתקלת באנשים מאוד טובים. אנשים טובים באמצע הדרך והם עושים עבודה מדהימה”.
אבל מבחינת חקיקה, מדינת ישראל בכל מה שנוגע להגנת משתמשים - מעודכנת בערך ל־1981.
“בדיוק 1981. לפי החקיקה הקיימת אסור, למשל, לצלם אותי בבית, ואפילו שואב האבק הרובוטי שלי מצלם את הבית שלי. החוק הזה הוא חסר משמעות וחסר תועלת. הוא איבד את היישומיות שלו.
"אז כן, אנחנו צריכים חוק חדש. אני מקווה שייחקק כזה חוק. יש תזכירי חוק של חוק הגנת הפרטיות. שוב, הרבה מאוד חברות הפעילו הרבה מאוד לוביסטים כדי לעשות חוק הגנת הפרטיות מסוג מאוד מאוד מסוים. חוק קצת חלבי אולי. ואני חושבת שעם התובנות החדשות שיש לנו אחרי מערכות הבחירות בארצות הברית, אחרי הברקזיט באנגליה, אחרי פרשת קיימברידג’ אנליטיקה - אנחנו כבר מבינים דבר או שניים על פרטיות.
"אני חושבת שזה סוג של קריאת השכמה למחוקק שלנו. להגיד שאנחנו רוצים חוק הגנת פרטיות כמו שצריך עכשיו. מה שמגן עלינו היום במדינת ישראל באופן פרדוקסלי זה דווקא ה־GDPR האירופי (חוק הגנת הפרטיות האירופי — ו”א). אנחנו נהנים מהאפקט שלו”.
מה את חושבת על הקריאה לעצור את הפיתוח בתחומי בינה מלאכותית? בין היתר בשל הרעיון שבינה מלאכותית מציבה סכנה קיומית לעתיד האנושות?
“על הרבה טכנולוגיות אמרו שהן מציבות סכנה לעתיד האנושות. נכון, אמרו את זה גם על פצצת האטום. הדיסטופיות היא לא חדשה. העתיד מפחיד, נכון, אבל הוא גם יכול להיות מעורר השראה וזה בידיים שלנו - מה אנחנו הולכים לעשות ואיך נעשה. אני אופטימית מטבעי. אני חושבת שאנחנו יכולים לעשות מזה טוב. לכן אני לא נוטה להאמין לרואי השחורות. אני חושבת שדווקא יש לנו סיכוי טוב לקחת את זה למקום טוב, אבל צריך לדאוג לכמה דברים קטנים בדרך”.
ד”ר גלית ולנר (56)
מקום מגורים: תל אביב
מצב משפחתי: נשואה ואם לשלושה
תפקיד: מרצה ב־HIT, המכון הטכנולוגי בחולון, יועצת לפורום רגולציה ובינה מלאכותית של משרד החדשנות, המדע והטכנולוגיה
השכלה: תואר שני במשפטים מאוניברסיטת תל אביב, דוקטורט במדע, טכנולוגיה וחברה מאוניברסיטת בר־אילן
תפקידים קודמים: מרצה בפקולטה למדעי הרוח באוניברסיטת תל אביב, דירקטורית שיווק בינלאומי בחברת ECI ובסטארט־אפים נוספים
עוד משהו: מתרגלת אשטנגה יוגה
