אדם נגד מכונה: הניסיון העולמי הראשון לפקח על AI יוצא לדרך
אדם נגד מכונה: הניסיון העולמי הראשון לפקח על AI יוצא לדרך
כל מה שצריך לדעת על החוק החדש והשאפתני של האיחוד האירופי לאסדרת בינה מלאכותית, שייכנס השבוע לתוקף: מי ייפגע ומי ירוויח, אילו מגבלות יחולו על הצ'טבוטים שלמדנו להכיר וגם איך קשורות לזה הבחירות בארה"ב
מטא הודיעה החודש שהיא לא מתעתדת להשיק באיחוד האירופי את מודלי ה־AI המתקדמים העתידיים שלה לאור מה שהיא מכנה "הטבע הבלתי צפוי של הסביבה הרגולטורית באירופה". בכך הצטרפה החברה לאפל, שהודיעה לפני כחודש שלא תשיק את מערכת הבינה המלאכותית החדשה שלה, Apple Intelligence, באיחוד, משיקולים דומים. ולא רק ענקיות טכנולוגיה חרדות: סטארט־אפי AI רבים באירופה חוששים שבקרוב הם יטבעו בעלויות עתק חדשות ובהררי בירוקרטיה. הסיבה: חוק ה־AI החדש של האיחוד שעתיד להיכנס לתוקפו השבוע (ב־1.8).
החוק השאפתני הוא ניסיון עולמי ראשון לאסדר את מהפכת ה־AI המתגלגלת, ובאורח תקדימי לרגולציה של טכנולוגיה – לעשות זאת תוך כדי המהפכה, ולא שנים אחריה כפי שהיה עד עתה. יש שסבורים שמדובר במהלך חשוב שימצב את אירופה בחזית התחום. "החוק הזה הופך את האיחוד לשוטר ה־AI העולמי", אמרה לכלכליסט ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה. "אירופה יוצרת סטנדרטים גלובליים. בעולם שבו כולם מדברים על הצורך להסדיר AI אבל אף אחד לא פועל, היתרון האירופי פה יהיה ברור".
ואולם, אחרים מתריעים שהחוק ייצר חסמים גבוהים יותר לסטארט־אפים אירופיים שיפגעו ביכולת התחרותיות של היבשת. "חוק ה־AI הוא רעיון טוב, אבל אני חושש שהוא יקשה על יזמי טכנולוגיית־עומק להצליח באירופה", אמר מנכ"ל הסטארט־אפ הדני Corti, אנדראס קליב, ל”פייננשל טיימס”. "עלויות הציות יכולות להגיע לסכום של שש ספרות בעבור חברה של 50 עובדים. זה מס נוסף על חברות קטנות".
מקוד התנהגות וולונטרי ועד איסור גורף
במרכז החוק עומד מיון מערכות AI לפי רמות הסיכון שלהן. בתחתית הסולם נמצאות מערכות ב"סיכון מזערי", דוגמת כאלו שמשמשות לסינון ספאם או במשחקי וידיאו. על מערכות אלו אין שום רגולציה, וחברות האיחוד לא יכולות לכפות עליהן רגולציה משלהן, אך החוק כולל קוד התנהגות וולונטרי בעבורן. מרבית מערכות ה־AI הקיימות צפויות להיכנס לקטגוריה זו.
בקטגוריה הבאה, "סיכון מוגבל", נכללות מערכות AI שיש להן אינטראקציה ישירה עם בני אדם, כמו צ'אטבוטים, מערכות זיהוי רגשות, מערכות ביומטריות ומערכות שמאפשרות ליצור או לבצע מניפולציה בתמונה, קול או וידיאו (למשל, תמונות או סרטוני דיפ פייק). הן מחויבות בדרישות שקיפות מוגבלות, שנועדו להבטיח, בין השאר, שמשתמשים יודעים שהם מדברים עם AI ומהם הסיכונים האפשריים הכרוכים בכך.
דרגת החומרה הבאה היא מערכות "בסיכון גבוה", שיכולות ליצור השפעה שלילית על הבטיחות, הבריאות או זכויות היסוד של אנשים. קטגוריה זו כוללת מערכות AI בתחומי הבריאות, החינוך, הגיוס והתעסוקה, התשתיות הקריטיות, הפיננסים, הליכי הגירה ובקשת מקלט, אכיפת החוק ומערכת המשפט. הן נתונות לפיקוח בתחומי שקיפות, איכות וזכויות אדם ולדרישות בטיחות שונות, ובמקרים מסוימים יידרשו לעבור הליך "הערכת פגיעה בזכויות יסוד" לפני פריסתן. מערכות אלו יעברו הערכה הן לפני כניסתן לשוק והן לאורך מחזור החיים שלהן.
בראש הפירמידה נמצאות מערכות "בסיכון שאינו־מקובל", שמהוות איום ברור על הבטיחות, הפרנסה והזכויות של אנשים. קטגוריה זו כוללת מערכות שמסוגלות לבצע מניפולציה של התנהגות אנושית (למשל, צעצועים מופעלי קול שמעודדים התנהגות מסוכנת בקרב ילדים), מערכות זיהוי ביומטרי בזמן אמת במרחבים ציבוריים או מערכות ביומטריות לזיהוי וקיטלוג אנשים, ומערכות דירוג חברתי (שמדרגות אנשים על בסיס מאפיינים אישיים, סוציו־כלכליים או התנהגותיים). השימוש במערכות אלו ייאסר לחלוטין, למעט כמה מקרים חריגים (למשל, שימוש במערכות זיהוי ביומטרי שבהן הזיהוי מתבצע בעיכוב ניכר ויוכלו לשמש לתביעת פשעים חמורים באישור פרטני של בית המשפט).
חשש מאובדן רלבנטיות
אחרי השקת ChatGPT ב־2022 מיהר האיחוד לעדכן את החוק והוסיף קטגוריית "AI לשימושים כלליים", שמאסדרת את הפעילות של מודלי ויישומי בינה מלאכותית גנרטיבית (GenAI), דוגמת ChatGPT. יישומים אלו לא יוגדרו כמערכות בסיכון גבוה, אבל יחויבו לעמוד בדרישות שקיפות ולציית לחוקי זכויות היוצרים של האיחוד. בין השאר, הן יחויבו לסמן בצורה ברורה שתוכן נוצר או שונה על ידי AI, לעצב את המודל כך שלא ייצר תוכן לא חוקי ולפרסם סיכומים של המידע המוגן בזכויות יוצרים ששימש לאימון המודל. מודלים בעלי השפעה גבוהה שיכולים להוות סיכון מערכתי, דוגמת GPT–4, יידרשו לעבור הערכה יסודית ולדווח לנציבות האיחוד על כל תקרית חמורה.
החלטות מטא ואפל שלא להשיק בקרוב מערכות AI מתקדמות באיחוד הן עדות לכך שחברות, בוודאי ענקיות, יכולות להסתדר לתקופת מה בלי האיחוד האירופי
החוק אומנם ייכנס לתוקפו השבוע, אך המגבלות המשמעותיות ביותר שלו יופעלו בצורה מדורגת לאורך השנתיים הקרובות. החל מפברואר 2025 ייאסר השימוש במערכות בסיכון שאינו מקובל, באוגוסט 2025 תופעל האסדרה על מערכות לשימושים כלליים, ובאוגוסט 2026 ייכנסו לתוקפן המגבלות על מערכות בסיכון גבוה.
"זאת אולי הפעם הראשונה בהיסטוריה, שבה נכנס לתוקף חוק כל כך צופה פני עתיד, במובן של חוסר הידיעה על מה הוא יחול", אמרה שוורץ אלטשולר. "הוא יוצר ניסוי מסוג חדש — אסדרה מוקדמת ולא בדיעבד של טכנולוגיה. אחת הטענות המשמעותיות נגדו היא שבמרוץ להקדים את האסדרה לטכנולוגיה, אירופה יוצרת הסדרים שלא בטוח שיהיו רלבנטיים בתוך שנים ספורות. מנגד, קיימות מספיק מערכות מבוססות בינה מלאכותית כדי להבין על מה החוק חל כבר היום: מערכות למידת מכונה, המייצרות ניתוח, חיזוי והיסק, למשל בתחומי הרפואה, השיטור וניהול הון אנושי בעבודה; או מודלים גדולים של שפה אפילו ברמה של הסכנות הידועות לנו היום; מכשירים אוטונומיים ורובוטיים; ועולם שירות הלקוחות והצ'אטבוטים. בנוסף, כדאי לזכור שההמתנה והאיפוק הרגולטוריים הובילו למחירים קשים מאוד במהפכות הקודמות — הן בהקשר של רשתות חברתיות, פרטיות ואבטחת סייבר".
"עורכי הדין של תעשיית הציות ירוויחו"
אף שקשה לחזות את השפעת החוק על שוק הבינה המלאכותית, שוורץ אלטשולר מזהה תעשייה אחת שעתידה להרוויח ממנו בוודאות — תעשיית הציות: "מי שירוויחו הם עורכי הדין וחברות הייעוץ. איך יוצרים שינויים תפעוליים לצורך תאימות עם החקיקה, מה נדרש כדי לעמוד בסטנדרטים, איך יוצרים תהליכי הערכה, ניהול וטיפול בסיכונים? עלויות ציות הן עלויות גבוהות, הן פוגעות הרבה פעמים בחדשנות, בעיקר של חברות קטנות, אבל הן מצליחות ליישר את השוק באופן יעיל. וגם — עיקר המחויבויות בחוק אינן על כל השוק אלא רק על מוצרים שהוגדרו בסיכון גבוה ועל חברות ענק".
עלויות אפשריות אלו נמצאות עתה בלב הביקורת על החוק. "מדובר ברגולציה שתפגע ביכולת של אירופה להתחרות בארה"ב בהולדת חברות ה־AI של העתיד", אמרה ל”פייננשל טיימס” ססיליה בונפלד־דאל, מנהלת גוף הלובינג DigitalEurope, שמייצג חברות טכנולוגיה מקומיות ובינלאומיות, ובהן אמזון, אפל, גוגל, מטא, מיקרוסופט ואנבידיה. "עלויות הציות של חברות באירופה יפגעו בנו. ניאלץ לשכור פרקליטים בשעה ששאר העולם שוכר מתכנתים".
אחד הגורמים לבעיות בחקיקה, לדברי המבקרים, הוא החיפזון שבו נחקק החוק. "החוק די מעורפל", אמר קאי זנר, עוזר פרלמנטרי שהיה מעורב בניסוח החוק. "לחץ הזמן הוביל לתוצאה שבה היבטים רבים נשארו פתוחים. מחוקקים לא יכלו להסכים לגביהם והיה קל יותר להתפשר. זו היתה ירייה באפלה".
שוורץ אלטשולר, מנגד, סבורה שההשפעה של החוק תורגש היטב גם מחוץ לאיחוד האירופי. "חברות יצטרכו לציית לרגולציה אם הן מציעות מוצרים או שירותים מבוססי בינה מלאכותית ללקוחות האיחוד האירופי או פועלות בתוך השוק האירופי", אמרה. "זה ישפיע על הטיפול בנתונים, על אבטחת הסייבר. העובדה שהרגולציה חלה גם על רכיבים שנמצאים בתוך מוצר רק תעמיק את המחויבות לציית לחוק".
ואולם, אין הכרח שזה יהיה המצב, שכן ייתכן שחברות רבות יעדיפו פשוט להימנע מכניסה לאיחוד האירופי ולמקד את פעילותן בשווקים שבהם אין רגולציה הדוקה כל כך, או כאלו שבהם הממשל משטח מחסומים במקום לייצר חסמים. החלטות מטא ואפל שלא להשיק מערכות AI מתקדמות באיחוד לפחות עד שיתפזר הערפל סביב השפעת החקיקה הן עדות לכך שחברות, בוודאי ענקיות, יכולות להסתדר לתקופת מה בלי האיחוד האירופי; ושהן מעדיפות להשקיע בפיתוח המערכות ובחדירה לשווקים אחרים על פני התמודדות עם דרישות ציות חדשות.
במידה שדונלד טראמפ ינצח בבחירות לנשיאות בנובמבר, הפער בין אירופה לארה"ב בתחום עשוי להתעצם. כבר עכשיו, הרגולציה האמריקאית על מערכות AI רפה ביותר, ומתמצה בעיקר בצו נשיאותי שעליו חתם הנשיא ג’ו ביידן באוקטובר שעבר, ושמחייב מערכות AI מתקדמות לבצע מבדקי בטיחות מסוימים. לפי דיווח של “הוושינגטון פוסט” מלפני כשבועיים, מקורבים לטראמפ מגבשים מהלך לצו נשיאותי שייצר שורה של "פרויקטי מנהטן" בתחום הבינה המלאכותית. צו מוצע זה יבטל את הצו של ביידן ויורה על בחינה מיידית של "נטל רגולטורי מעיק ומיותר" על פיתוח AI.
מדיניות מסוג זה צפויה לזכות לתמיכה משמעותית מצד מועמדו של טראמפ לתפקיד סגן הנשיא, סנאטור ג'יי.די ואנס, בעל קשרים קרובים לדמויות מפתח בעמק הסיליקון, הנחשב למתנגד מובהק לרגולציית AI. בדיון בסנאט תקף ואנס את תרחישי האימה של ענקיות טכנולוגיה ויצא נגד רגולציה מכבידה שרק הן יוכלו לציית לה. "רגולציה שכזו תבצר את חברות הטכנולוגיה הקיימות, ותקשה על מתמודדות חדשות ליצור את החדשנות שתניע את הדור הבא של צמיחה אמריקאית", אמר.
תוצאה אפשרית היא שבשעה שאירופה נעה לכיוון רגולציה מהודקת וכבדה, ארה"ב ומדינות נוספות ינועו לצד של שוק נטול חסמים משמעותיים שמאפשר לחברות לעשות כמעט ככל העולה על רוחן. בהשאלה מהאמרה השחוקה, בכביש אל תהיה צודק תהיה חכם: אירופה כנראה צודקת בכך שהיא מייצרת רגולציה שתמנע שימוש במערכות AI שעלולות לייצר נזקים משמעותיים, אבל האם מדובר במהלך החכם אם התוצאה הסופית היא שאירופה תהיה בלי חברות ובלי מוצרי AI בשעה ששאר העולם רץ קדימה?
"עדיף להיערך מוקדם ולא בלחץ"
גם בישראל יצטרכו לעמוד בדרישות החוק
אירופה נחשבת לשותפת הסחר הגדולה ביותר של ישראל. המשמעות היא שבניגוד לחברות אמריקאיות, לשחקניות מקומיות אין הפריבילגיה להתעלם מהאיחוד ולהדיר ממנו את מוצריהן או חלק מהם. כלומר, חברות ישראליות יידרשו לעמוד בדרישות החוק. ועל מנת לסייע להן, דרושה התגייסות מיידית של ממשלת ישראל להשלמת פערים מול חקיקת האיחוד.
2 צפייה בגלריה
ד"ר תהילה שוורץ אלטשולר. "ההמתנה והאיפוק הרגולטוריים הובילו למחירים קשים מאוד במהפכות הקודמות"
(צילום: עמית שאבי)
"התפיסה הישראלית עד כה היתה לא לאמץ את המהלך האירופי, ובפועל לא לעשות כלום", אמרה ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה. "אם מדינת ישראל תרצה תאימות מול אירופה באופן שיאפשר לתעשייה המקומית למכור מוצרי ושירותי AI לשוק האירופי, היא תצטרך לאמץ לפחות חלק מן הכללים, ומוטב לעשות זאת מוקדם ובחשיבה ולא מאוחר ובלחץ. "מדינת ישראל צריכה לעקוב מקרוב אחרי אכיפת חוק הבינה המלאכותית, למלא את הפערים שקיימים כבר – אסדרת סייבר, אסדרת פרטיות, אסדרת רשתות חברתיות ומנועי חיפוש – מול הסטנדרט העולמי, ובעיקר להתחיל לעבוד. 'איפוק רגולטורי' או 'אתיקה' אינם תחליף לעבודה של חקיקה ומדיניות, לאסדרה ולהגנה על זכויות. הם גם אינם מעודדים חדשנות בטווח הארוך — בדיוק משום שתידרש מעתה תאימות מול הדין האירופי, שאם תהיה בישראל, היא תקל בעיקר על הסטארט־אפים ועל החברות הקטנות".
