לראשונה: מדינות האיחוד האירופי הסכימו על חוקים שיסדירו בינה מלאכותית
לראשונה: מדינות האיחוד האירופי הסכימו על חוקים שיסדירו בינה מלאכותית
החקיקה שנקראת AI Act נועדה להגן על הציבור מפני ההשלכות החברתיות והכלכליות של בינה מלאכותית גנרטיבית. היא תחייב את החברות בשקיפות, בסימון תוצרי AI ותגביל חלק מהטכנולוגיות רק למקרים של ביטחון לאומי. "הצלחנו להגיע לאיזון בין הגנה לחדשנות", נמסר
כשנה אחרי ש-ChatGPT זעזע את תעשיית הטכנולוגיה העולמית, האיחוד האירופי השלים את גיבושה של חקיקת בינה מלאכותית (AI) מקיפה, שתסדיר את השימוש בטכנולוגיה החדשה ותנסה להתמודד עם ההשלכות החברתיות והכלכליות של בינה מלאכותית גנרטיבית.
קובעי המדיניות באיחוד האירופי הגיעו אתמול לסיכום על חוק ה-AI (AI Act), שצפוי להציב סטנדרט בינלאומי בעבור מדינות שמבקשות לרתום את כוח הטכנולוגיה, תוך יצירת מנגנוני הגנה נגד סיכונים אפשריים, כמו אוטומטציה של משרות, הפצת פייק ניוז שנוצר באמצעות מודלי שפה גדולים וגם סכנות לביטחון הלאומי. הצעת החוק צריכה לעבור עוד כמה שלבי אישור, ובפרט של פרלמנט האיחוד. עם זאת, הסיכום שהושג מהווה תמריץ חשוב בדרך להשלמת החקיקה.
בין השאר, אם יאושר החוק חברות שמפתחות מודלי שפה גדולים (LLMs), כמו OpenAI, מיקרוסופט, גוגל או מטא, יחוייבו בדרישות שקיפות מקיפות. כלים שמאפשרים ליצור תמונות או סרטוני דיפ-פייק יחוייבו לסמן את התוצרים באופן שיבהיר למשתמשים שהם נוצרו על ידי בינה מלאכותית. שימוש בטכנולוגיית זיהוי פנים על ידי ממשלות או כוחות אכיפת חוק יוגבל רק למקרים הקשורים לבטיחות או לביטחון לאומי (למשל, כוחות משטרה יוכלו להשתמש בזיהוי פנים כדי לאתר קרבנות סחר בבני אדם, לבלום איומי טרור, ולאתר חשודים ברצח, אונס ופשעים חמורים אחרים). חברות שיפרו את הוראות החוק עלולות להיקנס בסכום של עד 7% מההכנסות העולמיות שלהן.
"אירופה מיצבה את עצמו כחלוצה, שמבינה את חשיבות תפקידה כקובעת התקנים העולמית", אמר תיירי ברטון, נציב האיחוד האירופי לשוק האינטרנט שהוביל את המגעים סביב הצעת החוק, בהודעה לעיתונות. לפי הניו יורק טיימס, המגעים התנהלו בבריסל במשך שלושה ימים, כולל מפגש של 22 שעות שהחל ביום רביעי אחר הצהריים. פרטי הסיכום המלאים טרם נחשפו, שכן מאחורי הקלעים צפויות להתקיים שיחות להשלמת פרטים טכניים שונים. לאחר מכן תעבור הצעת החוק לאישור פרלמנט האיחוד, שבו נציגים מ-27 המדינות החברות.
הטיוטה הראשונה של ה-AI Act הוצגה אמנם כבר ב-2021. אבל פריצות דרך בתחום הבינה המלאכותית, ובראשן הפריצה של בינה מלאכותית גנרטיבית, אלצו את מגבשי המדיניות לשכתב מחדש את החקיקה במטרה להתאימה למצב המתפתח. כך, למשל, הטיוטה הראשונה לא עסקה במודלי שפה גדולה. מגבשי החקיקה סיכמו על "גישה מבוססת-סיכון" לרגולציה של AI, שבמסגרתה היישומים בעלי פוטנציאל ההשפעה הגדול ביותר יהיו נתונים לפיקוח ולמגבלות המשמעותיים ביותר.
במסגרת זאת, חברות שמפתחות כלים שמהווים סכנה אפשרים לפרטים או לחברה, בתחומים דוגמת חינוך או תעסוקה, יצטרכו לספק לרגולטורים דו"חות הערכות סיכונים, פירוט של המידע ששימש לאימון המודל ולהדגים שהמערכת לא גורמת נזק דוגמת הטיה על בסיס גזע. פיקוח אנושי יהיה דרוש ביצירה ופריסה של המערכות. נוהגים מסוימים, כמו גרידת תמונות בהיקף רחב משירותים מקוונים לצורך פיתוח מערכות זיהוי פנים, ייאסרו לחלוטין. מפתחי מודלים גדולים יידרשו לספק מידע על איך עובדות המערכות שלהם ולהעריך את הסיכונים המערכתיים ואת היעילות האנרגטית שלהן.
מודלי AI מבוססי קוד פתוח יהיו פטורים מחלק משמעותי מהמגבלות. זאת על בסיס תפיסה שאם הקוד זמין לצפייה, ניתוח ושינוי על ידי כל מפתח בעולם, הציבור הרחב יוכל לזהות כשלים ולהתמודד אתם בצורה טובה יותר מסוכנויות רגולציה. פטורים אלו צפויים להטיב עם חברות כמו Mistral הצרפתית, Aleph הגרמנית וכן מטא שמודל ה-LLM שלה, LlaMA, מופץ בקוד פתוח.
לצד זאת, קיימים ספקות משמעותיים לגבי האפקטיביות של החקיקה החדשה. סוגיית האכיפה של הרגולציה עדיין אינה ברורה לחלוטין, ותחייב כנראה את מדינות האיחוד לשכור מומחים או להקים גופי רגולציה חדשים. החברות עצמן צפויות להתנגד למאמצי האכיפה דרך בתי המשפט במדינות החברות ובאיחוד. בנוסף, הבטים שונים של החקיקה ייכנסו לתוקף רק בין 12 ל-24 חודשים לאחר אישורה הסופי – זמן משמעותי בתחום שבו פריצת דרך מהותית מתרחשת מדי כמה שבועות וכאשר השינויים שמחוללת הטכנולוגיה מורגשים היטב כבר עתה (ועדיין, מדובר בזמן תגובת שיא של רגולציה וחקיקה ביחס לטכנולוגיה חדשה).
"העבודה שהשלמנו היום היא השראה לכל אלו שמחפשים מודלים", אמר חבר פרלמנט האיחוד מטעם רומניה, דראגוס טודוראקה, שהיה מעורב במגעים. "הצלחנו להגיע לאיזון בין הגנה לחדשנות. מדובר בתבנית לרגולטורים בשעה שהעולם מתאמץ להבין את ההטבות הכלכליות ואת הסכנית החברתיות של בינה מלאכותית".
