אימוץ האמנה הבינלאומית לבינה מלאכותית היא רק קצה הקרחון
אימוץ האמנה הבינלאומית לבינה מלאכותית היא רק קצה הקרחון
הבינה המלאכותית נכנסת לעוד ועוד תחומים בחיינו, והרגולציה מבקשת להדביק את הקצב; החתימה של ישראל על האמנה מסמלת את תחילת הדרך לרגולציה הדוקה יותר בתחום ה-AI, וחברות יצטרכו לנקוט בצעדים מיידים כדי להמנע מסכנות סייבר, קנסות רגולטוריים ותביעות משפטיות
בשבוע שעבר התבשרנו כי ישראל חתמה על אמנה בינלאומית להסדרת השימוש בבינה מלאכותית. אמנם האמנה עוסקת בעיקר בשימושי הבינה המלאכותית במגזר הציבורי, אך השפעתה תחדור גם אל עולם העסקים, שבו קצב השינוי מהיר לא פחות. דוגמה לכך אפשר לראות בארצות הברית, בה חווים תהליך השפעה דומה של הצו הנשיאותי, הרלוונטי לדרישות למגזר הציבורי - אך כבר משפיע על המגזר הפרטי. חתימה זו היא צעד משמעותי עבור עסקים העושים שימוש בבינה מלאכותית ובאבטחה המידע של הציבור, אך היא מסמלת רק את תחילתה של דרך ארוכה עבור ארגונים הן במגזר הציבורי והן במגזר הפרטי.
החשיבות של רגולציה ותקנות שימוש בבינה מלאכותית במגזר הפרטי והציבורי
ככל שהסיכונים הקשורים לבינה מלאכותית ובינה מלאכותית יוצרת (Generative AI) הולכים ומתרבים, ממשלות וגופים רגולטוריים נכנסים לפעולה עם כלים חדשים ודרישות שמטרתם להגן על עסקים וצרכנים.
בשנים האחרונות הסכנות בשימוש בטכנולוגיות בינה מלאכותית הולכות ומתרבות ביתר שאת לאחר השקת צ׳אטים מבוססי GenAI כמו Gemini, Claude ו- ChatGPT. ראשית, ישנו סיכון לפגיעה בפרטיות שכן שימוש בטכנולוגיות מתקדמות יכול לחשוף נתונים רגישים ופרטיים של משתמשים וחברות. נוסף לכך, קיימת סכנה לאי-דיוק או הטיית תוצאות שמובילות להחלטות שגויות, מה שעלול לפגוע באנשים או בעסקים. בתחום הסייבר, השימוש בטכנולוגיות אלו עלול להעצים את יכולתן של התקפות זדוניות וליצור איומים חדשים על אבטחת המידע. לבסוף, קיים חשש שהטכנולוגיות הללו ייושמו בצורה לא אתית או מנוגדת לערכים חברתיים.
החתימה של ישראל על האמנה הבינלאומית לבינה מלאכותית, לצד חוקים כמו חוק ה-AI של האיחוד האירופי (EU Act) ורגולציה דומה שמתגבשת בארה״ב, מסמלת את תחילתה של תקופה חדשה בפיקוח רגולטורי. למרות שהגישה הפרואקטיבית הזו מעודדת עתיד אחראי יותר בתחום הבינה המלאכותית, היא גם מטילה אחריות נוספת על ארגונים, החייבים כעת לעמוד ברגולציות המתפתחות.
מהי רגולציה בתחום הבינה המלאכותית (AI)?
הרגולציה החדשה קובעת עקרונות ברורים לשימוש אחראי בבינה מלאכותית, כמו שמירה על זכויות אדם, שקיפות ואחריות, אך היא גם דורשת הערכת סיכונים והגנה מפני פגיעה אפשרית בזכויות הפרט והמידע. החתימה הישראלית על האמנה מהווה הצהרה ברורה: העתיד דורש אחריות טכנולוגית ובקרה הדוקה על השימוש בבינה מלאכותית בכל המגזרים והתעשיות.
האמנה כוללת סדרי עדיפויות שונים בתחום ה-AI, תוך דגש על סיכונים ומנגנונים להתמודד עימם. הרגולציה מכתיבה את אופן איסוף הנתונים ומקורות הנתונים עליו מתאמנים מודלי AI, עם דגש על כך שמקורות אלו נדרשים להיות מאובטחים, אתיים ולהקפיד על פרטיות המשתמשים. מדיניות דומה עלתה במספר הצעות חקיקה בקונגרס האמריקאי. בין היתר האמנה מכתיבה כי ארגונים נדרשים להבטיח שהנתונים הסודיים יישארו מוגנים בכל אינטראקציה בין המשתמשים למודלים של AI, ושצוותים האחראים על עמידה בתקנות ה-AI חייבים בפיקוח על בסיס מתמשך כדי לוודא שכלי הבינה המלאכותית לא משתנים, נפרצים, ומתנהגים בדרכים שאינן הולמות את התקנות.
מה צופן העתיד לעסקים המטמיעים בינה מלאכותית יוצרת (GenAI)?
כדי לעמוד בדרישות החדשות, חברות יצטרכו לאמץ פתרונות טכנולוגיים לאבטחת מידע שיסייעו להן לשמור על רגולציה מחמירה ומורכבת יותר ויותר בעולם הבינה המלאכותית. לא מדובר רק בהתאמה חד-פעמית לטכנולוגיה החדשה, אלא בתהליך דינמי שידרוש ממנהלים וגורמים מקצועיים לעקוב וליישם עדכונים רגולטוריים שוטפים החל מהשימוש הראשון של הארגון בבינה מלאכותית. לדוגמא, חברות פרטיות אשר עושות שימוש בכלים מבוססי ב - GenAI, יידרשו לבחון מחדש את אופן השימוש והניהול של הטכנולוגיות הללו כך שיעמדו בתקנות. התמקדות בתהליכים כגון שקיפות, אבטחת נתונים ואחריות תעזור להן לשמור על ציות לחוקים החדשים.
למה זו רק ההתחלה?
האמנה אינה פתרון חד-פעמי, אלא סמן דרך בתהליך רגולטורי מתמשך המתווה מדיניות ענפה בתחום השימוש האתי והבטוח ב - AI. האתגר הגדול עבור ארגונים יהיה לעמוד בקצב השינוי, חברות שמבקשות להישאר רלוונטיות יצטרכו לפעול במהירות כדי להטמיע מנגנונים ופתרונות אבטחת מידע שיעזרו להן לנהל את הסיכונים בתחומי הבינה מלאכותית היוצרת ולקדם תהליכים חדשניים במסגרת הרגולציה. חברות וארגונים יצטרכו לא רק לפתח תהליכי עבודה מתאימים אלא גם לבנות תרבות ארגונית שתומכת בשימוש אחראי בטכנולוגיה. שינוי שכזה מחייב מעורבות של כל רמות ההנהלה והתאמה של תהליכים פנים-ארגוניים. האמנה היא סימן לבאות, ומי שלא יתאים את עצמו למציאות הרגולטורית החדשה ימצא עצמו מאחור.
החתימה על האמנה מסמלת את תחילת הדרך לרגולציה הדוקה יותר בתחום הבינה המלאכותית. ארגונים במגזר הציבורי והפרטי יידרשו לאמץ טכנולוגיות מתקדמות שיסייעו להם לעמוד ברגולציה. העתיד אינו רק מבטיח טכנולוגיות חדשות, אלא גם דורש אחריות ומחויבות להגן על ערכים דמוקרטיים.
אי-עמידה בתקנות אבטחת הסייבר בעת פריסת פתרונות בינה מלאכותית עלולה להוביל להשלכות חמורות, וביניהן קנסות רגולטוריים או תביעות משפטיות אישיות במידה ולא יעמדו בסטנדרטים שנקבעו, וכן אובדן אמון לקוחות העלול להתערער עקב אי-עמידה או פרצות אבטחה, ומוניטין כידוע קשה מאוד לשקם.
אלעד שולמן הוא מנכ״ל ומייסד שותף בסטארטאפ הסייבר Lasso Security
עמית אלעזרי היא מנכ״לית ומייסדת שותפה ב-Open Policy
