דעהבינה מלאכותית בפיננסים: האם צונאמי של תביעות נגזרות וייצוגיות כבר בדרך?
דעה
בינה מלאכותית בפיננסים: האם צונאמי של תביעות נגזרות וייצוגיות כבר בדרך?
הבינה המלאכותית מבטיחה למגזר הפיננסי יעילות, חיסכון בעלויות, ושיפור שירותים לציבור. עם זאת, לצד הפוטנציאל העצום טמונה גם סכנה משפטית למוסדות פיננסיים העלולה להתבטא בגל תביעות. דו"ח ביניים של הצוות הבין-משרדי לבחינת השימוש ב-AI בסקטור הפיננסי חושף את הסיכונים
המהפכה הטכנולוגית של הבינה המלאכותית (AI) אינה פוסחת על המגזר הפיננסי. אלגוריתמים חכמים, המבוססים על למידה עמוקה וניתוח נתוני עתק, משולבים כיום במגוון רחב של פעילויות פיננסיות, החל מחיתום אשראי ועד ניהול תיקי השקעות. הטכנולוגיה החדשה מבטיחה יעילות חסרת תקדים, חיסכון בעלויות, ושיפור השירותים הפיננסיים לציבור, אך לצד הפוטנציאל העצום טמונה ב-AI גם סכנה משפטית ממשית למוסדות פיננסיים, העלולה להתבטא בגל של תביעות ייצוגיות ונגזרות. דו"ח ביניים שפרסם לאחרונה הצוות הבין-משרדי לבחינת השימוש ב-AI בסקטור הפיננסי, חושף את הסיכונים הללו בפירוט רב, ומעלה את השאלה המטרידה: האם צונאמי משפטי כבר בדרך, והאם המערכת הפיננסית ערוכה לקראתו?
הדו"ח, המקיף למעלה מ-200 עמודים, מנתח לעומק את השימוש ב-AI במגוון תחומים פיננסיים, ומציג תמונה מורכבת של הזדמנויות ואתגרים. הוא מזהיר מפני מספר סיכונים מרכזיים, העלולים להוות קרקע פורייה לתביעות ייצוגיות ונגזרות:
"קופסה שחורה" וחוסר שקיפות – אתגר ההוכחה בתביעות
אחד האתגרים המרכזיים של AI, ובפרט של למידה עמוקה, הוא חוסר השקיפות של תהליך קבלת ההחלטות. אלגוריתמים מורכבים, הפועלים על בסיס מיליוני פרמטרים, מתקשים לעיתים להסביר את האופן בו הגיעו לתוצאה מסוימת. חוסר שקיפות זה, המכונה "קופסה שחורה", עלול להוביל להחלטות שרירותיות, לא הוגנות, ואף מפלות. כיצד יוכלו מוסדות פיננסים להסביר לצרכנים שנדחו על ידי אלגוריתם לקבלת אשראי או ביטוח, כי לא מדובר באפליה פסולה או בתהליך שאינו חוקי באופן אחר, כאשר המוסד הפיננסי עצמו מתקשה להסביר את פעולות המערכת שהוא משתמש בה?
הדו"ח מציע פתרונות אפשריים כגון "הסברתיות" (Explainable AI - XAI) המאפשרת הבנה מסוימת של תהליך קבלת ההחלטות האלגוריתמי, אך יישום ההסברתיות בפועל אינו פשוט, ודורש פיתוח טכנולוגי ומשפטי מורכב. יתרה מכך, גם אם תושג הסברתיות מסוימת, היא לא בהכרח תספק מענה מלא לצרכים של תביעה משפטית. כיצד יוכיחו מוסדות פיננסים שנתבעים, למשל, כי אלגוריתם מסוים אינו מפלה באופן שיטתי קבוצת אוכלוסייה מסוימת, גם אם ניתן הסבר כללי על אופן פעולתו?
הטיות ואפליה מובנית – סיכון לתביעות ייצוגיות רחבות היקף
מערכות AI, המאומנות על נתונים היסטוריים, עלולות לשכפל הטיות קיימות ואף להעצימן. אם למשל במאגר הנתונים ההיסטורי ישנה הטיה כנגד תושבי פריפריה במתן משכנתאות, האלגוריתם עלול ללמוד הטיה זו, ולהמשיך להפלות אוכלוסייה זו גם בעתיד. הדו"ח מזהיר מפני סיכון זה, וממליץ על בקרה קפדנית של מאגרי הנתונים והאלגוריתמים, תוך שימוש במגוון כלים, כגון בדיקות סטטיסטיות וניתוח השפעה על קבוצות שונות. יישום בקרה זו בפועל אינו טריוויאלי, ודורש מומחיות רבה. האם נראה תביעות ייצוגיות רחבות היקף בטענה לאפליה אלגוריתמית במתן אשראי, בדירוג אשראי, בתמחור ביטוח, או בשירותים פיננסיים אחרים, על רקע גזע, מין, מוצא, מיקום גיאוגרפי, או מאפיינים אחרים?
סיכוני פרטיות ודליפות מידע – פוטנציאל לתביעות פרטיות וייצוגיות
השימוש ב-AI כרוך באיסוף וניתוח כמויות עצומות של מידע אישי. הדו"ח מדגיש את חשיבות ההגנה על הפרטיות, וממליץ על עמידה בדרישות חוק הגנת הפרטיות, תוך יישום עקרונות כגון מזעור מידע והתממה, אך גם מודה בקשיים הייחודיים שמציבה AI בתחום זה. האם מוסדות פיננסיים ערוכים לאתגרים אלו? האם נראה תביעות פרטיות וייצוגיות על שימוש לא ראוי במידע, על דליפות מידע כתוצאה מפרצות אבטחה, או על פגיעה בפרטיות כתוצאה מניתוח מידע אישי על ידי אלגוריתמים?
הדו"ח מציע כלים כגון תסקיר השפעה על פרטיות ועיצוב לפרטיות (Privacy by Design), אך יישומם בפועל דורש משאבים רבים ומומחיות ייחודית. מוסדות פיננסים אשר לא ישקיעו את כל המשאבים הדרושים יתקשו להתמודד בהמשך את תביעות בתחום זה.
טשטוש האחריות – אתגר משפטי מרכזי
אחד האתגרים המשפטיים המורכבים ביותר של AI הוא שאלת האחריות. מי אחראי לנזקים שנגרמו כתוצאה מהחלטות שגויות של מערכת AI? האם האחריות תוטל על המוסד הפיננסי, על מפתח האלגוריתם, על גורם אחר, או על כולם יחדיו? הדו"ח דן בסוגיה זו בהרחבה, ומציג גישות שונות לחלוקת האחריות, אך אינו מציע פתרון חד משמעי. חוסר הוודאות המשפטית בתחום זה עלול להוביל למחלוקות משפטיות רבות, ואף לתביעות. האם בתי המשפט יאמצו גישה של אחריות מוחלטת של המוסד הפיננסי, או שמא יבחנו את מידת הרשלנות של כל אחד מהגורמים המעורבים? מה למשל תהיה עמדת בתי המשפט ביחס להחלטה של דירקטוריון של מוסד פיננסי לאשר שימוש עסקי במערכות AI, אשר לאחר מכן יתברר שכשלו וגרמו נזקים קשים. האם יחיל בית המשפט את מה שמכונה "הגנת שיקול הדעת העסקי" BJR על החלטה כזו, שעה שהדירקטוריון עצמו אינו יודע להסביר את נבכי האלגוריתם שאישר ושגרם נזק? ואיזה מבטח ייטול על עצמו את ביטוח נושאי המשרה של מוסד פיננסי שהמרו על אלגוריתם שפעולתו מי ישורנה. מה יהיו העלויות החדשות שידרשו מוסדות פיננסים לשלם על מנת להתמודד עם מקרים כאלה?
סיכונים ייחודיים לתחומים פיננסיים ספציפיים
הדו"ח מתייחס גם לסיכונים ייחודיים לתחומים פיננסיים ספציפיים, כגון ייעוץ השקעות, אשראי, וחיתום ביטוח. בתחום ייעוץ ההשקעות, למשל, עולה החשש כי אלגוריתמים יובילו להמלצות השקעה לא מתאימות, או ל"משחקיות" (Gamification) שתעודד משקיעים ליטול סיכונים מופרזים. בתחום האשראי, עולה החשש מפני "דחיפת" אשראי ללווים שאינם יכולים לעמוד בהחזרים, או מפני אפליה אלגוריתמית. בתחום הביטוח, עולה החשש מתמחור לא הוגן של פוליסות, או מסירוב בלתי סביר לבטח לקוחות מסוימים. האם נראה תביעות חדשות גם בתחום זה?
הדו"ח – נקודת פתיחה לדיון ציבורי ומשפטי
הדו"ח, אשר מתפרסם להערות הציבור, מהווה נקודת פתיחה חשובה לדיון ציבורי ומשפטי בסוגיות המורכבות של AI בפיננסים. הוא קורא לרגולטורים, למוסדות פיננסיים, ולציבור הרחב, להתמודד עם האתגרים הללו באופן אחראי ומבוקר. הוא מציע מגוון כלים להתמודדות עם הסיכונים, כגון הסברתיות, מעורבות אנושית, ממשל תאגידי ראוי, ובקרות פנימיות. אך יישומם בפועל דורש משאבים רבים, מומחיות ייחודית, ושיתוף פעולה בין כלל הגורמים המעורבים
מוסדות פיננסיים שיבחרו לאמץ טכנולוגיית AI, חייבים להבין את הסיכונים המשפטיים הכרוכים בכך, ולהיערך מראש לאפשרות של תביעות בעלות היקף עצום. עליהם לנקוט בכל האמצעים הדרושים כדי למזער את הסיכונים, לרבות יישום המלצות הדו"ח, פיתוח מנגנוני בקרה ופיקוח יעילים, והקצאת משאבים לפיתוח מומחיות בתחום. תשומת לב מיוחדת יצטרכו המוסדות הפיננסים להקדיש לפנים המשפטיות הייחודיות ורבות ההיקף שהסוגיות הנקובות בדו"ח מזמנות. השקעה נבונה במנגנונים משפטיים צופי פני עתיד ומרסני תביעות, תהיה עדיפה בהרבה על הניסיון להתמודד בדיעבד גם צונאמי של תביעות יצוגיות, נגזרות ואחרות. גם אסדרה מראש של הנושאים, בין היתר, בפרקים שיתווספו לחוק תובענות ייצוגיות, לחוק החברות, הבנקאות, הביטוח, התחרות ולחוקים נלווים אחרים תהיה כמובן מחויבת המציאות.
העתיד הקרוב יגלה האם נראה גל של תביעות ייצוגיות ונגזרות כנגד מוסדות פיננסיים או שמא יצליחו המוסדות, בשילוב עם הרגולטורים ובתי המשפט, ליצור מסגרת משפטית שתאפשר שימוש בטוח ואחראי ב-AI, תוך הגנה על זכויות הצרכנים. הדו"ח הנוכחי הוא צעד חשוב בכיוון הנכון, אך הדרך עוד ארוכה. ימים ושופטים יגידו.
עו"ד עופר צור הוא שותף בכיר וראש מחלקת הליטיגציה במשרד GNY גורניצקי ושות'
