לשבור את הבנק: ליקוי AI מאפשר להטעות בקלות מערכות דירוג אשראי

חוקרים מאוניברסיטת בן גוריון הצליחו לפתח טכניקה לניצול מערכות AI של בנקים וחברות פיננסים אחרות, שמאפשרת למבקש הלוואה לשלוט בדירוג האשראי שלו. הטכניקה מנצלת ליקוי מהותי במערכות דירוג האשראי הנפוצות בשוק, שנשענות על אלגוריתמיקה דומה ולכן מאפשרת הטעייה וחיזוי תוצאות.

כך הצליחו החוקרים להבין אילו פרטים אישיים יש לשנות כשמבקשים הלוואה, כך שהתנאים יהיו לטובת המבקש; למשל, שינוי מקום המגורים או הגדלת יתרת העו"ש של המועמד ב-500 שקל בלבד יכולים לשנות את החלטת המערכת ולגרום לה להמליץ על ריבית נמוכה במיוחד.

הלוואה? ה-AI של הבנק חשופה להטעיות צילום: shutterstock

החוקרים השתמשו בנתונים ציבוריים שנמצאים באתר Kaggle. אלה כוללים אחוז ניצול מסגרת אשראי, משכורת חודשית נתוני עבר על החזר הלוואות וכו'. המערכת שבנו מבצעת בקשת הלוואה מקוונת במערכות דומות, וכך משווה את התנאים ולומדת מה להמליץ. המוסד הפיננסי לא יכול לדעת מי עומד מאחורי ניסיון קבלת ההלוואה המקוון, ולכן לא יכול לזהות שמדובר בעבודה לקראת ניסיון הונאה.

כיום אפשר להשיג אלגוריתמיקת AI בקלות יחסית, בין השאר דרך AWS של אמזון וגוגל קלאוד. "לא צריך להיות מומחה בלמידת מכונה לשם כך", אמר לכלכליסט עדן לוי, החוקר שערך את הבדיקה. "אלגוריתמים של למידת מכונה דומים אחד לשני ב-90% מהמקרים, ברוב תסריטי השימוש", הסביר לוי. "למשל, אלגוריתמים כמו אלה שבבנקים לדירוג אשראי משמשים גם במערכות לזיהוי פנים בשדות תעופה. לקחנו אלגוריתם כזה וביצענו התאמה שלו לשימוש במסגרת השפעה על ציון אשראי". לדבריו, הדימיון הזה עלול לאפשר שימוש במתקפה על בנקים שונים ולחסוך לתוקפים משאבי פיתוח.

המחקר, שממצאיו הוצגו היום בכנס הפרויקטים של הפקולטה להנדסה באוניברסיטה, חושף ליקוי בעייתי: חלק גדול מהבנקים בארץ ובעולם משתמשים במערכות שכאלה כדי להעריך את הסיכונים שבמתן הלוואה. ניתן למצוא את המערכות האלה גם באתרים או באפליקציות בעיקר במסגרת הענקת הלוואות בסכומים קטנים יותר ושמוענקות ישירות ללקוח אונליין אז הן פועלות כמעט באופן אוטומטי. פעמים רבות גם סניפי בנק משתמשים בה כשמגיע לקוח ומבקש הלוואה פרונטלית.