ועידות ניו יורק 2022 ועידת ישראל-יוון לונדון 2023 ניו יורק 2024 כלכלה ירוקה כנס מיליון להייטק Power in Diversity הוועידה הלאומית לאנרגיה פינטק 2022 עתיד הרפואה ועידת הנדל"ן 2021 פינטק 2023 TECH TLV שבוע הסטארטאפים 2023 HealthTech משפיעות על הכלכלה The next big thing כנס כלכלת הקנאביס ועידת האנרגיה 2022 פינטק דיסקונט פריפריה טק חדשנות באשראי שבוע הסטארטאפים 2024 Banking AI Mentor Class מקומי.קום 2024 פורום היוניקורנס 2022 ארכיון הוועידות The Hi-Tech Effect Meet&Tech ועידה לאומית לתשתיות אי-קומרס 2021 Agrifood Tech כנס הגיוון הכלכלית הלאומית 23 כנס יזמים ותעשיינים פורום היוניקורנס שבוע הסטארטאפים 22 כנס האיקומרס IPM SUMMIT Expanding Horizons FoodTech2023 שוק ההון 2024 AISRAEL 2024 כנס התחדשות עירונית Israeli Climate Awards המוח האוטיסטי איקומרס 2022 השקעות גלובליות כנס הענן והדאטה שוק ההון 22 TechTLV2022 Innovation Cocktail Work after Work הפורום הכלכלי ערבי כנס ביטחון המזון מיאמי 2024 ניו יורק 2021 כנס השירות 2022 גיימינג 2022 טוקיו 2023 כנס אחריות סביבתית כלכלת הנדל"ן Roadshow Event כנס סייבר 2022 ClimateTech תחזיות 2024 מובילות את ישראל שבוע החדשנות 2022 גיימינג 2023 אקדמיה שעובדת כנס מוסדיים FOODTECH 2022 GeoInt360 שבוע החדשנות Tech@Work לוגיסטיטק Open Banking שש אחרי המלחמה כנס בילינסון לחדשנות טק עצמאות PropTech ecommerce 360 Tech on the Beach ועידת החוסן הישראלי הייטק 2022 כנס המטרו 2023 ועידת האנרגיה 2021 צמיחה בעולמות האשראי RoadShow Event 23 כנס AI לונדון 2024 ביטחון אנרגטי Let's Talk Cyber כנס כלכלת המחר הכלכלית הלאומית 22 נגישות בטוחה Early on the spot משלחת העסקים לפריז TechTLV2024 הכלכלית הלאומית 24 Future of Higher Education לונדון 2022 Work Tech השקעות בראי גלובלי כנס הצמיחה שוק ההון 2023 מפתחים בחזית 2023 +Startup +Startup Let's Talk Fintech ליברליות אונליין ניהול פיננסי השקעות ופיננסים כנס החלל 2024

נמרוד קוזלובסקי: "הרגולציה בעתיד תאפשר ללקוחות להבין כיצד הבנקים דרגו את האשראי שלו"

ד"ר קוזלובסקי מאוניברסיטת ת"א, אמר בוועידת Mind the Tech TLV של כלכליסט ובנק לאומי, כי "באירופה אזרח יהיה זכאי לדעת את הלוגיקה של כל מערכת ועד לרמה שהוא יוכל לקבל תשובה למה הוא לא זומן לראיון"

ליאור גוטמן 15:0925.11.19

"המחוקק האמריקאי אומר בפעם הראשונה שהוא טעה כשנתן לחברות מסחריות להחליט כיצד לדרג בני אדם, מי ישאר בכלא או מי יקבל אשראי. שיטת הדירוג הישנה עם האלגוריתמים הוותיקים נעצרה, ומהיום כל פרויקט בינה מלאכותית יהיה חייב בהערכה של מקור המידע לרבות תשובה על השאלה האם התוצאות של השיטה גוררות הטיה באופן קבוע" - כך אמר ד"ר נמרוד קוזלובסקי מאוניברסיטת תל אביב בוועידת Mind the Tech TLV של כלכליסט ובנק לאומי.

 

קוזלובסקי הציג שלושה מקרים שבהם מאגרי המידע גרמו להטיה לכאורה של תהליך קבלת ההחלטות ועד לרמת השליטה בגורלם של אנשים.

 

"בארה"ב גרים רק 5% מאוכלוסיית העולם אבל אחוז האסירים שם, ביחס למספר התושבים, הוא אחד הגבוהים שיש. המציאות הזו הובילה מומחים לבחון מעצרי בית במקום מאסר, ואז הוצע לקחת מערכת בינה מלאכותית שתבחן כל אסיר ביחס לחברים שלו, מוצא והתנהגות, מה שיוביל לדרוג האפשרות שהוא יחזור לפשיעה. הציון שהתקבל קבע מי יזכה למעצר בית ומי ישאר בכלא, אבל כשהחליטו לחקור את התוצאות מצאו שמאגרי המידע לא היו עדכניים או מדויקים, מה שהשפיע על הציון של כל אסיר".

 

ד"ר נמרוד קוזלובסקי, HFN אוניברסיטת ת"א ד"ר נמרוד קוזלובסקי, HFN אוניברסיטת ת"א צילום: יריב כץ

 

 

קוזלובסקי סיפר שהמערכת השנייה שמצאה בעיות היא מערכת הרווחה האמריקאית. "יש 7.5מיליון ילדים שמדוּוחים כילדים בסיכון, עם חשש שאם ישארו במשפחה ייגרם להם נזק. עברו על הסטטייסטיקה וגילו יותר מ-2 מיליון שיחות למוקדי חירום, שם התקבלה החלטה האם שולחים עובדים סוציאלים לבחון מצב של ילד, וגם שם התקבלה החלטה לאמץ בינה מלאכותית עם שורת אלגוריתמים שמנסים ללמוד או לחזות מתי ילד בסיכון. הבחינה של השיטה עוררה המון רעש כי התברר שבחלק מהמקרים ההחלטה לגבי ילד התקבלה בטעות כיוון שהמידע שהוזן למערכת בחנה סיכון של ילד הסתמכה על הנחות בני עשרות שנים".

 

 

 

 

המערכת השלישית, לדברי קוזלובסקי, היתה היכולת לקבל קרדיט מבנק ההשקעות גולדמן זאקס, שם התגלה שגברים מקבלים דירוגי אשראי טובים מכאלה שקיבלו נשים, כאשר אחת הסיבות היתה הסתמכות על סיכוי כיסויי ההלוואות. נשים  זכו לדירוג שונה, גם בשל התבססות על מקצועות "נשיים" ישנים שהיו נפוצים לפני עשרות שנים.

 

המסקנה של קוסלובסקי היא שבעתיד הרגולטור יחייב להציג פומבית מידע, כך שאם מישהו ירצה לתבוע על כל שחרצו את גורלו על בסיס אלגוריתם שגוי, הוא יוכל לעשות את זה. "באירופה זה קצת שונה עם כוונה דומה - יעניקו לאנשים את הזכות לדעת שקיבלו החלטה, כך שהאזרח יהיה זכאי לדעת את הלוגיקה של כל מערכת ועד לרמה שהוא יוכל לקבל תשובה למה הוא לא זומן לראיון", סיכם.

 

בטל שלח
    לכל התגובות
    x