דעהבדרך לבינה מלאכותית אחראית: ארגונים צריכים לאמץ את מודל השפה הגדול
דעה
בדרך לבינה מלאכותית אחראית: ארגונים צריכים לאמץ את מודל השפה הגדול
עצם השימוש במודל שפה גדול מאפשר לארגון להגדיר ולתכלל את תהליך איסוף וניתוח הנתונים בו. היתרון של מודל שפה גדול הוא שהמודל לומד מהמומחה ולא להיפך - וכך מקודמת אחריות וגדל מספר המעורבים בתהליך ניתוח הנתונים - זה גם המפתח לשלב הבא בהשגת בינה מלאכותית חוקתית
2023 תיזכר כשנה בה פגשה הבינה המלאכותית את המיינסטרים. על אף שלא הוכרזו בשנה זו חידושים רבים בתחום, ההכרזה על ChatGPT ב-2022 הפגישה את הטכנולוגיות הללו, חלקן ותיקות עם רעיונות חברתיים, פוליטיים וכלכליים עם האדם הפשוט. ממשלות וגופים בינלאומיים התפנו לאסדרת התחום וחברות וארגונים נקראו ליישם בינה מלאכותית אחראית (Responsible AI).
בינה מלאכותית אחראית מציבה את האדם במרכז על ידי קידום שקיפות, הוגנות ואחריות. למרות החשש הרב שמעורר מודל השפה הגדול כמו GPT, הרי הוא למעשה הפתרון האולטימטיבי להטמעת עקרונות הבינה המלאכותית האחראית בארגונים.
לעוד כתבות בערוץ TRUST
דוגמה טובה לכך היא שוק האשראי הצרכני. לפני מספר חודשים פרסמה הרשות להגנת הצרכן הפיננסית האמריקאית, CFPB, הנחיה לבנקים וחברות האשראי המשתמשים בבינה מלאכותית לפיה אין לדחות בקשה להלוואה ללא מתן סיבה ברורה ללקוח. ממשבר הסאב פריים ב-2008, השימוש גבר בבינה מלאכותית, פריחת חברות הפינטק המשתמשות בנתונים לא קונבנציונליים ובשורת הבנקאות הפתוחה קיימו אפשרויות חדשות ללווים חדשים. בנקים, חברות אשראי, וחברות מסחריות ופרטיות יכולים להציע הלוואות ללקוחות ברמת ביטחון גבוהה ולהניע לצמיחה כלכלית חסרת תקדים, אך יש מי שהמהפכה הזו פסחה עליהם.
תחקיר עומק שהתפרסם ב-CNN בדצמבר האחרון מראה כי הסיכוי לקבל דחייה לבקשת אשראי מאיגוד האשראי הגדול בארה"ב, Navy Federal Credit Union, על ידי אוכלוסיות "לא לבנות" כפול בהשוואה ללקוחות לבנים בעלי הכנסה ויחס הכנסה לחוב זהים. המכון לבינה מלאכותית ממוקדת אדם באוניברסיטת סטנפורד הדגים כיצד השימוש בנתוני עתק מנציח את העוני ואת אי השוויון בקרב מיעוטים בארה"ב.
המחקר גילה כי דירוג האשראי שחזה המודל עבור מיעוטים נמוך ב- 5%-10% מהדירוג שחושב בדיעבד. גם כאשר כיילו החוקרים את הדירוג רק לאוכלוסיית המיעוטים, התחזית נותרה נמוכה. רק כאשר עיבו החוקרים את הנתונים עליהם התבסס הדירוג, עלה בידם לדייק את התחזית. מכאן ניתן להניח שהפוטנציאל בנתונים קיים, אך הגישה, תהליך איסוף וניתוח הנתונים, וכתוצאה מכך גם ערכי הארגון, נשארו מאחור.
מודל מבוסס נתוני עתק הוא לעיתים קרובות קופסה שחורה המיוצרת במחלקה נפרדת בארגון על ידי מדעני נתונים שאינם מומחי תוכן ומסתמכים על מידע חלקי או מוטה. למשל, בנתונים ששימשו לדירוג האשראי היה ייצוג חסר למיעוטים שהחזירו הלוואות בזמן מאחר והלוואות כאלה כמעט ואינן ניתנות מלכתחילה. למרות שמדען נתונים מנוסה יכול לנסות להתגבר על בעיה כזו, הרי שפעמים רבות הוא כלל אינו מודע לה.
אחת ההמלצות של הצוות הרב תחומי שעסק במחקר האשראי הייתה "פשוט לתת אשראי" על מנת לייצר את הנתונים החסרים להפחתת ההטיה. גישה זו מחייבת לאחות את הנתק בין הנתונים לבין הגורם העסקי. בעוד שארגונים עסוקים בהקניית מיומנויות לעובדים (upskilling), תהליך ניתוח הנתונים נשאר מבודד. תכלול התהליכים העסקיים הוא שיסייע בידי הארגון לקדם שקיפות והוגנות ולהציב את הלקוח במרכז.
למעשה, רק מעצם השימוש במודל שפה גדול כמו GPT, יכול הארגון להגדיר מחדש ולתכלל את תהליך איסוף וניתוח הנתונים. היתרון המרכזי של מודל שפה גדול הוא בכך שהמודל לומד מהמומחה ולא להיפך. האופי השיחתי של המודל פותח את הקופסא השחורה ומאפשר לארגון לנטר ולשפר את התוצאות. לולאת האיזון חוזרת מהמומחה, מקדמת אחריות ומגדילה את מספר המעורבים בתהליך ניתוח הנתונים. הגדלת מספר המעורבים היא גם המפתח לשלב הבא בהשגת דמוקרטיזציה מלאה וייצוג הולם: בינה מלאכותית חוקתית.
בחברת אנטרופיק, המייצרת את מודל השפה הגדול קלוד, השכילו לרתום את העובדה שמודל השפה מבין שפה טבעית על מנת להגדיר למודל השפה חוקה מחייבת שמנחה ומגבילה אותו. בניסוי שנערך על ידי החברה, התבקשו 1,000 אמריקאים המייצגים את החברה האמריקאית לחבר הצהרות לחוקה למודל שפה גדול, ולמרות הקיטוב בהצהרות ניתן היה לחבר חוקה תקפה שהתבססה על הצהרות הקונצנזוס שחיברו חברי הקבוצה. ניסויים כאלה מהווים הצצה אל העתיד, בו יקבעו אנשים מהשורה את חוקת המודל ולא קבוצה קטנה של מהנדסים מעמק הסיליקון.
רות אהרון היא יועצת אסטרטגית לארגונים ומנהלים בתהליכי בינה מלאכותית ממוקדי אדם
* ערוץ TRUST של כלכליסט בשיתוף שופרסל נולד מתוך רצון להוביל חברות לקחת אחריות בתחום האימפקט ולייצר שינוי דרך פרויקטים בעולמות ה-ESG.
