מי אחראי להפליה שעושה בינה מלאכותית בין גברים ונשים ולהעדפה של לבנים?

לקבלת פנים כזו אפל לא ציפתה: החברה נכנסה השנה לתחום חדש והשיקה לאחרונה כרטיס אשראי ביחד עם גולדמן זאקס, ובמהירות גילתה שמשהו היה חסר בהכנות למהלך. היזם דייוויד היינמאייר הנסון יצא נגד אפל קארד, לאחר שגילה כי האלגוריתם נתן לו פי 20 אשראי משנתן לאשתו. לביקורת שלו הצטרף לא אחר מאשר סטיב ווזניאק, שהקים ביחד עם סטיב ג'ובס את אפל, וטען גם הוא שקיבל אשראי גבוה פי 10 מזה שקיבלה אשתו - למרות שלדבריו כל הנכסים שלהם משותפים.

אז מה בדיוק קורה כאן? חשבנו שאלגוריתם ובינה מלאכותית אמורים להיות ניטרליים לחלוטין ולעזור להתגבר על הטיות. עדי פולק, תומכת פיתוח בכירה בענן במיקרוסופט (CDA) שנבחרה לאחרונה לאחת מ-25 הנשים המשפיעות בעולם התוכנה, מגיעה לאולפן הפודקאסט "30 דקות או פחות" ומסבירה שהבעיה יכולה להגיע גם מהמידע שמוזן למערכות וגם מהאלגוריתם עצמו.

עדי פולק

במקרה של אפל, למשל, יכול להיות שאפשר היה לוותר בכלל על פילוח המגדר כקריטריון שעוזר לבחון את גובה האשראי שמעניקים ללקוחות, ויכול להיות שהמידע שהוזן למערכת מבוסס על פערי שכר שעדיין קיימים בין גברים ונשים.

פולק מספרת איך מתמודדים עם ההטיות שמשפיעות על האלגוריתם, מה בודקים חוקרים בתחום, איך בונים מערכת בצורה טובה יותר כדי לנטרל את ההטיות ואיך משתמשים בבינה מלאכותית בצורה שלא תרתיע את הצרכנים.

 

להאזנה לפודקאסט לחצו כאן >>