טייס בדואי שטוף זימה: כך תגלו מה בינה מלאכותית חושבת עליכם אישית

אלגוריתמים חכמים משפיעים על חיינו בשיעור שמתגבר בהתמדה: הם שקובעים מה נראה בפיד של פייסבוק, הם שעוזרים לרופא לגלות שאיזה טשטוש שהופיע בבדיקת רנטגן הוא בעצם סימן למחלה מסוכנת, והם שאומרים לחברות ביטוח אילו עמלות לגבות מאיתנו. ואולם, ההשפעה הכי ישירה שלהם היא ברמת ראיית המכונה: תוכנות שמסתכלות על הפרצוף שלנו דרך מצלמות רחוב, ומקטלגות אותנו. זה נעשה באופן נרחב ביותר בסין, אך גם בארצות הברית, בריטניה ודמוקרטיות אחרות. תוכנות שמביטות בנו ופוסקות אם אנחנו סיכון ביטחוני, אם אנחנו משתייכים לקבוצה שצריך לנטר, אם אנחנו מהטובים או מהרעים. ובאופן אבסורדי, התוכנות הללו לא מדויקות בעליל; ניסוי שנערך בבריטניה בשנה שעברה גילה שיעור טעות של 92%, ובדיקה מארה"ב מצאה כשל של 100%. ועדיין, התוכנות הללו נמצאות בשימוש הולך וגובר, עם כל הבעיות שלהן. מה הן חושבות עליך, באופן אישי, ועד כמה חמורה ההטיה שלהן?

מה חושבת עליך התוכנה?

האמנים קייט קרופורד וטרוור פגלן מצאו דרך יצירתית להעלות את הנושא למודעות: הם פשוט חיברו את אלגוריתם קיטלוג התמונות של מאגר ImageNet למנוע הזנת תמונות חיצוני. הרעיון פשוט - אתם מזינים תמונה, בין אם בלינק ובין אם כקובץ, והאלגוריתם מקטלג אתכם לפי הקטגוריות שהוגדרו לו, וקצת בינת מכונה. התוצאות, במבט ראשון, משעשעות: למשל, כשהצגתי את התמונה הזאת, החליטה התוכנה שאני Beard, כלומר אדם שמסייע למישהו אחר להסתיר את הנטיה המינית שלו ע"י התחזות לבן זוג שלו. מדובר בסיטואציה חברתית מורכבת ומאוד ספציפית, ולא ברור איך חיברה התוכנה אותה אלי רק על בסיס התמונה.

כשהצגתי תמונה מפורסמת למדי של ברט ריינולדס, קבע האלגוריתם שמדובר ב"מהפכן"; את ביל גייטס הוא הגדיר כ"גיק אקסצנטרי, אדם משונה", את אדולף היטלר כ"בן אצולה" ועוד. התוכנה פשוט הצמידה קיטלוגי אופי והתנהגות לתמונות, בלי שום קשר לעובדות. למשל, חלק מהתמונות שהעליתי אליה - בעיקר של מפורסמים למיניהם - קיבלו קיטלוג כמו "שטופת-זימה", "פסיכי" ועוד.