ועידת הביג דאטה
נשיאת איגוד האינטרנט הישראלי: המוצרים שמוציאים לשוק בבינה מלאכותית משנים התנהגות של אוכלוסיות
פרופ' קרין נהון העומדת בראש ועדת האתיקה בנושא בינה מלאכותית: "התעשייה הזו לא תוכל להתפתח על שבע או שמונה חברות גדולות. אנחנו צריכים לנסות להיות יותר הסברתיים ולנסות לחשוב איך אנחנו מייצרים מידע להרבה יותר אוכלוסיות"
"ראש הממשלה נתן מנדט להקים ועדה שתביא לאתיקה בנושא בינה מלאכותית. בשבועות האחרונים הדו"חות מתחילים להגיע אלינו בבום ואנחנו טובעים בחומר ומנסים לעשות הגיון". כך תיארה פרופ' קרין נהון מהמרכז הבינתחומי בהרצליה, נשיאת איגוד האינטרנט הישראלי, שעומדת בראש הוועדה שאמורה להסדיר את הנושא.
"בוועדה אנחנו מנסים להבין מה תפקידנו בתעשייה כמהנדסים וגם כחברה, בכל הקשור לבינה מלאכותית. המטרה היא להביא את התעשיה למקום יותר בוגר. פעם היו לנו פערים גדולים בחברה, וטאטאנו אותם. אבל כיום, עם הבינה המלאכותית האי שוויון מתחיל לצוץ יותר ויותר ואי אפשר להסתיר אותו", אמרה נהון. "לטכנולוגיות שמתבססות על בינה מלאכותית קל להחצין אי שוויון חברתי. ראינו את הצ'אט בוט שהפך לגזעני מהר מאד אחרי שלמד את השיח ברשתות החברתיות ואנחנו גם מכירים את אי השוויון בכל הקשור לנושא המגדרי". כך למשל, נהון הציגה איך כלי התרגום של גוגל מתרגם את manager למנהל בעוד המילה model מתורגמת לדוגמנית.
פרופ' קרין נהון צילום: צביקה טישלר
לדבריה, "זה מתחיל להיות יותר מורכב כשזה מגיע לנושא של הקצאת משאבים. ונשאלת השאלה האם אנחנו כתעשייה צריכים לנסות לתקן אפליות שכבר קיימות בחברה. בינה מלאכותית מאפשרת להזין נתונים שאנחנו כמהנדסים לא יודעים לפרש למה המערכת גילתה דווקא את ההבדל הזה ולא הבדל אחר.
"בואו ננסה לפתוח את הקופסה השחורה ולהיות שקופים לא רק לגבי האינדיקטורים הברורים אלא גם להיות הסברתיים יותר לציבור. כאשר אזרח אמריקאי מקבל מידע שהקיצבה שלו ירדה לאפס והביטוח לאומי האמריקאי לא יודע להסביר את זה, אנחנו בבעיה. אי אפשר להשתמש בבינה מלאכותית בלי שיש לנו יכולת להסביר ללקוחות מה עשינו ואיך הגענו למידע הזה".
נהון אמרה כי "המוצרים שאנחנו מוציאים לשוק בבינה מלאכותית משנים התנהגות של אוכלוסיות. לאמזון יש מכשיר שיודע לבחון את הבגדים שאנחנו לובשים. ומה שמרתק זה שאשה לובשת שמלה מסוימת והמכשיר של אמזון יודע להגיד לה שזה לא נראה עליה טוב. אותה גברת שכל יום לובשת את אותה שמלה, המכשיר אומר לה לא ללבוש אותה. למוצרים של בינה מלאכותית יש יכולת להגיד לנו איך אנחנו צריכים להתנהג והם מכוונים אותנו לשנות התנהגות".
"התעשיה הזו הולכת למקום שבו חוק הכח הופך לקיצוני יותר והחברות הגדולות הופכות להיות גדולות יותר", אומרת נהון. "מאידך, חברות קטנות נשארות בנישה שלהן וכל החברות הבינוניות נעלמות. אבל התעשייה הזו לא תוכל להתפתח על שבע או שמונה חברות גדולות. אנחנו צריכים לנסות להיות יותר הסברתיים, שקופים ולנסות לחשוב איך אנחנו משתפים את הציבור ואיך אנחנו מייצרים מידע להרבה יותר אוכלוסיות. ובנוסף, חייבת להיות בקרה כל הזמן. אנחנו חייבים לנסות לעצור תהליכים שכבר יצאו לדרך ומשהו בהם לא עובד טוב".
