איך לגרום לרובוט להימנע משתיקה מביכה

בראיון עם Ctech אומר סוצ'ר כי אלו אותם דברים פשוטים שאנשים לוקחים כמובנים מאליהם, שמסייעים לזהות את הניצוץ האנושי במערכת בינה מלאכותית (AI). לדבריו, כשיש הפוגה בין מילים בשיחה, בני האדם יודעים מתי וכיצד להתערב. "את תהיי מהירה יותר לקטוע אותי בדיבור אם את המנכ"לית, ותמתיני יותר או פחות זמן בהתאם להיררכיה ביננו", הוא אומר.

"הבינה המלאכותית שואפת להיות מאוד מנומסת, והמתכנתים בונים אותה כך שאנשים לא ירגישו שקוטעים אותם. אבל כמה זמן בדיוק על האלגוריתם להמתין לפני שהאדם מולו יאבד סבלנות? זו אחת הבעיות שהצוות שלי ואני מנסים לפתור".

סוצ'ר (36) הוא גאון הבית של סיילספורס ומוביל בחברה את צוות המחקר — שמספר אנשיו נשמר בסוד — בשורת מחקרים בתחומים כלמידה עמוקה, עיבוד שפה טבעית וראיית מכונה. הוא מחזיק בדוקטורט במדעי המחשב מאוניברסיטת סטנפורד, בה הוא שימש גם כמרצה. אל סיילפורס הגיע כשזו רכשה ב־2016 את Metamind, החברה שייסד שנתיים קודם לכן.

"הדרך המיטבית לחזות את העתיד היא להמציא אותו"

ריצרד סוצ'ר מדען ראשי סיילספורס צילום: סיילספורס

השיחה עם סוצ'ר נערכה ביום הראשון של דרימפורס, פסטיבל הטכנולוגיה השנתי שערכה בחודש שעבר סיילספורס בסן פרנסיקו, ושהשנה עמד בסימן טכנולוגיות דיבור. "אנחנו מנסים לחזות את העתיד, והדרך הטובה ביותר לחזור את העתיד היא להמציא אותו", מסביר סוצ'ר את המטרה שמנחה את הצוות שלו.

כשסוצ'ר מדבר על בינה מלאכותית הוא מפריד בין החלק היישומי, שהוא משווה לחשמל, ובין החלק שהוא מציג כמדע בדיוני. כך, בינה מלאכותית כבר היום מניעה טכנולוגיות ושירותים שאנחנו משתמשים באופן יומיומי. לתחום המדע הבדיוני הוא משייך שיחות מקיפות בין אדם למחשב, רכב אוטונומי לחלוטין או מערכות בינה מלאכותית שיכולות לבצע פעולות מצילות חיים כמו רופא אנושי.

לדבריו, העבודה שלו בסיילפורס חולקת דואליות דומה: הצוות שלו מחדד ומשככל את יכולות ה־AI לשיפור מיידי של מוצרי החברה, אבל אנשיו גם מתבקשים לחשוב רחוק יותר, להמציא טכנולוגיות חדשות ולפרסם מחקרים שייצרו עתיד חדש.

"טכנולוגיות קול מייצרות שיוויון"

בימים אלו שני קצוות הקשת של עבודתו של סוצ'ר קשורים לטכנולוגיות קול ודיבור. "דיבור הוא המדיום שרוב האנשים משתמשים בו כדי לתקשר עם חברות מסחריות", הוא אומר. "כשזה נוגע למתן שירות, השיחות הללו נוטות לחזור על עצמן, אנשים רבים נתקלים בבעיות דומות עם המוצרים שרכשו. לכן שיחות שירות הן הזדמנות מצויינת לאימון של בינה מלאכותית".

לטענתו, טכנולוגיות שמופעלות באמצעות הקול מסייעות ליצירת שוויון, שכן הן מקלות באינטרקציה עם המחשב על אנשים מבוגרים, אנשים לא מתוחכמים טכנולוגית ואפילו על אנשים שאינם יודעים קרוא וכתוב. כך, גוגל משקיעה משאבים בלימוד הסייען הקולי שלה לדבר ביותר ויותר שפות, כולל כ־10 שפות הודיות. "הטכנולוגיות הקוליות משנות את האופן שאנשים מתקשרים עם מחשב, והן שייכות לטרנד רחב שיותר שיביא לכך שנראה יותר ויותר מחשבים בכל מקום", לדבריו.

״האתגר הגדול והמעניין ביותר בתחום הבינה המלאכותית כיום, ומה שאנחנו משקיעים הכי הרבה מזמן המחקר שלנו, הוא פענוח המשמעות של שיחות מורכבות ושל שפה טבעית", אומר סוצ׳ר. האתגרים הללו, לדבריו, מגוונים: גם אם החוקרים פותרים את הדינמיקה של שיחת שאלה־תשובה, כעת הם נדרשים לאמן את האלגוריתם לזהות מתי הדובר משנה את כוונתו.

רבות מהמערכות שהמפתחים של סוצ'ר עובדים איתן מפעילות סדרה של שאלות, כשמענה על כל תשובה מופיל לשלב שאלות נוסף. "נאמר שבתחילת השיחה את מעוניינת במידע על הזמנה שביצעת, ולאחר שקיבלת המידע את רוצה לבצע שינוי בהזמנה", הוא מסביר. "הדיאלוג חייב להיות דינמי, והאתגר הזה עדיין לא נפתר".

אתגר נוסף הוא ללמד את אלגוריתם הבינה המלאכותית לנתח את הסנטימנט של הלקוח. לדברי סוצ'ר, שיחות עם שירות לקוחות הן לא פעם שיחות "שליליות", וחשוב להבין עד הכמה הלקוח עצבני — אתגר לא פשוט עבור בינה מלאכותית.

החשש: חדירת הטיות מפלות להליכים ממוחשבים

נוסף לאתגרים הטכניים, הבעיות שמעסיקות את סוצ'ר נוגעות לסוגיות אתיות. בראיונות שהעניק בעבר הוא נדרש שוב ושוב לשאלת הסכנות הטמונות בהשתלטות הבינה המלאכותית. תשובתו היא תמיד זהה: תרחיש החירום שהוא מדמיין אינו השתלטות עוינת של בינה מלאכותית שתאיים על עתיד האנושות בסגנון שליחות קטלנית; הבעיה האמיתית לטענתו טמונה בכך ש־AI מתבססת על מידע אנושי, ולכן פגיעה לחולשה האנושית להטיות ודעות קדומות.

ריצ'רד סוצ'ר

סוצ'ר חושש מהיווצרות נזק כתוצאה מהטיות מפלות שישפיעו על תהליכים אנליטיים שמבצע מחשב שמקבל החלטות מרובות. בינואר האחרון הוא פרסם מאמר באתר הפורום הכלכלי העולמי תחת הכותרת "בינה מלאכותית אינה מסוכנת, הטיה אנושית כן". גישה זו משקפת את המסר החברתי של סיילספורס, שמטפחת תדמית ליברלית.

"כשבוחנים טכנולוגיות זיהוי דיבור בפריזמה של שוויון, אתגר מרכזי הוא לגרום ל־AI לזהות מנעד רחב של מבטאי דיבור", הוא אומר. "נתוני ההדרכה הסטנדרטיים שמשמשים לאימון האלגוריתם לא כוללים שפות ומבטאים שונים, רובם באנגלית במבטא אמריקאי נחמד". לדבריו, הצוות שלו מקווה לשלב בעתיד יותר של מבטאים.

שיקול נוסף נוגע ל"עמק המוזרות" (Uncanny valley): היפוזתה לפיה העתקים מלאכותיים שדומים באופן כמעט מושלם לבני אדם גורמים למי שצופה בהם או מתקשר איתם לתחושה מטרידה ולא נוחה. "אתה רוצה לטפח תחושה של אמון באלגוריתם, וכדי להשיג את זה הוא חייב להיות מתוכנת לשיחה טבעית ככל האפשר — אבל אתה לא רוצה להטעות את המשתמש לחשוב שהוא משוחח עם אדם אמיתי", מפרט סוצ'ר.

"אנחנו מכוונים את האלגוריתם ל'קרוב באופן מביך לאדם, אבל לא ממש". איך משיגים את האיזון העדין הזה? "ובכן, דרך אחת היא לתכנת את הבוט פשוט לומר שהוא בוט, זו תהיה הדרך הקלה", הוא משיב.

הכותבת היתה אורחת סיילספורס