גאון ה-AI של פייסבוק: יש ימים בהם אני בקושי משכנע את עצמי להגיע לעבודה

מייק שרופפר, סמנכ"ל הטכנולוגיה של ענקית המדיה החברתית, הגיע אליה כדי להקים את צוות ה-AI המושלם, אך המציאות שלחה אותו לרדוף אחר ניאו נאצים ותמונות זימה - מה שהפך אותו למנהל כואב ומתוסכל; טרנד חדש בקרב בני נוער - מערכת יחסים וירטואלית לחלוטין, ללא מפגש פיזי; והאם הוגן שמי שמקבל מאיתנו דמי מנוי גם ישתה מידע אישי

ניצן סדן 14:5919.05.19

תגיות:

הגאון העצוב שיושב ליד צוקרברג

במטה פייסבוק יושבים כל המנהלים בחלל עבודה פתוח, ביניהם מארק צוקרברג וסמנכ"לית התפעול שריל סנדברג. ביניהם יושב סמנכ"ל הטכנולוגיה מייק שרופפר. הוא יכול לזקוף לזכותו הישגים טכניים רבים, בלעדיהם מי יודע אם היתה מצליחה פייסבוק להפוך לכזו מין מעצמת מדיה חברתית. אבל ראיון שנערך עמו לאחרונה בוול סטריט ג'ורנל מגלה מנהל מתוסכל מאוד, שהגיע לפייסבוק כדי להקים את מעבדת ה-AI המושלמת - ומצא את עצמו רודף אחרי מחבלים וניאו נאצים, ואיתם ילדים שמקללים, מתבגרים ששולחים תמונות זימה ומבוגרים שרוצים פחות קללות וזימה בפיד.

מייק שרופפר. מה עומד מאחורי החיוך? צילום: Joi Ito

שרופפר נחת בפייסבוק ב-2008, כשהמטרה המוצהרת היתה פיתוחי בינה מלאכותית; באותם ימים, היה התחום עוד צעיר יחסית, וצוקרברג רצה להתברג בראשו. שרופפר נדרש לבנות מעבדת AI שתפתח שורת כלים ויכולות, כמו טכנולוגיות לזיהוי פני משתמשים בתמונות ולבנות כלים שיתחרו באלו של גוגל בכל הנוגע לניתוח מידע, הרגלי משתמשים ושירותים עבורם.

"רצינו לשכור כמה מהאנשים הכי טובים בעולם", סיפר, "רצינו להקים סוג חדש של מעבדת מחקר". הוקמו שני גופים בפייסבוק - מעבדת AI שחקרה כיוונים לטווח ארוך, ויחידת למידת מכונה שחקרה דרכים ליישם את הידע במוצרים קיימים. השינוי החל ב-2015 בעקבות מתקפות הטרור בצרפת; צוקרברג הורה ליחידת למידת המכונה לנסות לפתח כלים שילחמו בתוכן טרור ברשת החברתית.

חיילים צרפתים בפריז, בימים שלאחר פיגועי נוב' 2015 צילום: אי פי איי

הם בנו מערכת שיודעת לזהות התייחסות אוהדת לארגוני טרור, ולהצליב אותה עם תנאי השימוש בפייסבוק - ויצרה כך פילטר אוטומטי ראשון. בבחירות 2016 בארה"ב שוב גויסו אנשי ה-AI לפיתוח כלים לאיתור פייק ניוז ודיסאינפורמציה, ועד אמצע 2017 כבר נדחקו הפרויקטים השאפתניים והעתידניים לעדיפות נמוכה, כשכל מומחי ה-AI של פייסבוק עמלו על שיפור הפילטרים וזיהוי קללות ואיומים.

במקום לנטוע עצים, שרופפר הפך לכבאי וטיפל בקדחתנות במשברי סינון התוכן הפוגעני של החברה. כל המומחים שהביא, כל היכולות שגידל, כל הפיתוחים שבנה - הכל מוקצה עכשיו לזיהוי איומים ברצח, פייק ניוז, תמונות זימה ותכנים מפוקפקים אחרים. המצב הזה מתסכל מאוד עבור שרופפר; הוא הודה בראיון שיש בקרים בהם הוא צריך להילחם בעצמו כדי בכלל להגיע לעבודה. בשנה שעברה נשלח להעיד בפני הפרלמנט הבריטי על חלקה של החברה בפיאסקו קיימברידג' אנליטיקה, שם הטילו המחוקקים ספקות כבדים ביושרת פייסבוק, וקל היה לראות שהחוקר מתקשה להתמודד עם ההאשמות. עבור צוקרברג, שרופפר הוא כוכב הנבחרת: אנשיו הם שאמורים לפתח תוכנה שתדע לזהות תוכן פוגעני בכל שפה ובכל רמה, משהו שכרגע רק בודקי תוכן אנושיים יכולים לעשות. לצוקרברג אין כוונה לשכור רבבות בודקי תוכן משום שאין ברצונו להעלות הוצאות תפעול - ושנאה, איומי רצח וטראומות של גולשים הם כולם בגדר מחיר לגיטימי בשלב זה. ולכן, סומך המנכ"ל על איש ה-AI שלו, שישלוף איזו תוכנה שתרצה את הקהל והרגולטורים, ותאפשר לפייסבוק להמשיך לספור כסף בשקט.

המטרה החדשה של מיזמי ה-AI בחברה: מלחמה בשנאה בפיד

שרופפר כבר ידע ימים קשים בפייסבוק: הוא היה מנהל הטכנולוגיה של החברה בתחילת דרכה, כשנדרש לספק מענה לזינוק העצום במספר המשתמשים, כשבידיו מספר מצומצם של אנשי צוות. "רוב הג'וב היה כמו אוטובוס בוער שמתגלגל במורד גבעה כשצמיגיו מפונצ'רים", אמר והוסיף שלא מעט מיומו בילה בלשכנע מהנדסים שחוקים שלא להתפטר. ואולם, עם השנים השתפר המצב ופייסבוק בנתה תשתית יציבה למדי, שלא מצריכה עומסי עבודה קיצוניים מהמפתחים. "אני כבר לא זוכר מתי בפעם האחרונה דיברתי עם מהנדס שחש שחיקה בשל מאמצי הצמיחה", אמר.

בחלק מהחזיתות, מצליחים הפיתוחים שמוביל שרופפר לעשות טוב: לדבריו, כ-96% מתוכני העירום מזוהים אוטומטית ומוסרים מהרשת החברתית. זאת, בעוד לחברה יש לא מעט זיהויים שגויים - מתמונות הנקה ועד תמונות של יצירות אמנות קלאסיות ובהן עירום. בתחום תוכן השנאה הוא מצליח פחות: לדבריו, החברה מצליחה לזהות רק 51% ממנו בשירותיה. לאחר הראיון, מסרה פייסבוק שהמצב טוב יותר משהציג המומחה הכי גדול שלה בתחום, ועומד על 65%. ומה על סרטוני רצח בשידור חי, כמו זה שפורסם במהלך טבח קרייסטצ'רץ' בניו זילנד במרץ האחרון? לכך אין לשרופפר מענה טכני. לדבריו, היה זה סוג חדש של זוועה, קליפ שמצולם מנקודת מבטו של הרוצח כמו במשחקי יריות - וזה אחד הגורמים שהקשה על הזיהוי לאחר פרסום התוכן.

תיעוד חי של הטבח בקרייסטצ'רץ' במרץ האחרון, אותו שידר הרוצח עצמו צילום: youtube

בשנים האחרונות ראינו כמה וכמה בכירים בפייסבוק שהיכו על חטא, שחשפו את הפרקטיקות הפנימיות שלה וטענו שיש להגביל ואף לפרק אותה. אבל המקרה שלפנינו שונה; מהנדס שרצה לבנות דברים חדשים ליצירת עתיד טוב יותר, וגילה שגם לגודזילה כפייסבוק יש שרשרת ברזל על רגלה - הכאן והעכשיו; לחברה יש בעיות תוכן פוגעני שלא ברור איך תפתור, וחלומות ה-AI של שרופפר ואנשיו יישארו בשלב זה חלומות.

זיכרי, לגברים יש רק לייקים בראש

עידן המדיה החברתית הביא עמו הרבה מאוד שינויים שעדיין לא סיימנו לקלוט ולהבין את כולם, ונראה שבני נוער הם אלה שמושפעים הכי הרבה והכי מהר. הדוגמה האחרונה היא שינוי במבנה מערכות היחסים של צעירים: נראה שחלקם מעדיף לייקים על סקס. הוול סטריט ג'ורנל הציג את טרנד מערכות היחסים המקוונות - במסגרתו מוצאים קטינים וצעירים אהבה ברשת, אבל לא רצים לממש אותה. למעשה, דווקא נוח להם לשמור את הקשר ברמת הההתכתבות והווידאו-צ'ט.

היכרויות ברשת? למה שמערכת היחסים לא תתנהל שם כולה? צילום: TechCrunch

למשל, קחו את המקרה של ניקול נגויין בת ה-16; היא פגשה את החבר שלה פנים אל פנים בפעם הראשונה רק פעם אחת. לאחר 20 דקות הם פשוט נפרדו. וגם הפגישה ההיא היתה מאולתרת לגמרי; השניים מצאו עצמם במקרה באותה עיר בארה"ב, מבלי שתכננו. קודם לכן, ניהלו מערכת יחסים אינטנסיבית של שנה תמימה, בה התכתבו וביצעו שיחות וידאו כל הזמן.

כיליד שנות השמונים, זה לא נשמע לי חריג; פעמים רבות התכתבתי עם מישהי ב-MIRC או ב-ICQ תקופה ארוכה בטרם פגשתי בה, בהרגשה של "צריך רק להיפגש כדי שנהיה באמת ביחד", ואז אחד הצדדים התבאס וחתך את הקשר. ואולם, לא היתה זו מערכת יחסים לראייתי, וזה מה שהשתנה; מבחינת בני הנוער שמתאר הג'ורנל, אלו הן מערכות יחסים משמעותיות, וכל עניין הפגישה האישית הוא כבר בכלל לא העיקר. הצעירים של היום, מעריכים בג'ורנל, מסתכלים על לייקים קבועים באינסטגרם כאל חיוך מעברו השני של הבר או פנייה אישית - וכך הופכת כל פלטפורמה מקוונת לכלי היכרויות. היקפי הטרנד לא ברורים; עדיין לא נערך מחקר מקיף דיו על מערכות יחסים בטווח ארוך בקרב מתבגרים, כאלה שנושאות אופי מקוון בלבד.

למה לא כדאי לתת לאפליקציות דייטינג ללמד אתכם להתחיל עם אנשים בעלת טינדר משיקה שירות חדש שיחבר בין גולשים שמחפשים אהבה למנטורים וקואוצ'רים בתחום הדייטינג. מדוע זה לא פייר כלפי נשים, ומזיק למוסד הדייטינג כולו? ניצן סדן, 2 תגובות לכתבה המלאה

לראיית פרופ' סטפני קונץ ממכללת אוורגרין, מדובר בתוצאה של שני טרנדים מערביים שדווקא נחקרו - כניסה מוקדמת לגיל ההתבגרות ודחיית מועד הנישואין הממוצע. לדבריה, בין הגילים 15 ו-20 נדרשים הצעירים של ימינו לנהל את המיניות שלהם, את החיים הרומנטיים שלהם ואת הצרכים האינטימיים שלהם ויש להם הרבה יותר אפשרויות, וגמישות שלא היתה לדורות קודמים. האנונימיות ברשת מסייעת לאנשים להיות פתוחים יותר עם זרים, להציג יותר מעצמם בידיעה שסביבתם המיידית לא תיחשף לכך ושלא יהיו השלכות חברתיות לפרסונה מקוונת של מתירנות מינית, דעות קיצוניות או תחביבים לא שגרתיים. וכך קל יותר להכיר ולהתחבר. כדוגמה, הביא הג'ורנל את סיפורה של קייטלין בוביט בת ה-20 מרוד איילנד, שהכירה את בן הזוג שלה בקהילת גיימינג; השניים הפכו לזוג לאחר שמונה חודשים, ורק לאחר שנה נפגשו.

פגישה? בוא נחכה שנה

לפי פרופ' קורטז, לא מן הנמנע שהזוגות לא ממהרים להיפגש בין היתר, מחשש שהקרבה הפיזית הופכת למעמסה, למשהו מפחיד; הציפיות כה גדולות וההפסד הפוטנציאלי כה מאיים, שלא מעט זוגות פשוט לא נפגשים וחסל. החוקרת אמרה שלטרנד הזה יכולות להיות השלכות בעייתיות על ההתפתחות הפסיכולוגית של בני הנוער, שכן מגע פיזי - מיני או אחר - הוא בעל ערך נפשי וסוציולוגי, ואף בעל ערך פיזיולוגי: לדבריה, הימנעות ממגע משפיעה על מערכת החיסון. יתכן שהיקפי התופעה גדולים עד לרמה של השפעות על התנהגויות אחרות של צעירים; למשל, הצמיחה במספר בני 18 עד 29 בארה"ב שלא קיימו יחסי מין במשך יותר משנה ל-23%, בעוד בתחילת שנות התשעים עמד הנתון על בערך חצי מכך. מרשים למדי, בהתחשב בתנופת התפוצה של יישומי היכרויות כטינדר.

מעניין איך ישפיעו על התופעה הזו הופעת פיתוחי מציאות מדומה שמעבירים משוב מגע; כבר ישנן כפפות שמסוגלות לדמות זאת באמצעות אולטרסאונד, ומשהו אומר לי שבאיזו מעבדה כבר עובדים על אב טיפוס של תחתונים כאלה.

קצרצרים

1. ספקיות תקשורת אמריקאיות הצהירו שזהו, מעתה לא ימכרו למפרסמים וצדדים אחרים מידע מיקום שאספו דרך שלל שירותיהן. ההצהרה הגיעה בתגובה לפניית נציבות התקשורת הפדרלית מיוני שעבר, במסגרתה נשאלו החברות על פרקטיקות שיתוף המידע שלהן ופגיעה אפשרית בפרטיות המשתמשים. אלו חדשות טובות למשתמשים בארה"ב, והזדמנות לשאול שאלה חשובה: האם אין גבול לפרקטיקות היוון המשתמשים? האם לחברה שמשלמים לה דמי מנוי יש זכות גם למכור את המידע שלנו ולעשות עוד כסף? אולי הגיע הזמן למתוח גבולות גזרה? בארה"ב הקפיטליסטית כנראה שהתשובה שלילית, אבל יש מספיק שווקים שפויים יותר, עם מדיניות כלכלית שמאזנת בין תאוות התאגיד ורצונות הצרכן.

2. נפלה עטרת ראשנו: החתולה טיידר סוס, הידועה בכינויה גראמפי קט, נפטרה בסוף השבוע בשל סיבוך דלקת בדרכי השתן. בשבע שנותיה הקצרות הצליחה להפוך למם ממורמר ונפלא, לכוכבת רשת, לסדרת טלוויזיה ואפילו לסרט באורך מלא בשם "גראמפי קט מציגה: חג המולד הכי גרוע אי פעם". נורא אהבתי את המם הזה, שמראה את הגיוון של תרבות הרשת; אתה לא צריך להיות חתיך, אופטימי, מעניין או אפילו אנושי כדי להפוך לסמל ולהביא שמחה או לפחות הזדהות ממורמרת למיליוני אנשים. אגב, זה לא שהמם שנושא את פניה הולך להיעלם; לפחות עד שיימצא סמל מוצלח יותר למרמור טבעי, תמשיך לעטר את הפיד שלנו.