דו"ח טכנולוגי
הקורבן האחרון של אלגוריתם ההמלצות של יוטיוב הוא משבר האקלים
גוגל טענה לאחרונה שהיא שינתה את אלגוריתם ההמלצות שלה. אך מחקר חשף ממצאים מבהילים מהם עולה שהאלגוריתם מקדם מידע מוטעה על משבר האקלים וחושף אליו מיליוני משתמשים.
כמה וכמה מחקרים קשרו בשנים האחרונות האלגוריתם של יוטיוב, ואת מערכת ההמלצות שהוא מניע, להקצנת דעות ועמדות פוליטיות של צופים. "כשמדברים על הקצנה ביוטיוב, הכוונה היא למצב שבו אדם רואה סרטונים מסוימים, ומתחילה לולאת משוב שבו אלגוריתם ההמלצות שולח לו תוכן יותר ויותר קיצוני ויותר ויותר מסית", אמרה לדו"ח טכנולוגי פרופ' קרין נהון מהמרכז הבינתחומי בהרצליה. "ואם הוא צופה בתוכן הזה, האלגוריתם לומד אותו, מעודד ודוחף עוד ועוד תכנים קיצוניים. זה יכול להיות גם לשמאל וגם לימין, הוא מעודד תיאוריות קונספירציה מימין ומשמאל".
גרטה טונברג מובילת המאבק במשבר האקלים צילום: AP
לדברי נהון, לולאת המשוב הזו נוצרת מכיוון שהאלגוריתם של יוטיוב מיועד להאריך את זמן השהייה באתר, ולכן מוכוון על מנת להמליץ על סרטונים שישאבו את המשתמש להמשך צפייה. ובמקרה כזה לתכנים קיצוניים יש יתרון מובהק. כבר שנים יודעים שמידע קיצוני יותר מסית, ושלדיסאינפורמציה יש יכולת להתפשט לקהלים רחוקים יותר, מגוונים יותר ולהרבה יותר אנשים, ומן הסתם להשפיע על מערכת ההמלצות של יוטיוב, וכן של פייסבוק שגם לגביה יש המון מחקרים", הסבירה נהון.
"אנחנו לא הלקוחות של הפלפטורמה, אלא המפרסמים. יוטיוב מוכרת את תשומת הלב שלנו למפרסמים, וככל שאנחנו יותר זמן ביוטיוב, גוגל עושה יותר כסף. האלגוריתם 'מבין' שמה שמדביק אותנו זה תוכן יותר קיצוני ומסית ממה שהתחלנו. זה א"ב של תשומת לב. אני לא אסתפק בתוכן שחוזר על מה שכבר ראיתי. בשביל לקבל את הגירוי אני צריכה כל הזמן יותר קיצוני, קצות יותר מסית, קצת יותר בולט, קצת יותר חריף".
בתחילת 2019, בעקבות התגברות הביקורת והמחקרים בנושא, הודיעה יוטיוב על שינוי באלגוריתם על מנת להגביל המלצה על תכנים שהיא הגדירה כ"גבוליים", כלומר תוכן מסית וקיצוני, תיאוריות קונספירציה וכו'. "הם טוענים שתיקנו, אבל בינתיים לא ראיתי שום מחקר מסודר שמאשר את זה, שמראה שהמערכת מייצרת פחות תהליכי הקצנה", אמרה נהון. למעשה, המחקר החדש של אוואז מעלה שהאלגוריתם של יוטיוב עדיין סובל מבעיית המלצות, לפחות ככל שמדובר בסרטונים שעוסקים במשבר האקלים.
פרופ' קרין נהון חוקרת ומרצה בתחום פוליטיקה של המידע ובנושאי חברה וטכנולוגי צילום: עמית שעל
לצורך המחקר, ערך הארגון חיפושים ביוטיוב לפי השאילתות "התחממות גלובלית", "שינוי אקלים" ו"מניפולציית אקלים", באמצעות כלי מידע של יוטיוב (YouTube Data Tools). חיפושים אלו הניבו רשימה של 5,537 סרטונים. באמצעות קוד פתוח שמתחבר לכלי הפיתוח של יוטיוב נותחו הסרטונים לפי כמות הפעמים שהומלצו לצפייה לצד סרטון אחר. כלומר, מספר הפעמים שהסרטונים מתוצאות החיפוש הופיעו ברשימת הסרטונים הממולצים "Up Next", שמופיעה מתחת לסרטון באפליקצייית המובייל או מימין לו בגלישה מהמחשב (לפי הערכות 70% מזמן הצפייה של משתמש ביוטיוב הוא בסרטונים שהומלצו באופן זה). החוקרים זיהו את 100 הסרטונים המומלצים ביותר מכל אחת משלוש תוצאות החיפוש, וניתחו ידנית את תוכנים על מנת לאתר את אלו מביניהם שמפיצים מידע מוטעה בנושא משבר האקלים.
הממצאים מבהילים, ולדברי אוואז עולה מהם שהאלגוריתם של יוטיוב מקדם בצורה פעילה מידע מוטעה על משבר האקלים וחושף אליו מיליוני משתמשים. 16% מתוך 100 הסרטונים המומלצים ביותר שהופיעו בתוצאות החיפוש לשאילתה "התחממות גלובלית" הכילו מידע מוטעה על משבר האקלים, וכך גם 8% מהסרטונים המומלצים בתוצאות של "שינוי אקלים" ו-21% מהסרטונים המומלצים בתוצאות של "מניפולציית אקלים". הסרטונים עם מידע מטעה נצפו בסך הכל 21.2 מיליון פעמים. "וזה רק קצה הקרחון: אם נניח שיחס דומה של סרטונים עם מידע שגוי על אקלים קיים גם בתוצאות חיפוש אחרות, מספר הצפיות יכול להגיע למאות מיליונים", נכתב בדו"ח.
הסרטונים הבעייתים שאותרו כוללים כאלו עם כותרות כמו "מדען אמיתי: שינוי אקלים הוא הונאה" ו"מדליף סודות ה-CIA מדבר על הנדסת אקלים, סכנות החיסונים ופיגועי ה-11 בספטמבר", ואחרים שמעלים טענות (שגויות לחלוטין) שלפיהן אין ראיה שפליטות פחמן דו-חמצני הן גורם מרכזי בשינוי אקלים. אוואז סיווג סרטונים כמכחישי אקלים או כאלו שמפיצים מידע מוטעה בנושא אם הם מכילים מידע שניתן לוודא שהוא שקרי או מטעה, ושיכול לגרום נזק ציבורי דוגמת פגיעה בתמיכה הציבורית במאמצים להגביל את השפעת האדם על שינוי האקלים.
במדינות מסוימות, דוגמת ארה"ב, בריטניה, ספרד וגרמניה, לצד סרטונים שעוסקים בתחומים שפגיעים למידע מוטעה, מציגה יוטיוב חלוניות טקסט עם מידע רלוונטי משותפים כמו ויקיפדיה. "64% מהסרטונים המטעים בנושא אקלים שנותחו בדו"ח הכילו חלונית מידע מוויקיפדיה, שכללה מידע כללי על התחממות גלובלית", נכתב בדו"ח. "עם זאת, לא הופיע התרעה שלפיה הסרטונים מכילים מידה שגוי, והם עדיין הומלצו על ידי יוטיוב".
האלגוריתם המסתורי של יוטיוב מתנקש במאבק נגד משבר האקלים צילום: markusspiske-pixabay הנוכחות הגבוהה של סרטונים מטעים בנושא האקלים ביוטיוב מתודלקת גם על ידי הכנסות מפרסום. הדו"ח זיהה 108 מותגים שהציגו פרסומות לצד סרטונים אלו, ובהם שמות כמו סמסונג, לוריאל, דקטלון, דנונה, ו-וורנר בראדרס. אחת מכל חמש פרסומות היתה של ארגונים סביבתיים או חברתיים כמו גרינפיס, WWF ו-Save the Children. חלק מהארגונים והמותגים אמרו לאוואז שלא היו מודעים לכך שהפרסומות שלהם הופיע לצד סרטונים כאלו. יוצר סרטון מקבל 55% מהתשלום שמעביר מפרסם ליוטיוב על הצגת הפרסומת.
המחקר, אמנם, סובל מבעיות שונות, אך רובן נובעות מהמגבלות שמטילה יוטיוב על גישה למידע על אופן עבודת האלגוריתם, מה שמאפיין את כל המחקרים העצמאיים בתחום. "הם חוסמים גישות למחקרים מעמיקים", אמרה נהון. "מחקר אקדמי בלתי-תלוי, שיכול להאיר ולתת מידע על איך האלגוריתם עובד, לא יכול להתבצע לעומק בצורה מתוקפת וחזקה. אנחנו הרבה פעמים עוברים על כללי הפלטפורמה על מנת להצליח לעשות מחקר. זה לא הגיוני. חלק מהאחריות של הפלטפורמות היא לאפשר ביקורת על הצורה שבה האלגוריתם שלהן עובד, וזה נכון לכלל הפלפורמות הגדולות".
אז מה עושים עם הממצאים? לאוואז יש שלוש המלצות פשוטות. הראשונה, לטהר את האלגוריתם. "החברה חייבת לעצור את הקידום של מידע מטעה באמצעות הוצאות סרטונים כאלו מאלגוריתם ההמלצות שלה, ולכלול הפצת מידע מוטעה בנושא אקלים במדיניות התוכן ה'גבולי' שלה (תוכן שיכול להופיע ביוטיוב, אך שנתון למגבלות שונות, כמו החרגה מאזור ההמלצות, ע"כ)", נכתב.
ההמלצה השנייה היא למנוע אפשרות ליצר הכנסות מסרטונים מסוג זה: "יוטיוב צריכה להוסיף מידע מטעה למדיניות הרלוונטית, ולוודא שתוכן כזה לא כולל פרסומות ולא זוכה לתמריצים פיננסיים. בתור התחלה, יוטיוב צריכה לאפשר למותגים להחריג פרסומות שלהם מסרטונים שמפיצים מידע מוטעה בנושא אקלים". לבסוף, ממליץ הארגון ליוטיוב לתקן את המעוות ולעבדו עם ארגוני בדיקת עובדות עצמאיים על מנת לידע משתמשים שנחשפו לסרטונים כאלו שמדובר במידע שהוכח כשגוי או מטעה, ולהציג תיקונים אלו לצד הסרטונים.
מנוע ההמלצות של יוטיוב לא ממש תוקן - לפחות לא בכל הנוגע למשבר האקלים צילום: Breitbart
"אוואז מאמין שליוטיוב יש אפשרות להיות חלוצה במאבק בדיסאינפורמציה", מסכמים מחברי הדו"ח. "החברה כבר התחייבה לפתור את הבעיה וליצור סביבה טובה ובטוחה יותר למשתמשיה. עכשיו הגיע הזמן שיוטיוב תפעל באופן דחוף ושיטתי כדי ליישם פתרונות, על מנת לוודא שהעשור החדש לא יסבול בחריפות גדולה יותר מבעיית המידע המוטעה שהחלה בעשור הקודם. בדומה, מפרסמים חייבים לוודא שהם עומדים במחויבויות החברתיות שלהם ובודקים איזה תוכן כספי הפרסום שלהם מממנים".
לא במקרה מגלגל הארגון את הכדור למגרש של המפרסמים. "מילא שאנחנו נדרוש שינוי, אבל אם המותגים יגידו שהם לא מםפרסמים אז יוטויב תשנה את האלגוריתם כתוצאה", הסבירה נהון. "כל הנושא של עידוד תיאוריות קונספירציה והדהוד לקהלים רחבים יותר, זה נושא בעייתי בדמוקרטיה, במיוחד בשנים האחרונות כשדמוקרטיות ליברליות נמצאות באתגור מתמיד".
הדברים של נהון נכונים על אחת כמה וכמה כשמדובר במשבר האקלים. במקרה שכזה, שחיקה של האמון הציבורי בעובדות המדעיות המוכחות לגבי קיומה של התחממות גלובלית כתוצאה מפעילות אנושית יכולה לחבל משמעותית במאמצים הגלובליים לצמצם את פליטות גזי חממה. ליוטיוב יש, בהערכה שמרנית, מאות מיליונים משתמשים. אם תוצאות המחקר אכן מדויקות, יש כאן חשש להכנסה של מיליוני משתמשים פוטנציאלים להליך הקצנה בכל הנוגע למשבר האקלים, ולהרחקתם מהקונסנזוס המדעי בנושא. יש הרבה דברים יקרים, מורכבים וקשים שארגונים יכולים לעשות על מנת לתרום את חלקם למאבק במשבר האקלים. לאיים על יוטיוב בחרם הוא לא אחד מהם. כל מה שצריך זה מכתב מנוסח היטב. חברות שעתיד כדור הארץ חשוב להן, חייבות לעשות לפחות את זה.
קצרצרים
1. אנו ממשיכים לעדכן מהעימות המתגבר בין אפל ל-FBI וממשל טראמפ. ובפרק הנוכחי, טראמפ שוב עולה למתקפה. בראיון ל-CNBC אמר טראמפ שלאפל יש את "המפתחות לכל כך הרבה פושעים ומוחות פליליים", ושב ואיים בעקיפין על החברה כשהזכיר ויתורים שהעניק לה. טראמפ, כמו תמיד, טועה או משקר. לאפל אין את ה"מפתחות" שהוא מדבר עליהם. כל הבסיס לעימות האחרון הוא שלחברה אין, במכוון, את מפתחות ההצפנה שיאפשרו לחדור לאייפונים של מבצע פיגוע הירי בפלורידה.
טראמפ ממשיך לתקוף את אפל צילום: רויטרס 2. עוד בחדשות אפל, גוגל ממשיכה בטקטיקה של תקיפת יריבות, ומפרסמת מחקר סייבר על כך שכשלי אבטחה בדפדפן ספארי של אפל חשפו משתמשים לניטור ההתנהגות המקוונת שלהם, באופן שעוקף כלים שיצרה אפל במטרה למנוע ניטור שכזה. מחכה ליום שבו תוציא גוגל הודעה נרעשת לכלי התקשורת הגדולים בעולם על גילוי כשלים דומים (מקריים או מכוונים) בתוכנה שלה. אבל לא בנשימה עצורה.
3. בייטדאנס הסינית מחפשת מנכ"ל חדש לאפליקציית טיקטוק הפופולרית שלה, שישב בארה"ב. זאת, בתגובה לחששות הולכים וגוברים ממעורבות של ממשלת סין בצנזור תכנים באפליקציה וגישה אפשרית של הממשל למידע משמתמשים בה. לפי בלומברג, החברה ראיינה בחודשים האחרונים כמה מועמדים למשרה, וייתכן שסמכויות המנכ"ל החדש יהיו מוגבלות להבטים לא-טכניים כמו פרסום ותפעול, בעוד המנכ"ל הנוכחי אלכס זאו ימשיך להוביל את ניהול המוצר וההנדסה של האפליקציה.
