לחברות הטכנולוגיה אכפת מערכים? תנו לעורכים אנושיים לקבוע את סדר היום

בינה מלאכותית צילום: שאטרסטוק

כמובן שאלגוריתמים כבר עושים את הפעולה הזו בדיוק. הם מחליטים אילו פוסטים יוצגו בראש הניוז פיד שלנו בפייסבוק ואילו ידחקו למטה, הם עוזרים למפרסמים להתאים לנו פרסומות מפולחות, והם מעורבים בהחלטות כמו אילו תוצאות חיפוש להציג במענה לשאילתה בגוגל ניוז ואילו כתבות לתעדף באגרגטורי חדשות כמו גוגל ניוז. הנעלם על סמך אילו מדדים הם עושים זאת הוא במידה רבה בגדר תעלומה, במובנים רבים אפילו המפתחים עצמם לא ממש יודעים, אך לרוב השיקול המרכזי הוא הצגת התוכן בעל הסיכוי הגבוה ביותר למשוך את הגולש להקליק עליו או לקרוא אותו. ככל שהתוכן יותר ויראלי, כך גדל הסיכוי לחשיפה שלו (וכתוצאה, הוא עצמו הופך ויראלי).

חדשות בפייסבוק צילום: marketingland

המבנה הזה מעלה מגוון סוגיות מעניינות לגבי ההליכים שעוברים על התוכן שאנו צורכים. בפייסבוק, למשל, זה הוביל לעליית כותרות הקליק בייט, עד שהחברה שינתה את האלגוריתם של הניוז פיד כך שיפסיק לתעדף כותרות כאלו. מבין סוגיות אלו, אחת המסקרנות היא עד כמה האלגוריתמים עושים עבודה טובה יותר מבני אדם בבחירת תכנים, לא בהכרח בהבטים של הצגת התוכן המושך ביותר (בזה אין תחרות לבינה המלאכותית), אלא בסוגיות משמעותיות לא פחות לשיח האנושי: גיוון במקור התכנים שאליהם נחשף הגולש, והצגת תכנים מעמיקים ומעשירים יותר.

מחקר של ד"ר ניקולס דיאקופולוס והדוקטורנט ג'ק בנדי מאוניברסיטת נורת'ווסטרן בארה"ב מנסה לענות על השאלות האלו בדרך מקורית – בחינת ההבדל בין בחירות אנושיות לבחירות של האלגוריתם בשירות אפל ניוז. השירות הוא אגרגטור חדשות, בדומה לגוגל ניוז, אך בהבדל מובהק אחד: בשעה שבגוגל ניוז כל הבחירות מתקבלות על ידי אלגוריתם, באפל ניוז יש גם מעורבות של עורכים אנושיים.

לצורך המחקר בחנו השניים במשך חודשיים, החל מאמצע מרץ 2019, שני חלקים באפליקציית המובייל של אפל ניוז: Top Stories, שכולל תוכן שנבחר על ידי צוות עורכים שעובד בעבור אפל, ו-Trending Stories, שכולל סיפורים שנבחרו על ידי אלגוריתם. התוצאות חד-משמעיות, והן לא לטובת האלגוריתם.

בנדי כתב תוכנה זריזה שמדי חמש דקות שמרה וקיטלגה את הסיפורים שמופיעים באפל ניוז. באופן זה, נאספו 1,268 כתבות מ-Top Stories (בני אדם) ו-3,144 כתבות מ-Trending Stories (אלגוריתם). "הניתוח שלנו העלה שעורכים אנושיים בוחרים מקורות באופן מאוזן יותר, וגם מעדיפים מקורות מגוונים יותר בהשוואה לאלגוריתם", כתב בנדי בפוסט במדיום שמסכם את ממצאיו. "גם גילינו שהאלגוריתם הציג יותר 'חדשות רכות'".

מגזין החדשות אפל ניוז

המחקר מעלה שלושה ממצאים מרכזיים. הראשון הוא שעורכים אנושיים בוחרים מקורות בצורה מאוזנת יותר. "אתם יכולים לדמיין מה היה קורה אם 50% מכל הסיפורים באפל ניוז ממקור אחד כמו CNN או פוקס? לא רק שזה היה מטה את החדשות בעבור מיליוני קוראים (לאפל ניוז יש 125 מיליון משתמשים פעילים בחודש, ע"כ), זה גם היה מביא לתשלום לא יחסי לכמה גופי חדשות. מצאנו דפוסי ריכוז בשני החלקים, אבל הבחירות של העורכים האנושיים היו מאוזנות יותר".

ארבעה מקורות בלבד – CNN, פוקס ניוז, באזזפיד ופיפל – אחראים לחצי מהידיעות שנבחרו על ידי האלגוריתם, ושניים – CNN ופוקס, לכשליש מהן. מנגד, 56% מהידיעות שבחרו עורכים אנושיים הגיעו מ-10 מקורות, אף אחד מהם לא פוקס ניוז, באזזפיד או פיפל.

הממצא השני, שמשיק לראשון, הוא שעורכים אנושיים בחרו מקורות מגוונים יותר. "ארבעת המקורות הנפוצים ביותר בבחירות האלגוריתם, נבחרו בתדירות קטנה יותר על ידי עורכים אנושים באפל ניוז", הסביר בנדי. "מה המשמעות של זה? האלגוריתם בוחר יותר סיפורים מבאזזפיד ופיפל, בשעה שעורכים בוחרים יותר סיפורים מהוושינגטון פוסט ומהניו יורק טיימס. על פני השטח, זה מצביע על כך שהאלגוריתם בוחר יותר סיפורים על סלבס ו'חדשות רכות' אחרות".

על מנת לבחון הנחה זו ניתחו החוקרים את כותרות הידיעות שאספו, מה שהוביל לממצא השלישי: עורכים אנושיים בוחרים פחות "חדשות רכות" (כלומר, סיפורים קלילים שעוסקים בסוגיות כמו רכילות וצרכנות בניגוד לסיפורים שעוסקים באופן מעמיק בסוגיות כמו פוליטיקה, כלכלה או בריאות). לפי הממצאים, בתקופה שנבחנה הסיפורים הנפוצים ביותר שבחרו עורכים עסקו בהתפרצות חצבת, בסוגיות סביב חוק הבריאות של אובמה (אובמה-קר), בברקזיט ובמייגן מרקל. אצל האלגוריתם, היתה זו דווקא מייגן מרקל שעמדה בראש, ואחריה ג'סטין ביבר, קים קארדשיין ו-Florida Man (ז'אנר חדשותי פופולרי שמתעד את מעשיהם ההזויים של תושבי פלורידה, לרוב בלוויית אליגטור, ושהכותרות בו נפתחות באופן מסורתי במלים Florida Man. גגלו ולא תתאכזבו).

"העורכים האנושיים של אפל למעשה מעולם לא בחרו סיפור עם שמו המלאה של טראמפ בכותרת", גילה בנדי. "ביטויים כמו 'החזרי המס של טראמפ' היו נפוצים, אבל לא כותרות שהשתמשו בשמו הראשון. ביטויים נפוצים אחרים כלל סוגיות בינלאומיות (ברקזיט, קים ג'ונג-און), מדיניות אמריקאית בנושא בריאות והגירה (ערי מקלט). ועדיין, העורכים הזינו את התמהיל עם חדשות בידור (לדוגמה הנוקמים: אנדגיים) וסיפור אחד על בוגרת נורת'ווסטרן שילדה תינוק – מייגן מרקל שילדה את ארצ'י. הם גם יצרו אוסף סיפורים קבוע תחת הכותרת 'החדשות הטובות של השבוע'".

אף שהמחקר נערך לפני שנה, הממצאים רלוונטיים גם להיום. לדברי בנדי, בתחילת התפרצוות הקורונה עורכים אנושיים הצטיינו בהבלטת מידע בעל ערך והעמדתוו בהקשר המתאים. מנגד, בדיקה מדגמית של הכותרות הראשיות בגוגל ניוז בסוף פברואר העלתה שהסיפורים המובילים היו ידיעות כמו "31 המשפטים המופרעים ביותר ממסיבת העיתונאים של דונלד טראמפ", "טראמפ נגד הקורונה" ו"דמוקרטים נואשים מקוום שהקורונה תערער את טראמפ".

"כל הסיפורים האלו מזכירים שני דברים: נגיף הקורונה וטראמפ. אם תקראו אותם, אולי תזכו להצצה למידע על המגיפה המתקרבת – למשל אזהרה של ה-CDC. הכותרות תופסות את תשומת הלב שלכם, אבל לא מספקות שום מידע בעל ערך. לעורכים של אפל היתה גישה שונה באותו היום, עם מאמר שכותרתו 'ה-CDC מזהיר שהתפשטות הקורונה בארה"ב היא בלתי נמנעת'. זו היתה ידיעה מהוושינגטון פוסט שצטטה כמה מומחים מה-CDC. כשקראתי אותה במקור, שורה אחת שינתה את הצפיות שלי לחודשים הקרובים: 'שיבושים בחיי היומיום עלולים להיות חמורים, ואנשים צריכים להתחיל לחשוב על זה עכשיו'. אני אסיר תודה שבני אדם בחרו בשבילי את החדשות באותו היום".

לאלגוריתם יש בעיות נוספות, חלקן ידועות היטב. למשל, נטייה לצנזר ידיעות שמופיעות בהן גסויות או מלים שדומות לגסויות גם כשהדבר לא מוצדק, בגלל חוסר יכולת להבין את ההקשר שבו מוצגים הדברים. רק בחודש שעבר החל אלגוריתם האנטי-פורנו של טוויטר מנע מהשם של יועצו של בוריס ג'ונסון, דומיניק קאמינגס (Cummings) מלהופיע ברשימת הנושאים החמים בבריטניה בגלל ההקשרים האפשריים של שם משפחתו.

הבעיה, מבחינתנו, היא שלמרות כל החסרונות הברורים של האלגוריתם במיון חדשות ובחירת תכנים הוא לא הולך לשום מקום, כי בעבור החברות שמפעילות את הכלים השונים היתרונות שלו משמעותיים מדי – זה זול יותר ומהיר יותר מעורכים אנושיים. רק לפני כשבועיים החליפה מיקרוסופט את כל העורכים האנושיים של MSN באלגוריתם, שלדבריה מסוגל לעשות את אותה עבודה בדיוק.

אותה עבודה? כנראה. באותן תוצאות? כנראה שלא. זריקת העורכים האנושיים לטובת אלגוריתם משמעה שהגולשים ב-MSN (ככל שבכלל נותרו כאלו) יזכו לסיפורים רדודים יותר, שאולי יבדרו אותם אבל לא יהפכו אותם לקוראים מיודעים יותר, ממגוון מקורות דל יותר. חדשות משחקות תפקיד משמעותי במנגנון של מדינה דמוקרטית. אזרחים מיודעים, שנחשפים לסוגיות השונות של חיי היומיום, הם אזרחים פעילים יותר וחכמים יותר, כאלו שקשה יותר לשלוט בהם ולתמרן אותם. יש סיבה שהעיתונות החופשית היא לרוב בין המטרות הראשונות של משטרים דיקטוטוריים ושליטים סמכותניים.

בעשור האחרון, האלגוריתם הולך ומחליף את העורך האנושי בתפקיד שומר הסף, הגורם שמחליט מה יזכה לחשיפה ובאיזו עוצמה. מבחינת הפלטפורמות, הוא בהחלט מספק את הסחורה: הוא יודע אילו ידיעות יהיו הפופולריות ביותר, יביאו למספר ההקלקות הגבוה ביותר וכתוצאה להכנסות גדולות יותר, ועושה את זה בעלות אפסית לעומת בני אדם. אבל מבחינת האזרחים התוצאה נוראית, כי יותר ויותר מקורות חדשותיים הופכים לפחות ופחות משמעותיים. ממקום להתעדכנות על מה שקורה בארץ ובעולם למקום של בידור ורכילות.

לחברות ענק כמו אפל, גוגל, פייסבוק ומיקרוסופט יש אחריות על השירותים שהן מפעילות. יש להן גם כיסים עמוקים ורווחים נקיים של מיליארדי דולרים. בתקופה האחרונה הן מדברות על המחויבות שלהן לגיוון, מלחמה בגזענות, הגנה על זכויות אזרח ועוד. חדשות אמיתיות, מגוונות, רלוונטיות, עניינות, מעשירות ובעלות ערך ממשי, שפותחות את עיני הקוראים למתרחש סביבם, לעוולות בחברה ולמציאות הכלכלית, הפוליטית והבריאותית שלהם, הן רכיב מרכזי בזה. באמת אכפת לכן מכל הערכים שאתן מדברות עליהם כל כך יפה? שימו את הכסף שלכן על השולחן. הזיזו את האלגוריתם הצדה, ותנו מקום לעורכים אנושיים לקבוע את סדר היום.