כך מנסה גוגל לעצב מחדש את השיח על "נושאים רגישים" עבורה

באמצע המאה ה-20, כשהתחילה התעוררות ציבורית נגד סיגריות והנזקים הבריאותיים שהן גורמות, וגורמים שונים החלו לקדם מגבלות על עישון מוצרי טבק ופרסומם, הגו חברות הטבק אסטרטגיה חדשה ומבריקה על מנת להלחם במודעות הציבורית: ליצור בלבול, מחלוקת וחוסר ודאות, כדי שהן יוכלו להמשיך ולהרעיל כמה שיותר אנשים, ולממן ולקדם מחקרים מדעיים מפוקפקים שמטילים ספק במחקרים מדעיים לגיטימיים.

"ספק הוא המוצר שלנו, מכיוון שמדובר באמצעי הטוב ביותר להתחרות ב'גוף העובדות' שקיים במוחו של הציבור הכללי", נכתב במזכר שחברת הטבק Brown & Williamson הפיצה לעובדיה ב-1969. "זה גם אמצעי לביסוס מחלוקת... אם נצליח ליצר מחלוקת ברמת בריאות הציבור, תהיה הזדמנות להציג עובדות אמיתיות על עישון ובריאות".

מנכ"ל גוגל סונדר פיצ'אי צילום: גטי אימג'ס

11 שנה מאוחר יותר, כשהחלו להתברר הנזקים של עישון פאסיבי, ארגון מחקר שמומן ופעל מטעם תעשיית הטבק כתב שהדרך להתמודד עם החששות בנושא היא להפיץ מחקר מדעי נגדי: "תרופת-הנגד האסטרטגית וארוכת הטווח לסוגיית העישון הפאסיבי, כפי שאנחנו רואים אותה, היא לפתח ולפרסם בצורה רחבה ראיות רפואיות שלפיהן עישון פאסיבי לא מזיק לבריאות של לא-מעשנים". ב-1988, פיליפ מוריס הציעה בפגישה של גופים שונים בתעשיית הטבק בלונדון לבצע מהלך דומה. "אנחנו מציעים, במדינות מפתח, להקים צוות של מדענים שיאורגן על ידי מדען לאומי אחד ועורכי דין אמריקאים, כדי לבחון את הספרות המדעית ולבצע עבודה על מנת להשאיר את המחלוקת בחיים", נכתב בפרוטקול הפגישה, כפי שצוטט במחקר בנושא שהתפרסם ב-2005.

האסטרטגיה היתה זכתה להצלחה רבה ויצרה כל כך הרבה חוסר ודאות, שבמשך עשורים היא אפשרה לתעשיית הטבק לפעול באין מפריע, עיכבה רגולציות שהיו מגבילות מקומות שבהם ניתן לעשן או מדיה שבהן ניתן לפרסם מוצרי טבק, ותרמה באופן ישיר למותם של מיליוני אנשים כתוצאה מעישון. ותעשיית הטבק לא היתה היחידה שהשתמשה בה. גם תעשיית דלקי המאובנים נקטה באסטרטגיה דומה על מנת לזרוע פקפוק ולמנוע פעולה סביב משבר האקלים, ולפי ראיות עשתה זאת עוד משנות ה-50 של המאה הקודמת, ואת המחיר נשלם לא רק אנחנו אלא הילדים, הנכדים והנינים שלנו.

פיטורי גברו הם חלק מהאסטרטגיה החדשה של גוגל

לכן זה לא מפתיע שתעשיות אחרות נוקטות באסטרטגיה ברוח דומה, אולי אפילו בהשראת חברות הטבק ודלקי המאובנים, כדי לעצב את השיח סביב נושאים שקרובים ללבן ולקדם את מטרותיהן. כתבתי בתחילת השבוע על הפיטורים של בכירת גוגל, ד"ר טימניט גברו, על רקע התנגדות גוגל לפרסום מאמר אקדמי שכתבה, ושעסק בין השאר בהטיה גזעית במערכות בינה מלאכותית, ואיך הפיטורים משקפים את הגזענות הממסדית שקיימת בגוגל ובעמק הסיליקון בכלל.

אבל יש סוגיה נוספת בסיפור הזה, והיא היחס של גוגל למחקרים בנושא בינה מלאכותית בפרט וטכנולוגיה בכלל. הסלידה של החברה מפרסום המחקר של גברו, מסתבר, לא היתה משהו נקודתי אלא חלק מאסטרטגיה רחבה יותר שאמצה החברה השנה. לפי דיווח של רויטרס, גוגל החלה ליישם מדיניות חדשה שבמרכזה בחינה של "נושאים רגישים" במאמרים שמפרסמים מדעניה, ולפחות בשלושה מקרים ביקשה מהמחברים להמנע מלהציג את הטכנולוגיה באור שלילי. ה"נושאים הרגישים" כוללים בחינת מוצרי גוגל להטייה גזעית, מחקרים שעוסקים בתעשיית הנפט, סין, איראן, ישראל, נגיף הקורונה, אבטחה בייתית, ביטוח, מידע מיקום, דת, מכוניות אוטונומיות, טלקום ומערכות המלצת תוכן.

גוגל צילום: שאטרסטוק

הליך הביקורת החדש של גוגל מחייב מדענים להתייעץ עם צוותי משפט, מדיניות ויחסי ציבור (שלושה דברים שאין להם קשר למדע) לפני פרסום מחקרים בנושאים כמו ניתוח פנים וסנטימנט, וקטלוג לפי גזע, מגדר או נטייה פוליטית. "התקדמויות בטכנולוגיה והמורכבות ההולכת וגדלה של הסביבה החיצונית שלנו מובילות ליותר מצבים שבהם פרויקטים תמימים למראה מעלים סוגיות אתיות, משפטיות או אסדרתיות", נכתב במסמך פנימי שהגיע לידי רויטרס.

בכמה מחקרים בכירים בגוגל התערבו בשלבים מאוחרים. מנהל בכיר בחברה שבחן מחקר על טכנולוגיית המלצות תוכן זמן קצר לפני פרסומו הקיץ אמר למחברים "לדאוג לנקוט בטון חיובי", אך הוסיף "זה לא אומר שאנחנו צריכים להתחבא מהאתגרים האמיתיים". בעקבות דיונים עם ההנהלה הסירו מחברי המחקר כל התייחסות למוצרי גוגל, אחרי שטיוטה מוקדמת כללה אזכורים ליוטיוב.

עוד נכתב בטיוטה שקיימים "חששות" שטכנולוגיית המלצות מקדמת "דיסאינפורמציה, אפלה ותוצאות לא הוגנות אחרות", שהיא מובילה ל"גיוון לא מספק בתוכן" ול"קיטוב פוליטי". אבל במחקר שפורסם לבסוף נכתב בדיוק ההפך: שהמערכות יכולות לקדם "מידע מדויק, הוגנות וגיוון של תוכן". המאמר, שכותרתו What are you optimizing for? Aligning Recommender Systems with Human Values, גם לא כלל קרדיט למחברים חוקרי גוגל.

ברויטרס לא הצליחו לקבוע את הסיבה לכך, אבל אני יכול לשער. כי זה בדיוק מה שחברות הטבק עשו. הם ידעו שהאמינות של מחקרים מדעיים שנעשו מטעמן או במימון יזכו לאמינות נמוכה, ולכן פעלו להסתיר את המעורבות שלהן במחקרים שמערערים על נזקקי העישון. מחקר מטעם גוגל שמהלל את השימוש במערכות המלצת תוכן (במיוחד לאור הביקורת שספגה בשנים האחרונות מערכת ההמלצות של יוטיוב) הרבה פחות אמין ממחקר שלא קשור לחברה. אפשרות אחרת, גרועה לא פחות, היא שהמחקר עבר כל כך הרבה שינויים וצנזורים מצד ההנהלה שמדעני החברה היו שותפים לחיבורו לא רצו להיות חתומים על התוצאה הסופית, לא הסכימו לתת את האמינות המקצועית שלהם לתוצר.

לדברי מקור בחברה, מאמר אחר שפורסם החודש, ושעוסק באופן שבו בינה מלאכותית מבינה שפה זרה, ריכך התייחסות לטעויות של שירות גוגל טנרסלייט, בעקבות בקשה מצד המבקרים בחברה. לגבי מאמר שפורסם בשבוע שעבר, עובד גוגל תיאר תהליך אישור פנימי ארוך שכלל יותר ממאה תכתובות בין המדענים למבקרים. החוקרים גילו שמערכת AI עלולה לפלוט מידע אישי ומידע מוגן בזכויות יוצרים, כמו עמודים מתוך ספרי הארי פוטר, שנאספו מהרשת כדי לפתח את המערכת. בטיוטה נטען שהדבר עלול להוות הפרה של זכויות יוצרים או חוקי פרטיות, אך בעקבות הביקורת הפנימית בחברה המחברים הסירו התייחסות לסיכונים המשפטיים.

"בעיית צנזורה רצינית"

ארבעה מדענים בחברה, ובהם המדענית הבכירה מרגרט מיטשל, אמרו לרויטרס שהם מאמינים שגוגל מתחילה להתערב במחקרים קריטיים על נזקים אפשריים של הטכנולוגיה. "אם אנחנו חוקרים דברים ראויים בהתחשב במומחיות שלנו, ואסור לנו לפרסם על סמך שיקולים שאינם קשורים לביקורת עמיתים איכותית, אז יש לנו בעיית צנזורה רצינית", אמרה מיטשל, שאפשר לקוות שעדיין תהיה לה עבודה בשבוע הבא.

גוגל לא עושה את זה בדיוק כמו חברות הטבק, לפחות לפי המידע שהגיע לרויטרס. היא לא מצהירה במפורש על הכוונה שלה לשבש את המחקר המדעי על מנת ליצור בלבול, ספק ומחלוקת. אי אפשר לפסול את האפשרות שבבוא העת ייחשפו מסמכים שמעידים שהיא כן עשתה את זה, אבל החברה חכמה יותר מזה. היא יודעת בדיוק מה עלול לצאת החוצה ומבינה גם שלא צריך להגיד משהו במפורש במקום שבו קריצת עין תספיק.

אבל המטרה שלה ברורה. גוגל היא גוף מחקר ענק, שמעסיק אלפי אם לא רבבות מדענים בתחומי מחקר שונים. למחקרים שיוצאים ממנה יש יכולת לעצב תפיסות לגבי התעשייה שבה היא פועלת – לחזק ממצאים קיימים או לערער אותם וליצור בלבול שיתן לה עוד מרווח פעילות. רשימת הנושאים הרגישים של החברה מעידה לא רק על רצון שלא להשאב למחלוקות בתחומים פוליטיים שלא קשורים ללבת פעילותה, אלא גם על כוונה לעצב את השיח סביב נושאים שנויים במחלוקת שנוגעים ישירות למוצרים המרכזיים שלה.

היא עושה את זה בעדינות יחסית בינתיים, צנזורה קטנה פה, עיוות קטן שם, עוד איזו הכוונה או רמיזה למדענים. אך הכיוון נראה ברור: פחות מאמרים שמעידים על בעיות סביב טכנולוגיות שחשובות לגוגל, יותר מאמרים שמשבחים ומהללים אותן. גוגל יוצאת למשימה לעצב מחדש את השיח העובדתי סביב סוגיות כמו בינה מלאכותית, הטיה גזעית במערכות טכנולוגיות, הסכנה של מערכות המלצות אוטומטיות ועוד. זה עבד מצוין לחברות הטבק, זה עדיין עובד לחברות דלקי המאובנים, למה שזה לא יעבוד גם לגוגל?