דוח טכנולוגי גילוי נאות: סיכומי האיחוד האירופי עשויים לאלץ את ענקיות הטכנולוגיה לרדת מהעץ בעירום מלא
דוח טכנולוגי
גילוי נאות: סיכומי האיחוד האירופי עשויים לאלץ את ענקיות הטכנולוגיה לרדת מהעץ בעירום מלא
כוונת האיחוד האירופי לחייב פלטפורמות חברתיות פופולריות לחשוף את אלגוריתם ההמלצות שלהן להנגיש את המידע האצור בהן ולבצע ביקורת עצמאית של ניטור התכנים עשויה לשנות מקצה לקצה את מאזן הכוחות בשטח. כן, לחברות הענק יש ממה לחשוש
מבין הסוגיות הבוערות שקשורות לפעילות של ענקיות טכנולוגיה, סוגיית ניטור התוכן היא כנראה הקריטית ביותר - וגם זו שטיפול יעיל בה יכול להביא לשינוי מוחשי בטווח הזמן הקצר ביותר. ניטור תוכן בפלטפורמות הגדולות משפיע לרעה על המצב הגיאו-פוליטי והחברתי בכל העולם: רצח העם במיאנמר, מלחמת האזרחים באתיופיה, התפוצה הגדולה של תיאוריות קונספירציה מסוכנות כמו QAnon, או מתנגדי חיסונים, התערבות זרה במערכות בחירות במדינות שונות, הקצנה של משתמשים ותפוצה מוגברת של ביטויי שטנה, הסתה וגזענות – כולם נקשרו במידה זו או אחרת לכשלי ניהול התוכן של הפלטפורמות הגדולות. כשלים שמשפיעים עלינו גם היום. מנגד, טיפול טוב יותר בסוגיה יכול להביא לשינוי מיידי באמצעות הורדת מפלס השקרים, ההסתה, התכנים הקיצוניים והשנאה במקומות שאנו מבלים חלק ניכר מהיום שלנו.
נשיא ארה"ב לשעבר ברק אובמה, התייחס לכך בדברים שנשא בשבוע שעבר בכנס של מרכז מדיניות הסייבר באוניברסיטת סטנפורד. "עצם העיצוב של פלטפורמות אלה מושך אותנו לכיוון הלא נכון", אמר. "מדיה חברתית מחזקת כמה מהדחפים הגרועים ביותר של האנושות. העובדה שמדענים פיתחו חיסונים יעילים ובטוחים בזמן שיא היא הישג בלתי ייאמן ובכל זאת בערך אחד מכל מחמישה אמריקנים מוכן לסכן את עצמו במקום להתחסן. אנשים מתים בגלל דיס-אינפורמציה. האם נאפשר לדמוקרטיה שלנו לקמול או נהפוך אותו לטובה יותר? רגולציה חייבת להיות חלק מהתשובה".
דוגמה לתשובה זו מספקים עכשיו המחוקקים בפרלמנט האיחוד האירופי, כחלק מסיכומים מרכזיים שהגיעו אליהם במסגרת הצעת חוק השירותים הדיגיטליים (Digital Services Act, DSA). האיחוד הוא הכוח המדיני המוביל כיום במערבת להגברת הרגולציה על ענקיות הטכנולוגיה, כשהצעת החוק הנוכחית מצטרפת להצעת חוק השווקים הדיגיטליים (DMA), שנועדה בין השאר לשחרר את אחיזת החנק של חברות כמו אפל בחנויות האפליקציות שלהן, ולחוקי הפרטיות הרחבים של האיחוד, GDPR.
לפי הסיכומים האחרונים של האיחוד, פלטפורמות גדולות שנמצאות בשימוש של יותר מ-10% מאזרחי האיחוד האירופי תחויבנה לעבור ביקורת עצמאית שתבחן את הצעדים שהן נקטו על מנת למנוע שימוש לרעה במערכות שלהן. במקביל, חוקרים יוכלו לקבל גישה לדאטה של פלטפורמות מרכזיות על מנת לבחון איך הן פועלות. כל הפלטפורמות גם תחויבנה לחשוף את האלגוריתם המשמש להמלצות שלהן. בנוסף, על כלל הפלטפורמות ליצור מנגנון להתמודדות עם תוכן, שירותים וטובין לא חוקיים, שיכלול אפשרות להתריע על תכנים כאלה ועל שיתוף פעולה עם משתמשים אמינים, מחוייבויות שונות לזיהוי משתמשים עסקיים במטרה לזהות מוכרים של טובין לא חוקיים והגנות משופרות למשתמשים, לרבות אפשרות ערעור על החלטות תוכן של הפלטפורמות.
אלה, בכל אופן, הקווים הכלכליים, אבל היכולת של DSA לחולל שינוי בסוגיית התוכן בפלטפורמות הגדולות נעוצה בפרטים הקטנים ובאופן יישום החוק - וכמובן שאפשר לחשוב על הרבה דברים שיכולים להשתבש ברעיונות שמועלים כאן (למשל, המשתמש האמין שזוכה לשתף פעולה עם הפלטפורמה יכול להיות טרול שזכה במעמד זה שלא בצדק, או קנה יוזר של משתמש אחר).
יש כאן שלוש נקודות מרכזיות שיכולות, אם תיושמנה נכון, להביא לשינוי משמעותי:
1. הביקורת העצמאית תאפשר לחשוף לראשונה אילו מנגנונים פייסבוק, טוויטר וטיקטוק יצרו כדי להתמודד עם שחקנים "רעים" ותוכל להביע עמדה מבוססת האם הצעדים הללו מספקים והאם הם מיושמים כיאות, ואם לא מה כן צריך להעשות. ביקורת מסוג כזה יכלה לטלטל את מדיניות ניטור התוכן של הפלטפורמות הגדולות ולחשוף האם באמת יש כשלים באופן שבו חברות כמו פייסבוק התמודדו עם ביטויי שטנה והסתה שהובילו לג'נוסייד בבני הרוהינגה במיאנמר או להחרפת מלחמת האזרחים באתיופיה.
2. הנגשת הדאטה של הפלטפורמות למדענים תספק תמונת מצב מדעית על הבעיות השונות ברשתות החברתיות. מדובר בתמונה שחשופה לחברות עצמן, אך מוסתרת במכוון משאר הציבור. עד כמה היא יכולה להיות מהותית ראינו עם חשיפת מסמכי פייסבוק/מטא בשנה שעברה, שהדליפה פרנסס האוגן לוול סטריט ג'ורנל - וזה כנראה רק קצה הקרחון. פתיחת הדאטה למדענים תאפשר לנו לדעת, לעומק ובהרחבה, מה באמת קורה בפלטפורמות האלו ובאילו דרכים הן משפיעות עלינו ועל החיים שלנו.
3. חשיפת אלגוריתם ההמלצות תהיה אולי השינוי בעל ההשפעה העמוקה ביותר. בפלטפורמות כמו פייסבוק, טיקטוק, יוטיוב ובמידה קטנה יותר טוויטר, אלגוריתם ההמלצות הוא הגורם החשוב ביותר בקביעת אופי התוכן שניחשף אליו. הוא יכול לכוון אותנו לתכנים קיצוניים ומסוכנים, לקדם למיינסטרים התרבותי תיאוריות קונספירציה הזויות, להעצים שקרים מזיקים ולחזק את הפילוג באוכלוסיות שונות. לפלטפורמות החברתיות יש סיבות טובות לשמור אותו בסוד. חלקן מוצדקות (הן משקיעות מיליארדים בפיתוח ותחזוק שלו ואין להן רצון לחשוף סוד מסחרי למתחרות), אחרות פחות (אם ייחשף האלגוריתם, יש סיכוי סביר שהדבר יהווה הוכחה חותכת שהפלטפורמות מתעדפות תכנים קיצוניים, מסיתים, מעוררי יצרים ומפלגים לאור הפופולריות שהם מייצרים). אם נדע איך בנוי האלגוריתם ומה הוא מתעדף, אפשר יהיה לבוא לפלטפורמות בדרישות קונקרטיות לתקן אותו. והיכולת שלהן להתנגד לכך תהיה פחותה משמעותית.
השינויים הללו יטו את מאזן הכוחות לרעת החברות. כיום, הן מחזיקות בכל המידע החשוב, והביקורת עליהן מסתמכת בעיקר על פירורי מידע שדולפים פה ושם, ועל ראיות נסיבתיות. היעדר השקיפות משחק לטובתן כי הוא מאפשר להן להציג טיעונים, הסברים והכחשות שקשה מאוד לסתור בהעדר מידע קונקרטי. ביקורות עצמאיות, הנגשת דאטה וחשיפת האלגוריתם יהוו מעין הרמת מסך, גישה חופשית למאחורי הקלעים של הפלטפורמות שתאפשר לחשוף את התמונה המלאה של מה שמתרחש בעולם ניהול התוכן שלהן. יש סיבה טובה לחשוד שמדובר בתמונה מכוערת במיוחד. אחרת, הן כבר היו דואגות לחשוף אותה בעצמה.
