יוטיוב על הכוונת: האם הרשת אחראית לתוצאות תוכני ההסתה שהיא ממליצה עליהם?
יוטיוב על הכוונת: האם הרשת אחראית לתוצאות תוכני ההסתה שהיא ממליצה עליהם?
דיון שיתקיים מחר (ג') בבית המשפט העליון בארה"ב יעסוק בתביעה הרת גורל שהגישו בני משפחתה של נעמי גונזלס, שנרצחה במתקפת הטרור של דאעש בפריז ב-2015, נגד הרשת שבבעלות גוגל. בית המשפט עשוי להחליט שחלק מהאחריות למתקפת הטרור חל על האלגוריתם - ולגרום לחיסולו
26 מילים באנגלית. זה היסוד עליו ניצבת הרשת המודרנית - ובפרט האקוסיסטם של המדיה החברתית. 26 מילים בלבד - סעיף שמתחבא עמוק בנבכי חוק אמריקאי שאף אחד לא הקדיש לו יותר מדי תשומת לב כשחוקק ב-1996. 26 מילים שבזכותן יש לנו פייסבוק, טוויטר, ווטסאפ, טיקטוק, אינסטגרם, yelp, פינטרסט, לינקדאין, המלצות משתמשים באמזון וכל שירות אחר שכולל תוכן גולשים. מחר (ג') תעמודנה 26 המילים הללו במרכז דיון הרה גורל בבית המשפט העליון בארה"ב, שתוצאותיו יכולות לשנות מהיסוד את האופן שבו פלטפורמות מקוונות פועלות, וכזה שהופך אפילו יריבים מושבעים במערכת הפוליטית בארה"ב לאחים בדם.
מחר צפוי בית המשפט העליון לשמוע טיעונים בתביעה שהגישו בני משפחתה של נעמי גונזלס - אחת מ-130 קורבנות מתקפת הטרור של דאעש בפריז ב-2015. לטענת המשפחה, מערכת ההמלצות האלגוריתמיות של יוטיוב אחראית בחלקה לרצח. המערכת בנויה להמליץ למשתמשים על סרטונים שיגדילו את זמן השהייה שלהם בפלטפורמה. היא לא מתעניינת בסוגיות כמו טיב הסרטונים או איכותם, אלא רק במדדים יבשים של זמן צפייה ומספר צופים.
כידוע, סרטונים בעלי תכנים קיצוניים מכל סוג (התנגדות לחיסונים, הכחשת אקלים, וכן גם תמיכה בדאעש) מביאים יותר צפיות ולכן מומלצים יותר. וככל שמשתמש צופה ביותר סרטונים, כך המערכת ממליצה לו על סרטונים קיצוניים יותר. האלגוריתם של יוטיוב יצר מחילת ארנב שמושכת את המשתמש עמוק ועמוק יותר במורד הליך של הקצנה הולכת ומואצת. הליך זה, טוענים התובעים, הוא בין הגורמים שהובילו את המחבלים לבצע את מתקפת הטרור, ולכן יוטיוב והחברה-האם גוגל נושאות באחריות חלקית למותה של גונזלס.
יוטיוב, מצדה, טוענת להגנה מתביעה תחת אותן 26 מילים - סעיף 230 בחוק ההגינות בתקשורת מ-1995, שלשונו: "אף ספק או משתמש של שירות מחשב אינטראקטיבי לא ייחשב למו"ל או לדובר של מידע כלשהו שסופק על ידי ספק תוכן אחר". משפט קצר זה הוא היסוד שעליו בנוי האינטרנט. בשפה פשוטה, פלטפורמות תוכן גולשים לא נושאות באחריות משפטית לתוכן שפרסמו משתמשים בפלטפורמה שלהן. אם משתמש מפרסם דיבה על אדם כלשהו, לא ניתן לתבוע את הפלטפורמה. אם הוא מסית לאלימות, היא חסינה. אפילו אם הוא מפרסם תוכן פדופילי או תמיכה בטרור, הפלטפורמה מוגנת (אם כי כאן יש להן סיבות אחרות לפעול נגד תכנים אלו, והן אכן עושות זאת לרוב).
הגנה זו אפשרה לחברות טכנולוגיה ליצור פלטפורמות של תוכן גולשים או לשלב תוכן כזה בשירותים שלהן בעלויות נמוכות יחסית. בלעדיה הן היו נדרשות לסנן בצורה קפדנית כל פוסט, המלצה או סרטון שמתפרסמים אצלן מחשש שאלו כוללים חומרים פליליים שעלולים לשלוח את בכיריהן למאסר או הוצאת דיבה בסכומי עתק. לאור כמות התוכן האדירה שנוצרת כיום בפלטפורמות המדיה החברתית מדובר במשימה בלתי אפשרית, ולולא הגנה זו שירותים כמו פייסבוק או יוטיוב מעולם לא היו יכולים להתקיים.
המיקוד של הדיון המשפטי לא יהיה בהגנה המלאה של סעיף 230, אלא רק בשאלה אם הגנה זו חלה גם על מערכת המלצות אלגוריתמית, כלומר בהיקף התכולה של הסעיף. גם שאלה זו בפני עצמה היא הרת גורל: רוב התוכן שאנו צורכים כיום מפולטר דרך אלגוריתמי המלצות - בין אם זה הניוזפיד בפייסבוק או ביקורות באמזון, אין כבר כמעט תוכן שלא מעובד ומוגש בסיוע אלגוריתם. פסיקה של בית המשפט שלפיה הגנת סעיף 230 לא חלה על תוכן שכזה, ושלפיה יוטיוב נושאת באחריות למותה של גונזלס, צפויה לשלוח את כל המערכת לסחרור.
אם תצלח התביעה, תגענה רבות אחריה. כמעט כל תוכן שפורסם במדיה חברתית יהיה חשוף לתביעה, ויהיו לא מעט עורכי דין שיחפשו קורבנות פוטנציאליים במטרה להביא את המכה. "יהיו יותר תביעות ממספר האטומים ביקום", אמר לרויטרס פרופ' אריק גולדמן מבית הספר למשפטים של אוניברסיטת סנטה קלרה. כי לתבוע גולש אנונימי ודל אמצעים זה הליך קשה שפרס מועט בסופו, אבל ענקית טכנולוגיה בשווי של מאות מיליארדי דולרים? זה כסף שמתחנן שמישהו ייקח אותו.
מעבר לתביעות הרבות, הגבלת ההגנה של סעיף 230 גם תשנה את האופן שבו פועלות פלטפורמות מדיה חברתית. אפילו אם רק ייקבע שההגנה לא חלה על המלצות אלגוריתמיות, תיאלצנה החברות לשנות את פעילותן מהיסוד. פייסבוק וטיקטוק בנויות על הפיד האלגוריתמי שלהן. אם כל תוכן שעובר דרכו חשוף לתביעה פלילית או אזרחית, הן תיאלצנה להיפרד ממנו ולהסתמך על פיד כרונולוגי. המשמעות: אין יותר תוכן בהתאמה אישית, ומכאן פעילות פחותה של גולשים וירידה משמעותית בהכנסות.
גם לפסיקה מוגבלת יותר - כזו שתפסוק, למשל, שההגנה לא חלה רק על תוכני קיצון כמו פדופיליה או הסתה לטרור - תהיינה השלכות רחבות. היא תחייב את החברות בסינון קפדני הרבה יותר של התוכן שלהן כדי לוודא ששום בדל של תוכן בעייתי לא מגיע לעיניהם הרגישות של המשתמשים. התוצאה תהיה צנזורת יתר, כי העונש על צנזורת חסר יהיה חמור מדי, והגבלה משמעותית על חופש הביטוי והיצירה של משתמשים. במקרה של פייסבוק - פלטפורמה שלפני כמה שנים צנזרה בצורה גורפת פוסטים שהופיעה בהם המילה "כושי" והסירה גם פוסט של גורי אלפי ובו קרדיט לצלם גיא כושי - צנזורת היתר הזו עלולה להיות הרסנית וכואבת.
הפסד של יוטיוב יביא את כל הפלטפורמות למשבר קשה, אבל הן הרוויחו את זה ביושר. במשך שנים הן התעלמו מאזהרות מומחים לגבי הליכי ההקצנה הבעייתיים של האלגוריתמים שלהן, כשהן מתעדפות צמיחה, פעילות גולשים והכנסות על פני כל דבר אחר. לו היו מתנהלות בצורה אחראית יותר ומתעדפות גם בטיחות וביטחון, ייתכן שלא היו מגיעות למצב הנוכחי ושהתביעה בכלל לא היתה מוגשת.
כעת הן ניצבות בסכנה לא רק מצד בית המשפט העליון אלא גם מצד פוליטיקאים, כשההתנגדות לסעיף 230 הופכת יריבים מרים לבעלי ברית. הסנטורים הרפובליקנים טד קרוז וג'וש האולי הם תומכי טראמפ מובהקים ושיחקו תפקיד משמעותי בניסיונות להפוך את תוצאות בחירות 2020 לנשיאות ארה"ב, אבל בנושא הזה הם נמצאים באותו צד של המתרס עם נשיא ארה"ב, ג'ו ביידן.
"ענקיות הטכנולוגיה נוקטות פעילות אנטי-תחרותית במופגן", אמר קרוז ל-NBC News. "הן משתמשות בכוח שלהן כדי לצזנר ולהשתיק את הציבור האמריקאי, ואני מאמין שאנחנו צריכים להתשמש בכלים שלרשותנו כדי לעצור את זה". האולי היה ממוקד יותר, ותיאר את סעיף 230 כיצירה של בתי המשפט, שיצקו לתוכו משמעות שהמחוקק לא התכוון לה: "זו הזדמנות בעבור בית המשפט העליון להתיר חלק מהקשרים שבתי המשפט ארגו לתוך החוק".
ביידן עצמו התייחס לסוגיה במאמר שכתב ל"וול סטריט ג'ורנל" בינואר, בו דחק ברפובליקנים ובדמוקרטים להתאחד נגד ענקיות הטכנולוגיה. "אנחנו צריכים שענקיות הטכנולוגיה תיקחנה אחריות על התוכן שהן מפיצות והאלגוריתמים שבהם הן משתמשות. זו הסיבה שזה זמן רב אני אומר שאנחנו חייבים לשנות מהיסוד את סעיף 230".
מפגש אינטרסים זה מבטיח שגם אם בית המשפט העליון יפסוק לטובת יוטיוב, לא יהיה זה סופה של הסוגיה. אם השופטים לא יצמצמו את התחולה של סעיף 230, הקונגרס והבית הלבן יעשו זאת בעצמם. והשאלה תהיה לא האם תצומצם ההגנה שממנה נהנות ענקיות הטכנולוגיה, אלא עד כמה הגנה זו תצומצם.
