חבל עליכם: טריק הסחטנות החדש של פייסבוק

מילון רב-מילים מגדיר את שם העצם סְחִיטָה בשני אופנים: הראשון הוא הוצאת המיץ מפרי עסיסי באמצעות לחיצה, מעיכה או תנועה סיבובית; השני הוא סחטנות, הוצאת כספים או טובות הנאה ממישהו במרמה והבאתו לביצוע מעשה באמצעות לחץ או איומים. לא ברור איזו משתי ההגדרות מתאימה יותר למהלך הציני שביצעה השבוע פייסבוק.

החברה הודיעה על הטמעה רחבה של כלים מבוססי בינה מלאכותית (AI) שנועדו להתריע מראש על משתמשים בסכנת התאבדות. במחשבה ראשונה נדמה שההגדרה העוסקת בסחטנות הולמת יותר. אך אז קופצות לעיניים הימלים לחיצה ומעיכה שעשויות להיות קולעות יותר, כשאת תפקיד הפרי ממלא האיחוד האירופי.

לדברי מייסד ומנכ"ל פייסבוק מארק צוקרברג, כלי ה-AI של החברה ישתמשו ביכולות זיהוי תבניות כדי לאתר סימנים המעידים כי משתמש נמצא בסכנת התאבדות. למשל, תגובה שבה נשאל כותב פוסט אם הוא בסדר תדווח במהירות לצוות הזמין 24/7. במקביל הוספו כלים לדיווח מהיר על סכנת התאבדות לשידורי פייסבוק לייב, לאחר מספר מקרים של התאבדות בשידור חי ברשת. בפייסבוק הבליטו את הספין לפיו ה-AI מסוגל לסייע להצלת חיים ולפי צוקרברג, כבר בחודש האחרון כשהכלים עוד היו בפיילוט, הם סייעו לחברה ליצור קשר מהיר עם גורמי סיוע מיידי ביותר מ-100 מקרים.

אויר: ערן מנדל

החלק המוצנע יותר הוא שמעתה פייסבוק תשתמש בכלי AI לסרוק פוסטים ותגובות כדי לזהות הלכי רוח של בני אדם. היום זה למטרה חיובית כמו מניעת התאבדות, אך מחר כלים אלו עשויים לשמש לזיהוי מצבים אחרים לגמרי, החל מהתאמה מדויקת יותר של פרסומות וכלה בהתנגדות פוליטית וכוונה לביצוע פשיעה קלה. וכמובן שלפייסבוק אין שום מחויבות או אחריות לאופן שבו היא תשתמש בכלים הללו.

פייסבוק לא חוששת לשחק בהלכי הרוח של המשתמשים. לפני כשלוש שנים נחשף כי ערכה ניסוי פסיכולוגי ב-700 אלף ממשתמשיה ללא ידיעתם, הציגה להם תכנים שהוגדרו כחיוביים או שליליים ובחנה את הסטטוסים שפרסמו בניסיון לברר את האופן שבו השפיעו התכנים על מצב רוחם.

בשבועות האחרונים, כך נודע ל"כלכליסט", הוזמנו משתמשים בפייסבוק לסקר מקוון מטעם החברה, שעסק ביחסים האישיים שלהם עם חבריהם ברשת. בין היתר נשאלו המשתמשים "באילו תדירות אתה יכול להיפתח למשתמש X אם אתה צריך לדבר על מה שמדאיג אותך", "באיזה תדירות אתה יכול לסמוך על X שיעזור לך בעת בעיה" ו"כמה קרוב אתה מרגיש ל-X". שאלות אלו נראות כמנסות לאפיין את מערכות היחסים בין המשתמשים ברמה אינטימית ביותר, וייתכן שנועדו לבחון הצלחה של מערכות ה-AI של החברה בזיהוי קשרים קרובים בין משתמשים.

עוקפים את החוק

פייסבוק מעוניינת מאוד ביכולות שינתחו את מצבי הרוח, הרצונות והצרכים של משתמשיה, ולא רק כדי למנוע התאבדויות. המטרה המרכזית שלה היתה ועודנה מכירת פרסומות, כמה שיותר ממוקדות וכמה שיותר רווחיות. וזה מה שהופך את מעשה הסחיטה שלה מול האיחוד האירופי לכל כך ציני ומרתיח. לדברי החברה, הכלים החדשים מבוססי ה-AI לא יופעלו באיחוד האירופי בגלל תקנות פרטיות המידע, שאוסרות על אפיון משתמשים על סמך מידע רגיש ללא הסכמתם המפורשת.

אך טיעון זה לא מחזיק מים, ולא רק מכיוון שתקנות אלו יהיו ברובן ברות אכיפה רק ממאי 2018. אם מניעת התאבדויות היתה כה חשובה לפייסבוק היא יכלה להפעיל את הכלים החדשים באירופה במודל של בחירה (Opt-in) ולעודד משתמשים לאפשר לה להשתמש בכלי ה-AI לצורך זה בלבד. היא לא היתה מגיעה לכל המשתמשים, אבל למספיק מהם כדי ליצור הבדל אמיתי ולמנוע מקרי התאבדות.

מה שבאמת מעניין את פייסבוק וצוקרברג הם כלים שמאפשרים התאמה אישית של פרסומות, ובעיקר הסרת חסמים רגולטוריים שמונעים יישום של כלים כאלה בטריטוריות מכניסות במיוחד. כמו אירופה, השוק השני מבחינת הכנסות החברה. לצורך כך פייסבוק שולחת לאיחוד האירופי איום מרומז ומפורש כאחד: "יש לנו טכנולוגיה מצילת חיים, אבל הרגולציה שלכם מונעת את היישום שלה. אתם באמת רוצים את זה על המצפון שלכם?".

פייסבוק מנסה לסחוט את האיחוד, ללחוץ, למעוך ולסובב אותו כדי להקל מעט את הרגולציה ולאפשר לה ליישם את כלי ה-AI החדשים שלה. האמתלה היא מניעת התאבדויות, המטרה האמיתית היא מכירת פרסומות. ספק אם זה זה יספיק, אבל כמו שכל סוחט מוכשר יודע - סחיטה היא לא ספרינט אלא מרתון, והמירוץ רק החל.