ציון על התנהגות טובה? לא רק בסין
אחרי הפרק המפורסם בסדרה "מראה שחורה", וגרסת המציאות נוסח סין, החלה גם פייסבוק לפתח מערכות לדירוג חברתי של משתמשים. החסרונות של מערכות אלה, ופוטנציאל הניצול שלהן לרעה, צריכים להדיר שינה מעיני כולנו
בפרק המפורסם בסדרה ״מראה שחורה״ מתוארת חברה אנושית המבוססת על דירוגים הדדיים של חבריה. כל אינטראקציה חברתית מולידה ציון בין אחת לחמש, שבתורו יוצר שרשרת השלכות - חיוביות לבעלי הציונים הגבוהים ושליליות לבעלי הציונים הנמוכים. בחברה הזו כולם מנומסים, נעימים, אדיבים וחייכנים, למעט אלו שנבעטו לשוליה בגין ציונים שאינם משביעי רצון. קהילת המדורגים נמוך עסוקה בנסיונות נואשים לשוב למעגל המקובלים, אבל נתקלת בדחייה עיקשת. אף אחד אינו מעוניין שציונו ייפגע בשל אינטראקציה עם שוכני התחתית. ההפרדה המוחלטת נאכפת גם על ידי סנקציות, המונעות ממי שדירוגו נמוך להשתמש בתחבורה ציבורית, לרכוש מוצרי מותרות, ולהשתתף באירועים המיועדים לבעלי ציון גבוה.
הפרק עורר עניין רב וזכה לביקורות נלהבות. זמן קצר לאחר שידורו, הציגה סין גרסה מציאותית לתסריט המראה השחורה - מערכת דירוג לאזרחים המבוססת על ציוני אשראי. על אף השימוש במונח אשראי, שהתרגלנו לחשוב עליו כמתייחס למוניטין פיננסי, מערכת האשראי הסינית אינה מתרכזת בהערכת סיכון פיננסי גרידא, אלא מעוצבת להערכת יחידים בהיבטים שונים של צייתנות אזרחית ואורח חיים. עישון במרחב ציבורי, חציית כביש במקום אסור, החזרת האופניים השכורות באיחור, השקעת זמן ממושך במשחקי וידאו והזמנת כמות מוגזמת של אוכל ממסעדות - כולם מתועדים בקפדנות ומביאים לפגיעה ישירה בציון האשראי החברתי.
הרשת החברתית תשפיע עלינו בדרכים חדשות צילום: שאטרסטוק
גם ההשלכות של ציון האשראי החברתי מתפרסות מעבר למימד הכלכלי: בעלי ציון אשראי חברתי נמוך אינם רשאים לקחת מכוניות לנסיעת מבחן או להתארח במלונות יוקרה בעוד בעלי ציון אשראי חברתי גבוה זכאים לדלג על התור בהמתנה לרופא, ולעלות ראשונים בתוצאות החיפוש של אפליקציות דייטינג פופולריות. באופן טבעי, ממש כמו בפרק מ"מראה שחורה", קשרים חברתיים מעוצבים ומושפעים מציון האשראי החברתי, שכן ציון נמוך של אזרח עשוי להשפיע לרעה על הציון של כל מי שמתועד כמצוי במעגל החברתי שלו.
לנו, היושבים בציון, המערכת הזו נשמעת דימיונית מכדי לחשוש: הרי לנו יש שוויון, פרטיות, וכבוד מחוקק לכבוד האדם ולחירותו. סביר להניח שהחלת אשראי חברתי תיתקל בהתנגדות ציבורית עזה ובחסמים חוקיים וחוקתיים. אבל מה אם המערכת נוצרת ונשלטת לא על ידי המדינה, אלא על ידי גופים פרטיים עם כוח לא פחות משמעותי?
ב-2015 רשמה פייסבוק פטנט שכותרתו Authorization and authentication based on an individual's social network . בפסקה קצרה אחת (מתוך כ-15 עמודים של מסמכי הפטנט) תיארה פייסבוק כיצד הטכנולוגיה המוגנת תאפשר להם לדרג את משתמשי הרשת החברתית על בסיס דירוג האשראי הממוצע של חבריהם, וכיצד החלטות למתן הלוואות תתבססנה על אותו דירוג אשראי חברתי.
ההתמכרות לפיד תגבה מחיר
פייסבוק בזמנו הכחישה כל כוונה להיכנס לשוק ההלוואות או לקשר בין התנהגות חברתית לסיכון כלכלי. אולם ב-2018 רשמה פייסבוק פטנט נוסף: הפעם לקביעת המעמד הסוציו-אקונומי של משתמשיה תוך התחשבות בקריטריונים כמו המכשירים שמהם הם מתחברים לפייסבוק, והאם הם מתגוררים בשכירות או בדירה שבבעלותם. גם אם משתמשים לא חולקים פרטי מידע כאלה עם פייסבוק, פייסבוק יכולה ללמוד ולהסיק אותם מפרטי מידע רבים אחרים שהיא אוספת ומנתחת. באוגוסט האחרון פורסם בנוסף שפייסבוק מעניקה ציוני אמינות ומוניטין למשתמשיה בהקשר של פייק ניוז, כדי לזהות משתמשים המפיצים מידע לא אמין ברשת החברתית.
רבים כבר מספידים את פייסבוק, שבשנה האחרונה הציגה שרשרת החלטות שגויות שהביאו לצניחה דרסטית באמון המשתמשים בה. עם זאת, פייסבוק עדיין כאן, ווטסאפ ואינסטגרם שבבעלותה רחוקות מלסיים את חייהן, וגם אם פייסבוק תיעלם, תמים מאוד להניח שלא תקומנה לה יורשות עם מודלים עסקיים דומים. תמים לא פחות להאמין שהשאיפה לדירוג כולל תיעלם ותישכח. אחרי הכל, בכלכלה שרצה על מידע, אשראי חברתי הוא דלק איכותי. הוא מאפשר לזהות את התפוחים הרקובים, לבודד את ביצי הזהב, ולהציע לכל אחד, לפי מאפייניו, את המוצר או השירות הרלוונטיים לו.
אבל החסרונות של מערכת כזו כמו גם התהליכים החברתיים שהיא צפויה לייצר מסוכנים ביותר. החל מיצירת מעגלים חברתיים מופרדים שנאכפים על ידי ציון האשראי וכלה באובדן הפרטיות, פוטנציאל הניצול לרעה, ומתחם הטעות העצום.
דמיינו שציון האשראי החברתי שלכם צונח כי נמצאה קורלציה גבוהה בין זהות ישראלית להפצת מידע שפייסבוק מסווגת כלא אמין. או שחברה מהתיכון שפגשתם במקרה נמנעת מלשוחח איתכם מחשש שהאינטראקציה ביניכם תתועד דיגיטלית והציון שלכם ישפיע עליה לרעה. בחירות טכנולוגיות מעצבות מציאות והן עושות זאת במהירות. על רגולטורים ומעצבי מדיניות בישראל להיות קשובים למתרחש בשטח ולהדוף נסיונות פרטיים ליצירת מערכות אשראי חברתי שמנוגדות לערכי היסוד של הדמוקרטיה הישראלית.
** ד"ר יפית לב ארץ היא מומחית למשפט, טכנולוגיה והנדסה חברתית. היא מרצה וחוקרת בבית הספר למנהל עסקים של אוניברסיטת העיר ניו יורק.
