כנס ערכים בהייטק"הטכנולוגיה של כל הענקיות עוסקת בריגול ובמניפולציה"
כנס ערכים בהייטק
"הטכנולוגיה של כל הענקיות עוסקת בריגול ובמניפולציה"
פרופ' אהוד שפירא ממכון ויצמן אמר בוועידת הערכים והחדשנות של כלכליסט כי "המדינות מתקשות להגן על ערכי הדמוקרטיה לנוכח העוצמה של חברות אלו"; אמי פלמור: "גם לעסקים מגודל מסוים יש מחוייבויות לפי כללי המשפט הבינ"ל"; ד"ר נמרוד קוזלובסקי: "טכנולוגיה היא כלי פלסטי לעיצוב אנושי"
"בנושא של פייסבוק וענקיות הטכנולוגיה, נוצר מצב של כוחות רשע שפועלים נגד המשתמשים שלהן", כך אמר פרופ' אהוד שפירא, ממציא המחשב הביולוגי וחוקר במחלקה למדעי המחשב במכון ויצמן, בוועידת הערכים והחדשנות של כלכליסט שנערכת השבוע.
"טכנולוגיה משכנת בחובה ערכים, חלקם כאלו שהתכוונו אליהם וחלקם שמשתקפים בה אך לא בהכרח בכוונה", אמר שפירא בפאנל שעסק בערכים וטכנולוגיה בהנחיית כותב שורות אלו. "אחד הרגעים המשמעותיים בחיי הטכנולוגיה החדשה זה הרגע שבו גוגל הסירה מהאתר שלה את המוטו Don’t be evil. הם התחילו עם המחשבה, שכל מי שהיה שותף להקמת האינטרנט היה שותף לה, שהאינטרנט יביא לידי ביטוי מרבי ערכי דמוקרטיה, חופש ושיוויון.
"באיזה שהוא שלב קרה מהפך שכל ענקיות הטכנולוגיה שותפות לו. הן הבינו שכדי לעשות יותר כסף, הן צריכות להתחיל לפגוע בערכים האלו. אם מרימים את מכסה המנוע של כל אחת מענקיות הטכנולוגיה רואים שם ערכים שליליים ורעים שסותרים את ערכי השיוויון והדמוקרטיה. הטכנולוגיה של כל הענקיות עוסקת בפועל בריגול, במניפולציה, באיסוף מידע שלא בהסכמת המשתמשים. זו דוגמה אחת לערכים שבאים לידי ביטוי בפלטפורמות הטכנולוגיה שאנחנו מתמודדים אתן. המדינות היום גם מאוד חלשות ביחס לענקיות הטכנולוגיה, ומתקשות להגן על ערכי הדמוקרטיה לנוכח העצמה של חברות אלו.
"הדוגמה השנייה של תוצאות לא צפויות, אבל קשות, זו הדוגמה של ביטקוין. המטבע תוכנן עם ערכים של חופש ואפשרות לפעול ללא מגבלות כפויות מבחוץ. אבל אחת התוצאות הבלתי צפויות של הטכנולוגיה הזו, שהיום יש למה משמעות ערכית עצומה, היא שאין מישהו ששולט בבזבוז האנרגיה של ביטקוין. כיום, כריית ביטקוין צורכת יותר אנרגיה ממדינת ישראל, ואין שום סמכות שאפשר לפנות אליה ולבקש שתתקן את זה, כי אין סמכות שאחראית על ביטקוין. יש טכנולוגיה שמשקפת ערך שמכיל מוטיבציה לפגוע בסביבה כמה שיותר. ככל שאנשים מבזבזים יותר חשמל, כך הם מרוויחים יותר כסף. כל המערכת הזו מכילה ערך טכנולוגי של פגיעה בסביבה, שאין דרך פשוטה לתקן אותו היום", אמר שפירא.
"מחוייבויות לפי כללי המשפט הבינ"ל"
אמי פלמור, חברת המועצה המפקחת על פייסבוק ומנכ"לית משרד המשפטים לשעבר, ציינה שיש שני אזורים בתחום הטכנולוגיה שבהם ערכים הם נושא. "נקודת המוצא של טכנולוגיה, ביחס לחלק מהענקיות, יושבת על ערכים כנקודת מוצא שאין בלתה", אמרה. "אם נדבר על ענקית כמו פייסבוק, היא יצאה לדרך על תקן קידום הערך של קהילה. אלו הדברים שעל בסיסם היא נוסדה, ושכל הטכנולוגיה שלה אמורה לקדם ולאפשר. מעבר לכך, כשמדברים על טכנולוגיה כמו בינה מלאכותית, מדובר בלקחת התנהגות אנושית, להעתיק, לשכלל ולהפעיל אותה בצורה אחרת. אי אפשר להגיד שהבחירה בהתנהגות מסוימת כדי להטמיע אותה במערכת בינה מלאכותית היא לא בחירה ערכית.
"הענקיות האלו הן כבר מזמן לא רק חברות, הן יישויות שמייחסים להן אחריות כמו של יישות מדינתית. כשהאו"ם מדבר על עקרונות מנחים לעסקים, הוא אומר בעצם עד היום עסקתי באמנות שעוסקות במדינות וביחסים ביניהן, היום אני אומרת שגם לעסקים מגודל מסוים יש מחוייבויות לפי כללי המשפט הבינלאומי, שאפשר לדרוש מהם והם מצופים להטמיע אותן בתוך חיי היומיום שלהם".
"טכנולוגיה היא כלי פלסטי לעיצוב אנושי"
ד"ר נמרוד קוזלובסקי, מרצה בכיר לסייבר באוניברסיטת ת"א ומייסד Cytactic, אמר שערכים אינם משהו שמוטמע בהכרח בטכנולוגיה: "השיח על איזה ערכים מקדמת טכנולוגיה צריך להתחיל בשאלה האם בטכנולוגיה מוטמע משהו ערכי. טכנולוגיית הצפנה לדוגמה, מצד אחד מקדמת ערכי חופש, שליטה ופרטיות, מצד שני גם מקדמת כנראה גורמים עוינים ומאפשרת להם לחמוק מאחריות. האם יש להצפנה ערך שמקדם חופש ואחריות או חמיקה מאחריות? אין משהו מוטמע בה. טכנולוגיה היא כלי פלסטי לעיצוב אנושי. אנחנו מטמיעים עליה את סט הערכים והשימושים שלנו. לכן צריך להתחיל מהשיח מה הערכים שרוצים לקדם, ולא להניח שטכנולוגיה היא זו שבהכרח תוביל אותנו למימוש ערכים מסוימים.
"אם נחזור 30 שנה אחורה, מה היתה ההתלהבות שלנו הגיקים הטכנולוגיים? בפעם הראשונה נבנתה רשת שמאפשרת חדשנות ויצירתיות בנקודות הקצה. אפשרה לכל אחד שיש לו סטארט-אפ ומיזם או רעיון לתוכן חדש להעלות אותו לרשת. זה היה שונה מכל מה שהכרנו לפני כן. לא יכול היה אדם פרטי שיהיה לו קול. התלהבנו מאוד מהדבר הזה, וגל החקיקה של שנות ה-90 ניסה לבצר את אותו חופש של פרטים ויזמים בקצה לעלות לרשת כל יישום חדש, כל חדשנות וכל תוכן שהם רוצים. אבל מטבע הדברים זה הוביל גם לכך שברגע שלא הגבלתי יש גם שימושים מבוזרים לחלוטין כמו קריפטו. אין לי אל מי לפנות ולהגיד, אני רוצה לאסדר אותך. מצד שני יש פלטפורמוות שקמו, שצברו כוח. הן הפכו דה-פקטו לשחקן משמעותי, עם המון כוח על התנהגות אנושית. ועכשיו מצפים מחברות בנות עשר לפעמים להיות שחקן משמעותי בתוך הסדרת ערכים", אמר קוזלובסקי.
פלמור אבחנה שבקרב חברות טכנולוגיה מתרחשת אבולוציה של ערכים, "ערכים שפעם היו סופר רלוונטיים, משתנים. כשאהוד מדבר על ביטקוין ואיכות הסביבה, זה משעשע. כי במושגים של מדינת ישראל להגיד 'איכות סביבה' ושהציבור לא יפהק ויירדם, זה משהו של השנה אולי של החודשיים האחרונים. ערך לא רלוונטי שאם היית מנסה לדבר עליו בהקשרים של ביטקוין וכל הדברים המסעירים שביטקוין הביא לעולם, היו דוחפים אותך מעבר לשולחן הזה רק לפני 5 דקות במדינת ישראל.
"אנחנו צריכים להבין את האבולוציה הזאת, להבין איך החברות מתבגרות ומבינות שיש אחריות ומגבלות בעולם. אנחנו רואים חברות שרוצות להנפיק, ופתאום מסתכלות על האתיקה שלהן. זה בכלל לא היה רלוונטי בעבר, כי כל מה שראינו זה כלכלה וחדשנות. אבל עכשיו משקיעים מבינים שזה מסכן את המוצר. ראינו את זה עם NSO ומוצרים אחרים. חברות שואלות את עצמן איך הן מעדכנות את הערכים שלהן, איך הן הופכות אותם לרלוונטיים ואיך הן מתכתבות עם טרנדים", אמרה פלמור.
שפירא חלק על פלמור, ואמר שענקיות הטכנולוגיה צריכות לעבור שידוד מערכות משמעותי: "בנושא של פייסבוק וענקיות הטכנולוגיה אני לא חושב שיש כאן עדכון קל שצריך לעשות. אני חושב שיש כאן בעיה עצומה. יש ערכי ייסוד דמוקרטיים, ונוצר מצב של כוחות רשע שפועלים נגד המשתמשים שלהן. ברגע שאומרים שאלו יישויות מדינתיות, אם מתייחסים למשתמשים שלהן בתור אזרחים, אז אלו אזרחים חסרי זכויות לחלוטין. הם חסרי זכויות בכל ממד. אין להם יכולת אמירה, אין להם יכולת הצבעה, אין תהליך משפטי שבו הם יכולים להתלונן, אין רשות שיפוטים שיכולה לענות על הדרישות שלהם. צריך להתייחס אליהן כאל מדינות, וכמדינות הן באות ישירות מהעולם הפיאודלי, שבו יש שליט פיאודלי שקובע את החוקים, מבצע אותם, שופט והוא גם מוציא לפועל את תוצאות המשפט. פייסבוק זו דוגמה קלאסית שהיא מבצעת את כל הפעולות האלו כמו שליט פיאודלי, יש לה 4 מיליארד נתינים חסרי זכויות משפטיות וכלכליות".
