דו"ח טכנולוגי
גוגל רוצה רגולציה על בינה מלאכותית, אבל בבקשה לא על שלה
מאמרו של מנכ''ל גוגל-אלפבית סונדאר פיצ'אי בעד הגברת הפיקוח על טכנולוגיות בינה מלאכותית מתברר בעיקר כסוג של ניסיון לתפור אותה למידותיהן של המתחרות: אמזון, פייסבוק ומיקרוסופט; אובר מבצעת נסיגה אסטרטגית נוספת ואופרה כבר לא חברה טובה
בכל פעם שמנכ"ל של חברה גדולה מבקש מהעולם לעצור רגע, לבחון את מה שהחברה עושה יותר לעומק, ואולי גם להטיל עליה קצת רגולציה, צריכות להידלק אצלנו נורות אזהרה. כלל אצבע הוא שלא סביר שחברה תבקש ללחוץ על הבלמים או תזמין פיקוח ופשפוש חודרניים שיכולים לעצור פיתוח של פרויקטים חדשים ולפגוע בצמיחה סתם כך ממניעים אידיאולגיים. לא שזה בלתי-אפשרי לחלוטין, אבל זה גם לא בדיוק אופן הפעולה המקובל במקרים כאלו.
סביר לא פחות שמתחת לבקשה שכזו מסתתרים מניעים פחות טהורים, שאם הם לא הסיבה, מהווים לכל הפחות חלק מרכזי בה. וזו גם הגישה שצריך לנקוט לגבי מאמר שפרסם בפייננשל טיימס מנכ"ל גוגל ואלפבית, סונדאר פיצ'אי, בו הוא מבקש להחיל רגולציה מקיפה יותר על בינה מלאכותית (AI). ולמרות שהוא מציג את הבקשה ככזו שנובעת ממניעים אתיים, יש סיבה טובה לחשוד שמניעים קצת פחות טהורים קשורים בה.
בואו נסכים שסונדאר פיצ'אי לא ממש גדל ברחוב ההודי הממוצע צילום: בלומברג המאמר מתחיל בתיאור לא רלוונטי לכאורה של ילדותו של פיצ'אי בהודו, שם הוא מספר איך פלאים טכנולוגיים כמו המקרר, הטלוויזיה והטלפון שינו את חיי משפחתו (לפני שאתם ממהרים לרחם עליו, פיצ'אי גדל במשפחה שאמנם לא היה אמידה אך השתייכה למעמד הביניים, ואביו עבד כמהנדס אלקטרוניקה בתאגיד בריטי). המטרה, כמובן, היא לגרום לאחד האנשים החזקים בעולם הטכנולוגיה, שההחלטות שלו משפיעות על החיים של מיליארדי אנשים, להיראות יותר נגיש. לא מר פיצ'אי מגוגל, אלא סונדאר מצ'נאי.
אחרי המיצוב מחדש מנסה פיצ'אי להחליק לקוראים בגרון את התפיסה שלו לגבי בינה מלאכותית. ראשית, הוא מזכיר דוגמאות שבהן עשתה גוגל שימוש לטובה בטכנולוגיה. כולן, במקרה, ממש ממש במקרה, פורסמו בשלושת השבועות האחרונים (הדוגמאות הן סיועו בחיזוי סרטן שד, תחזית גשם מדויקת יותר, וסיוע בהפחתת עיכובי טיסות). אחר כך, כמתבקש, הוא מזכיר מקרים פחות מוצלחים של שימוש בבינה מלאכותית. שני מקרים ליתר דיוק – דיפ פייק ושימוש לרעה בטכנולוגיית זיהוי פנים – מבלי לפרט מעבר לכך. במקרה, ממש ממש במקרה, שתי הדוגמאות נוגעות יותר ליריבות של גוגל: פייסבוק שעלולה להסתבך עם דיפ פייק במהלך הבחירות לנשיאות ארה"ב השנה, ואמזון שטכנולוגיית זיהוי הפנים שלה נמצאת תחת ביקורת חריפה.
פיצ'אי פחות התעכב על בעיות שנקשרו לשימוש של גוגל בטכנולוגיית בינה מלאכותית. החל מאלגוריתם שסובל מהטיה גזעית כלפי מיעוטים (במקרה היסטרי אחד, אלגוריתם AI של גוגל שנועד לזהות דיבור שטנה ברשת, סבל מהטיה לרעת משתמשים אפרו-אמריקאיים), ועד מנוע ההמלצות מבוסס הבינה המלאכותית של יוטיוב שלפי כמה מחקרים נוטה להוביל משתמשים אל תוך מחילת ארנב של סרטונים קיצוניים יותר ויותר, בתחומים כמו התנגדות לחיסונים, תיאוריות קונספירציה, גזענות וכו', וכך מסייע להקצנת דעותיהם ומעוות את תפיסת המציאות שלהם (מחקר מסוף 2019, שלא עבר ביקורת עמיתים, ניסה להפריך עמדה זו אך זכה לביקורת רבה הן מכיוון שהתבסס על מידע שנאסף בסמוך לפרסומו – כלומר, אחרי שיוטיוב כבר יישמה שינויים באלגוריתם בעקבות הביקורת – והן מכיוון ששעשה שימוש בחשבון אנונימי ולא יכל לגלות איך לומד האלגוריתם את המשתמש).
גוגל מפנה את הזרקור לעבר אמזון צילום: בלומברג ואז, אנחנו מגיעים לסוגיה האמיתית של המאמר: רגולציה. אחרי שפיצ'אי מזכיר שארה"ב ואירופה כבר מחטטות בנושא, שלגוגל יש עקרונות אתיים לפיתוח AI (אך, באופן מפתיע, שוכח להזכיר שמועצת האתיקה שהיתה אמורה לפקח על יישומם פורקה שבוע אחרי שהוקמה), ומדבר על חשיבות הרגולציה, הוא עובר למסר החשוב ביותר מבחינתו: "התפקיד של גוגל מתחיל בהכרה בצורך בגישה רגולטיבית ל-AI, אבל הוא לא מסתיים שם. אנחנו רוצים לסייע ולהיות שותף פעיל של הרגולטורים בשעה שהם נאבקים עם המתחים והוויתורים הבלתי-נמנעים. אנחנו מציעים את המומחיות, הניסיון והכלים שלנו בשעה שאנחנו מנווטים את הנושא הזה ביחד".
עכשיו, יש כנראה שתי סיבות עיקריות שחברה תבקשה להטיל רגולציה על תחום שהיא עוסקת בו. אחד, כדי לסנדל מתחרים שמקדימים אותה בהרבה. חברה יכולה לראות יריבה שכבר רצה קדימה בתחום צומח, להבין שידרש לה זמן רב על מנת לסגור את הפער ולפנות למדינות באזהרה חמורה שיש כאן תחום שצריך לפקח עליו מקרוב, בתקווה שתצליח לתקוע קצת מקלות בגלגלים (שיטות אפשריות נוספות: תביעות פטנטים מופרכות וניסיון לגייס כוח אדם מיומן באותו תחום מהיריבה). לא סביר שזה המקרה – גוגל היא אחת השחקניות הוותיקות והמובילות בתחום, ורגולציה מעיקה תפגע בה לא פחות מבמתחרותיה.
האפשרות הסבירה יותר היא שפיצ'אי וגוגל מבינים שמתקפה רגולטורית צפויה להגיע, ונוקטים במהלך מקדים על מנת להיות בצד הנכון שלה. הם לא רוצים להיות פייסבוק יום אחרי קיימברידג' אנליטיקה, כשהעולם התעורר לשוד הפרטיות הגדול ופייסבוק מצאה את עצמה במוקד של סערה מתמשכת. הם רוצים להקדים את העקומה, להיות אלו שמהתחלה התריעו על הצורך בפיקוח הדוק יותר ובעקרונות מחייבים יותר, כדי שבמקרה שמשהו יתרחש (ובהנחה שהוא לא יהיה באשמתם המובהקת) יוכלו להגיד: הנה, בדיוק כמו שאמרנו. אולי עכשיו תתחילו להקשיב לנו?
דיפ פייק סומנה כאחת הסכנות החמורות בבינה מלאכותית
אבל לא מדובר רק במהלך יחצ"ני מרחיק ראות. גוגל גם רוצה לשחק תפקיד משמעותי בעיצוב המתווה הרגולטיבי, פיצ'אי אמר זאת בעצמו. היא רוצה להיות שם מההתחלה, להשפיע על הרעיונות שמתגבשים ולהכווין את ההליכים בדרכים עדינות יותר ופחות. את העקרונות פרס פיצ'אי במאמר עצמו, והם כוללים התבססות על כללי הפרטיות של האיחוד, GDPR (הוא לא הסביר איך כללי פרטיות רלוונטים בצורה רחבה לרגולציה של בינה מלאכותית), ועקרונות כמו בטיחות, בהירות, הגינות ואחריות. מה שפיצ'אי מכנה "רגולציה נבונה", שתאזן בין סיכונים אפשריים להזדמנויות חברתיות.
אפשר לכנות את ה"רגולציה הנבונה" הזו גם בשם אחר: "רגולציה רכה", כזו שלא תעשה לחברות הענק בתחום יותר מדי בעיות, ושפרט לכמה מגבלות רפות שגם כך לא נוגעות לליבת הפעילות שלהן (למשל, פיתוח AI ככלי נשק), לא תעשה להן יותר מדי בעיות ולא תטיל עליהן יותר מדי מגבלות. זו הסיבה העיקרית שגוגל מדברת על רגולציה עכשיו ומבקשת להשתתף בעיצובה. כי אם הרגולציה מגיעה בכל מקרה, למה שלא נדאג שלפחות תפעל לטובתנו, או כמה שפחות לרעתנו.
קצרצרים
1. כישלון נוסף לאובר: החברה יוצאת מעסקי משלוחי המזון בהודו ומוכרת את הפעילות שם למתחרה המקומית Zomato. בתמורה תקבל אובר 9.99% ממניות החברה, בשווי מוערך של בין 300 מיליון ל-350 מיליון דולר. זו כבר שיטת נסיגה קבועה של אובר. אחרי חדירה לא מוצלחת או כושלת לשוק, שלא פעם עולה לה מאות מיליונים הוא מיליארדים בהפסדים, היא מבצעת נסיגה טקטית באמצעות מכירת הפעילות לשחקן מקומי, בניסיון לשמור על מראית עין של כבוד.
שליחים של זומאטו בהודו צילום: שאטרסטוק 2. דפדפן אופרה והחברה שמאחוריו כמעט תמיד נהנו מתדמית חיובית, ומשתמשים ותיקים זוכרים להם לטובה את התקופה לפני פיירפוקס וכרום שבה היה הדפדפן המתחרה הכמעט יחיד לאינטרנט אקספלורר של מיקרוסופט. אולי הגיע הזמן לשינוי ביחס: לפי דו"ח של גוף בשם Hindenburg Research, על רקע החלשות הפעילות בשוק הדפדפנים החלה החברה להציע הלוואות קצרות-טווח בריבית טורפנית (בין 365% ל-876%) באפריקה ובהודו, תוך שימוש בטקטיקות הטעייה מפוקפקות. באופרה טענו בתגובה שהדו"ח כולל טעויות, טענות לא מבוססות, ומסקנות ופרשנויות מטעות, מבלי לפרט מעבר לכך. כן ציינו בחברה שהגוף שמאחורי הדו"ח מחזיק בעמדת שורט על מניית אופרה. טענה זו, אם נכונה, אמנם מחייבת ספקנות רבה יותר באשר לטענות אך בפני עצמה לא הופכת אותן לשגויות (לא חסרים מכירים שגורמים שהחזיקו בעמדות שורט חשפו מחדלים אמיתיים של חברות).
