שוברת קודיםמכתב פתוח נפוח: עוד כלי שיווקי ריק מתוכן
שוברת קודים
מכתב פתוח נפוח: עוד כלי שיווקי ריק מתוכן
מגזר ההייטק עושה שימוש יתר ב"מכתבים פתוחים" בקריאה לעצור פיתוחים של AI (לפני שנה) או דווקא להאיץ (כעת). בלי שיתחייבו לפעולה, זהו רק טשטוש המציאות
"בנו בינה מלאכותית לעתיד טוב יותר", נכתב במכתב פתוח שפורסם בשבוע שעבר; "השהו ניסויים בבינה מלאכותית", נכתב בדיוק לפני שנה במכתב פתוח אחר. "אנו קוראים לכולם לבנות, לפרוס באופן נרחב ולהשתמש בבינה מלאכותית כדי לשפר את חייהם של אנשים ולפתח עתיד טוב יותר", ממשיכים להסביר במכתב החדש בעוד במכתב הקודם הציעו לקרוא "לכל מעבדות הבינה המלאכותית להשהות מיידית למשך שישה חודשים לפחות את האימון של מערכות בינה מלאכותיות חזקות יותר מ־GPT-4". הראש מסתובב. לא רק שהמכתבים אומרים דבר והיפוכו, אלא שרבים מהתעשייה חתמו על שני המכתבים. יש ביניהם כמה הבדלים קטנים, שלכאורה עושים שינוי גדול, אבל בעיקר הם מדגימים כמה מכתבים פתוחים הם מיותרים ומטופשים.
לפני שנה היו אלה מובילים מעולם הבינה המלאכותית – בכירים בחברות כמו גוגל, מטא, מיקרוסופט, Stability Character.ai ,Hugging Face וסיילספורס – שקראו להאט כל פיתוח בתחום. בשבוע שעבר בכירים מאותן חברות חתמו על המכתב שקורא להתקדם בכל הכוח עם בינה מלאכותית ונכתב על ידי רון קונווי (Conway), בעלים של קרן ההון סיכון SV Angel. מה שנראה כמו רגע אחד של פרודיה לא רעה על מכתבים פתוחים, חברות טכנולוגיה ותפיסות של מוסר, הוא רגע מזוקק אחד של אקטיביזם טכנולוגי ב־2024 – אחד בפה אחד בלב, ואלו מתחלפים לסירוגין לפי רוח הזמן.
1. הצהרה ריקה עם 33 אלף חתימות
בשעתו המכתב הראשון ממרץ 2023 זכה לתשומת לב תקשורתית גדולה. הדגש היה כפול: על שמות החותמים עליו כמו אלון מאסק ויובל נח הררי; ועל התוכן הרדיקלי שלו שקרא לעצור התקדמות טכנולוגית ולדחוק ברגולטורים לגלות יותר נחישות. העניין הרב הביא לחתימות נוספות מרובות והוא תפח לממדי ענק. אלא שבסופו של דבר הוא נותר הצהרה ריקה הכוללת מעל ל־33 אלף חתימות של אנשים מודאגים שלא עשו דבר משמעותי כדי לקדם את הקריאה הנואשת.
אז, העיתוי היה ברור. באותה עת העניין סביב ChatGPT של OpenAI היה כל כך גדול שהוא גרר תגובה מיידית וחריפה מצד ענקיות הטכנולוגיה – מיקרוסופט הזרימה עוד 10 מיליארד דולר ל־OpenAI, גוגל החלה בסדרת השקות לא מוצלחות, מטא ניסתה להדביק את הקצב, וסטארט־אפים חדשים צצו כמו פטריות אחרי הגשם, מושכים מימון כבד בשוויים אדירים. חתימה על המכתב היתה בבחינת הודאה בפני הציבור: אנו רואים שאתם מודאגים, אנו דואגים גם כן (אבל לא נעשה דבר בנושא).
אך מה בנוגע למכתב החדש, מדוע פורסם כעת ומה תכליתו? הקריאה החדשה מגיעה אחרי שהתקופה האחרונה היתה רוויה בביקורת על פיתוחים שונים בתחום סביב כמה נקודות עיקריות: ההשלכות הכבדות של פיתוחים אלו על איכות הסביבה; חלקם של כלי בינה מלאכותית גנרטיבית בביסוס סטריאוטיפים בחברה; וטשטוש היכולת להבחין בין אמת ושקר ובין מוצרים אותנטיים לעומת מוצרים סינתטיים (למשל, סרטון שנוצר על ידי בינה מלאכותית). כל אלו צצו סביב הביקורת על גוגל בנוגע לכלי ג'מיני שפיתחה (שנקרא קודם בארד), שיוצר תמונות לא מדויקות היסטורית; ימים ספורים ימים אחרי שמאסק הגיש תביעה נגד OpenAI בטענה שהפרה את הבטחותיה כשהפכה מחברה לתועלת הציבור לחברה למטרות רווח; ובזמן שהמוצר קלוד 3 החדש של אנתרופיק זוכה להתלהבות גדולה "כבעל יכולות כמעט אנושיות".
המכתב מלא שאיפות ראויות שלכאורה מתייחסות לדאגות הללו כמו "לחפש פתרונות חדשים לכמה מהאתגרים הגדולים ביותר של האנושות" או "לעשות בחירות שממקסמות את היתרונות של בינה מלאכותית ומצמצמות את הסיכונים" – אך נעדרות קריאה לפעולה קונקרטית. שום פרטים, שום אסטרטגיה, שום מחויבות. רק מענה רפה ללחץ שבו התעשייה נמצאת היום. משפטים כל כך גנריים שקשה להבין מדוע מנכ"ל OpenAI סם אלטמן – שבמאי האחרון חתם על עוד מכתב פתוח שהזהיר שבינה מלאכותית תביא לקץ האנושות - כתב בפוסט ב־X שהוא "נרגש מרוח המכתב", ושהתקדמות בתחום הבינה המלאכותית "תהווה את אחד הגורמים הגדולים ביותר בשיפור איכות החיים של אנשים".
2. העיקר ש"התרגשתם"
מכתב פתוח ממוען לקבוצה ברורה ומוגבלת של אנשים שמחזיקים בידיהם כוח לפעולה, ואף שהתוכן ספציפי הוא מפורסם ברבים. ישנן מטרות מגוונות למכתבים כאלה, ממאמץ לפתוח או לסגור דיון על נושא מושתק או מעורר מחלוקת ועד ביקורת על מדיניות מסוימת. כך, למשל, המכתב לפני שנה שקרא לעצירת הפיתוחים בתחום הבינה המלאכותית יועד ספציפית לגרום לחברות וליזמים הפועלים בתחום להאט או לעצור, וגם רמז לא בעדינות לקובעי מדיניות לתת דגש גדול יותר למתרחש בעולמות הטכנולוגיים הללו.
פעמים רבות מבקשים מכתבים פתוחים לייצר לחץ על אחרים להצטרף, ומעודדים נוספים להוסיף את החתימה שלהם למכתב. הרצון לגייס תמיכה רחבה ככל הניתן הוא הסיבה שמכתבים פתוחים לרוב מנוסחים בצורה כוללנית, נטולת ניואנסים, לעתים ממש קלישאתית עם הצהרות מעורפלות. כך, למשל, המכתב החדש כולל הצהרות כמו "מטרת הבינה המלאכותית היא שבני אדם ישגשגו הרבה יותר ממה שיכולנו קודם לכן", ו"בינה מלאכותית היא לכולנו, ולכולנו יש תפקיד בבניית בינה מלאכותית כדי לשפר את חייהם של אנשים". מי לא יהיה "גאה" לחתום על זה? או "נרגש" מרוח המכתב?
מכתב פתוח, כעיקרון, לא אמור להיכתב ולהתפרסם על ידי בעלי הכוח והסמכות, במיוחד אם תכליתו לעודד את אותם בעלי כוח להמשיך לעשות את מה שהם כבר עשו. במקרה הנוכחי כוחן של חברות הטכנולוגיה גדול כל כך שאין להן כל סיבה לנסח ולפרסם מכתב פתוח שקורא להן להמשיך לבנות מוצרים באגרסיביות, עבור מה שהן מזהות כ"טובת האנושות". לכן המכתב שפורסם לאחרונה, שנוסח ופורסם על ידי מיקרוסופט, מטא, אנתרופיק, גוגל, OpenAI, קרנות ההשקעה של ביל גייטס וטים דרייפר ואחרות, זכה בעיקר לביקורת. "מכתבים פתוחים משמשים עכשיו ככלי שיווקי עבור חברות טכנולוגיה", כתבה נשיאת אפליקציית המסרים סיגנל מרדית׳ וויטאקר; אחרים שיתפו את המכתב וצירפו לו תמונות של פרסומות של סיגריות, כמו כאלו שמתארות את סגולות המרפא של ניקוטין: "עם Kent, רואים טוב יותר".
המכתבים הפתוחים האלה אינם אמיצים אם הם לא מלווים בקריאות ברורות לשינוי או יוצרים בסיס משותף לפעולה. כל המסרים של חברות הטכנולוגיה, היזמים ואנשי התעשייה - לפעול או לעצור, להשהות או לרוץ, להשתתף או להגביל - הם מילים ריקות כל עוד אינם מגובים בהבטחות. בלי אלה, המכתבים נותרים רק מהלכים שיווקיים. זוהי עצלנות אקטיבית, מטשטשת מציאות. שרק לא נדבר על הבעיות.
