צעצוע תמים או סכנה לביטחון? בובת פרבי חוזרת לכותרות - ומה הקשר ל-AI
צעצוע תמים או סכנה לביטחון? בובת פרבי חוזרת לכותרות - ומה הקשר ל-AI
בסוף 1998 שווקו לראשונה בובות פרבי וזכו להצלחה גדולה: בין היתר הן היו מחקות את מה ששמעו. הטכנולוגיה החדשה והלא מוכרת עוררה טענות על כך שהבובות "למדו" לדבר ויש להן "יכולות של בינה מלאכותית". הבהלה הגיעה עד לסוכנות לביטחון לאומי, שם חששו שהבובה תוכל להקליט ולחזור על מידע רגיש. מסמך של הסוכנות חושף פרטים חדשים על הסקנדל
60 עמודים שחשפה הסוכנות לביטחון לאומי (NSA) מאירים באור חדש את "בהלת הפרבי" - כינוי לפרשה שהתרחשה בשנות ה-90 במסגרתה עלה חשש בסוכנות המודיעין הבכירה כי הצעצוע הפופולרי בעל יכולת האזנה ומהווה סכנה פוטנציאלית לביטחון.
בובות פרבי שווקו לראשונה באוקטובר 1998 והיו להצלחה גדולה. בשלוש השנים הראשונות לייצורן נמכרו מעל ל-40 מיליון יחידות ברחבי העולם, כל אחת במחיר של 29.9 דולר לפחות. הפופולריות הגדולה שלהן אפשרה למשווקים למכור אותן לפעמים תמורת 500 דולר בעונות החגים. הן היו מדברות, ישנות ומשמיעות רעשים שונים שמעידים כביכול על תקשורת עם הסביבה; חלק מהרעשים היו סוג של חיקוי של מה ששמעו, ושפתם כונתה Furbish (הלחם של "פרבי" עם "ג'יבריש"). אותה יכולת למידה לכאורה היא זו שהציתה את הבהלה ב-NSA סביב הבובה שחששו שתוכל להקליט ולחזור על מידע רגיש. בפועל פרבי לא "למד" מידע חדש, כך לפי פטנט הצעצוע, אלא הוא תוכנן מראש עם אוצר מילים שנחשף בהדרגה.
באותה העת התיאורים הנפוצים סביב פרבי, בעיקר בתקשורת, נגעו לכך שהבובות "למדו" לדבר ובעלות "יכולות של בינה מלאכותית". בינואר 1999 טקסט קצר בוושינגטון פוסט חשף כי ב-NSA פרסמו מייל לכלל עובדי החברה שכותרתו "FURBIE ALERT" ובו נאסר על העובדים להביא את הצעצוע שהסוכנות מצאה אותו "אינטליגנטי באופן מלאכותי" למתקני החברה. זאת, בשל החשש שהוא ישמש כלי להדליף מידע מסווג. הידיעה שפורסמה בעיתון יצרה לא מעט מבוכה בסוכנות ובמקביל תרמה משמעותית לתפיסה סביב צעצועים אלו כאילו היוו חדשנות טכנולוגית יוצאת דופן שיש לחשוש ממנה.
בשלהי שנות ה-90, התבססה תפיסה כי מגזר הטכנולוגיה והתקשורת מוביל את האנושות לעידן חדש. ניצחון המחשב הכחול העמוק על שחקן השחמט גארי קאספרוב, סרטים כמו המטריקס ומשחקים אינטראקטיביים כמו הטאמגוצ'י תרמו לבניית מיתוסים סביב טכנולוגיה ככלי ליצירת עתיד חדש וטוב יותר. אליהם הצטרפה בהלת הפרבי, ויחד הם היו חלק מהכוח המניע לבועת הדוט.קום והשקעות העתק במגזר הטכנולוגיה.
"הבנתי שהחבר'ה האלה מכילים שבב. זו בהחלט דאגה ביטחונית"
ביוני האחרון ענקית הצעצועים הסברו החליטה לשוב לייצר את הבובה הפרוותית. העניין המחודש בצעצוע העלה מחדש גם את סקנדל הפרבי משלהי שנות ה-90. באותו הזמן החליט תושב אמריקאי, לטענתו בשל השעמום, להגיש בקשת חופש המידע (FOIA) למשרד ההגנה בנושא. להפתעתו הוא קיבל את המסמכים, העלה חלקם לארכיון האינטרנט, ואת כולם חשף באמצעות אתר החדשות העצמאי Media 404.
לפי הפרטים החדשים שנחשפו, האירוע ב-NSA החל במייל פנימי שכותרתו "נושא: צעצועי חג המולד עם בינה מלאכותית". "הגיע לידיעתי שלצעצוע חדש בשוק יש שבב אינטליגנטי מלאכותי [sic]. במשרד שבו ביקרתי לאחרונה היו שניים כאלה בחללים", כתב במייל. "ככל הנראה, היצורים הפרוותיים לומדים מדפוסי דיבור. נראה לי שזו עלולה להיות בעיית אבטחה בכך שהם יכולים לקלוט כל שפה מדוברת ולחזור עליה. אני מאמין שהדברים האלה נקראים 'פרופי'ס' (השגיאה במקור), אבל אני לא בטוח. הבנתי שהחבר'ה האלה מכילים שבב. זו בהחלט דאגה ביטחונית".
בעקבות מייל זה נשלח "FURBIE ALERT" לעובדים, שם מציינים כי "ציוד צילום, וידאו ואודיו בבעלות אישית הם פריטים אסורים. זה כולל צעצועים כגון פרבי עם מקליטים מובנים שחוזרים על השמע עם צליל מסונתז כדי לחקות את האות המקורי", נכתב במייל. "נאסר עלינו להכניס את הפריטים הללו למרחבי ה-NSA. מי שיש לו צריך לפנות למשרד האבטחה לקבלת הדרכה".
כאמור, מייל זה לעובדים הודלף לוושינגטון פוסט בכתבה שפורסמה בינואר 1999 וזכתה לכותרת הצינית "צעצוע של סיפור של ריגול פרוותי". באותה העת, יצרן פרבי רוג'ר שיפמן הגיב לסערה התקשורתית וציין כי "לפרבי אין שום יכולת לבצע הקלטה כלשהי". הוא הוסיף בלעג: "אנחנו יודעים שלפרבי יש בינה מלאכותית, אנחנו פשוט לא בטוחים באיזה סוג של אינטיליגנציה ה-NSA משתמש עכשיו".
הלגלוג היה מעורב גם בפחד, והיום ידוע כי ב-NSA לקחו הרבה יותר ברצינות את האירוע ממה שהיה נראה בין השורות. "הדבר המסקרן ביותר הוא באיזה מדיום משתמש פרבי כדי להקליט אודיו", כתב אחד העובדים בזמנו. "הייתי מניח שמכיוון שהוא יכול 'להגיב' לרמזי שמע מסוימים, הוא ישתמש באחסון דומה למשיבון דיגיטלי או שבבי זיכרון של מחשב. מישהו יודע?". "רוב מעבדי הדיבור מקליטים", אחר השיב, "כמה דגימות אודיו מספיקות כדי לייצר סטטיסטיקה", כתב אחד מהעובדים בהתכתבות על האופן שבו הצעצוע מקליט. "האם פרבי מוציא החוצה את המאגרים האלה? כמה מידע יש במדגם? נוכל להשיק מחקר לגלות, אבל לבקש מאנשים להשאיר את הפרבי בבית נשמע קל יותר". אחר ביקש לצנן את ההתלהבות: "פרבי הוא צעצוע של 35 דולר בלבד והוא לא כזה מתוחכם". על כך נענה: "אבל יש לו יכולת הקלטה, שידור והשמעה, וקיימת אפשרות רחוקה שהצעצוע, כפי שתוכנן, יכול להשמיע קטע משיחה. הוא יכול לאחסן אותות ממערכות אלחוטיות מסווגות בקרבת מקום (אז לכל הפחות הרחק את זה ממעבדות)".
המסמכים מותירים תחושה של מבוכה, וזו גם אינה חוכמה בדיעבד. עובדי הסוכנות עצמה מכירים במגבלות הדיון, ובהתכתבויות שנחשפו כעת הם עצמם מציינים את החשש כי דיונים אלו אודות הבובה עלולים יום אחד להיחשף לציבור דרך מנגנוני בקשת חופש מידע. כך, באחד משרשורי ההתכתבויות בין הסוכנים הם מציינים את הכתבות בעיתונות על בהלת הפרבי: "עוד מישהו חושב שזה אולי קצת מביך לסוכנות?". על כך הוא נענה: "לא מביך כמו 'הפרת אבטחה בשל צעצוע של העובד'. תרחיש מופרך, אבל שקלו אפשרות זו אל מול כמה כבר מישהו צריך פרבי בעבודה". בהמשך עובד אחר מציין כי הם רוצים למנוע מהמצב להיות "פרבי-גייט" (על משקל ווטרגייט), הומור שהביא אחר כך להחליט לסיים את השיחה בנושא בתקשורת רשמית, משום שכל זו עלולה יום אחד להיחשף ב-FOIA. "אנא חדלו לאלתר להגיב ולכתוב על הנושא הזה", נכתב במייל האחרון בשרשור.
