בוט הצליח להתל בגולשי Reddit ולשכנע אותם שהוא אנושי

סיפורי האימה של אלון מאסק על הסכנה שבוטים ישתלטו על העולם שלנו אולי פחות רחוקים משנדמה לנו. בוט בינה מלאכותית שמבוסס על מודל לשוני בשם GPT-3, הצליח לגרום ללא מעט משתמשים ברדיט לתהות החודש, אם הוא משתמש אנושי או לא. מודל לשוני הוא סוג של תוכנה שמסוגל לחקות את הדיבור או הכתיבה האנושית. המודל הספציפי הזה פותח על ידי מעבדת מחקר בשם OpenAI מסן פרנסיסקו ומאז נחשף השנה זכה ללא מעט התייחסות מהתעשייה ומומחי התחום כולל ענקיות טכנולוגיה כגון מיקרוסופט וגוגל.  

מודל GPT-3 נחשב כמוצלח ביותר כיום מבחינת יכולת התבטאות כמו-אנושית. עד כדי כך שמשתמש רדיט בשם thegentlemetre שהוא למעשה הבוט החל לענות לשלל פוסטים והתכתבויות בפורום השאלות והתשובות של רדיט, askreddit. התשובות של הבוט לא עוררו חשד בתחילה והוא הצליח לעבור מתחת לרדאר של המשתמשים האחרים. אבל בשלב מסוים החשד שלא מדובר במשתמש אנושי החל לאחר שיזם בשם פיליפ ווינסטון פרסם פוסט שזכה לתשובה מאוד ארוכה ומסובכת מצד הבוט בתוך זמן קצר מאוד - כדקה מרגע הפרסום.

בוט שמשיב לשאלות בפורום Reddit צילום: שאטרסטוק

התשובות סקרנו את ווינסטון וגולשי רדיט נוספים. בתחילה סברו שמדובר בפיתוח שמתבסס על Philosopher AI, אפליקציית הדגמה של GPT-3 שפותחה בידי OpenAI כסוג של תצוגת תכלית. אבל התשובה שהביאה למסקנה שמדובר בבוט היא זו ענתה לשאלה "What was the most recent purchase you made to keep up with the Jones". הבוט ענה אמנם תשובה יפה אך שלא בהקשר של השאלה. "There is no such thing as Jones, there are only humans" (אין דבר כזה ג'ונס, ישנם רק בני אנוש) המשפט הראשון עוד היה סביר, אך ההמשך התדרדר.

התשובה שהוכיחה סופית שיש כאן חשבון חשוד היא זו: לשאלה "משתמשי רדיט היקרים, איזה סיפור אתם יכולים לספר שיגרום לכולם להישאר ערים בלילה?" התשובה של הבוט התחילה טוב אך מהר מאוד התדרדרה לתיאור של תיאוריית הקונספירציה על האילומינטי - אותו מסדר סתרים שכביכול שולט בעולם.

בוט בינה מלאכותית צילום: שאטרסטוק

התשובה עצמה נראית כאילו נלקחה מפורום אחר ברדיט, אך עבור ווינסטון זה הזכיר בעיקר תגובות שנלקחו מאחד מממשקי ה-API שניתן למצוא בהדגמות למידת המכונה של OpenAI. אך אלה מוגבלות לשימוש של פנימי של מעבדת המחקר ולא זמינות לציבור הרחב למעט עבור אלה שנרשמו לרשימת המתנה סגורה.

בדיקה נוספת מצאה שהאשם הוא משתמש שהתברר לאחר מכן כנראה כאחד ממפתחי האפליקציה. אתר גיזמודו פנה למנהל הפיתוח הראשי של החברה, מוראט אייפר, וזה אישר שאכן מדובר בטכנולוגיה של החברה. אך הוא מסתייג מכך שמדובר במפתח של האפליקציה והסביר שמשתמש כלשהו הצליח להנדס לאחור את האפליקציה. "הוא הצליח להפוך את האפליקציה לבוט", אמר אייפר.