דליפת המידע מ-ChatGPT - בשל באג בקוד הפתוח של רדיס הישראלית
דליפת המידע מ-ChatGPT - בשל באג בקוד הפתוח של רדיס הישראלית
בשבוע שעבר דיווחה OpenAI כי תקלה במערכת הציגה למשתמשים מסוימים בצ'טבוט שלה את כותרות השיחה של משתמשים אחרים; כעת היא חושפת שהדליפה נובעת מבאג בספריית הקוד הפתוח של רדיס - ושיבחה את החברה הישראלית: "שיתפה פעולה באופן נפלא, טיפלה בבאג והטמיעה את התיקון שלנו"
באג בתשתיות הקוד הפתוח של רדיס (Redis) הישראלית הוביל לחשיפת מידע של משתמשים ב-ChatGPT, ובהם פרטים חלקיים של כרטיסי אשראי – כך הודיעה אתמול החברה שמאחורי הצ'טבוט המהפכני, OpenAI. הפרטים שנחשפו היו מוגבלים ונגעו רק לחלק קטן של המשתמשים. ברדיס הבהירו שהבאג היה במוצר הקוד הפתוח שמיועד לשימוש חופשי ועצמאי, ולא במוצר המסחרי של החברה ששימוש בו כרוך בתשלום. OpenAI עצמה שיבחה את החברה הישראלית על הסיוע המהיר שלה לטיפול בתקלה.
מאז נחשף לפני חודשים ספורים, הפך ChatGPT לאחת הטכנולוגיות החדשות המהפכניות והמשבשות ביותר שנראו בשנים האחרונות, כששחקניות רבות ממהרות לשלב את יכולות הבינה המלאכותית היוצרת שלו במוצרים שלהן או להציג מודלים משלהן שיהווה מענה לתחום החדש והמבטיח. במקביל, משתמשים רבים עושים שימוש בממשק הישיר של ChatGPT שהנגישה OpenAI על מנת להציג שאילתות שונות למודל השיחה.
ביום שני דיווחה החברה שתקלה במערכת הציגה למשתמשים מסוימים את כותרות השיחה של משתמשים אחרים (אך לא את תוכן השיחה עצמה), והשהתה את פעילות הצ'טבוט עד לחסימת הפרצה. אתמול חשפה החברה פרטים חדשים על דליפת המידע, ובמרכזה ההודעה שזו נגרמה כתוצאה מבאג בספריית הקוד הפתוח רדיס, שמתחזקת רדיס הישראלית.
רדיס הוקמה ב־2011 על ידי עופר בנגל, שפרש בדצמבר מתפקיד המנכ"ל, וסמנכ"ל הטכנולוגיות יפתח שולמן, שהכירו במסגרת עבודה משותפת בחברת קרשצ'נדו נטוורקס, שם היה בנגל חבר דירקטוריון. החברה מפתחת בסיס נתונים מהיר, שמאפשר לנהל בצורה המיטבית את המידע של אפליקציות שונות, ובכך מאפשרת להן לפעול בצורה המהירה והטובה ביותר - פיצ'ר חשוב בעולם שמקנה חשיבות יתרה לחוויית המשתמש, שמבוססת, בין היתר, על מהירות. מאגר הנתונים של החברה מתבסס על ספריית קוד פתוח בשם רדיס, שנוצרה ב-2009.
המודל העסקי של רדיס מתבסס על שיווק ותמיכה בתשלום של המערכת של לחברות ולארגונים. מערכת זו מבוססת על ספריית הקוד הפתוח, אך מהווה מוצר נפרד. התקלה ב-ChatGPT לא קשורה למערכת זו והיא תוצאה של הטמעה עצמאית של הקוד הפתוח של רדיס. למעשה, עד לפרסום המידע על הבאג ומקורו, ברדיס לא ידעו, ולא יכלו לדעת, ש-OpenAI עושה שימוש בקוד הפתוח של רדיס.
לפי OpenAI, הבאג היה ברכיב של ספריית הקוד הפתוח של רדיס שמשמש לביצוע קאשינג לבקשות משתמשים. בתנאים מסוימים, בקשת רדיס שבוטלה מביאה להצגת מידע פגום במענה לבקשה אחרת – שגיאה שלא אמורה להתרחש. כתוצאה, אם משתמש אחר ביקש את אותו סוג מידע, למשל לטעון פרטי תשלום, המערכת הציגה בטעות מידע של משתמש אחר.
לדברי החברה, התקלה גרמה לא רק להצגת כותרות שיחה של משתמשים אחרים, אלא גם לחשיפה חלקית של פרטי תשלום של 1.2% ממשתמשי מנוי הפרימיום שלך ChatGPT, שהיו פעילים בתשע השעות שבהן הבאג היה פעיל. "בשעות לפני שהשהינו את הפעילות של ChatGPT ביום שני, כמה משתמשים יכלו לראות את השם המלא, כתובת האימייל, כתובת התשלום וארבע ספרות אחרונות ותוקף של כרטיס אשראי של משתמש פעיל אחר", נמסר. "מספרי האשראי המלא מעולם לא נחשפו".
ב-OpenAI העריכו עם זאת שמספר המשתמשים שפרטיהם נחשפו בפועל הוא נמוך מאוד, שכן אלו הוצגו רק תחת תרחישים מאוד ספציפיים. למשל, פתיחת אימייל אישור הרשמה שנשלח בשעות שבהן הבאג היה פעיל (בגלל הבאג, חלק מפרטי האישור שנשלחו היו של משתמשים אחרים), או כניסה לעמוד ניהול המנוי בחשבון האישי. "פנינו למשתמשים שנפגעו והודענו להם שפרטי התשלום שלהם אולי נחשפו. אנחנו בטוחים שאין סיכון מתמשך למידע משתמשים", הודיעה החברה.
OpenAI גם שיבחה את התגובה של רדיס לדליפת המידע: "מתחזקי הקוד הפתוח של רדיס שיתפו פעולה באופן נפלא, טיפלו בבאג והטמיעו את התיקון שלנו. רדיס, לצד תוכנות נוספות בקוד פתוח, משחקת תפקיד קריטי במאמצי המחקר שלנו. לא ניתן להפחית בחשיבות שלה, ולא היינו יכולים להפעיל את ChatGPTבקנה מידה גדול ללא רדיס. אנחנו מחויבים להמשיך לתמוך ולתרום לקהילת רדיס".
"אני גאה בצוות של רדיס שעזר ל-OpenAI לצמצם את הסיכונים במהירות", כתב סמנכ"ל החברה שולמן בלינקדאין. "המסקנה שלי היא שכשמשהו עובד כל כך מהר ובאלגנטיות, הוא כנראה מופעל על ידי רדיס. זה נהדר לראות שרדיס היא חלק קריטי מבינה מלאכותית יוצרת".
הדליפה, בסופו של דבר, היא גם קטנה בהיקפה, הן מבחינת משתמשים והן בכל הנוגע להיקף המידע שנחשף, וגם במידה רבה בלתי נמנעת. למערכות מורכבות עם שורות קוד רבות תמיד יהיו תקלות ובאגים שיגרמו לשיבושים ולחשיפת מידע. חברה נמדדת בעד כמה היא נערכת לצמצום תקלות אלו, ובתגובה שלה ברגע שתקלות כאלו מתגלות. כאן, בהנחה שאין מידע שהוסתר, ראוי לציין את ההתנהלות השקופה של OpenAI, ואת הסיוע המהיר של רדיס הישראלית.
