OpenAI הסירה חשבונות איראניים: "ניסו להשפיע על הבחירות בארה"ב באמצעות ChatGPT"
OpenAI הסירה חשבונות איראניים: "ניסו להשפיע על הבחירות בארה"ב באמצעות ChatGPT"
חברת הבינה המלאכותית הודיעה כי הקבוצה האיראנית Storm-2035 השתמשה בצ'טבוט כדי לייצר מסרים מקטבים בסוגיות כמו הבחירות בארה"ב, זכויות להט"בים והמלחמה בעזה. בין היתר יצרה הקבוצה באמצעות ChatGPT מאמרים ארוכים ותגובות ברשתות החברתיות
חברת OpenAI זיהתה וסגרה צביר של חשבונות ChatGPT שעשו שימוש במערכת הבינה המלאכותית הגנרטיבית (GenAI) על מנת לייצר תוכן למבצע השפעה איראני שפעל לשיבוש הבחירות בארה"ב ולקידום נרטיבים אנטי-ישראליים – כך הודיעה החברה היום.
החודש, דיווחה מיקרוסופט על פעילות של שורת קבוצות תקיפה איראניות שפועלות על מנת לשבש את הבחירות לנשיאות ארה"ב. אחת הקבוצות, Storm-2035, הקימה ארבעה אתרים שמתחזים לאתרי חדשות, ומשתמשת בהם על מנת להשפיע על מצביעים משתי קצוות הקשת הפוליטית באמצעות מסרים מקטבים בסוגיות כמו המועמדים בבחירות, זכויות להט"בים והמלחמה בעזה.
עתה, מדווחת OpenAI שהקבוצה עשתה שימוש בשירותי החברה על מנת לייצר תוכן AI בעבור אתרים אלו. "המבצע עשה שימוש ב-ChatGPT כדי לייצר תוכן שהתמקד במספר נושאים – כולל פרשנות על מועמדים משני הצדדים בבחירות לנשיאות – ואשר שותף בחשבונות מדיה חברתית ובאתרי אינטרנט", מסרה החברה בהודעה שפרסמה.
הקבוצה השתמשה ב-GenAI על מנת לייצר שני סוגי תכנים עיקריים: מאמרים ארוכים ותגובות קצרות במדיה חברתית. "זרם העבודה הראשון ניפק מאמרים על הפוליטיקה בארה"ב ואירועים גלובליים, שהתפרסמו בחמישה אתרי חדשות שהתחזו הן לפרוגרסיביים והן לשמרנים", נמסר. "זרם העבודה השני יצר תגובות קצרות באנגלית ובספרדית, שפורסמו במדיה חברתית. זיהינו כתריסר חשבונות X וחשבון אינסטגרם אחד שהיו מעורבים במבצע. חלק מחשבונות ה-X התחזו לפרוגרסיביים, ואחרים לשמרנים. הם יצרו חלק מהתגובות על ידי כך שביקשו מהמודל שלנו לשכתב תגובות שפרסמו משתמשים אחרים".
התכנים שיצרה הקבוצה היו קשורים בעיקר לעימות בעזה, השתתפות ישראל באולימפיאדה והבחירות לנשיאות ארה"ב, ובמידה פחותה פוליטיקה בוונצואלה, זכויות קהילות לטיניות בארה"ב ועצמאות סקוטלנד. לצד התוכן הפוליטי יצרה הקבוצה גם תגובות בנושא אופנה ויופי, להערכת OpenAI במטרה ליצור פרסונה אמינה יותר או כדי לבנות קהל עוקבים.
"חרף העובדה שפעילות זו לא זכתה להיענות משמעותית מצד משתמשים, אנחנו מתייחסים ברצינות לכל ניסיון לעשות שימוש בשירותינו למבצעי השפעה זרים", אמרה OpenAI. "בהתאם, לאחר שהסרנו את החשבונות משירותינו, שיתפנו מידע על האיום עם הממשלה, קמפייני הבחירות ובעלי עניין בתעשייה".
