מחקרים הראו: ציבור הבוחרים בעולם לא הושפע מהדיפ פייק
מחקרים הראו: ציבור הבוחרים בעולם לא הושפע מהדיפ פייק
בהובלת ארצות הברית, בריטניה וצרפת, זיופי בינה מלאכותית הופיעו במערכות בחירות ב־2024 אבל שיחקו תפקיד שולי בהשפעה על תודעת הבוחרים. הסיבות המובילות: תפוצה נמוכה של התכנים הבעייתיים ומודעות ציבורית גבוהה לקיומם
לפני שנה, סמוך למועד הפריימריז בניו המפשייר, קיבלו מצביעים שיחת טלפון מנשיא ארצות הברית ג'ו ביידן. או, לפחות, זה נשמע כמו ביידן. כי למעשה, היתה זו שיחה ממערכת אוטומטית שעשתה שימוש במערכת בינה מלאכותית (AI) כדי ליצור זיוף כמעט מושלם של קולו — כלומר, דיפ פייק.
פריצה של בינה מלאכותית גנרטיבית (GenAI) והשיפור והנגישות של יכולות AI אחרות בשנה שקדמה לכך הביאו להערכות שמערכת הבחירות לנשיאות ארצות הברית, לראשות ממשלת בריטניה, ומערכות בחירות אחרות שהתקיימות ב־2024 ברחבי העולם, יאופיינו בכמות גדולה של קול, תמונות וסרטוני דיפ פייק, באופן כזה שיקשה להבדיל בין מציאות לבדיה, בין אמת לשקר.
אבל אף על פי שזיופי AI עשו הופעה עקבית לאורך מערכות הבחירות בארצות הברית, בריטניה, צרפת והאיחוד האירופי, מחקרים ודו"חות שהתפרסמו בשבועות האחרונים מגלים: החששות לא התממשו, והזיופים שיחקו תפקיד שולי לכל היותר.
2 צפייה בגלריה
קמלה האריס במטה הוועידה הדמוקרטית. קמלה האריס. פורסמו תמונות "שלה" לוחצת יד לסטאלין כשהיא עטופה בדגל בריה"מ
(צילום: AP Photo/Jacquelyn Martin)
מחקר של המרכז לטכנולוגיה ולאבטחה (CETaS) במכון אלן טיורינג זיהה רק 27 קמפייניי דיסאינפורמציה משולבי AI שנוצרו בהקשר של הבחירות בבריטניה, בצרפת ולפרלמנט האירופי. המחקר לא מצא עדויות לכך שקמפיינים אלו השפיעו בצורה משמעותית על תוצאות הבחירות, מכיוון שהחשיפה להם רוכזה בקרב מיעוט משתמשים שהתפיסות הפוליטיות שלהם כבר תאמו את הנרטיב של הקמפיינים. מחקר אחר של CETaS, שעסק בבחירות בארצות הברית, העלה כי לדיסאינפורמציה מבוססת AI לא היתה השפעה מדידה על תוצאות הבחירות, ושהתוכן שימש בעיקר לחיזוק עמדות קיימות.
בסקר שערכו בבריטניה חוקרים מאוניברסיטת אוקספורד ומכון טיורינג, רק 15% מהנשאלים דיווחו שנחשפו לדיפ פייק מזיק מסוג כלשהו (תכנים פוליטיים ותעמולה, אבל גם פורנו והונאות מבוססות דיפ פייק). כן עולה, שרק 5.7% מהבריטים נחשפו לדיפ פייק פוליטי. במקביל, הסקר העלה שהמודעות והחששות מהם גבוהים מאוד. 94.3% מהנשאלים אמרו שהם מודאגים מאוד או מודאגים במידה מסוימת מהנושא. השילוב של החשש והמודעות הגבוהים עם התפוצה הנמוכה היווה, ככל הנראה, גורם ממתן משמעותי בהשפעה של תוכני AI על מערכות הבחירות.
בארצות הברית, ה־News Literacy Project קיטלג 945 תוכני פייק שהופצו במהלך הבחירות. רק 52 מהם (5.5%) נוצרו על ידי מערכות GenAI. הממצאים הללו נתמכים בדו"חות שפרסמו מיקרוסופט, מטא, גוגל ו־OpenAI בנושא קמפייני השפעה בארצות הברית, ושהעלו שהתפוצה של תוכני AI, וכן קמפייני התערבות זרה של רוסיה, סין ואיראן, היו מוגבלים מאוד.
ניתוח שערך ה"פייננשל טיימס" לאזכור של המונחים deepfake ו־AI-generated בתוך הערות הקהילה ב־X (לשעבר טוויטר), כלי שמאפשר למשתמשים לספק הקשר או הפרכה לפוסטים שקריים או מטעים, העלה שהשימוש בהם היה קשור בעיקר להשקות של מודלי AI חדשים ולא למערכות בחירות מרכזיות.
הניתוח בוצע באמצעות בחינת שיעור הערות הקהילה שהכילו ביטויים אלו מתוך ההערות שמשתמשים סימנו כ"מועילות". השיעור הגדול ביותר, כ־7.5%, נרשם בסמוך להשקת ChatGPT-4. שיעור של 4% נרשם עם השקת גרוק של אלון מאסק. מנגד, ביום הבחירות בבריטניה ב־4 ביולי 2024, עמד השיעור על קצת יותר מ־1.5%. זמן קצר לפני הבחירות בארצות הברית בנובמבר האחרון הגיע השיעור לכ־2.5%, אך ביום הבחירות עצמו הוא עמד על קצת יותר מ־2%.
ממצאים דומים עלו גם במדינות לא מערביות. בבחירות שנערכו בבנגלדש בינואר שעבר, רק 2% מתכני המיסאינפורמציה היו דיפ פייק. הבחירות בדרום אפריקה במאי שעבר, אמרו חוקרים מאוניברסיטת טקסס באוסטין, התאפיינו ב"מחסור בלתי צפוי בתוכן שנוצר על ידי בינה מלאכותית".
בנוסף, חלק ניכר מתוכן ה־AI בבחירות אלו היה "גס מאוד", ובמקרים רבים כלל את הסימנים המזהים או הלוגו של המערכות שעמן נוצר. "הדבר מצביע על כך שתוכן AI נוצר בעיקר על ידי חובבנים, במקום קמפיינים מקצועיים", אמרו החוקרים.
חלק גדול מהתכנים שנוצרו ב־AI לא נועדו להונות מצביעים ולעוות את תפיסת המציאות שלהם, אלא היו זיופים מובהקים שנועדו לעורר תגובה רגשית או להעביר מסר בצורה ציורית. אלו כללו תמונת דיפ פייק של המועמדת הדמוקרטית לנשיאות ארצות הברית קמלה האריס לוחצת את ידו של סטאלין כשהיא עטופה בדגל בריה"מ או נואמת בפני עצרת קומוניסטית גדולה (האחרונה הופצה על ידי טראמפ), תמונת AI של ילדה אוכלת פיצת מקקים (במחאה על כך שהאיחוד האירופי תומך לכאורה בתזונה מבוססת חרקים), ופוליטיקאים מתים שהוחזרו לחיים בקמפיינים באינדונזיה ובהודו.
מחקר של אוניברסיטת פרדו באינדיאנה, שקיטלג 1,526 תכנים שנוצרו על ידי AI, העלה ש־36.4% מהם נוצרו למטרות סאטירה או בידור, ורק 24.2% למטרות העברת מידע שקרי או התערבות פוליטית. "שימוש בדיפ פייק להעברת מסרים סמליים, רגשיים או סאטיריים דומה מאוד לטקטיקות שכנוע ותעמולה מסורתיות", אמר ל"פייננשל טיימס" ד"ר דניאל שיף, מומחה למדיניות ואתיקה ב־AI בפרדו.
ומה לגבי הצד השני של המשוואה — ניסיון להטיל ספק באמינותו של תוכן אמיתי תוך שימוש בטענה שמדובר בפייק מבוסס AI, וכך לזרוע בלבול ולפגוע ביכולת להבחין בין מציאות לבדיה — כאן יש ממצאים מדאיגים יותר. חוקרים של המכון לדיאלוג אסטרטגי (Institute for Strategic Dialogue, ISD) ניתחו בין אוגוסט לאוקטובר 300 פוסטים מ־X, יוטיוב ורדיט שדנו ב־AI בהקשר של הבחירות בארצות הברית. הניתוח העלה שב־52% מהמקרים המשתמשים כשלו בזיהוי מקור תוכן, כאשר פעמים רבות הם טענו שתוכן שהיה אמיתי נוצר למעשה על ידי AI, ואף הצדיקו את שגיאתם תוך ניתוח שגוי של מידע פומבי או שימוש בכלים לא אמינים.
סקר של מכון Pew מספטמבר 2024 מצא ש־52% מהאמריקאים מתקשים להבדיל בין אמת לבדיה בחדשות שקשורות לבחירות. נתון מדאיג, אך בה בעת שיפור לעומת אוקטובר 2020 אז עמד השיעור על 55%.
ממצאים אלו מצביעים על כך, שאף שהמספר והתפוצה של תכנים מבוססי AI במערכות הבחירות היו זניחים, וההשפעה שלהם על מצביעים ומערכות בחירות היתה ככל הנראה נמוכה מאוד, לעצם הידיעה על קיומם האפשרי יכולה להיות השפעה לא מבוטלת על מצביעים. "בלבול סביב תוכן מבוסס AI הוא אמיתי, ופוגע באמון במקורות מקוונים", כתבו חוקרי CETaS. "לתוכני AI יש השפעה רחבה יותר על האמינות של מערכות דמוקרטיות. מצאנו ראיות שתוכני דיפ פייק קידמו התבטאויות שטנה נגד דמויות פוליטיות, וייתכן שאיימו על בטיחותם". עוד ציינו, כי פוליטיקאים עשו שימוש ב־AI בקמפיינים ללא זיהוי ברור ותמרצו בכך התנהגות בחירות לא־אתית בעתיד.
