ניתוחגובר החשש משימוש ב־AI להטיית קולות הבוחרים בארה"ב
ניתוח
גובר החשש משימוש ב־AI להטיית קולות הבוחרים בארה"ב
לקראת הפריימריז בניו המפשייר קיבלו מצביעים שיחת טלפון אוטומטית שעשתה שימוש בדיפ פייק כדי לחקות את הנשיא ביידן. מפעיל שירות נגד שיחות ספאם: "זו תהיה שנת הבחירות הקשוחה ביותר שראינו בכל הנוגע לפעילות מסוג זה"
יום הבחירות. רק התחלתם את שגרת היום, אולי אפילו עוד לא הספקתם לאכול ארוחת בוקר. לפתע, מצלצל הטלפון. על הקו, קולו של ראש הממשלה או יריבו המוביל (תלוי במי אתם תומכים) שאומר לכם מסיבה זו או אחרת לא לצאת ולהצביע היום, אלא לעשות זאת ביום אחר. אולי אתם אפילו משתכנעים, נשארים בבית ומפסידים את זכות ההצבעה. אבל זה לא היה קולו של הפוליטיקאי אלא דיפ פייק, זיוף מבוסס בינה מלאכותית, שנשמע בדיוק כמוהו והופעל על ידי יריביו הפוליטיים במטרה לדכא הצבעה ולעוות את תוצאות הבחירות.
נשמע דמיוני? זה כמעט במדויק מה שקרה השבוע למצביעים בניו המפשייר לקראת הפריימריז לבחירת מועמדי המפלגות לנשיאות שמתקיימים במדינה היום. ומומחים סבורים שזו רק ההתחלה של מה שעלול להיות קמפיין שיבוש נרחב מבוסס AI. "התקרית הזו היא רק קצה הקרחון", הם מעריכים.
לפי דיווח של NBC News, מצביעים בניו המפשייר קיבלו ביום ראשון שיחת טלפון מקול הדומה במדויק לזה של נשיא ארצות הברית ג'ו ביידן. "איזה אוסף שטויות (a bunch of malarkey, ביטוי שמזוהה עם ביידן — ע"כ)", נפתחה השיחה. "חשוב שתשמרו את קולכם לבחירות בנובמבר. ההצבעה ביום שלישי רק מסייעת למאמצי הרפובליקנים לבחור שוב בדונלד טראמפ. הקול שלכם ישפיע בנובמבר, לא ביום שלישי". מספר הטלפון שממנו התקבלה השיחה זויף למספרה של פעילה דמוקרטית בכירה בניו המפשייר, קאתי סאליבן.
אבל על הקו לא היה כמובן ביידן. זו היתה שיחת טלפון אוטומטית (Robocall) שעשתה שימוש במערכת דיפ פייק מבוססת בינה מלאכותית (AI) על מנת לחקות במדויק את הקול ואת ההגייה של הנשיא, וכך לנסות ולהשפיע על תוצאות הבחירות.
יישומי דיפ פייק קיימים בתודעה הציבורית זה יותר מחצי מאה. זכורים במיוחד ריאיון דיפ פייק של מייסד ומנכ"ל פייסבוק מארק צוקרברג מ־2019, שבו הוא מתרברב בכך שהוא מחזיק בסודותיהם של מיליארדי אנשים, ונאום דיפ פייק שבו נשיא ארצות הברית לשעבר ריצ'ארד ניקסון מודיע על התרסקות אפולו 11.
דיפ פייק מבוסס בינה מלאכותית גנרטיבית (GenAI) כבר שימש ליצירת פרסומות כחלק ממערכת הבחירות הנוכחית. אבל עכשיו נעשה שימוש בטכנולוגיה כזו על מנת לנסות ולשבש באופן ישיר את הליך ההצבעה עצמו. מומחים חוששים, ובצדק, שזו רק יריית הפתיחה במאמצי שיבוש נרחבים הרבה יותר, מבוססי דיפ פייק ומדיה חברתית, שינסו לעוות את התוצאות של מה שצפויה להיות מערכת בחירות יצרית ורוויית רגשות.
בשלב זה עוד לא ידוע מי עומד מאחורי שיחות הדיפ פייק מביידן, והנושא נמצא בחקירת משרד התובע הכללי של ניו המפשייר. "אף שהמתקשר בשיחה האוטומטית נשמע כמו הנשיא ביידן, על בסיס אינדיקציות ראשוניות נראה שההודעה נוצרה באופן מלאכותי. מדובר בניסיון לא חוקי לשבש את הפריימריז לנשיאות בניו המפשייר ולדכא את קולם של מצביעי ניו המפשייר. מצביעים צריכים להתעלם לחלוטין מתוכן ההודעה", נמסר ממשרד התובע.
להערכת סאליבן, מאחורי השיחות עומדים גורמים שביקשו לפגוע בקמפיין הבחירות של ביידן. "אני רוצה שהם ייתבעו וישלמו את מלוא המחיר, כי זו מתקפה על הדמוקרטיה", היא אמרה ל־NBC News. "אני לא מתכוונת לוותר בנושא. אני רוצה לדעת מי משלם על זה. מי ידע על זה? למי זה עוזר?".
בחברת Nomorobo, שמפתחת שירות לחסימת שיחות ספאם ושיחות אוטומטיות, העריכו שהיקף המצביעים שקיבלו את השיחה נמוך יחסית ועומד על פחות מ־5,000. עם זאת, המייסד והמנכ"ל אהרון פוס העריך שזוהי רק ההתחלה וששיחות מסוג זה ישחקו תפקיד מרכזי בבחירות 2024. "ידענו שהיום הזה יגיע, והנה הוא כאן", הוא אמר לאתר ביזנס אינסיידר. "זה תמיד מה שקורה. נוכלים קופצים על כל דבר חדש שהם יכולים להשתמש בו כדי לרמות אנשים".
ג'ונתן נלסון, מנהל המוצר של Hiya, שמפתחת שירות נגד שיחות הונאה וספאם, הוסיף: "אין לי שום ספק, זו תהיה שנת הבחירות הכי קשוחה שראינו אי פעם בכל הנוגע לשיחות אוטומטיות ופעילות מסוג זה. 2024 תהיה רעה במיוחד, לא רק כי זו שנת בחירות, אלא גם כי לנוכלים יש כיום גישה לטכנולוגיות מתקדמות יותר. בשנה שחלפה, השימוש ב־AI נעשה זול יותר לצרכנים, וזה רק מוביל לשיפור עקבי בדיפ פייק. כיום, אי אפשר לתת אמון בקול שבצד השני".
פרופ' האני פאריד מאוניברסיטת קליפורניה בברקלי, שמתמחה בזיהוי ובניתוח תוכני דיפ פייק, אמר ל"וושינגטון פוסט" שהוא צופה שימוש כזה בטכנולוגיה כבר זמן מה. "אנחנו חוששים ש־GenAI תגויס לשימוש רחב בבחירות הקרובות", הוא אמר לסוכנות AP. "מה שאנחנו רואים עכשיו הוא סימן לבאות".
מודלי GenAI מספקים שדרוג משמעותי ליכולת של נוכלים לעשות שימוש בדיפ פייק. הגישה הרחבה אליהם ויכולותיהם הגמישות הופכות את עלות ההפקה לזולה במיוחד, ולכזו שמצריכה הרבה פחות ידע מקצועי. ניתן להשתמש במודלים הללו על מנת לייצר טקסטים והקלטות אודיו בהיקפים רחבים, תוך יכולת לחקות במדויק את סגנון הדיבור של האדם שאת קולו או דמותו מבקשים לזייף (נסו לבקש מ־ChatGPT לכתוב לכם נאום קצר בסגנון של דונלד טראמפ או של ברק אובמה ותגלו). את התוצרים ניתן להפיץ באמצעות שיחות אוטומטיות כמו שנעשה בניו המפשייר, או במדיה החברתית בתקווה שיזכו לוויראליות רחבה.
השימושים יכולים להיות מגוונים. החל משיחות שלא לצאת להצבעה ביום הבחירות בהסברים שונים, ועד סרטונים שבהם נראים המועמדים אומרים או עושים דברים שלא אמרו ולא עשו מעולם במטרה להביך אותם או לגרום למצביעים לסלוד מהם.
תהיה, כמובן, תגובת נגד. רשויות החוק יחקרו וינסו לאתר ולעצור את המבצעים. פלטפורמות מדיה חברתית, אם לא יירדמו בשמירה כמו שעשו ב־2016, יזהו ויסירו תוכני דיפ פייק. גופי חדשות ובדיקת עובדות יחקרו ויפריכו אותם. רוב האנשים, שייחשפו לתכנים אלו, אפשר לקוות, לא יאמינו להם, או יבינו שמדובר בהונאה זמן לא רב לאחר מכן. אבל במערכת הבחירות לנשיאות, שיכולה להיות מוכרעת ברמת המדינה, אולי אפילו ברמת כמה מחוזות במדינה כלשהי, לא צריך לשכנע את רוב המצביעים. מספיק להגיע ולהשפיע על חלק קטן מהם. שיחת טלפון מביידן למצביעים באטלנטה, ג'ורג'יה, ביום הבחירות, שקוראת להם לא לצאת לקלפי מכיוון שאלו נדחו בשבוע, יכולה לשכנע מספיק מהם להישאר בבית על מנת לתת את המחוז שבו יושבת הקלפי, את המדינה ואת הנשיאות למועמד הרפובליקני (שכנראה יהיה טראמפ).
עורך הדין דיוויד בקר, מנהל ה־Center for Election Innovation and Research ולשעבר בכיר במחלקת המשפטים של ארצות הברית, העריך שלמתקפה הצפויה של דיפ פייק בשנת הבחירות הקרובה יכולה להיות השפעה עמוקה הרבה יותר על ציבור הבוחרים. "קשה לקבוע האם מטרת השיחות בניו המפשייר היתה לדכא הצבעה או פשוט להמשיך בתהליך של ניתוק האמריקאים עצמם מהעובדות ומהאמת בנוגע לדמוקרטיה שלנו", הוא אמר ל־AP. "הם לא צריכים לשכנע אותנו שמה שהם אומרים, שהשקרים שהם מספרים, הם אמת. הם רק צריכים לשכנע אותנו שאין אמת, שאתה לא יכול להאמין לשום דבר שאומרים לך".
