קליפורניה יוצאת נגד ה-Deep Fakes, חוקקה שני חוקים נגד התופעה

בעוד יצירה של סרטוני דיפ פייק, בהם מטמיעים את דמות שלנו בתוך וידאו של סרט אקשן יכולה להיות מצחיקה וכיפית, השיטה הזו יכולה גם להזיק באופן זדוני. שני חוקים חדשים שחוקקה מדינת קליפורניה מיועדים למנוע את זיופי הוידאו מהסוג האחרון. מושל קליפורניה גאווין ניוסום חתם ביום חמישי שעבר על חוק AB730, לפיו אין זה חוקי להפיץ סרטוני וידאו שעברו מניפולציה שמטרתם לפגוע בדמותו של מועמד פוליטי ולהונות מצביעים בטווח של 60 יום מבחירות.

הוא חתם גם על חוק AB602, שמעניק לתושבי קליפורניה את הזכות לתבוע אדם שיצר דיפ פייק בו מוטמעת דמותם בחומרי פורנו ללא הסכמתם. כדי לייצר סרטון כזה כל מה שנדרש היא תוכנת זיהוי פנים שניתן לנצלה כך שתערבב בין זהויות כל כך טוב עד שלא תעורר כל חשד ואלגוריתם בינה מלאכותית שיידע להטמיע את התוצאה בסרטונים או תמונות. תוכנות מסוג זה משמשות כדי להטמיע פרצופים של דמויות מפורסמות – כמו סקרלט ג'והנסון - אך גם של אנשים רגילים שהעלו תמונות שלהם לאינטרנט, בתוך סרטוני פורנו.

טכנולוגיית דיפ פייק יכולה לייצר חדר שמעולם לא היה קיים צילום: Nvidia

סרטוני דיפ פייק קיבלו תשומת לב מיוחדת מוקדם יותר השנה לאחר שסרטונים של מנהיגת בית הנבחרים האמריקאי ננסי פלוסי, שהתערבו בהם כך שיראה כאילו היא שתויה וממלמלת במהלך נאום, הופצו במדיה החברתית. חבר המועצה של קליפורניה מארק ברמן, שאישרה את חוקים AB730 ו-AB602, אמר שדיפ פייק כמו זה בו נראית פלוסי עלולים להונות בוחרים ולהפריע לתהליך הבחירות התקין.

"לבוחרים הזכות לדעת מתי קטע וידאו, קול, ותמונות שמראים להם, שמטרתם להשפיע על בחירות מתקרבות, עברו מניפולציה ואינם לקוחים מהמציאות", מסר ברמן. "בהקשר של בחירות, היכולת לייחס מלל או התנהגות שאינם אמיתיים למועמד כלשהו, הופכת את הדיפ פייק לכלי עוצמתי ומסוכן בארסנל של מי שרוצה לפזר מידע שקרי ולבלבל את הבוחרים," הוסיף.