דו"ח טכנולוגי
פייק ניוז, הדור הבא: האם תעצור הטכנולוגיה את הסרטונים המזויפים?
היכולת לשתול דברים מלאכותית בפי אנשים בסרטונים הולכת ומתפתחת, ומאיימת על בחירות 2020 בארה"ב; אוסטרליה רוצה לקבל את האלגוריתם של פייסבוק וגוגל; גיטהאב של מיקרוסופט החלה לחסום גולשים מאיראן; וטסלה מוסיפה למכוניות שלה שירות מקוון בעייתי
בבחירות לנשיאות ארה"ב ב-2016, המערכות הפוליטית והטכנולוגית נתפסו עם המכנסיים למטה. רשתות החשבונות המזויפים והבוטים שהפעילה רוסיה והפייק ניוז שהפיצו היו בלתי-צפויה, מפתיעה בהיקפה, מדהימה בהשפעתה. שמועות מדויקות רצו על ימין ועל שמאל, השחירו מועמדים ובעיקר זרעו פילוג וליבו יצרים במדינה שגם ככה חצויה. רק השבוע, דו"ח של הסנאט קבע חד-משמעית שרוסיה התערבה בבחירות לטובת דונלד טראמפ (וכלל גם ממצאים מטרידים לגבי ניסיונותיה הנרחבים לפרוץ למערכות בחירות בכל 50 המדינות בארה"ב, אבל זה כבר נושא לטור אחר).
הרוויח מהפייק. טראמפ צילום: איי אף פי
תמונות של אנשים פיקטיביים לחלוטין, שנוצרו בידי AI צילום: Nvidia
האלגוריתם - המיץ הסודי של פייסבוק צילום: שאטרסטוק
היום שאחרי הבהיר לכל המעורבים בדבר, ובעיקר לחברות טכנולוגיה כפייסבוק, שחוסר המעש שלהן איפשר במידה רבה לחשבונות המזויפים להפיץ את הפייק ניוז בצורה רחבה ולהגיע לתהודה משמעותית. כל הגורמים למדו שאסור לאפשר שידור חוזר של המצב. בשלוש השנים האחרונות השקיעו החברות מאמצים ראויים לשבח על איתור, זיהוי וחסימה של רשתות בוטים וחשבונות מזויפים, והסירו כמה וכמה רשתות נרחבות כאלה שפעלו בין השאר מרוסיה ומאיראן. מאמצים אלו זכו להצלחה, ובמערכות בחירות נסערות שהיו מאז, ובפרט בחירות אמצע הקדנציה ב-2018, היקף הפייק ניוז היה קטן משמעותית.
הרוויח מהפייק. טראמפ צילום: איי אף פי
אבל המבחן הגדול ביותר הוא בחירות 2020. הקמפיין, מטריד לחשוב, כבר מתנהל והיה אפילו עימות ראשון של מועמדים בפריימריז של המפלגה הדמוקרטית. הוא צפוי להיכנס להילוך גבוה יותר בעוד כחצי שנה עם תחילת הפריימריז הראשונים (ככה זה האמריקאים, אוהבים את מערכות הבחירות שלהם ארוכות, יקרות ומייאשות). ובהתאם, פייסבוק, גוגל וטוויטר משייפות ומשכללות את הכלים שפיתחו בשנים האחרונות.
אבל יש משתנה אחד, מוכר יחסית, שעדיין לא נבדק בשטח; השפעתו לא ברורה, אופן ההתמודדות איתו לא קיים או לא מתקדם מספיק, וכרגע אין דרך להעריך את האימפקט שיהיה לו על הבחירות: דיפ פייק (Deep Fake). המונח מתייחס לסרטונים או קטעי קול שעברו תמרון באמצעות מחשב כדי להשתיל בפי אנשים דברים שלא אמרו מעולם, באופן שיקשה על הצופים להבין שמדובר בזיוף, עד לרמה אותנטית לחלוטין.
אינסטנט איש: בינה מלאכותית כבר מייצרת פנים מלאכותיות
חברת אנווידיה הגתה שיטה לשילוב מהיר בין תמונות, שתאפשר ליצור אנשים, חדרים ואפילו מכוניות שאינם קיימים במציאות אך נראים אותנטיים לחלוטין. יש צדדים חיוביים לפיתוח שכזה, אך הוא גם מדאיג מאוד גורמי ביטחון, בשל הפוטנציאל ליצירת מסרים מזויפים מטעם מנהיגי עולם
רפאל קאהאן,
3 תגובות
לכתבה המלאה 
חשוב להבהיר קודם מה זה דיפ פייק ומה לא. תמונה שעברה תמרון לרוב לא תיחשב דיפ פייק, מכיוון שמדובר ביכולת ותיקה שנמצאת בשימוש כבר עשורים (לרוב באמצעות תוכנת פוטושופ) ודרכי ההתמודדות אתה מוכרות; למעשה, חברת אדובי כבר בוחנת תוכנה שתדע לזהות תצלומים שעובדו. גם סרטון שקצב הריצה שלו שונה כדי לשנות את אופי הדברים או סגנון הדיבור לא נחשב לדיפ פייק (למשל, הסרטון של יו"ר בית הנבחרים של ארה"ב, ננסי פלוסי, שהואט כדי להציג אותה כשיכורה או סובת מאירוע מוחי), בעיקר מכיוון שלא דרוש אלגוריתם מתוחכם כדי להפיק אותו. דוגמה מצוינת לדיפ פייק היא הסרטון של מייסד ומנכ"ל פייסבוק, מארק צוקרברג, מודה לספקטרה (ארגון הרשע מסדרת סרטי ג'יימס בונד) על ההשראה ליצור מערכת עם שליטה מוחלטת במידע של אנשים.
נכון לרגע זה, סרטוני דיפ פייק עדיין לא משכנעים לגמרי, משהו בתנועות, בקול, בתיאום בין הדברים לשפתיים לא עובד לחלוטין. אבל המצב לא יישאר כך זמן רב. "בשעה שסרטונים סינטטיים עדיין קלים לזיהוי על ידי מרבית בני האדם, החלון הזה נסגר במהירות", אמר לוול סטריט ג'ורנל ג'פרי מקגרגור, מנכ"ל Truepic, שמפתחת טכנולוגיה לאימות תמונה. "אני חוזה שנראה דיפ פייק שלא ניתן לזהות ככאלו בתוך פחות מ-12 חודשים. החברה תתחיל להפיץ כל תוכן שהיא רואה".
Truepic היא אחת מחברות רבות שמנסות למצוא פיתוחים שיסייעו לפלטפרומות מקוונות, אתרי אימות עובדות וארגוני חדשות לזהות ולהסיר במהירות סרטוני דיפ פייק. בין השאר, עובדת החברה עם קוואלקום במטרה לשלב בשבבים שלה טכנולוגיה שתאפשר לסמן תמונות וסרטונים עם הזמן והמקום שבו צולמו, כדי שאפשר יהיה לאמת אותן מאוחר יותר - מה שלא יעזור במקרה של דמות ציבורית שכבר היום יש אלפי סרטונים שלה ברשת.
גישה אחרת, פורנזית ביסודה, מתבססת על אוטומציה של זיהוי הבעות פנים ותנועות ראש שאינן תואמות לתוכן הנאמר. "אני לא חושב שיש אלגוריתם כדור כסף או אפילו פתרון טכני", אמר מאט טורק, מנהל תוכנית ניתוח המדיה ב-DARPA, סוכנות המחקר של הפנטגון. "שתי האסטרטגיות נחוצות כדי להתמודד עם בעיית הדיפ פייק. כנראה שיהיה צורך בגישה הוליסטית".
גם בפייסבוק משקיעים מאמצים בתחום. "אנחנו רוצים לפתח שיטות לזיהוי דיפ פייק, או כמו שאנחנו מכנים את זה 'תמרון מידע'", אמר לאחרונה לכלכליסט מנהל מחקר ה-AI של פייסבוק, אנטואן בורדס. "במקביל, אנחנו רוצים לדחוף את המודלים לחולל תמונות, סרטונים וטקסטים - אם רוצים להגיב למה שאנשים עושים צריך לדעת מה אפשר לעשות. הבנו שתוכנה שיודעת לייצר דיפ פייק היא גם תוכנה שיודעת לזהות אותה, כפי שרעל יכול לפעמים לשמש גם כנוגדן. "עכשיו אנחנו מנסים להבין אם לפתח נוגדן שעובד נגד כל הרעלים. זו סוגיה חשובה ואנחנו מתייחסים אליה ברצינות. אבל זה משהו שתוכנות יוצרות ומשאירות במידע חתימות שתוכנות אחרות יכולות לזהות, זה רק עניין של מציאת הפתרון הנכון. אני לא חושב שזו תהיה בעיה גדולה בעתיד".
תמונות של אנשים פיקטיביים לחלוטין, שנוצרו בידי AI צילום: Nvidia
כל הניסיונות הללו מעניינים, ויכול להיות שאפילו יזכו להצלחה, אבל נראה שכולם מתעלמים מהגורם האנושי - אותו גורם שהביא להצלחה של הפייק ניוז ב-2016. אנשים לא מפיצים ידיעות מזויפות כי הם השתכנעו שהמקור אמין, או שהעיצוב מקצועי ומשכנע. הטריגר המרכזי להפצה הוא התוכן עצמו, שמעורר אצלם יצרים, שמדבר לפחדים ולחששות שלהם, שמחזק תפיסות עולם שלהם. הצד הטכני של פייק ניוז ודיפ פייק הוא משני לצד הפסיכולוגי. הקמפיין הרוסי ב-2016 הצליח כל כך כי הגורמים שעמדו מאחוריו זיהו היטב את הסוגיות הנפיצות והמשלהבות, אלו שגורמות לאנשים ללחוץ על כפתור השיתוף, ולדבר על זה בעבודה ובבית.
טכנולוגיות לזיהוי דיפ פייק הן דבר טוב, אבל יש להן מגבלות. בעיקר אם דפוסי השיתוף של פייק ניוז ימשיכו במעבר מרשתות חברתיות פתוחות לאפליקציות מוצפנות כמו ווטסאפ, שם אין לפלטפורמות אפשרות לנטר את התוכן ולהסיר או להתריע בפני תוכן חשוד. כל הפיתוחים שבעולם לא יעזרו לך, אם אתה אפילו לא יודע מה משתפים המשתמשים. הקושיה שצריך לפצח היא לא הטכנולוגיה שמביאה את הזיופים, אלא את תגובת המשתמשים אליהם. לא ברור שיש איך לעשות את זה, בוודאי לא בזמן לקראת הבחירות הקרובות.
בין אם זה פייק ניוז קלאסי או דיפ פייק חדש, בין אם הוא מגיע אלינו בפייסבוק, בטוויטר או בווטסאפ, מה שיקבע בסופו של דבר את מידת הצלחתו לא יהיה איכות הזיוף, לא העובדה שסרטון הדיפ פייק משכנע מאוד, ממש כמו סרטון אמיתי, אלא הכפתורים שהוא יצליח ללחוץ עליהם. תלחץ על הכפתורים הנכונים, והמשתמשים שלך. זו הבעיה האמיתית עם דיפ פייק ופייק ניוז, וזו הסיבה שטכנולוגיה אולי תצליח להאט את התופעה אבל לא לחסל אותה.
קצרצרים
1. כתבנו הרבה בטור הזה על רגולציה של חברות טכנולוגיה, ובעיקר על חוסר האפקטיביות שלה. יוזמה חדשה שמתגלגלת באוסטרליה יכולה להיות פתרון מעניין: בתוך חקירה בת 18 חודשים ממליץ רגולטור התחרותיות לחייב את גוגל ואת פייסבוק לחשוף את האלגוריתם שלהן. מדובר בעונש קשה יותר מכל קנס. האלגוריתם הוא כמו המתכון הסודי של קוקה קולה - המפתח לכל מה שהן עושות, כלי מדהים לניטור הפרקטיקות שלהן. ההמלצה עוברת כעת לבחינת הממשלה. נעקוב.
האלגוריתם - המיץ הסודי של פייסבוק צילום: שאטרסטוק
2. טסלה תוסיף בקרוב תמיכה בסטרימינג מיוטיוב ונטפליקס במכוניות שלה, כנראה במסגרת מאמצים להפוך את המכוניות למסוכנות יותר. גם ככה יש לחברה בעיות עם נהגים שלא נזהרים מספיק עם יכולות הנהיגה הסמי-אוטונומיות של כלי הרכב. באמת צריך להוסיף עוד פיתוי שם?
3. מס הכנסה בארה"ב צפוי לשלוח בשבועות הקרובים התרעות לכ-10 אלף אזרחים שלפיהן ייתכן שהם חייבים בתשלום מס על רווחים שלא דווחו מפעילות קריפטו למיניה. "משלמי המסים צריכים להתייחס למכתבים אלה מאוד ברצינות, ולתקן את דיווחי המס שלהם בהתאם", נמסר ממס הכנסה. לא ברור איך מס הכנסה בחר את 10 אלף מקבלי ההתרעות (אולי מצא התרברבויות ברשתות חברתיות), וחשוב מכך איך הוא יוכיח כמה כסף הם חייבים. "בהצלחה עם זה", כמו שאמר עורך הערוץ.
4. קוד חצי-פתוח: פלטפורמת הקוד הפתוח של מיקרוסופט, GitHub, החלה לחסום בפני גולשים מאיראן ומחצי האי קרים שבשליטת רוסיה - שני אזורים שנתונים לסנקציות אמריקאיות - את הגישה לחלק מהשירותים שלה, ובפרט שירותי פרימיום בתשלום. היופי של קוד פתוח הוא שמדובר בקונספט חוצה גבולות, שמעבר ליישומים הטכנולוגיים שלו הוא לא פעם גם כלי לקירוב בין אנשים מקצוות מנוגדים. חבל שהוא הופך עכשיו לכלי פוליטי.
