דו"ח טכנולוגי
פרצופים מזויפים: דוגמנים שנוצרו בטכנולוגיית דיפ פייק נמכרים לכל דורש
החשש הגדול מפני כניסת הטכנולוגיה החדשנית הזו לשוק הוא מפני יצירת הונאות חדשות, אך לא רק, גם נושא הגיוון ייפגע אם לא יצטרכו לשלב בני אדם מרקעים שונים בפרסומים; כצפוי, טראמפ החל ללכלך על אפל אך טים קוק לא מתרגש וה-NSA חשפה פרצה בווינדוס
לאחרונה עסקתי כאן בהבטים חיוביים של התפשטות הדיפ פייק, אבל מכיוון שהעיתונות היא שלילית באופיה נראה זה רק נכון לאזן את התמונה עם כמה הבטים מפחידים. ואלו מגיעים, איך לא, באדיבות הזרז האולטימטיבי לכל תופעה, טובה או רעה – כסף. או, ליתר דיוק, מודל עסקי. עד עתה, החשש העיקרי בכל הנוגע לדיפ פייק היה משימוש לרעה על ידי גורמים אינטרסנטיים לצורך קידום מטרות פוליטיות זדוניות כאלו ואחרות – השמצת מועמדים יריבים, קידום או פגיעה מבחוץ של פוליטיקאים במדינה זרה וכו'. אבל כתבה שהתפרסמה בשבוע שעבר בוושינגטון פוסט מעלה שבזמן שהעולם ממתין לראות האם ואיך רוסיה תשתמש בפייסבוק כדי לשבש מערכות בחירות, יזמים עצמאיים לקחו את הטכנולוגיה והחלו לייצר באמצעותה הכנסות, באופן שמשנה כבר עכשיו את תפיסת המציאות המקוונת שלנו.
אם אפשר לייצר דמויות מזויפות - למה לטרוח לגוון באמת? צילום: שאטרסטוק אחת הסוגיות המרכזיות בעולם התעסוקה, התקשורת והפרסום הוא גיוון מגדרי ואתני. חברות סופגות פעמים רבות ביקורת על העדר נוכחות מספקת של נשים ומיעוטים בכוח העבודה שלהן, בתפקידים בכירים, בפרסומות, ובמשדרי חדשות. ברירת המחדל של פרצופים לבנים בלבד זוכה לבוז, וחברות עושות מאמצים ניכרים על מנת להימנע מכך. ויש שתי דרכים מרכזיות לעשות זאת. הראשונה, להשקיע משאבים ניכרים באיתור עובדים לחברה או דוגמנים לפרסומות שמייצגים נאמנה את כל גווני המדינה הרלוונטית – מהלך שדורש זמן, רצון ותשומת לב. השנייה, לעשות בכאילו, באפס זמן וכלום כסף, ועדיין לקצור את מרבית היתרונות של העבודה הקשה. וזו הנקודה שבה מגיעות חברות הדיפ פייק הצעירות.
לפי הוושינגטון פוסט, חברות אלו מייצרות ומשווקות תמונות אנשים שנוצרו בכלי בינה מלאכותית, ושמעולם לא היו קיימים, על מנת לאפשר למותגים להגדיל את הגיוון האתני בפרסומות שלהם ללא הצורך המעצבן לאתר דוגמנים ודוגמניות אמיתיים ולשלם להם. חברת אחת מקדמת את התמונות שלה לשימוש בחוברות שיווקיות ובין לקוחותיה נמנית אפליקציית דייטיניג שמתכוונת לשלב את התמונה בצ'טבוט. חברה אחרת לא מסתפקת בתמונות ראש, ולדבריה מסוגלת לספק תמונות גוף מלאות של אנשים מזויפים.
פרצוף בהזמנה צילום: Nvidia
כך, למשל, חברת Icons8 הארגנטינאית מציעה "דוגמים מגוונים מבוססי בינה מלאכותית לפי דרישה", ומאפשרת ללקחות ליצור אנשים על סמך משתנים כמו גיל, מוצא אתני, מגדר, צבע עיניים, אורך שיער ואפילו רגש (אושר, הפתעה, נייטרלי). המוצר משווק במפורש לשימוש בחומרים שיווקיים או להדגמת תרחישים כמו "מצבים מביכים" ו"הליכים פליליים", ולדברי החברה מסייע ללקוחות להגדיל את הגיוון תוך שימוש ברקע אתני מגוון בפרויקטים של החברה.
מייסד Icons8, איוון בראון, אמר שלחברה יש נכון להיום שלוש לקוחות: אוניברסיטה אמריקאית, אפליקציית דייטינג וחברת כוח אדם. מערכת ייצור הפנים עדיין לא מושלמת, ורבים מהפנים שנוצרים באמצעותה מעוותים ולא אנושיים בעליל, מה שמצריך מהחברה לבצע סינון ידני של התוצרים ולבחור רק את התמונות המוצלחות. אבל מדובר בשלב ביניים, וככל שלמערכת יוזנו יותר דוגמאות וככל שהיא תלמד אילו תוצרים מקובלים ואילו לא, כך ישתפרו הביצועים שלה.
החששות מכניסת הטכנולוגיה לשלב המסחרי מגוונים וכוללים יצירת הונאות חדשות ומתוחכמות, כמו גורמים רעים שירכשו את התמונות על מנת להפעיל מערך התחזות נרחב ומרובה דמויות, ופגיעה נוספת באמון המקוון. "הטכנולוגיה מדגימה עד כמה קטן הכוח והידע של המשתמשים בכל הנוגע למציאות המקוונת שהם רואים", אמרה לוושינגטון פוסט אלנה זיידה, חוקרת בינה מלאכותית, משפט ומדיניות באוניברסיטת קליפורניה בלוס אנג'לס. "אין מציאות אובייקטיבית להשוות מולה את התמונות האלו. אין לנו תגובה מולדת או נרכשת איך לזהות מה אמיתי ומה לא. זה מתיש".
אבל השימוש המסחרי שנעשה בטכנולוגיה מעלה חשש מסוג חדש: החלפת מאמצי גיוון אמיתיים בפייק גיוון. סוגיית הגיוון, במיוחד בעולם הפרסום, הוא בעיה מהותית. לאורך רוב ההיסטוריה של תעשיית הפרסום המודרנית הודרו אנשים שאינם לבנים בהירי עיניים ושיער מקמפיינים פרסומיים שפנו לאוכלוסייה הכללית, ואם כבר שולבו היה זה רק בגטאות של מוצרים ומגזינים שמיועדים למגזר שלהם (וגם שם, לא חסרה הדרה: אפילו מגזינים שיועדו לאוכלוסייה אפרו-אמריקאית, כמו Ebony, נהגו להציג דוגמנים ודוגמניות עם שיער חלק ועור בהיר יחסית לפחות עד שנות ה-60).
כל צבעי הפנים בהזמנה מיוחדת בשנים האחרונות, עם התגברות המודעות לנושא, החלו מותגים לשלבים דוגמנים מגוונים יותר בקמפיינים שלהם. אבל עליית השימוש המסחרי בדיפ פייק יכולה לעצור את התהליך. במקום דוגמנים מרקעים אתניים שונים, רק אלגוריתם בינה מלאכותית שיוצר את הרושם שנעשה שימוש בדוגמנים שכאלו. במקום אופציות תעסוקה מגוונות יותר לדוגמנים ודוגמניות לא לבנים, מחשב שיחליף אותם בזמן שהם נשארים בבית (משום מה, יש לי הרגשה שדוגמנים לבנים יפגעו פחות).
במקביל, השימוש המסחרי בדיפ פייק יקל על גופים ליצור פרסומים שמייצרים רושם של גיוון מגדרי במקום שבו הוא לא קיים. קולג', למשל, לא יצטרך להתאמץ לאתר סטודנטים שחורים או לטינים על מנת לשלב בתמונות באתר ובחוברות השיווקיות שנשלחות למועמדים – הוא יוכל פשוט לתכנת אותם לתוך התמונות, ואם הדבר יתבצע במומחיות גדולה מספיק אף אחד לא ישים לב. ואם המודל העסקי של החברות האלו יתפוס, יהיה קשה מאוד לעצור את התופעה. זה דבר אחד להתמודד עם מספר מצומצם של גופים שעושים שימוש בדיפ פייק למטרות מוגבלות, לרוב פוליטיות או מדיניות. זה דבר אחר לגמרי לזהות ולבלום שימוש מצד מאות או אלפי חברות שמשלבות את הטכנולוגית למטרות עיסקיות, פרסומיות או תדמיתיות.
קצרצרים
1. הערכתי אתמול שאפל נמצאת בפתח עימות מלוכלכך עם דונלד טראמפ, על רקע סירובה לסייע ל-FBI לפרוץ לאייפונים של מחבל שביצע פיגוע ירי, ואכן טראמפ לא אכזב. "אנחנו עוזרים לאפל כל הזמן בסחר ובכל כך הרבה נושאים אחרים, ובכל זאת הם מסרבים לפתוח טלפונים של רוצחים, סוחרי סמים וגורמים אלימים אחרים", הוא כתב בטוויטר. "הם יצטרכו לצעוד קדימה ולעזור למדינה הנהדרת שלנו עכשיו!". מעבר לאיום המרומז, עולה מדברי טראמפ שהסירוב של אפל לא מוגבל למקרה הנוכחי ושהיו עוד סירובים מסוג זה בעבר. מצד שני, ניסיון העבר מלמד שייתכן שהוא סתם מקשקש.
מתקפת הציוצים של דונלד טראמפ על אפל החלה צילום: איי אף פי, רויטרס 2. ואפל, כך נראה, לא מתרגשת בינתיים. לפי דיווח של הניו יורק טיימס, החברה נערכת לקרב משפטי עם משרד המשפטים האמריקאי והמנכ"ל, טים קוק, כבר החל לגייס יועצים בכירים. בנוסף, מקורות בחברה תוהים האם משרד המשפטים יצא למתקפה מהר מדי, לפני שמיצה לחלוטין את הניסיונות לפרוץ למכשיר עם כלי פריצה של חברות אחרות. האייפונים של המחבל הם מדגמים ישנים יחסית, 5 ו-7 פלוס, ולכן יכולים להיות חשופים לחדירה באמצעים שנחסמו בעדכונים מתקדמים יותר למערכת ההפעלה.
3. ה-NSA, הסוכנות לביטחון לאומי של ארה"ב שמאז חשיפת מסמכי סנודן מזוהה יותר מכל עם הפעלת מערך ריגול עולמי מקוון ומתוחכם, נקטה השבוע בצעד יוצא דופן, והתריעה בפני מיקרוסופט על פרצה מסוכנת בווינדוס 10, שיכולה בין השאר לאפשר לתוקפים לפענח תקשורת מוצפנת. המהלך יוצא דופן מכיוון שהסוכנות לרוב מאתרת ומשתמשת בפרצות כאלו למטרותיה שלה, ולא נוהגת לפעול לסגירתן. העובדה שבחרה להודיע עליה למיקרוסופט מעלה חשד למניע נסתר.
