כנס AIמנכ"ל Clarity: "צריך יכולת זיהוי לדיפ פייק"
כנס AI
מנכ"ל Clarity: "צריך יכולת זיהוי לדיפ פייק"
מיכאל מטיאס, מייסד שותף ומנכ"ל Clarity, הסביר בכנס AI של כלכליסט כי ארגונים יצטרכו ללמוד איך להתגונן מהתקפות דיפ פייק שיכולות להוביל להונאות
"האיום של דיפ פייק שנוצר באמצעות מערכות AI גדל, אבל היכולות לזהות את התוצרים הללו עדיין לא מספיק טובות" — כך אמר מיכאל מטיאס, מייסד שותף ומנכ"ל Clarity, בכנס ה־AI של "כלכליסט" שנערך היום בתל אביב.
מטיאס פתח את הרצאתו בהצגת שני סרטוני וידיאו, אחד אמיתי ואחד דיפ פייק, וביקש מהקהל לזהות מי הוא מה. התוצאה לא היתה מרשימה. אבל, לדבריו, גם אי אפשר להסתמך על אלגוריתמים לזיהוי סרטונים דיפ פייק אלו. "העולם מתחיל לפתח פתרונות לזיהוי דיפ פייק באמצעות אלגוריתמיקה", הוא אמר. "הרצנו את הכלים המתקדמים ביותר על שני הסרטונים, והם הניחו שהם אמיתיים. בפועל רק אחד מהם היה אמיתי. זה צריך להטריד אותנו מכמה סיבות. ראשית, כי האלגוריתמיקה לא מספיק טובה כדי לזהות. ושנית, כי בני אדם לא יודעים לזהות מתי משהו הוא פייק, ויותר גרוע מאמינים שמשהו אמיתי הוא אולי פייק".
מטיאס סיפר כי "דיפ פייק זו תעשייה סופר משגשגת. אפשר לקחת את זה לכיוונים של רפואה, חינוך ובידור, אבל יש לזה גם צד אפל. במקביל, האקדמיה דוחפת קדימה את המחקר, יש תמיכה אדירה במחקרים, ולכן לא מפתיע שיורופול מניחים שב־2026 כ־90% מהתוכן ברשת יהיה תוצר של AI. מדובר על סרטונים ביוטיוב ובמדיה חברתית, אבל גם במקומות כמו זום ושיחות וידיאו, שם נוכל לשוחח עם דמויות AI.
הוא הדגיש כמה התפתחות הדיפ פייקים תשפיע על עולמות הסייבר ואף סיפר על מקרה של נסיון עוקץ: "יש לזה השלכות אדירות בעולם הסייבר. ארגונים יצטרכו ללמוד איך להתגונן מהתקפות דיפ פייק, שיכולות להביא לחדירה לרשת הפנימית או להונאות אחרות. רק בתחילת השנה היה מקרה שחברה איבדה 25 מיליון דולר אחרי שאחד העובדים לזום עם מנהלים בכירים שהיו כולם דיפ פייק ובסיום השיחה העביר את הכסף שביקשו לחשבון של התוקף".
מטיאס סיכם את דבריו ואמר שעדיין יש עוד עבודה רבה כדי לזהות דיפ פייקים וכי אחת הבעיות אחרי 7 באוקטובר היתה לברור סרטונים. "כדי לייצר פתרונות צריך יכולות זיהוי מאוד גבוהות. אבל זה לא עוזר לעשות את זה בדיעבד כי הרבה פעמים ההתקפה כבר התרחשה והנזק נגרם. צריך חומת אש שתוכל לזהות בזמן אמת שאחת הזהויות בשיחה היא לא אמיתית. לצד זה יש את הצד של דיסאינפורמציה מבוססת AI. ב־7 באוקטובר עבדנו מול משרד הביטחון על כל המדיה שמגיעה כדי להבין מה אמיתי ומה לא. היה גל של מיסאנפורמציה בימים הראשונים, ועשינו עבודה מרוכזת לאימות הסרטונים הנוראיים שהביאו מידע על מה שקורה במערכה".
