ריאיון"אין טכנולוגיה שתמנע פייק ניוז שמקורו בבינה מלאכותית"
ריאיון
"אין טכנולוגיה שתמנע פייק ניוז שמקורו בבינה מלאכותית"
"הדרך היחידה להילחם בדיפ פייק היא חינוך"; "למרות הרעש סביב AI, המציאות טרם השתנתה"; "הכסף הרב בתעשיית התוכן פוגם ביצירתיות"; זאב פרבמן, מייסד ומנכ"ל חברת לייטריקס, סבור שבסוף בינה מלאכותית תשפר את חיינו, ומתעקש שלמרות הפיטורים בחברה שלו, מצבה איתן
זאב פרבמן, מנכ"ל לייטריקס, בקיץ האחרון שודרו ביורוספורט בעת האולימפיאדה פרסומות שנוצרו ב־LTX Studio, מערכת הבינה המלאכותית הגנרטיבית (GenAI) של לייטריקס, שמאפשרת ליצור סרטים על בסיס פקודות טקסט בלבד. יש עדיין סיבה לצלם פרסומות כמו פעם?
"מאז 2022, כשמודלי GenAI הגיעו לבגרות מסוימת, אנחנו חווים פרדיגמה חדשה שנוגסת יותר ויותר מהפרדיגמה הישנה: מי שמצלם פרסומות יכול לקחת תמיד מצלמה לצלם, אבל הוא יכול לבקש מאמני תלת־ממד לעשות דברים שקצת קשה לצלם, או ללכת למערכות מבוססות GenAI. בפועל, עוד לא הגענו למצב שכל מה שאתה יכול לעשות עם מצלמה ביד אתה יכול לעשות ב־GenAI. אבל יש יתרונות הגדולים למודל החדש: הוא יותר זול ויותר מהיר. אבל גם לפרדיגמה הישנה יש מקום חשוב. אם אתה רוצה שליטה מושלמת באיך הדברים זזים, עדיף להשתמש בכלים של גרפיקה קלאסית".
על AI ככלי שישפיע בבחירות: "אנחנו כרגע בשפל של השפל: כל אחד מאמין במה שהוא רוצה. הבעיה היא לא ביכולת לייצר חומרים מומצאים, אלא ביכולת להבין שאלו חומרים מדומיינים"
אחד החששות כשמדברים על מודלי טקסט תמונה ולווידיאו זה שישתמשו בהם כדי ליצור פייק ניוז ודיפ־פייק, ואנחנו רואים דברים כאלו במערכת הבחירות בארה"ב. המערכת שלכם מגדילה את החשש לכך. מה המענה לזה?
"זה חשש מאוד מוצדק. אנחנו כרגע במצב שהוא השפל של השפל: כל אחד מאמין במה שהוא רוצה. הבעיה שלנו היא לא ביכולת של אדם לייצר חומרים כפרי דמיוננו, אלא להיות מסוגלים להבין שאלו חומרים מדומיינים. אני לא יודע איך לפתור את זה בלי חינוך, בלי שאנשים יבינו מה הכוח של המערכות האלה, מה הן מסוגלות לעשות. בלי דמוקרטיזציה של המערכות האלו זה לא עובד, כלומר צריך להגיע למצב שהכלים האלה יהיו זמינים לכולם. אולי אז אנשים יבינו שהם צריכים להיות מאוד ביקורתיים כלפי מה שהם רואים. יש דיון בנוגע לפתרון הבעיה באופן טכנולוגי. אבל רוב הפתרונות הטכנולוגים שאני ראיתי נראים לי כמו מס שפתיים".
אז לכם ולפלטפורמות אחרות אין מה לעשות ואין אחריות כדי למנוע הפצה של פייק?
"כרגע, תיאורטית, ל־OpenAI יש מה לעשות: לפני כמה שבועות הם חסמו האקרים איראנים שהשתמשו בפלטפורמה שלהם ליצירת פייק ניוז. אבל האקרים איראנים, מה הדבר הבא שהם הולכים לעשות? הם הולכים לקחת מודל GenAI שיכול לרוץ על מחשב אישי ולהשתמש בו. יש מודלים שאפשר להריץ על מעבדים גרפיים שעולים כמה אלפי דולרים בודדים. ואז OpenAI בכלל לא תהיה בתמונה. ואני לא רואה באיזו דרך טכנית חברות יוכלו לעצור את הדברים האלה. לכן אני חוזר לאותה נקודה: חשיפה של אנשים לכלים האלו היא הפתרון — אני לא רואה פתרון טכנולוגי כאן".
מה לגבי מערכות לזיהוי תכנים שנוצרו על ידי AI?
"בעיני זה לא כל כך יעבוד, כי בפועל זו הדרך שבה כבר אנחנו מאמנים AI. חלק מהדרכים לאמן מודל AI זה לקחת מערכת שיודעת לזהות AI ולהשתמש בה כדי לאמן את הדור הבא של המודל. נגיד שאתה מאמן מודל שיידע לזהות אם תמונה היא מהעולם האמיתי או AI. אז לכל היותר, אתה יכול להגיע למצב שיש לך כל הזמן מלחמה בלתי נגמרת בין המערכת המזהה למערכת הגנרטיבית. קשה לי לראות איך אתה שם קיר שה־AI לא יכול לעבור".
על השינוי שחוללה OpenAI: "לפני שנה סם אלטמן מייסד החברה ניבא נבואות זעם. בנוגע למציאות, ייקח לנו לא מעט זמן להטמיע את השינויים במוצרים בעולם האמיתי"
מאז שיצאו המודלים הגנרטיבים הראשונים מדברים על כך שהם יחליפו מעצבים גרפים, קופירייטרים, שחקנים, צלמים ועוד. איפה הנבואות האלה נמצאות ביחס למציאות?
"כבר כשיצא Dall־E2 בקיץ 2022, היה מאוד ברור שיתחיל הייפ גדול עם עלייה מטורפת בעניין, ואז ירידה מטורפת. משיא ההייפ של 2022 אנחנו כרגע כמעט בנקודת הקיצון ההפוכה: קראתי כתבה באתר The Information שטענה שבסוף כל מה ש־OpenAI עשתה זו מערכת שמאפשרת לילדים לרמות בשיעורי בית. זו קיצוניות הפוכה למצב מלפני שנה, שבו סם אלטמן, מייסד החברה, הסתובב בעולם וניבא נבואות זעם. בנוגע למציאות, היא לא כל כך השתנתה. למרות ההתפתחויות הטכנולוגיות, ייקח לנו לא מעט זמן להטמיע אותן במוצרים בעולם האמיתי. זה יכול לקחת בין 5 ל־10 שנים. זה כאילו נתנו לנו כור גרעיני, אבל בלי רשת חשמל מסביב".
"הצורך בתוכן ויזואלי רק גובר"
אז יהיו מקצועות שהמערכות האלו יחליפו?
"זה לכל הפחות ישנה את אופי המקצועות האלה. יש מקצועות שאנחנו כבר רואים סממנים שיש בהם ערך מאוד גדול ל־AI. כמו רפואה או פיננסים. יש מערכות AI שיכולות האבחון שלהן טובות מאלו של רופאי משפחה. או מערכות AI שיכולות לנהל פיננסים יותר טוב מחלק ממנהלי הכספים האנושיים".
ומערכות GenAI יוכלו להחליף מעצבים גרפים, פרסומאים וכו'?
"לאנושות יש טעם אינסופי בתוכן ויזואלי. נחשוב על עולמות וירטואליים, על המשחקים הכי גדולים בימינו כמו GTA. כמות האנשים שעובדת על GTA מאז שהוא הפך לעולם וירטואלי תלת־ממדי נסקה בצורה בלתי־רגילה. כיום, לייצר את ה־GTA הבא לוקח עשור. וכולם רוצים אינסוף משחקים כמו GTA. אז מערכותGenAI יעזרו לאנשים לייצר עולמות וירטואליים כאלה, וחברות גיימינג קטנות מאוד, בעתיד הלא רחוק, יוכלו להרים משחקים בסדר גודל של GTA. ומה חברות גדולות יעשו עם התקציבים שלהן זה כבר קשה לדמיין. אז אני לא בטוח מה תהיה הדינמיקה: אם יהיו פחות אנשים שעושים את אותה כמות תוכן, או אותה כמות של אנשים, או אפילו יותר, שייצרו כמות לא הגיונית של תוכן. עד עכשיו אנחנו בנינו כלים יותר ויותר חזקים, אבל מספר המעצבים הלך וגדל. וחלק מהעבודות יהיו גם יותר מעניינות. שמעתי על מעצב גרפי בחברת משחקי מחשב שבמשך שנתיים או שלוש השנים שבהן עבד שם הוא צייר דשא — זו היתה העבודה שלו. דברים כאלה ייעלמו, ואולי טוב שהם ייעלמו, כי אני לא חושב שיש מעצב שהולך ללמוד בבצלאל וחולם לצייר דשא למחייתו".
הביקוש לתוכן יגדל, אז יהיה צורך ביותר אנשים שיעשו דברים יותר יצירתיים ומתוחכמים.
"חלק מהבעיה כרגע בעולמות התוכן היא שתקציבי ענק מאוד פוגעים בחדשנות. קח לדוגמה את הוליווד. כמה סרטים של מארוול כבר אפשר לעשות? אני ראיתי את הסרטים האלה בהתחלה, אבל כעת זה פשוט נורא. אני מבין אותם שם, החבר'ה לא יכולים לקחת סיכונים. הם מקבלים תקציב של חצי מיליארד דולר לעשות סרט וכל השנה של האולפן תלויה בזה — אז ממחזרים את מה שעובד. בשנייה שאפשר יהיה ליצור עם תקציבים יותר קטנים תוכן באותה רמה, אתה תראה יותר חדשנות. GTA הבא יהיה 'רד־דד רידמפשיין 2' על סטרואידים. כי זו נוסחה שעובדת. רוב המשחקים שאני מסתכל עליהם ואומר 'וואו' מגיעים מחברות אינדי קטנות שמוכנות לקחת סיכונים. אז הגרפיקה אולי פח, אבל מנסים לחשוב ולחדש. התקווה שלי היא שכשהעלות תוכן תרד — ייקחו יותר סיכונים".
על פיתוחי וידיאו בלייטריקס: "בעבודה על LTX Studio נעזרנו בבמאי ארי פולמן. במבנה העלויות שלו הדהים אותי שהחלק היצירתי, שבו מעצבים פריימים מרכזיים, זה רק 10% מתקציב הסרט"
כי ברגע שאתה עושה דברים בזול אז אתה יכול להתנסות בלי לחשוש?
"כן. למשל בעבודה על LTX Studio נעזרנו בארי פולמן, הבמאי של 'ואלס עם באשיר'. אחד הדברים שעניין אותי זה מבנה העלויות שלו, כי יש פרויקטים שהוא לא מצליח להוציא לפועל בגלל עלויות, והדבר שהדהים אותי הוא שהחלק היצירתי, שבו אנימטורים עובדים איתו על עיצוב פריימים מרכזיים, זה 10% מהתקציב. שאר הדברים אתה שולח לסטודיו. זה דברים שעם הזמן AI יפתור, ואז אנחנו נהיה במצב שבעשירית תקציב תוכל לעשות את מה שאתה עושה כרגע ב־100% מהתקציב. אבל אז לאנשים יהיה תיאבון הרבה יותר גדול לדברים האלה".
"הבנו שאנחנו צריכים עובדים אחרים"
בוא נדבר קצת על לייטריקס. בקיץ פיטרתם 12% מכוח האדם — 70 עובדים. מה המצב בחברה כרגע? יש לה בכלל את היכולת הפיננסית להמשיך ולייצר חידושים ומוצרים חדשים כשאתם בכזה משבר שמפטרים חלק גדול מכוח העבודה?
"זה לא כזה משבר. אנחנו השנה גם צומחים בביזנס הקיים שלנו וגם לא סופרים כסף. זה חלק מהסיפור, ולכן ביצענו את הפיטורים, הבנו שסוג הדברים שאנחנו עובדים עליהם משתנה: אימון של מערכות AI עולה הרבה כסף, הרבה מיליוני דולרים. ברגע שאתה מבין שהעתיד שלך הוא לא רק במובייל ושאתה צריך להשקיע בתשתיות — אז האופי של אנשים שאתה צריך בחברה משתנה. תוך כדי הפיטורים המשכנו לגייס אנשים אחרים. זה לא שחסר לנו כסף לעבוד על הדברים שאנחנו רוצים, אלא שאנחנו פשוט מתחילים לעבוד על דברים אחרים. אם תסתכל במשרות הפנויות באתר שלנו, תראה ששמח שם".
אם נשווה את הטיימלין של מוצרי GenAI לזה של האייפון, שנחשף ב־2007, באיזה שלב אנחנו? אולי אנחנו בכלל רק ב־2006?
"זו אנלוגיה טובה. אבל התשובה קצת מורכבת. אם לא היה לנו AI שיודע לפתח קוד, אז הייתי אומר שהופיעה יכולת שצריך שנה־שנתיים ללמוד אותה, עוד שנה־שנתיים להתחיל לבנות מוצרים, ועוד שנה־שנתיים עד שמגיעים לבגרות מסוימת. אז בראייה הזאת, אם 2022 זה ה־2007 של AI, אז ארבע שנים אחרי זה, מתישהו ב־2026 אתה תתחיל לראות מוצרים שמתחילים להיות מעניינים ומגיעים לרמת בגרות מסוימת. אבל הקלף הלא צפוי, שאני לא יודע איך לתמחר אותו, זו עלייה בתפוקה, שיכולה להאיץ את הטיימליין. עם היד על הלב, רוב המוצרים שנבנו סביב AI עכשיו הם פשוט עטיפה דקה מעל המודלים עצמם. אני חושב שהשנה או בשנה הבאה יתחילו להופיע מוצרים קצת יותר גדולים, כמו LTX Studio. אני מכיר חבר'ה בתעשייה שעובדים על דברים בסדר גודל דומה. זה יתחיל להגיע".
לייטריקס - חברה לפיתוח כלים מבוססי בינה מלאכותית, לעיבוד והיוון של תמונות ווידיאו שהוקמה בשנת 2013. בשנת 2021 השלימה גיוס של 130 מיליון דולר לפי שווי של 1.8 מיליארד דולר. החברה מעסיקה 550 עובדים בישראל, ארה"ב ולונדון.
זאב פרבמן (45)
- גר בירושלים
- מייסד ומנכ"ל לייטריקס.
- ב־2021 השלימה החברה גיוס של 130 מיליון דולר, אך השנה פיטרה 12% מעובדיה, 70 עובדים
- שימש כחוקר במיקרוסופט ובאדובי
- דוקטורט במדעי המחשב מהאוניברסיטה העברית
- מתאמן בג'יו ג'יטסו ברזילאי יותר מ־15 שנה
