אמיתי? גוגל השיקה טכנולוגיה לזיהוי צילומים ותמונות שנוצרו בידי AI
אמיתי? גוגל השיקה טכנולוגיה לזיהוי צילומים ותמונות שנוצרו בידי AI
הפיצ'ר החדש של ענקית הטכנולוגיה שנכנסה לאחרונה למרוץ הבינה המלאכותית נקרא SynthID ומטמיע חותמות מים בלתי נראות בתוך תמונות שנוצרו על ידי Imagen, כלי ה-AI של גוגל. בנוסף, הוא מזהיר האם תמונות שהגיעו ממקור חיצוני עשויות להיות "מטופלות"
בניסיון למנוע הפצה של דיס-אינפורמציה, גוגל חשפה היום חותמת מים קבועה ובלתי נראית שנועדה לסמן תמונות שיוצרו בידי AI ככאלה. הטכנולוגיה, שנקראת SynthID, מטמיעה את חותמת המים ישירות אל תוך התמונות שנוצרו בידי הכלי Imagen של גוגל, במאפשר להפוך טקסט לתמונה באמצעות AI ג'נרטיבי. החותמת נשמרת גם אם נעשים בתמנה שינויים כמו שילוב פילטרים או צבעים אחרים.
הכלי יכול גם לסרוק תמונות חיצוניות ולציין האם יש סיכוי שהיא נוצרה על ידי Imagen על פי שלוש רמות של סבירות: כלי AI זוהה, לא זוהה וייתכן שזוהה. הטכנולוגיה אמנם לא מושלמת, אבל לפי מה שטוענת גוגל בבלוג שלה, "המבחנים הפנימיים שנערכו לה מראים שהיא מדייקת לגבי תמונות רגילות רבות, כמו גם לגבי מניפולציות שונות שנעשות בהן".
גרסת הבטא של SynthID זמינה כעת לכמ לקוחות של Vertex AI - פלטפורמת ה-AI הג'נרטיבי של גוגל המיועדת למפתחים. על פי החברה, הכלי החדש שנוצר בידי חטיבת DeepMind שלה בשיתוך עם ענן גוגל "ימשיך להתפתח וייתכן שאך יורחב לשירותים אחרים של גוגל ולחברות מצד שלישי.
תצלומי דיפ-םייק ותצלומים ערוכים, כמו גם סרטוני וידאו כאלה, הפכו לריאליסטיים במיוחד לאחרונה וחברות טכנולוגיה רבות מנסות למצוא דרך מהימנה לזהות תוכן כזה, שנעשו בו מניפולציות. בחודשים האחרונים הופצו צילום AI של האפיפיור פרנסיס כשהוא לובש, כביכול, ג'קט תפוח, וצילום AI של נשיא ארה"ב לשעבר דונלד טראמפ כשהוא נעצר, כיבכול. שניהם הפכו לוויראליים זמן רב לפני שהתגלה שהם פייק.
ורה ג'ובורה, סגנית נשיא בנציבות האירופית, קראה לאחרונה לביצוע חיתום בקוד של האיחוד האירופי של פוסטים וצילומים שנוצרו על ידי AI, ופנתה בעניין לענקיות טק כמו גוגל, מטא, מיקרוסופט וטיקטוק. "אנחנו כבר לא יכולים לדעת מההי המציאות", אמרה. "ואנחנו גם לא יכולים לדעת כיצד חברות מזהות תוכן כזה, אם בכלל".
ההכרזה על SynthID מצרפת את גוגל למועדון הולך וגדל של סטארט-אפים ושל חברות ביג-טק שמנסות למצוא פתרונות לנושא. גם מהחברות הללו, ביניהן Truepic ו-Reality Defender מוקדשות אך ורק לכך. "הקואליציה למען תוכן מוקרי ואותנטי (C2PA) - תאגיד הנתמך בידי אדובי - מוביל עד כה את מאמצי החיתום הדיגיטלי, כשלאחרונה, כאמור, גם גוגל מציגה את גישתה לנושא.
במאי האחרון הודיעה החברה על פיצ'ר בשם About this image המאפשר למשתמשים לראות מתי בדיוק התמונה נכנסה לאינדקס של גוגל - כלומר, באיזה אתר או פלטפורמה היא הופיעה לראשונה. בנוסף, הכריזה גוגל כי כל צילום שנוצר בידי AI על ידיה ילווה בקובץ שיאפשר למשתמשים להבין את הקונטקסט שלו, דהיינו האם הוא נוצר בידי אתר או פלטפורמה כלשהם.
העניין הוא שטנכולוגית הבינה המלאכותית מתפתחת מהר יותר מהיכולת של בני האדם לעקוב אחריה ולכן לא ממש ברור האם הפתרונות הטכניים האלה יהיו יעילים לטיפול בביעה. חברת OpenAI, שפיתחה את מנועי ה-AI הג'נריטיביים שכבשו את העולם - דאל אי ו-ChatGPT - הודתה מוקדם יותר השנה כי הניסיונות שלה לזהות טקסטים שנכתבו בידי AI, להבדיל מזיהוי צילומים כאלה, "אינה מושלמת" והזהירה שכדאי להיות חשדנים לגבי הממצאים של מערכות כאלה.
