שוברת קודיםקישורים בלי שום קשר: הבאר הרעילה של עולם החיפוש
שוברת קודים
קישורים בלי שום קשר: הבאר הרעילה של עולם החיפוש
פגיעה בתוצאות החיפוש באינטרנט לצורך החדרת נוזקות או העברת מסרים פוליטיים עלתה שלב עם כניסת כלי AI גנרטיבי. הבטחת OpenAI להשיק מנוע חיפוש משלה עלולה לפגוע בשוק החיפוש עוד יותר, עם הרעלה שמוטמעת בתוך האלגוריתם של החברה
מתקפת החתולים הבנגלים פשתה בשבועות האחרונים בקרב משתמשים אוסטרלים. מי שפנה לאינטרנט עם השאלה המשפטית הייחודית "האם חתולים בנגלים חוקיים באוסטרליה?" הובל לאתר שנראה לגיטימי ובו קישור ממולכד. הגולש התמים התבקש מיד להוריד ארכיון בצורת קובץ zip, שבו למרבה הצער השתילו האקרים תוכנה זדונית שמאפשרת להם להשתלט על מכשיר הגולש, לתפוס אותו ואז לדרוש כופר עבור שחרורו. צוות חוקרים מחברת הסייבר הבריטית Sophos, שגילה את ההונאה ופרסם את ממצאיה לאחרונה, מעריך כי השיטה שבה השתמשו לפתות גולשים, וכללה שימוש במונחים משפטיים, נועדה למשוך דווקא תאגידים.
יש להודות כי להאקרים הומור מסוים. חתול בנגלי הוא חתול ביתי לחלוטין שמראהו החיצוני הוא כשל חתול פרא. ההונאה הוויזואלית של מפתחי הגזע לא שונה מההונאה הוויזואלית של האקרים, פעם לשם שעשוע, פעם לשם פגיעה. יש גם מה לומר על הבחירה של האקרים להונות באמצעות חתולים, בחירה לא מקרית בהחלט בשל הקשר המיוחד בין חתולים לאינטרנט, האחרון נחשב לקמע הלא רשמי של הראשון, והשניים מקיימים קשר ארוך שנים - מחתול הניאון לגראמפי קט, שתועד בספרים וזכה למגוון תיאוריות למוצאו. "האינטרנט מלא בחתולים, ובמקרה הזה – אתרי חתולים מזויפים", כתבו ב־Sophos והזהירו משתמשים מהחיפושים הנישתיים במיוחד.
בשפה המקצועית השיטה הזו של ההאקרים מכונה "הרעלת SEO" או "הרעלת אופטימיזציה של מנועי חיפוש". זוהי אסטרטגיה זדונית אלגנטית יותר מאשר משלוח הודעות ספאם עם לינקים מזויפים כמו "החבילה שלך במכס, לחץ על הלינק לשחרורה המהיר", או קישורים ממומנים באתרים שאיכותם פחותה.
כדי להרעיל תוצאות חיפוש, ולגרום לאתרים התרמיתיים שלהם לככב בראש תוצאות החיפוש, אותם שחקנים נוקטים שלל אסטרטגיות. בין היתר הם רושמים שמות דומיינים דומים לאתרים הלגיטימיים כדי לנצל טעויות של משתמשים, ומשלבים מילות מפתח או רשתות קישורים פרטיות. המטרה בסופו של דבר היא לתמרן את תוצאות מנועי החיפוש ולהגביר את הנראות של אתרי האינטרנט הזדוניים שלהם.
השיטה שואפת להערים על אלגוריתמים של חברות כמו גוגל ומיקרוסופט, לנצל את התנהגות המשתמשים ולפגוע באלו שמבצעים חיפוש נישתי במיוחד, משום שדווקא הנישתיות מביאה משתמשים להסיר מגננות, שהרי "מה הסיכוי למתקפת פישינג סביב נושא שולי?" יכול לחשוב לעצמו משתמש אוסטרלי שרוצה לבדוק אם מותר לו לגדל בבית חתול בנגלי.
לא תמיד המטרה היא להשתיל במחשב תוכנה זדונית. הנה למשל המקרה של אתר הצפייה הישירה הישראלי סדרות (Sdarot), שנמצא במאבק ארוך שנים מול חברת זיר"ה על זכויות יוצרים. מאבק זה הביא את מנהלי האתר לשנות את שם הדומיין תדיר, פרקטיקה ידועה אצל המשתמשים האדוקים. היום מי שיחפש קישור עובד לאתר חדש יגיע למגוון אתרים בעלי אותה שפה ויזואלית מוכרת של אתר סדרות, שגם משלבים טקסטים רבים בעברית על צפייה ישירה ללא פרסומות, כמות הסדרות באתר וכיצד להירשם או להוריד סרטים. אבל כל העושר הוויזואלי הזה שנועד להתל במנוע החיפוש מסתיר בין לבין את מטרתו האמיתית – קידום מטרה פלסטינית בקרב משתמשים ישראלים. בין הטקסים יראה הגולש סרטונים על המצב ההומניטרי בעזה ועל ה"שקרים הישראליים". בפינות האתרים אולי גם יופיע דגל פלסטין עם הכיתוב "אני עומד לצד החפים מפשע".
שיטת הרעלה זו, המכונה "סתימת מילות מפתח", כוללת דחיסת מילות מפתח לא רלבנטיות או מוגזמות אל תוכן של דף אינטרנט, שמאפשר לאקטיביסטים לדרג את העמוד גבוה יותר בתוצאות החיפוש.
הרעלת תוצאות החיפוש היא בעיה מתמשכת שעדיין ממשיכה להתל במיליוני משתמשים ברחבי העולם. אבל עם כניסתם של כלי בינה מלאכותית גנרטיבית כמו ChatGPT היא הפכה לקטסטרופה ממש. כלים אלו מסייעים לבצע אוטומציה לתהליך, לייעל את התוכן ולדייק את הסגנון והאיכות שלו בקלות. הבוטים גם מסייעים למשתמשים זדוניים להגדיל משמעותית את התפוקה שלהם, לסייע בניתוח שאילתות של מנועי חיפוש או לזהות תחומי עניין או דפוסי חיפוש של משתמשים כדי להגדיל את החשיפה של האתרים התרמיתיים שלהם.
ברוח "הרצחת וגם ירשת", החברות שבנו את כלי הבינה המלאכותית הגנרטיבית, שאחראים על הרעלת האינטרנט, הרעיל ממילא, ועל שחיקת אמינות מנועי החיפוש, השחוקה ממילא, מבקשים כעת גם להחליף את מנועי החיפוש. למרבה הצער, לכלים אלו סט בעיות ייחודי משלהם, הרעלה שהיא גרועה לא פחות, אולי אפילו יותר.
האינטרנט הוא מקום של הונאה ורמאות. לא רק במובנים האנושיים ביותר של המאמץ להשיג מאנשים זרים דברים כמו "עוקץ הנסיך הניגרי", אלא כמרחב שבו מתקיים המאמץ השיטתי לחשוף אותך לדברים שלא רצית לראות – אם זה אתרים שלא באמת רצית לגלוש אליהם או מודעות שמסתירות לך את מה שאתה רוצה לראות.
אבל הבעיות שעולות סביב חיפוש בנוגע לאינטרנט חשובות יותר מהיתר כמו מודעה קופצת או הודעת ספאם. זאת משום שחיפוש אחראי היום לעצב ולארגן את הידע בעולם. רגישות גבוהה זו הופכת חריפה במיוחד כשהיא נשלטת על ידי חברה למטרות רווח. זו הסיבה שכל שנה שומעים על יוזמה חדשה, למטרות רווח או לא, לאתגר את הדומיננטיות של החברה ששולטת בחיפוש – גוגל, שכל עסקיה מאורגנים סביב פעילות החיפוש, תעשייה עתירת מזומנים, שמייצרת לה עשרות מיליארדי דולרים ברווחים כל שנה.
הניסיון לאתגר את הדומיננטיות הזו נכשל עד כה כליל, וכעת נראה כי חברה אחת עשויה להצליח – OpenAI. החברה, שאחראית על ChatGPT, הבטיחה בחודשים האחרונים שתשיק מנוע חיפוש משל עצמה, מבוסס בינה מלאכותית גנרטיבית, והעולם עצר את נשימתו. OpenAI תעשה זאת תוך שימוש בבוט הפופולרי שלה, שכבר היום נהנה ממאות מיליוני משתמשים יומיים.
2 צפייה בגלריה
סם אלטמן, מנכ"ל OpenAI. האם השם "דיוויד מאייר" הוכנס לרשימה שחורה מסוימת על ידי OpenAI?
(צילום: SeongJoon Cho | Bloomberg)
ההבטחה שבדרך לא צפויה לשנות דבר בעולמות התרמית של שוק החיפוש, שצפוי לסבול מהרעלה אולי מסוכנת יותר – כזו שמוטמעת אל תוך האלגוריתם של החברה, ולא רק מנסה להשפיע עליו. במקרה אחד מהשבוע האחרון התגלה כי ChatGPT מסיבה לא ברורה לגמרי מסרב להתמודד עם שאילתות הנוגעות לשם David Mayer. שלל ניסיונות מרחבי האינטרנט לגרום לצ'אט לכתוב את השם נתקל בהודעות שגיאה. כמה משתמשים שניסו להבין מ־ChatGPT עצמו מדוע הוא לא מסוגל להתמודד עם השם הזה קיבלו את התשובה כי ייתכן שקיים "מסנן או כלל ספציפיים במערכת שחוסמים עיבוד של שמות מסוימים".
האם השם "דיוויד מאייר" הוכנס לרשימה שחורה מסוימת על ידי OpenAI? לא ברור. מה שברור הוא ששימוש ב־ChatGPT כמנוע חיפוש יכול להיות מושפע ממניפולציה של החברה עצמה. זו לא הרעלת חיפוש, אלא הרעלת המודל עצמו. התחלה לא טובה למי שמבקש להציע דרך חדשה לגילוי מידע.
