"הוסיפו דבק לרוטב הפיצה": התוצאות הלא הגיוניות של מאפיין ה-AI החדש של גוגל
"הוסיפו דבק לרוטב הפיצה": התוצאות הלא הגיוניות של מאפיין ה-AI החדש של גוגל
לפני שבועיים השיקה החברה את המאפיין AI Overview במנוע החיפוש שלה, והביקורות ביחס לתוצאות הולכות ונערמות; בין התשובות הלא מדויקות או לא הגיוניות שנמצאו: הנשיא לשעבר ברק אובמה הוא מוסלמי, בהייה בשמש היא בסך הכל דבר מומלץ (בעיקר אם אתם כהי עור) וכך גם אכילת סלע קטן מדי יום
פחות משבועיים מאז שהשיקה גוגל את מאפיין הבינה המלאכותית AI Overview במנוע החיפוש שלה, והביקורת הציבורית מצטברת לאחר ששאילתות העלו תוצאות לא הגיוניות או לא מדויקות. כך לפי כתבה ב-CNBC.
ה- AI Overview מראה סיכום מהיר של תשובות לשאלות חיפוש בחלק העליון של מנוע החיפוש של גוגל. לדוגמא, אם משתמש מחפש אחר הדרך הטובה ביותר לנקות בגדי עור, דף התוצאות עשוי להציג את המילים "AI Overview" בראש התוצאות, שנלקחו מהמידע שנאסף מרחבי הרשת.
אך משתמשי המדיה החברתית שיתפו צילומי מסך רבים שמראים כיצד כלי ה-AI נותן תשובות שגויות ושנויות במחלוקת. אחת הדוגמאות שהועלו למשל, הייתה תשובה לשאלה כמה נשיאים מוסלמים היו לארה"ב, ותגובת ה-AI לפיה היה נשיא אחד כזה, "ברק חוסיין אובמה". בעקבות חיפוש אחר "גבינה שאינה נדבקת לפיצה", המאפיין הציע להוסיף "שמינית כוס של דבק לא רעיל לרוטב", במה שנראה שנלקח מפוסט בן 11 מאפליקציית רדיט.
במקרה נוסף נשאל המאפיין "כמה זמן ניתן להסתכל בשמש לטובת הבריאות", והתשובה שהתקבלה היא ש"על פי WebMD, מדענים אומרים כי בהייה בשמש במשך 15-5 דקות, או עד 30 דקות אם יש לכם עור כהה, היא בד"כ בטוחה ומספקת את רוב היתרונות הבריאותיים".
ודוגמה נוספת: בתשובה לשאלה "כמה סלעים עלי לאכול מדי יום", התקבלה התשובה כי "לפי הגיאולוגים בברקלי, על אנשים לאכול לפחות סלע אחד קטן מדי יום", וזאת תוך פירוט הוויטמנים והיתרונות למערכת העיכול שיש במין תזונה זה.
כאשר השיקה גוגל את המאפיין באירוע Google I/O השנתי שלה, היא מסרה שהיא מתכננת להוסיף יכולות תכנון דמויות-סייעת, וזאת ישירות לתוצאות החיפוש שלה. היא הסבירה שמשתמשים יוכלו לחפש אחר משהו כמו "תוכנית הזנה לשלושה ימים עבור קבוצה, שקל להכין", ואז יקבלו מגוון אפשרויות מרחבי הרשת.
"רוב סקירות ה-AI מספקות מידע איכותי, עם לינקים לחיפושים מעמיקים יותר ברשת. רבות מהדוגמאות שראינו היו לשאלות בלתי רגילות, וכן היו כאלה ששונו ולא הצלחנו לשחזר בעצמנו", כך אמר דובר מטעם גוגל. הוא הוסיף שהמאפיין עבר בדיקות נרחבות לפני השקתו ושהחברה נוקטת "בפעולה מהירה היכן שראוי על פי מדיניות התוכן שלה".
