רק בשבוע שעבר השיקה גוגל את פיצ'ר ה-AI Overviews החדש שלה בארצות הברית, ומשתמשים רבים כבר קוראים לחברה להסיר אותו. הפיצ'ר אמור לשפר את תוצאות החיפוש באמצעות תגובות מבוססות בינה מלאכותית, ובכך לחסוך למשתמשים את הצורך ללחוץ על תוצאות נוספות. אך בפועל, התוצאות מניבות תשובות מוזרות, מצחיקות ואף מסוכנות.

המשתמש טים קק צייץ דוגמה שבה חיפש "כמה אבנים צריך לאכול ביום?" וה-AI הציג תשובה שממליצה לאכול אבן אחת ביום לפי גיאולוגים מאוניברסיטת UC Berkeley. למרבה האירוניה, מקור התשובה היה מאמר סאטירי של The Onion, אתר חדשות הומוריסטי שמפרסם כתבות מפוברקות לצורך בידור, ושקק הוא המייסד שלו.

במקרים נוספים, בתשובה לשאלה "איך להדביק גבינה לפיצה?" הפיצ'ר החדש של גוגל המליץ להוסיף "1/8 כוס דבק לא רעיל" לרוטב, מתוך עצה שמקורה בתגובה ברדיט. במקרה חמור יותר, בתשובה לחיפוש "אני מרגיש דיכאון", הפיצ'ר הציע למשתמש להתאבד. הפיצ'ר גם הסביר למשתמשים אחרים שמותר להשאיר כלב ברכב חם, בהתבסס על שיר של הביטלס, ובתשובה אחרת טען שכלב שיחק ב-NBA.
 

הסיבה לתקלה של הפיצ'ר החשש נעוצה בכך שמודל ה-AI של גוגל מסתמך על סיכום התוכן מהתוצאות הראשונות של החיפוש, אך התוצאות האלו לא תמיד מדויקות או אמינות. מנוע החיפוש נותן עדיפות לאתרים פופולריים ולכאלו שמותאמים היטב לאלגוריתמים של קידום אתרים (SEO), מבלי לנתח את אמינות המידע, מה שעלול להוביל לכך שגם תכנים לא מהימנים יופיעו בראש התוצאות.

ברשת עלו ביקורות מצד משתמשים ומומחי חיפוש וקידום אתרים שקראו לגוגל לבחון מחדש את הפיצ'ר ולהסירו עד לביצוע בדיקות נוספות. לדבריהם, הנזק שעלול להיגרם לתדמית החברה ולמשתמשים כתוצאה מייעוץ שגוי עלול להיות גדול.

תוצאות החיפוש השגויות מציגות את הסכנה הפוטנציאלית בשימוש בבינה מלאכותית לצרכים אישיים, כיוון שלא כל משתמש עלול להבחין בטעות וליישם את העצות המסוכנות, שלא לדבר על החיפוש אחר מידע רפואי או פיננסי שעלול להניב תוצאות מוטעות ומסכנות חיים.

עוד ב-

Truecaller ומיקרוסופט מציגות: מזכירה אישית שתחליף אתכם

לכתבה המלאה

מגוגל נמסר כי "רוב מוחלט של התגובות מספקות מידע איכותי, לצד לינקים לחיפושים מעמיקים יותר ברשת. חלק גדול מהדוגמאות שהוצגו הן לשאלות נדירות, וראינו גם דוגמאות שעברו מניפולציה או כאלה שלא הצלחנו לשחזר. ביצענו בדיקות מקיפות לפני השקת AI Overviews, וכמו עם פיצ'רים אחרים שהשקנו ב-Search, אנחנו מעריכים את הפידבק. אנחנו נוקטים פעולה מהירה במקרה הצורך בהתאם למדיניות התוכן שלנו, ומשתמשים בדוגמאות האלה כדי לפתח שיפורים רחבים יותר למערכות שלנו, שחלקן כבר החלו להיות זמינים."