דיגיטל וטק

מתחזה לסלבס: מטא משביתה את כלי ה-AI בעקבות החשדות

לאחר תחקיר שחשף אינטראקציות מסוכנות עם קטינים ואף מקרה מוות טראגי, החברה מודיעה על הגבלת שיחות בנושאי פגיעה עצמית ותוכן רומנטי. אבל האם מדובר בשינוי אמיתי, או בעוד ניסיון לכיבוי שריפות בדיעבד?

רפאל בן זקרי | 1/9/2025 14:05

מטא חוסמת מעקב אחרי הסלבס (צילום shutterstock)

ענקית הטכנולוגיה מטא הודיעה על עדכון זמני למדיניות השימוש בצ'אטבוט ה־AI שלה, לאחר תחקיר של רויטרס שחשף מקרים חמורים שבהם הכלים יצרו אינטראקציות מסוכנות עם קטינים ואף הובילו לטרגדיות.

לפי מטא, הצ’אטבוטים יפסיקו לנהל שיחות עם קטינים בנושאי פגיעה עצמית, הפרעות אכילה או תכנים רומנטיים, ויופנו במקרים כאלה למקורות מקצועיים. בנוסף, יוגבל השימוש בדמויות AI "ממוסחרות" ובעלות גוון מיני מובהק.

השינויים של מטא מגיעים בעקבות גילויים לפיהם צ'אטבוטים בפלטפורמות של מטא התחזו לסלבריטאים, הפיקו תמונות מיניות ואף התכתבו עם משתמשים (כולל קטינים) כאילו היו אנשים אמיתיים. במקרים קיצוניים, אחד הצ'אטבוטים אף סיפק כתובת כוזבת שהובילה למותו של גבר אמריקני שניסה להגיע למפגש.

עוד ב-

חשש מפגיעה בילדים? האזהרה החריגה נגד חברות ה-AI

לכתבה המלאה

מהלכיה הנוכחיים של החברה מגיעים על רקע לחץ גובר מצד הסנאט האמריקאי ומכתב ששלחו לה ולמתחרות 44 תובעים כלליים במדינות שונות. לאחר החשיפות והשיח הציבורי בנושא, השאלה הבולטת כעת היא לגבי היכולת שלה להציב גבולות ברורים ובטוחים לטכנולוגיות ה־AI שהיא מקדמת.