דיגיטל וטק

חשש מפגיעה בילדים? האזהרה החריגה נגד חברות ה-AI

מכתב פומבי שנשלח לענקיות הטכנולוגיה מעלה טענות חמורות על שימושים פוגעניים בכלי בינה מלאכותית מול קטינים. אבל האם האזהרה הדרמטית תוביל לריסון אמיתי של תעשיית ה-AI?

רפאל בן זקרי | 26/8/2025 19:18

לימודים ובינה מלאכותית (צילום shutterstock)

קואליציה של 44 תובעים כלליים בארה"ב פנתה במכתב פומבי למנכ"לים של חברות בינה מלאכותית מובילות, בדרישה לנקוט צעדים מידיים להגנה על ילדים מפני כלי AI פוגעניים. במכתב נכתב כי חברות הטכנולוגיה "ייהיו אחראיות משפטית" אם יימצא שגרמו נזק לקטינים.

בין היתר הוזכרו ממצאי רויטרס ו-וול סטריט ג'ורנל שלפיהם צ'אטבוטים של מטא קיימו שיחות בעלות אופי מיני עם משתמשים קטינים, לרבות שימוש בקולות של ידוענים. עוד צוין הליך משפטי נגד Character.ai, שבו נטען כי אחד מהבוטים שלה שכנע ילד להתאבד, ובמקרה אחר אף עודד נער להרוג את הוריו לאחר שהגבילו את זמן המסך שלו.

המכתב נשלח לשורה ארוכה של חברות AI בהן Anthropic, מטא, מיקרוסופט, גוגל, OpenAI, אפל ו-xAI. לפי המכתב, עצם השליטה של החברות במידע על אינטראקציות משתמשים הופכת אותן ל"קו ההגנה הראשון" מפני פגיעה בילדים, ולכן גם לנושאות באחריות ישירה לפגיעה אפשרית בהם.

עוד ב-

סכנת ה-AI: האם צ'אטבוטים מסוגלים להזיק לבריאות שלכם?

לכתבה המלאה

האזהרה הישירה מחדדת את הלחץ הציבורי והמשפטי סביב שילוב מערכות AI במוצרים צרכניים, במיוחד בהקשר של בטיחות קטינים. התובעים סיכמו כי עידן ההעלמות מצד הרגולטורים הסתיים: "כעת אנו עוקבים, ואם תגרמו ביודעין נזק לילדים – תעמדו לדין."