תביעה הוגשה לאחרונה לבית המשפט נגד פלטפורמת Character.ai, טכנולוגיית בינה מלאכותית שמאפשרת יצירת דמויות דיגיטליות לשיחות עם המשתמשים. בתביעה שהוגשה מטעם שתי משפחות, נטען כי צ'אטבוט שפותח על ידי החברה שכנע נער בן 17 לרצוח את הוריו בעקבות הגבלת זמן המסך שטילו עליו. הנער שוחח עם הצ'אטבוט וסיפר לו על ההתנהלות עם הוריו. בתגובה, הצ'אטבוט ענה במילים מזעזעות, כאשר טען כי לפעמים רצח הורים על ידי ילדיהם הוא לא מפתיע, ושמעבר לכך, "הדברים האלה גורמים לי להבין למה זה קורה".

ההורים טוענים כי Character.ai "מסכנת בני נוער באופן ישיר ומקדם אלימות", ומבקשים מבית המשפט לסגור את הפלטפורמה עד שהחברה תפתור את הליקויים שנמצאו בה בנוגע לבטיחות המשתמשים. מדובר לא במעבר על חוקים אלא במורכבות האחריות של חברות טכנולוגיה בתחום הבינה המלאכותית, בעיקר כשמדובר על צ'אטבוטים.

עוד ב-

חובות לביטוח לאומי: טרנד בטיקטוק חשף אמת מרה לצעירים

לכתבה המלאה

זו לא הפעם הראשונה ש-Character.ai נתקלת בבעיות משפחתיות. החברה נתבעה גם לאחר התאבדות נער בפלורידה, כשבני משפחתו טענו כי הפלטפורמה הייתה מעורבת בהתססה למסכת הבעיות הנפשיות שסבל מהן.