דיגיטל וטק

הקשר המסוכן: OpenAI חושפת את הסכנה שבשימוש ב-ChatGPT

עם ההתקדמות של GPT-4o, חברת OpenAI מזהירה כי המשתמשים עלולים לפתח קשר רגשי עמוק עם הצ'אטבוט, דבר שעלול להשפיע לרעה על מערכות יחסים אנושיות ולגרום להתנהגויות לא רצויות. האם אנחנו עומדים בפני סיכון חדש באינטראקציות שלנו עם בינה מלאכותית?

רפאל בן זקרי | 13/8/2024 10:56

הצגת מודל השפה GPT-4o של OpenAI היוותה צעד משמעותי קדימה ביכולות הבינה המלאכותית של ChatGPT, עם יכולת לייצר תגובות טבעיות ומציאותיות יותר ולעבוד עם מגוון רחב של קלטים. עם זאת, OpenAI מזהירה כי ההתקדמות הזו עלולה לגרום למשתמשים לפתח תחושות חיבור רגשי כלפי הצ'אטבוט, דבר העלול לגרום לבעיות חמורות.

בפוסט בבלוג של OpenAI על מודל GPT-4o, צוינו הסיכונים הקשורים במודל החדש, ואת הנטייה לייחס תכונות והתנהגויות אנושיות ליישויות שאינן אנושיות, כמו מודלים של AI. במהלך בדיקות מוקדמות של GPT-4o, החברה זיהתה שפה מצד המשתמשים שמצביעה על יצירת קשרים רגשיים עם המודל. ביטויים כמו "זה היום האחרון שלנו יחד" עלולים להצביע על התפתחות חיבור רגשי לאינטליגנציה המלאכותית.

בהתאם לדיווח, תחושות כאלו עשויות להיראות תמימות על פני השטח, אך הן עלולות להוביל לבעיות חמורות יותר, הן עבור אנשים בודדים והן עבור החברה ככלל. לדוגמה, קשר רגשי ל-AI עלול להקטין את הצורך של אנשים בקשרים אנושיים אמיתיים, מה שעשוי לפגוע במערכות יחסים בריאות. מעבר לכך, OpenAI מזהירה כי השימוש ב-GPT-4o עשוי לגרום לנורמליזציה של התנהגות לא מכבדת, דבר שעלול להשפיע על אינטראקציות בין אנשים.

עוד ב-

משבר בריחת המוחות: מה עובר על החברה שאחראית ל-ChatGPT?

לכתבה המלאה

למרות שמדובר בסיכון ממשי, OpenAI עדיין לא מציעה פתרונות ספציפיים להתמודדות עם התפתחות תחושות חיבור רגשי ל-AI. החברה מתכננת להמשיך ולחקור את הנושא, בתקווה למצוא דרכים לצמצום התלות הרגשית שיכולה להיווצר בין המשתמשים לצ'אטבוט.