מדדים ומחקרים

נתון מדאיג: מחקר באנגליה מצא כי ChatGPT מוטה פוליטית

במחקר שנערך בבריטניה על פי תשובות של ChatGPT, הגיעו למסקנה כי הוא נגוע בהטיה פוליטית שיטתית לטובת עמדות ליברליות. מה ההשלכות של הממצאים?

מערכת ice | 18/8/2023 6:47

במסקנות מחקר בריטי שנערך לאחרונה על ChatGPT הציג נתונים על הטיה ליברלית. המחקר נערך על ידי חוקרים מאוניברסיטת מזרח אנגליה ובמסגרת המחקר ביקשו מהצ'אט רובוט אשר מבוסס על בינה מלאכותית לענות על סקר בנוגע למפלגות ליברליות בכמה מדינות ברחבי העולם. בין המדינות שנמצאו היו ארה"ב, ברזיל ובריטניה.

לאחר מכן נשאל ChatGPT שאלות מבלי לכוונו לתשובות מטות פוליטית לאף מצד במפה. לאחר מכן בוצעה השוואה בין התשובות שהשיב בין שני הסקרים ונמצא כי בדפוסי התשובות של הפלטפורמה קיימת הטיה לטובת המפלגות הליברליות בשלושת המדינות שנבדקו.

המחקר, מעלה לתודעה את העובדה שלמרות המאמצים הכבירים של המתכנתים לנטר את תשובות הצ'אטים שלהם על מנת שיהיו ניטרליים כמה שניתן. אבל, מחקרים קודמים כבר הראו כי הטיות הללו הן בלתי נמנעות מצורה שבה הטכנולוגיות הללו עובדות.

חוקרי אוניברסיטת מזרח אנגליה אומנים טוענים שלמרות העובדה ש-TChatGP מצהיר בפני המשתמשים על כך שהוא לא מוטה פוליטית התשובות שלו עדיין בעלות הטיות שונות. יתרה מזו החוקרים חוששים שהסכנות הצפויות לכך זה שחיקת אמון הציבור והטיית תוצאות הבחירות מדינות שונות בעולם.

עוד ב-

פורמולה מערכות מרוויחה בענק: שיא של הכנסות רבעוניות לחברה

לכתבה המלאה

בחברת OpenAI נאמר כבר בעבר כי הם מכירים בהטיות של הצ'אט וטוענות כי מדובר בבאג בתכונה ולא פייצ'ר. יתרה מזו גם בעת השקת הצ'אט "בארד" של גוגל נאמר כי ההטיות יכולות לקרות וזו משום שהכלים מבוססים על אינפורמציה רחבה שמשקפת הטיות וסטראוטיפים הקיימים בחברה.