דיגיטל וטק
חברת OpenAI חושפת כלי מהפכני: מזהה טקסטים שנכתבו ע"י ChatGPT
OpenAI פיתחה כלי לזיהוי טקסטים שנכתבו באמצעות ChatGPT כדי למנוע העתקות אקדמיות. עם זאת, החברה עדיין מתלבטת האם לשחרר את הכלי לציבור בשל המורכבויות וההשפעות הרחבות שדורשות בחינה מעמיקה. מה עומד מאחורי ההחלטה המשמעותית הזו?
OpenAI פיתחה כלי לזיהוי טקסטים שנכתבו באמצעות ChatGPT, במטרה למנוע העתקות אקדמיות. לפי הוול סטריט ג'ורנל, החברה עדיין שוקלת האם לשחרר את הכלי הזה לציבור.
בהצהרה ל-TechCurnch, אישר דובר החברה כי המחקר על סימון טקסטים שנכתבו על ידי AI עדיין נמשך. השיטה כוללת שינויים קלים בבחירת המילים של ChatGPT, המשאירים סימן בלתי נראה שניתן לזיהוי באמצעות כלים מיוחדים. עם זאת, הדובר ציין את המורכבויות וההשפעות הרחבות יותר שדורשות מחשבה מעמיקה.
ניסיונות קודמים לזהות טקסט שנוצר על ידי AI, כולל של OpenAI עצמה, נכשלו ברובם עקב דיוק נמוך. הטכניקה החדשה מבטיחה יותר, אך ישנם חששות לגבי יעילותה ושימוש אפשרי לרעה בה. החברה הודתה כי השיטה יעילה נגד שינוי מקומי כמו פרפרזה, אך מתקשה בהתמודדות עם מניפולציות נרחבות כמו תרגומים או שימוש במודל AI אחר לשכתוב.
עוד ב-
ההתלבטות כוללת גם את השיקול של ההשפעה השלילית האפשרית על דוברי שפות אחרות. OepnAI ציינה כי סימון המים עלול להפלות לרעה את השימוש ב-AI ככלי כתיבה עבור משתמשים אלו, מה שמעלה חששות לגבי השימוש השוויוני בטכנולוגיה.
הכתבות החמות
תגובות לכתבה(2):
תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
חזור לתגובה
-
1.האם אלוהים יכול ליצור אבן שאינו יכול להרים? ?? (ל"ת)אלינה 08/2024/05הגב לתגובה זו0 0סגור
-
תזכיר לי מי זה יהווה?ישו 08/2024/06הגב לתגובה זו0 0הכל עיניין של מרקטינגסגור
