דיגיטל וטק

זהירות, סכנה: כך בוטים יכולים לשנות את דעתכם מבלי שתשימו לב

סטודנטים מהמחלקה להנדסת תוכנה בשנקר חשפו כי בוטים המופעלים באמצעות בינה מלאכותית יכולים להשפיע על דעותינו בשיחות ברשת, מבלי שנשים לב. בנוסף, פותחה פלטפורמת מחקר חדשנית המאפשרת לחוקרים לערוך ניסויים מותאמים אישית ולבחון את ההשפעה של בוטים על השיח ודעותיהם של משתתפים אנושיים

מערכת ice | 8/8/2024 13:06

במסגרת עבודת הגמר של סטודנטים מהמחלקה להנדסת תוכנה בשנקר, נמצא כי בוטים המופעלים באמצעות טכנולוגיית הבינה המלאכותית יכולים להשפיע על דעותינו בשיחות שמתקיימות ברשתות החברתיות, זאת מבלי שנזהה שמדובר בבוטים.

דור חיימוביץ', יובל גבריאלי ופאר פיכמן, הם הסטודנטים שפיתחו פלטפורמת מחקר חדשנית בשם ChitChat.AI, המאפשרת לחוקרים לערוך ניסויים מותאמים אישית ולבחון את ההשפעה של בוטים על השיח ודעותיהם של משתתפים אנושיים.

בתמונה: דור חיימוביץ', יובל גבריאלי ופאר פיכמן (צילום: אחיקם בן יוסף)

באמצעות הפלטפורמה המיוחדת, החוקרים יכולים להגדיר את נושא השיחה, את מספר המשתתפים האנושיים והווירטואליים (בוטים), ואת רמת אגרסיביות השיח של הבוטים. באמצעות שימוש באלגוריתמים של עיבוד שפה טבעית, המערכת מסוגלת לנתח את הסנטימנט של כל הודעה בשיחה ומספקת לחוקרים ויזואליזציה של השינויים בגישה של כל משתתף כלפי הנושא שעליו דנים.

בנוסף, המערכת יכולה לזהות את המשתתפים המשפיעים ביותר בשיחה ואת האופן שבו הם משפיעים על דעותיהם של אחרים. בניסויים של הפלטפורמה שנערכו על יותר מ-100 סטודנטים במחלקה להנדסת תוכנה בשנקר, הסטודנטים גילו כי נוכחותם של בוטים בשיחה יכולה להשפיע באופן משמעותי על דעותיהם של המשתתפים האנושיים, זאת מבלי שהמשתתפים האנושיים מבחינים כי מדובר בבוטים.

תוצאות המחקר הראו כי גם השפעתם של הבוטים על דעתם של המשתתפים האנושיים תלויה במידה רבה בסגנון התקשורת שלהם, בעוד שבוטים מנומסים שמביעים את דעתם בצורה נעימה יכולים להוביל לשינוי בדעות של בני אדם, לעומתם בוטים אגרסיביים ומזלזלים נוטים לגרום למשתתפים דווקא להתבצר בעמדותיהם.

ד"ר יונית רושו, סגנית דיקן וראש המחלקה להנדסת תוכנה: "גאים בסטודנטים שלנו על פיתוח ChitChat.AI כחלק מפרויקט הגמר שלהם בפקולטה להנדסה. הפלטפורמה שפיתחו חושפת את הפוטנציאל העצום, אך גם את הסכנות הטמונות בשימוש בבינה מלאכותית בתקשורת בין-אישית".