הדאגות לגבי השימוש בטכנולוגיית דיפ פייק לצרכים פוליטיים מתממשות במציאות, ובחירות 2024 בארה"ב כבר מראות סימנים מדאיגים של שימוש לרעה בטכנולוגיה זו. לאחר הודעתו של הנשיא ביידן כי לא יתמודד לכהונה נוספת ויעביר את תמיכתו לסגניתו, קמלה האריס, תומכיו של דונלד טראמפ הפיצו סרטון דיפ פייק מזויף, שבו נראית האריס נואמת נאום שלא התקיים מעולם.

הסרטון, שהפך ויראלי בטיקטוק וב-X (טוויטר לשעבר), מציג את האריס מדברת בפני קהל, אך למעשה הוא דיפ פייק, שבו הוחלפו התמונה והאודיו בקול שנוצר על ידי בינה מלאכותית. ארגון Media Matters for America פרסם דוח ביום שני בנוגע לסרטון הוויראלי בטיקטוק, שם קיבל מיליוני צפיות. בעקבות הדוח, טיקטוק הסירה את הפוסטים ואת האודיו המזויף מהפלטפורמה.

זו לא הפעם הראשונה שהסרטון המזויף של האריס מופץ ברשת. הוא נבדק והופרך על ידי מספר גורמים כבר בשנה שעברה. הסרטון מבוסס על וידאו אמיתי של האריס נואמת באוניברסיטת הווארד ב-2023, אך נערך כך שהדברים שאמרה שונים.

בפועל, האריס מעולם לא אמרה את הציטוט שמופיע בסרטון: "היום הוא היום ואתמול היה היום של אתמול. מחר יהיה היום של מחר. אז תחיה היום כדי שהעתיד של היום יהיה כמו העבר של היום, כפי שהוא מחר".

בעוד שטיקטוק פועלת להסיר תוכן מזויף שנוצר על ידי בינה מלאכותית, פלטפורמת X (טוויטר לשעבר) בראשות אילון מאסק לא טורחת תמיד להסיר תוכן כזה. עם זאת, משתמשי X הצליחו להוסיף הערת קהילה לפוסט, המבהירה כי הסרטון מזויף. בטיקטוק, את מהעלאות הסרטון המזויף קיבלה יותר מ-4.1 מיליון צפיות לפני שהוסר.

עוד ב-

מה חושבת היורשת של ביידן על טכנולוגיה ו-AI?

לכתבה המלאה

במקרים קודמים שבהם נוצלה הטכנולוגיה לרעה, פורסמו הודעות אוטומטיות מבוססות דיפ פייק עם קולו של הנשיא ג'ו ביידן, שבהן הוא פונה כביכול למצביעים הדמוקרטיים שלא להצביע בפריימריז של המדינה. שימוש נוסף בטכנולוגיית דיפ פייק נראה בקמפיינים פוליטיים אחרים ברחבי העולם, כמו במולדובה ובפולין, שם נעשה שימוש בטכנולוגיה להכתמת מתמודדים פוליטיים והפצת פרופגנדה.