ניתן להשתמש בהדמיית בינה מלאכותית כדי ליצור אמנות, למדוד בגדים בתאי הלבשה וירטואליים או לסייע בעיצוב קמפיינים פרסומיים. אבל מומחים חוששים שהצד האפל יותר של הכלים הנגישים בקלות עלול להחמיר תופעה שפוגעת בעיקר בנשים: סרטוני דיפ-פייק (פורנוגרפיה מזויפת), ללא הסכמת כוכבי הסרטון.

דיפ-פייק הם סרטונים ותמונות שנוצרו או שונו באופן דיגיטלי באמצעות בינה מלאכותית. פורנו שנוצר באמצעות הטכנולוגיה החל להתפשט ברחבי האינטרנט לפני מספר שנים, כאשר משתמש Reddit שיתף קליפים ששתלו את פניהן של מפורסמות על גופן של שחקני פורנו.

מאז, יוצרי דיפ-פייק הפיצו סרטונים ותמונות מזויפים של משפיעניות רשת, עיתונאיות ומפורסמות. אלפי סרטונים קיימים ברשת, וחלקם הציעו למשתמשים את ההזדמנות ליצור תמונות משלהם - מה שמאפשר לכל אחד להפוך את מי שהוא רוצה לפנטזיות מיניות ללא הסכמתו, או להשתמש בטכנולוגיה כדי לפגוע ביריביו.

הבעיה, אומרים מומחים לאתר "אי-פי ניוז", גדלה ככל שנעשה קל יותר לערוך זיופים מתוחכמים ומשכנעים מבחינה ויזואלית. וזה יכול להחמיר עם הפיתוח של כלי בינה מלאכותית שמתבססים על מיליארדי תמונות מהאינטרנט ויוצרים תוכן חדש.

"המציאות היא שהטכנולוגיה תמשיך להתרבות, תמשיך להתפתח ותמשיך להיות קלה כמו לחיצה על הכפתור", אמר אדם דודג', המייסד של EndTAB, ארגון המספק הדרכות בנושא התעללות מבוססת טכנולוגיה. "וכל עוד זה יימשך, אנשים ללא ספק ימשיכו להשתמש לרעה בטכנולוגיה הזו כדי לפגוע באחרים, בעיקר באמצעות אלימות מינית מקוונת, סרטוני פורנוגרפיה ותמונות עירום מזויפים".

בלייר, גיימרית אמריקאית פופולארית, נפלה קורבן לפורנו דיפ פייק, כשעבריינים השתמשו בפנים שלה והלבישו אותן על סרט פורנו מוכן מראש.

גם נואל מרטין (28), מפרת', אוסטרליה, חוותה את המציאות הזו. היא מצאה ברשת דיפ-פייק של עצמה לפני 10 שנים. עד היום היא לא יודעת מי יצר את התמונות והסרטונים המיניים המזויפים שלה. היא חושדת שמישהו כנראה לקח תמונה מהמדיה החברתית שלה ועיצב אותה לפורנו. מרטין ניסתה להילחם בתופעה באמצעות חקיקה במולדתה.

בינתיים, כמה חברות בינה מלאכותית אומרות שהן כבר חוסמות את הגישה לתמונות מיניות. אחת מהן, OpenAI אומרת שהסירה תוכן מיני מנתונים המשמשים לאימון הכלי להפקת תמונות DALL-E, המגביל את יכולת המשתמשים ליצור סוגים אלה של תמונות. החברה גם מסננת בקשות ואומרת שהיא חוסמת משתמשים מליצור תמונות בינה מלאכותית של ידוענים ופוליטיקאים בולטים. Midjourney, חברה נוספת, חוסמת את השימוש במילות מפתח מסוימות ומעודד משתמשים לסמן תמונות בעייתיות.

הסטארט-אפ Stability AI הוציא עדכון בנובמבר 2022 שמסיר את היכולת ליצור תמונות מיניות באמצעות מחולל התמונות Stable Diffusion. השינויים הללו הגיעו בעקבות דיווחים שחלק מהמשתמשים יצרו תמונות עירום בהשראת סלבריטאים באמצעות הטכנולוגיה.

עוד ב-

מזעזע: מזייפים פרצופים של נשים אמיתיות ומציגים אותן בסרטי פורנו

לכתבה המלאה

כמה מחברות המדיה החברתית גם החמירו את הכללים שלהן כדי להגן טוב יותר על הפלטפורמות שלהן מפני חומרים פוגעניים. TikTok הודיעה בחודש שעבר שכל הדיפ-פייק או התוכן שעבר מניפולציה חייב להיות מתויג כדי לציין שהוא מזוייף, וכי דיפ-פייק של דמויות פרטיות וצעירים אינם מותרים עוד. בעבר, החברה אסרה על תוכן מיני בוטה וזיופים שמטעים את הצופים לגבי אירועים אמיתיים וגורמים נזק.