דוח חדש שפורסם על ידי ארגון זכויות האדם Human Rights Watch חושף כי למעלה מ-170 תמונות ופרטים אישיים של ילדים מברזיל נאספו ללא ידיעתם והסכמתם ושימשו לאימון כלי בינה מלאכותית.

לפי הפרסום של ויטוריה אליוט ב-Wired, התמונות נאספו מתכנים שהועלו לרשת בטווח השנים 2023 ועד אמצע שנות ה-90, הרבה לפני שמשתמשי האינטרנט הבינו שהתוכן שלהם עלול לשמש כאימון לבינה מלאכותית. הדוח טוען כי פרטים אישיים של הילדים, יחד עם קישורי URL לתמונותיהם, נכללו במאגר נתונים פתוח בשם LAION-5B, שהיווה מקור פופולרי לאימון בינה מלאכותית עבור חברות סטארט-אפ.

"הפרטיות שלהם נפגעת ברגע שהתמונה שלהם נאספת ונכללת במאגר הנתונים הזה," אומרת היי ג'ונג האן, חוקרת זכויות ילדים וטכנולוגיה ב-Human Rights Watch. "הטכנולוגיה מפותחת באופן שמאפשר לכל מי שיש לו תמונה או וידאו של עצמו ברשת להיות בסיכון שהמידע ישמש לשימושים מניפולטיביים."

מאגר הנתונים LAION-5B מבוסס על Common Crawl, מאגר נתונים שנוצר באמצעות סריקת הרשת. LAION-5B שימש לאימון מספר מודלי בינה מלאכותית, כולל כלי יצירת התמונות הידוע Stable Diffusion של Stability AI. בדצמבר, חוקרים מאוניברסיטת סטנפורד מצאו שהמאגר כלל תכנים של התעללות מינית בילדים.

התמונות של הילדים שנמצאו נאספו מבלוגים אישיים ומבלוגים להורות ולידה, וכן מסרטונים ביוטיוב עם מספר צפיות נמוך. "רוב התמונות לא היו ניתנות לאיתור באמצעות חיפוש תמונות הפוך," מציינת היי. דובר יוטיוב, ג'ק מאון, מציין שסריקה לא מאושרת של תכני יוטיוב היא הפרה של תנאי השירות של החברה, ויוטיוב פועלת נגד ניצול מסוג הזה.

היי חוששת שמעבר לשימוש בתמונות של ילדים ליצירת תכנים אסורים, המאגר עלול לחשוף מידע רגיש נוסף, כמו מיקומים או נתונים רפואיים. היא מדגישה כי האחריות להגן על הילדים ועל הוריהם מפני סוג זה של ניצול נופלת על הממשלות והרגולטורים. "הילדים לא צריכים לחיות בפחד שתמונותיהם ייגנבו וישמשו נגדם," אומרת היי. היא חוששת שממצאיה הם רק קצה הקרחון, ושייתכן שתמונות דומות נמצאות במאגרי נתונים אחרים ברחבי העולם.

עוד ב-

מומחי סייבר מזהירים מפני פי'צר AI חדש של מיקרוסופט

לכתבה המלאה

הדוח של ארגון זכויות האדם חושף זווית פחות צפויה לפוטנציאל הסיכון שנמצא בבינה מלאכותית, ומצטרף לשורה של מומחים הקוראים לשימוש זהיר בטכנולוגיות הללו.