דיגיטל וטק
גוגל מכריזה על כלי שיוכל לזהות תמונות שנוצרו ב-AI
אם חששתם שהעולם הולך ליפול תחת מתקפת פייק תמונות וסרטונים, אז גוגל מכריזה כי לפחות כלי אחד יעזור לכם במלחמה נגד הזיופים. כך הוא יעבוד
.jpeg)
בזמן שכלי הבינה המלאכותית (AI) מסוגלים ליצור תמונות מציאותיות יותר ויותר, גוגל פיתחה כלי חדש בשם SynthID שיכול לסייע בזיהוי תמונות ויצירות אמנות שנוצרו על ידי מחשב.
הכלי מטמיע סימני מים דיגיטליים בלתי מורגשים בתמונות שנוצרו על ידי AI, ומאפשר לזהות אותם גם לאחר שינויים כמו חיתוך או שינויי צבע. הכלי ייעזר ב-Imagen, מודל חדש של טקסט לתמונה של גוגל.
התוכנה אמנם זמינה בינתיים למשתשי Vertex AI של Google Cloud, אך התפתחות טכנולוגיה זו מהווה צעד משמעותי לקראת יכולת שהעולם בהחלט יצטרך כדי להתמודד עם תמונות פייק שיצאו בכמויות.
הפייק המוצלח ביותר כנראה יצא מוקדם יותר השנה, והיא תמונה שנוצרה ב-AI שהציגה את האפיפיור פרנציסקוס לובש מעיל יוקרתי ונפוח של מותג יוקרה, מה שהפך לוויראלי ועורר תגובות ברשת בקרב גולשים שלא שמו לב כי מדובר בתמונה מזויפת.
My campaign platform includes a Pope Coat for every American pic.twitter.com/U21aQ5Ok5b
— ndweiss - ND - Diabolical Jezebel (@11tulips) March 25, 2023
איך זה עובד?
שלא כמו סימני מים גלויים הנפוצים כיום, סימן המים הדיגיטלי של SynthID יהיה שזור ישירות בנתוני הפיקסלים. הכלי משתמש בשני מודלים של בינה מלאכותית שהוכשרו יחד - אחד להוספת סימני המים הבלתי מורגשים ואחר לזיהוי שלהם.
שלא כמו סימני מים גלויים הנפוצים כיום, סימן המים הדיגיטלי של SynthID יהיה שזור ישירות בנתוני הפיקסלים. הכלי משתמש בשני מודלים של בינה מלאכותית שהוכשרו יחד - אחד להוספת סימני המים הבלתי מורגשים ואחר לזיהוי שלהם.
גוגל עשתה אופטימיזציה של מודלים אלה כדי להטמיע סימני מים המתיישרים עם תוכן התמונה המקורי, תוך שמירה על איכות ויזואלית תוך הפעלת זיהוי. בבדיקות פנימיות, SynthID זיהה במדויק תמונות שנוצרו בינה מלאכותית לאחר עריכה עמוקה. הוא מספק שלוש רמות ביטחון כדי לציין את הסבירות שתמונה מכילה את סימן המים SynthID.
עוד ב-
גוגל לא מבטיחה אי-טעות נגד מניפולציות קיצוניות של תמונות. הכלי צפוי להתפתח לצד דגמי AI אחרים, ולהרחיב את יכולותיו מעבר לזיהוי תמונה לאודיו, וידאו וטקסט.
הכתבות החמות
.png "רמי לוי אייל רביד ויקטורי, צילום: יונתן זינדל פלאש 90 מגמה אימג'ס")
.JPG "אלן דגנרס, צילום: דיסקברי פלוס")
תגובות לכתבה(1):
תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
חזור לתגובה
-
1.לא באמת רלוונטי..ליאור 09/2023/03הגב לתגובה זו0 0זה אומר שהתמונה תצטרך להיות מיוצרת על ידי AI של גוגל ומה הסיכוי שמי שירצה לזייף יבחר דווקא בה?סגור
