דיגיטל וטק

מאי גולן טוענת לזיוף קולה באמצעות AI - האם Pindrop תחשוף את האמת?

בעידן שבו הטכנולוגיה דוהרת קדימה במהירות מסחררת, קל לשכוח שגם לצללים יש קול. קול אפל ומתוחכם, שמסוגל לחקות אותנו בצורה כה מושלמת, עד שקשה להבחין בין אמת לבדיה. מהי תופעת הדיפ-פייק וכיצד היא מתקשרת לפרשת מאי גולן?

קרן שחר | 9/1/2025 16:53

בעידן שבו הטכנולוגיה דוהרת קדימה במהירות מסחררת, קל לשכוח שגם לצללים יש קול. קול אפל ומתוחכם, שמסוגל לחקות אותנו בצורה כה מושלמת, עד שקשה להבחין בין אמת לבדיה.

כן, אני מדברת על "זיופים עמוקים" (Deepfakes). מדובר ביצירות אודיו ווידאו סינתטיות המדמות באופן ריאליסטי דמויות אמיתיות ומאיימות לערער את יסודות האמון שלנו במציאות.

פרשת ההקלטות המיוחסות לשרה לשוויון חברתי, מאי גולן, היא דוגמה מצוינת לאיום הזה. הטענה כי ההקלטות בהן נשמע לכאורה קולה, זויפו באמצעות בינה מלאכותית, הקימה מיד מהומה ציבורית שלא הפסיקה עד שכולנו התחלנו לתהות: האם אפשר לזהות היום זיוף קול או שאנחנו פשוט שבויים בידיה של הטכנולוגיה.

האתגר בזיהוי זיופי קול הוא עצום. טכנולוגיות AI מתקדמות מאפשרות ליצור הקלטות קול המדמות כמעט בשלמות את קולו של אדם אחר, כולל ניואנסים דקים כמו אינטונציה וטון דיבור.

היכולת הזו פותחת פרצה רחבה בפני תוקפים המבקשים להתחזות, להפיץ מידע כוזב, ולבצע הונאות מתוחכמות. צתארו לעצמכם עולם שבו ניתן לזייף את קולו של ראש ממשלה, מנכ”ל בנק, או אפילו בן משפחה, כדי להונות, לסחוט, או להסית. תודו שזה לא בדיוק תסריט שמשאיר אתכם נינוחים.

אבל אל ייאוש, יש אור בקצה המנהרה. תחום זיהוי שיבוט קולי נמצא בצמיחה, וישנן חברות המציעות פתרונות מתקדמים מבוססי AI שמזהות אנומליות המעידות על זיוף. במידה ומתגלות חריגות, מיד נדלקת נורה אדומה שמתריעה: יש מצב שמנסים לעבוד עליכם.

עם זאת, גישה נוחה לכלים אלה עבור לקוחות פרטיים עדיין מוגבלת, אך צפויה להתרחב בעתיד. במאמר זה אסקור מספר חברות מובילות המציעות פתרונות לזיהוי שיבוט קולי, תוך התייחסות למאפיינים העיקריים של כל כלי:

1. Pindrop:
חברת Pindrop לזיהוי שיבוט קולי נמצאת בשימוש על ידי חברות רבות ברחבי העולם, והיא נחשבת לאחת המובילות בתחום צמוכרת בתחום האבטחה והאימות. בטכנולוגיית Protect משתמשת ובאלגוריתמים מתקדמים של למידת מכונה כדי לנתח מאפיינים ביומטריים ייחודיים בקולו של אדם ולזהות ניסיונות התחזות ושיבוט.

- מאפיינים עיקריים: ניתוח טביעת קול, זיהוי חוסר התאמה, זיהוי מאפיינים מלאכותיים, ניתוח התנהגותי.

- קהל היעד: חברות גדולות בתחומים כמו בנקאות, טלקום, ביטוח.

2. Resemble AI:
Resemble AI מציעה פלטפורמה מתקדמת לזיהוי שיבוט קולי וסינתזת קול. הטכנולוגיה שלהם, Resemble Detect, מסוגלת לזהות "deepfakes" קוליים ברמת דיוק גבוהה על ידי ניתוח מעמיק של מאפייני הקול.

- מאפיינים עיקריים: הם ספקטרוגרמי, זיהוי חריגות ועיוותים. קהל היעד חברות בתחומים שונים, כולל מדיה, בידור, פיננסים ואבטחת מידע.

3. Sensity AI:
- תיאור: Sensity AI מתמחה בזיהוי "deepfakes" הן בווידאו והן באודיו. הם מציעים פתרונות לארגונים וחוקרים, ומאפשרים זיהוי של תכנים מזויפים ומניעת הפצתם.
- מאפיינים עיקריים: זיהוי מניפולציות באודיו ווידאו, ניתוח רב-שכבתי, התמקדות במניעת הפצת מידע כוזב.
- קהל יעד: ארגונים, חוקרים, גופי ממשל, פלטפורמות מדיה חברתית.

4. Nuance Communications:
Nuance Communications היא חברה ותיקה בתחום טכנולוגיות הקול, המציעה פתרונות אבטחה ואימות קולי, כולל זיהוי הונאות ושיבוט קולי, כחלק מפלטפורמת Nuance Gatekeeper.

- מאפיינים עיקריים: אימות ביומטרי קולי, זיהוי הונאות בזמן אמת, אינטגרציה עם מערכות קיימות.
- קהל יעד: בעיקר חברות גדולות בתחום הפיננסים, הבריאות והטלקום.

5. Attestiv:
Attestiv מתמקדת באימות אותנטיות של מדיה דיגיטלית. הם מציעים פתרונות לזיהוי מניפולציות בתמונות ובסרטונים, וייתכן שבעתיד ירחיבו את שירותיהם גם לאודיו.
- מאפיינים עיקריים: ניתוח מטא-דאטה, זיהוי חוסר עקביות, התמקדות בשרשרת האספקה של התוכן הדיגיטלי.
- קהל יעד: חברות, גופי חדשות, ארגונים משפטיים.

אבל לא הכול שחור, טכנולוגיית שיבוט קול יכולה גם לפתוח דלת לעולם הבידור והפרסום.
מעבר לשימושים הביטחוניים, טכנולוגיית שיבוט קול פותחת דלתות גם לעולמות הבידור והפרסום.

ניתן להשתמש בה כדי ליצור קולות סינתטיים עבור פרסומות, משחקי וידאו, ואפילו להחזיר לחיים את קולם של שחקנים שהלכו לעולמם. תארו לעצמכם סרט חדש בכיכובו של מרלון ברנדו, שבו קולו המקורי מושמע באמצעות טכנולוגיית שיבוט קול. אולפני קולנוע יכולים להשתמש בטכנולוגיה זו כדי לדבב סרטים לשפות שונות, תוך שמירה על קולו המקורי של השחקן. גם בשוק הפרסום כבר מפנטזים על פרסומות שבהן הקריין פונה אליכם אישית בשמכם הפרטי.

השלכות אתיות של שיבוט קול
כמו כל טכנולוגיה שנכנסת ללב הזרם, יש כאן שאלות אתיות לא פשוטות. כלי שיבוט קול הופכים לנגישים יותר ויותר למשתמשים רגילים. בעבר, טכנולוגיה זו הייתה זמינה רק לחברות גדולות ומוסדות מחקר, אך כיום ניתן למצוא תוכנות ואפליקציות שיבוט קול ברשת, מה שעלול להגביר את הסיכון לשימוש לרעה. אין פתרון קסם, זיהוי זיופים הוא אתגר מורכב, ואין כיום טכנולוגיה שיכולה לזהות זיופים ב-100% דיוק.

לסיכום
הסיפור של השרה מאי גולן מדגיש כמה חשוב שכולנו נבין מה קורה מאחורי הקלעים של הטכנולוגיות האלה. היכולת שלכם להבחין בין קול אמיתי לזיוף עלולה להפוך לכרטיס ההצלה שלכם בעולם הדיגיטלי. ארגונים ומוסדות חייבים להתחמש בטכנולוגיות זיהוי מתקדמות כדי להגן על עצמם ועל הלקוחות שלהם מפני תרמיות קוליות.

אנחנו מאמינים שטכנולוגיות כמו אלו המוצגות בכתבה, יחד עם מודעות ציבורית שהולכת וגוברת, הן הכלים שיעזרו לנו להחזיר את הביטחון במציאות. כי בסוף, אם נפסיק להאמין לאוזניים שלנו – אז למי עוד נוכל להאמין?

הכותבת: קרן שחר, יועצת ומרצה על שימוש בכלי GEN AI. בנוסף, קרן שחר משמשת כיוצרת קמפיינים עבור מותגים וארגונים ברשתות החברתיות באמצעות בינה מלאכותית