Aim Security ,חברת הסייבר הישראלית בתחום אבטחת ה-AI, חשפה פרצת אבטחה חמורה במיקרוסופט שאיפשר לזליגת מידע אוטומטי ללא כל אינטראקציה מצד המשתמש. 

הפרצה ידועה בשם "EchoLeak" והיא התגלתה ב-Microsoft 365 Copilot, היא אפשרה לתוקפים לגנוב מידע רגיש מתוך המערכת. מדובר בחולשה שהופיעה עקב עיצוב המיועד לשפר את ביצועי ארגונים המשתמשים בפלטפורמה ולסייע להם בניהול מידע רגיש.

הפרצה מאפשרת לתוקף להוציא מידע רגיש מתוך המערכת, ללא כל פעולה מצד המשתמש וללא סימנים מחשידים. ההתקפה מתבצעת באמצעות שליחת אימייל שנראה לגיטימי למשתמש בארגון, אך מכיל הוראות מוסתרות המיועדות ל-LLM (למשל Copilot). ההוראות מנוסחות כך שהן נראות כאילו נכתבו עבור המשתמש, ובכך עוקפות את מנגנוני ההגנה נגד prompt injection. 

כאשר המשתמש עושה שימוש רגיל ב-Copilot, נאסף מידע מתוך סביבת ה-SharePoint הארגונית שאליה הכלי מחובר כברירת מחדל. אם נושא השיחה תואם לנושא האימייל ששלח התוקף, המידע שהמשתמש מקבל מהמערכת, כולל מידע רגיש מה-SharePoint, מוזלג אל קישור חיצוני שהושתל במייל, מבלי שהמערכת מזהה זאת כאירוע חריג.

פרצת האבטחה נמצאה על ידי צוות חוקרי חולשות בינה מלאכותית שהקימה Aim, בשם Aim Labs. הקבוצה מורכבת מבכירי חוקרי אבטחת מידע בעלי רקע מיחידת סייבר היוקרתית בצבא וממובילי מחקר ב-Google. 

מתן גץ, מייסד שותף ומנכ"ל סיפר על הפריצה שהתגלתה: "הפרצה 'EchoLeak' ממחישה את האתגרים הרבים בהגנה על אפליקציות AI, ומראה כיצד ניתן לבצע התקפות חמורות מבלי שהמשתמש ינקוט פעולה כלשהי. היום, כשארגונים מובילים מפתחים אפליקציות AI בעצמם, הם מבינים שאם מיקרוסופט חשופה, סביר להניח שגם אצלם קיימים אתגרים דומים. Aim גאה לשתף פעולה עם ארגונים מהשורה הראשונה בעולם לעזור לאבטח את התחום הבא". 

עוד ב-

שיתוף פעולה מפתיע: זו החברה שתספק שירותי ענן ל-OpenAI

לכתבה המלאה