סופוס (Sophos), חברת אבטחת המידע והסייבר המובילה וספקית פתרונות אבטחת סייבר כשירות, פרסמה היום (חמישי) ממצאי מחקר חדש המדגים כיצד יכולה קהילת אבטחת המידע לרתום את מודל השפה GPT-3 – שעליו בנוי הצ'טבוט ChatGTP שזכה בחודשים האחרונים לתהודה רחבה בתקשורת ועניין רב מצד הציבור – כדי לשפר את רמת האבטחה ולבלום מתקפות סייבר.

במחקר, שנקרא "Applying AI Language Processing to Cyber Defenses", מתואר פרויקט בהובלת צוות Sophos X-Ops שבו פותחו כלים המשתמשים במודלי השפה הענקיים של GPT-3 לניתוח כמויות גדולות של מידע ואיתור פעילות זדונית תוך שימוש בשפה טבעית, שיפור יעילותו של מסנן דואר זבל אלקטרוני וקיצור תהליך הניתוח של קבצים בינאריים המשמשים במתקפות בשיטת Living Off the Land (LOLBin).

"מאז שחברת OpenAI השיקה את ChatGPT בנובמבר 2022, עיקר תשומת הלב של קהילת הסייבר הופנתה לסיכונים האפשריים שמביאה איתה הטכנולוגיה החדשה, ובראשם השאלה האם תוקפים לא מיומנים ובעלי יכולות טכנולוגיות מוגבלות יוכלו להיעזר בבינה מלאכותית כדי לכתוב קוד זדוני או הודעות דיוג משכנעות יותר? גם אם התשובה לשאלה הזאת היא חיובית, מאז ומתמיד ראתה סופוס בבינה מלאכותית קודם כל בת ברית של קהילת אבטחת המידע ולא יריב ולכן אימצה אותה במהירות לשורותיה, השתמשה בה לשיפור מוצריה וכך גם הפעם עם מודל השפה GPT-3. קהילת הסייבר צריכה להתייחס לא רק לסיכונים האפשריים אלא גם לתועלת וליכולות החדשות שמביא איתו מודל השפה GPT-3," אמר שון גלאגר, חוקר איומים ראשי בסופוס.

חוקרי Sophos X-Ops, ובהם יאנגהו לי (Younghoo Lee), מדען הנתונים הראשי של חטיבת SophosAI, פיתחו שלושה אבות טיפוס שמדגימים כיצד יכולה לרתום קהילת הסייבר את כוחו של מודל השפה GPT-3 לשיפור רמת האבטחה ובלימת מתקפות סייבר. כל שלושת אבות הטיפוס אומנו בשיטת Few-shot learning (למידה ממספר קטן של דוגמאות) המקטינה את כמות הדוגמאות המתויגות הנדרשת לאימון מודל הבינה המלאכותית.

היישום הראשון שפיתחה סופוס בשיטת Few-shot learning הוא ממשק שאילתה בשפה טבעית המשמש לניתוח כמויות המידע העצומות הנאספות מתוכנות האבטחה השונות וזיהוי פעילות זדונית, ובפרט בדקה את יעילותו של המודל החדש במוצר זיהוי ותגובה המיועד לאבטחת נקודות קצה. עיקר כוחו של הכלי החדש הוא ביכולתו לסייע למומחי הסייבר לנתח במהירות כמויות מידע עצומות על ידי הקלדת הוראות בשפה טבעית גם מבלי לשלוט בשפת המחשב SQL או אפילו לדעת מהו מבנה מסד הנתונים שבו מרוכזים הנתונים.

בשלב הבא, חקרה סופוס מסנן דואר זבל אלקטרוני (ספאם) על בסיס ChatGPT ומודל השפה GPT-3 ומצאה כי הוא יעיל יותר משמעותית לעומת מסננים על בסיס מודלים אחרים של למידת מכונה. לסיום, הצליחו החוקרים של סופוס לפתח תוכנית מחשב שמקצרת ומייעלת את תהליך ההנדוס לאחור של קבצים בינאריים המשמשים למתקפות LOLBins שנחשב תמיד לארוך, קשה ומסובך, אבל הכרחי להבנת התנהגותן ואופן ביצוען של מתקפות Living Off the Land והמפתח לבלימתן בעתיד.

עוד ב-

עוקץ הקריפטו שמסכן אתכם נחשף: ככה יפילו אתכם בפח

לכתבה המלאה

"אחת מהדאגות הגוברות של מרכזי תפעול אבטחה (SOC) היא כמות הרעש שרק ממשיכה לגדול. לארגונים רבים משאבים מוגבלים והם פשוט כורעים תחת עומס ההתראות. הדגמנו כי בעזרת מודל שפה כמו GPT-3 אפשר להפוך חלק מהתהליכים המורכבים והארוכים האלה לפשוטים יותר וכך להחזיר את השליטה לצוותי הסייבר ולסייע להם להתמודד טוב יותר עם האיומים. אנחנו כבר עובדים על שילובם של כמה מאבות הטיפוס האלה במוצרי האבטחה שלנו שלנו וגם פרסמנו אותם במאגר GitHub שלנו לטובת כל מי שמעוניין להתנסות בשימוש בכלים מבוססי מודל השפה GPT-3 ולהתרשם מיעילותם בסביבת אבטחת המידע שלו. אנחנו מאמינים כי בעתיד יכול להפוך מודל השפה GPT-3 לחלק בלתי נפרד מארגז הכלים של מומחי הסייבר," מסכם גלאגר.