מדי שבוע, חברת Experis Cyber שולחת ללקוחותיה דו"ח על מגמות, חולשות אבטחה ועדכונים חשובים נוספים בתחום הסייבר. בין העדכונים החשובים בדו"ח הנוכחי הוא אודות תופעה מסוכנת במסגרתה ChatGPT מנוצל כחלק משרשרת התקפות סייבר.

במסגרת הדו"ח מציינים בחברה כי OpenAI חשפה לאחרונה יותר מ-20 התקפות סייבר שהשתמשו ב-ChatGPT לצורך יצירת נוזקות, הפצת מידע כוזב, התחמקות ממערכות זיהוי, והובלת מתקפות פישינג מדויקות. זו הפעם הראשונה שיש אישור רשמי לשימוש בכלים מבוססי AI למטרות התקפה במבצעי סייבר.

על פי הדו"ח, כל החשבונות המעורבים במבצעי ההתקפה נחסמו, ופרטי כתובות IP ומזהים נמסרו לשותפים בתחום הסייבר להמשך טיפול. הדו"ח מבהיר כי AI אינו מעניק לתוקפים יכולות חדשות, אך מסייע להאיץ תהליכים ולהקל על מתקפות מצד שחקנים בעלי כישורים מוגבלים.

היכולת להשתמש ב-ChatGPT בכל שלבי המתקפה - מתכנון ועד ביצוע - מדגישה את החשיבות של ניטור ושמירה על כלים מבוססי AI מפני שימוש לרעה. בהמשך לכך, ב-Experis Cyber ממליצים לעדכן את מערכות ההפעלה והתוכנות בארגון באופן שוטף כדי להגן מפני פגיעויות ידועות, וכי מומלץ לחזק את אימות המשתמשים על ידי יישום אימות דו-שלבי (2FA) בכל הגישה למערכות קריטיות.

 
בין המקרים שנחשפו: קבוצתTA547 (המכונה "Scully Spider") נחשדה כבר באפריל בשימוש ב-PowerShell שנכתב באמצעות ChatGPT במתקפות של Rhadamanthys info-stealer. חוקרי HP Wolf גילו שמתקפות על משתמשים בצרפת כללו קוד שנכתב בעזרת כלים של AI כחלק משרשרת התקפה מרובת שלבים. קבוצת הסייבר הסינית 'SweetSpecter' ניסתה להחדיר נוזקה בשם SugarGh0st לרשתות באמצעות מיילי פישינג שהופנו לעובדי OpenAI. 

SweetSpecter השתמשה ב-ChatGPT לביצוע מחקר על חולשות, ניתוח תשתיות, סקריפטינג וטכניקות הנדסה חברתית, כולל דיווחים על חולשות ביישומים ספציפיים. 'CyberAv3ngers', קבוצה איראנית המזוהה עם משמרות המהפכה, השתמשה ב-ChatGPT להפקת סקריפטים מותאמים אישית, השגת סיסמאות ברירת מחדל למערכות תעשייתיות ולימוד כיצד לנצל חולשות ספציפיות. 

עוד ב-

מתחזים ל-ChatGPT ואתרים תמימים: כך תוקפי הסייבר מנסים לפגוע בכם

לכתבה המלאה

הקבוצה האיראנית השתמשה ב-ChatGPT כדי להסתיר קוד ולעקוף מערכות זיהוי חריגות (Anomaly Detection) במהלך מתקפותיה על מערכות תשתית במערב. קבוצת STORM-0817 האיראנית השתמשה ב-ChatGPT כדי לפתח נוזקות לאנדרואיד, כולל יצירת התשתית לשליטה מרחוק (C2) עבור התקנים נגועים.