דיגיטל וטק
גאווה: אנבידיה חושפת את מחשב העל הגדול בעולם ל-AI שפותח בישראל
אנבידיה (NVIDIA) מכריזה כי מחשב העל קולוסוס (Colossus) של חברת xAI, הבנוי מ-100,000 מעבדים גרפיים מסוג NVIDIA Hopper, הצליח להגיע לסדר הגודל העצום שלו באמצעות שימוש בפלטפורמת NVIDIA Spectrum-X Ethernet שפותחה בישראל ומשמשת כבסיס למחשב העל Israel-1, על הקמתו הכריזה אנבידיה בשנה שעברה
אנבידיה (NVIDIA) מכריזה היום (שני) כי מחשב העל קולוסוס (Colossus) של חברת xAI, הבנוי מ-100,000 מעבדים גרפיים מסוג NVIDIA Hopper, הצליח להגיע לסדר הגודל העצום שלו באמצעות שימוש בפלטפורמת NVIDIA Spectrum-X Ethernet שפותחה בישראל ומשמשת כבסיס למחשב העל Israel-1, על הקמתו הכריזה אנבידיה בשנה שעברה.
קולוסוס, מחשב העל הגדול ביותר בעולם לבינה מלאכותית, נמצא בשימוש כיום לאימון Grok, משפחת מודלי השפה הגדולים (LLM) של xAI, עם צ'אט-בוט ייעודי המוצע כפיצ'ר למנויי פרימיום ב-X. xAI נמצאת כעת בתהליך להכפלת גודלו של מחשב העל, כך שזה ישלב סך של 200,000 מעבדים גרפיים בארכיטקטורת NVIDIA Hopper GPU.
מחשב העל והמתקן בו הוא שוכן, נבנו על ידי xAI ו-NVIDIA ב-122 ימים בלבד, זאת לעומת חודשים ארוכים או שנים - משך הזמן הטיפוסי לבנייה של מערכות בסדר גודל כזה. תוך 19 ימים מהרגע שנכנס ארון השרתים הראשון למבנה – החל מחשב העל לשמש עבור אימון מודלים.
בזמן אימון מודל השפה הגדול Grok, מחשב העל קולסוס הצליח להגיע לביצועי תקשורת חסרי תקדים עם עד 95% של Data Throughput – רמת ביצועים אליה לא ניתן להגיע באמצעות פתרונות Ethernet סטנדרטיים המספקים 60% של Data Throughput.
גלעד שיינר, סגן-נשיא בכיר ל-Networking ב-NVIDIA, מסר: "בינה מלאכותית הופכת להיות "Mission Critical", ודורשת ביצועים, אבטחה, סקייל ויעילות הולכים וגוברים. פלטפורמת התקשורת NVIDIA Spectrum-X Ethernet פותחה כדי לאפשר לחברות ויזמים חדשניים כמו xAI יכולות עיבוד, ניתוח הוצאה לפועל של יכולות בינה מלאכותית, ובתורה מאיצה את הפיתוח, ההטמעה וזמן ההגעה לשוק של פתרונות AI".
גלעד שיינר (צילום: אנבידיה)
אילון מאסק כתב בחשבון הטוויטר שלו בנוגע למחשב העל שפותח בישראל כי "קולסוס היא מערכת אימון המודלים החזקה ביותר בעולם. עבודה טובה של xAI, NVIDIA ורבים מהשותפים/ספקים שלנו".
"xAI בנתה את מחשב העל הגדול והעוצמתי ביותר בעולם", אמר דובר מטעם xAI. "המעבדים הגרפיים מסדרת NVDIA Hopper ו-Spectrum-X, איפשרו לנו למתוח את הגבולות של אימון מודלי AI בקנה מידה עצום, תוך יצירה של "מפעל AI" סופר-מואץ המבוסס על סטנדרט ה-Ethernet", הוסיף.
בליבה של פלטפורמת NVIDIA Spectrum-X, נמצא מתג האת'רנט Spectrum SN5600, שתומך בקצב העברת נתונים של עד 800Gb/s ומבוסס על שבב ה-Spectrum-4 Switch ASIC. ב-xAI בחרו לשלב את ה-Spectrum-X SN5600 עם BlueField-3 SuperNIC, טכנולוגיה שפותחה גם היא בישראל, על מנת לקבל ביצועים חסרי תקדים.
עוד ב-
פלטפורמת Spectrum-X Ethernet ל-AI, מביאה יכולות מתקדמות שבעבר היו בלעדיות לטכנולוגיית InfiniBand – ומהווים דרישות מפתח עבור פיתוח מרכזי מחשוב ענן לבינה מלאכותית יוצרת.
הכתבות החמות
תגובות לכתבה(0):
תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
חזור לתגובה
