אפל הכריזה על שיתוף פעולה עם אנבידיה שנועד להאיץ ולשפר את היכולות של מודלי שפה גדולים (LLM). במסגרת השותפות, אפל שילבה את הטכנולוגיה שלה, ReDrafter, במערכות של אנבידיה, כדי לשפר את מהירות התגובה של יישומי בינה מלאכותית ולצמצם את העומס על משאבי החומרה. הפתרון מאפשר ליצור יותר תשובות (טוקנים) בזמן קצר יותר, תוך שימוש בפחות מעבדים גרפיים (GPUs), מה שמוביל להפחתת עלויות ושיפור יעילות.

ReDrafter הותאם במיוחד לפלטפורמת TensorRT-LLM של אנבידיה, המיועדת להאצת יישומי AI מתקדמים. השילוב החדש מאפשר למפתחים להפיק תועלת מרבית מתשתיות קיימות ולשפר את ביצועי המודלים שלהם. לפי אנבידיה, ההתאמות הטכנולוגיות שבוצעו לא רק משפרות את מהירות המערכות אלא גם מפחיתות את צריכת האנרגיה, מה שמקל על ארגונים המפעילים מערכות בינה מלאכותית גדולות.

אף שהטכנולוגיה מיועדת בשלב זה למעבדים של אנבידיה, אפל ציינה כי בעתיד ייתכן שיתרונות השיטה יורחבו גם למעבדים מתחרים, כמו אלו של AMD ואינטל. שיתוף הפעולה הזה מייצג צעד חשוב בדרך להפיכת יישומי בינה מלאכותית למהירים, חסכוניים ואינטגרטיביים יותר בתעשייה.