עם כניסת הבינה המלאכותית היוצרת למכשירים ולמחשבים בשנתיים האחרונות, רבים ציפו לצמיחה מהירה במכירות המוצרים הללו. אך בפועל, נתוני התעשייה מצביעים על האטה במכירות, כשהסיבה המרכזית לכך היא שהעיבוד של מרבית יישומי הבינה המלאכותית מתבצע בשרתי ענן ולא במכשירים עצמם.

מעבדים עם יחידות עיבוד עצבי (NPU) המוטמעים במכשירים זוכים לתשומת לב, אך יכולותיהם עדיין לא משתוות לאלה של כרטיסי מסך מתקדמים, דוגמת Nvidia RTX 4080. בעוד שכלים כמו ChatGPT ו-Gemini דורשים כוח עיבוד שאינו בר השגה במחשבים אישיים סטנדרטיים, רוב היישומים המתקדמים עדיין נשענים על תשתיות ענן. עם זאת, מומחים מעריכים כי התקדמות בדורות הבאים של כרטיסי מסך, כמו סדרת RTX 60 העתידית, עשויה לאפשר עיבוד מקומי יעיל יותר. יתרונות כמו שיפור משמעותי במקביליות העיבוד בגופי GPU צפויים להפוך את האפשרות להריץ מודלים גדולים באופן מקומי למעשית יותר.

נכון להיום, הפתרונות מבוססי הענן שומרים על הדומיננטיות, אך בעתיד עשויים המכשירים האישיים להציע שילוב עמוק יותר של יכולות AI. חברות כמו אנבידיה מובילות את הפיתוח הזה, עם דגש על עיבוד משופר, במטרה לצמצם את הפער בין שרתים למכשירים אישיים ולהנגיש את טכנולוגיות הבינה המלאכותית לקהל רחב יותר.