Amíg a modellek betanítását 90%-ban a GPU-k végzik, addig az összetett, több lépésből álló feladatokat végrehajtó, külső eszközöket és adatbázisokat meghívó MI-ágensek futtatása során a szűk keresztmetszetet már a CPU-k jelentik. Lisa Su az AMD vezérigazgatója nemrég bejelentette, hogy a szerver-CPU-k piacára vonatkozó előrejelzésüket megduplázták, mivel az ágensek miatt a jövő adatközpontjaiba drasztikusan több és erősebb processzormag kell. Jensen Huang az NVIDIA vezetője szintén kiemelte, hogy "az MI-ágensek korában nem hagyhatjuk, hogy a CPU-k lassítsák le az adatközpontokat".
Az AMD válasza: Kvantum-hibrid adatközpontok és a Ryzen PRO
Az AMD a washingtoni expó idején és azt követően is a hibrid megközelítést hangsúlyozta: Miután az amerikai kormány májusban több mint 2 milliárd dolláros kvantum-fejlesztési csomagot jelentett be, az AMD bemutatta az új stratégiáját: az adatközpontok jövőjét olyan hibrid rendszerekként látják, ahol a klasszikus CPU/GPU architektúra (például az AMD ROCm szoftverével) közvetlenül vezérli és támogatja a kvantum-gyorsítókat. Ryzen PRO 9000: Bár ez inkább munkaállomásokba szánt újdonság, május közepén az AMD ezzel a szériával hozta el a helyi, hardveres MI-számítási kapacitást a vállalati kliensekhez.
Az NVIDA válasza: Érkezik a Vera CPU és a Rubin platform
Az Nvidia szakít azzal a hagyománnyal, hogy csak a GPU-kra fókuszál, és idén gőzerővel gyártja az első saját fejlesztésű, kifejezetten adatközpontokba szánt processzorát a Vera CPU-t. Ez az Nvidia új csodafegyvere az adatközponti CPU-szűk keresztmetszet ellen. Jensen Huang szerint a Vera CPU bizonyos feladatoknál még a GPU-iknál is nagyobb növekedési motor lesz a cég számára.
A jelenleg uralkodó Blackwell chipek mellé idén érkezik a Blackwell Ultra, és már a csőben van a következő generációs Rubin architektúra is (3 nm-es technológiával), hogy kiszolgálják a gigantikus LLM (nagy nyelvi modell) igényeket. Szoftveres oldalon az Nvidia teljes mellszélességgel beállt az open-source ágens-fejlesztés mögé, és bemutatták a Nemotron modellcsaládot a vállalati MI-ágensek hajtására.
Washingtonban az AMD és az Nvidia is világossá tette: az adatközpontok jövője már nem csak arról szól, hogy minél több GPU-t pakoljanak egymás mellé. A jövő az MI-gyáraké (AI Factories), ahol a brutális erejű új GPU-k (mint a Rubin vagy a Blackwell) mellé egyre kritikusabbá válnak a célspecifikus CPU-k (mint az Nvidia Vera), a fejlett folyadékhűtés, valamint a kvantum-számítástechnikai elemek hibrid integrációja.
A két nagy chipgyártó mellett a Google és az Amazon is felismerte, hogy a jelenleg már gyakran a CPU szűk keresztmetszet, ezért a Google TPU szerverekbe már a saját fejlesztésű, Arm-alapú Axion CPU-ikat építik be host-processzorként. Mivel a CPU-t és az MI-gyorsítót is maguk tervezik (hasonlóan az Nvidia Vera koncepciójához), a teljes rendszer energiahatékonyságát maximálisan optimalizálni tudják.
Az Amazon (AWS) szintén hatalmasat lépett az Annapurna Labs nevű leányvállalatán keresztül fejlesztett saját szilícium-portfóliójával (Trainium, Inferentia, Graviton). Az Amazon legújabb, 3 nanométeres eljárással készülő MI-gyorsítója, a Trainium3 elképesztő ugrást hozott. Az ebből felépített 144 chipet tartalmazó UltraServer szekrények nyers teljesítményben (362 PFLOPs) lényegében beérték az Nvidia csúcs rendszerét, a Blackwellt, miközben az Amazon szerint az üzemeltetési költsége (TCO) csaknem a fele az Nvidia-rendszerekének.
Kott Ferenc, az MKIK digitalizációs szakbizottságának elnöke
Fotó: Kott Ferenc
Az AMD standján a washingtoni AI+ EXPO-n.
