Már tart az Nvidia tavaszi GTC bulija, ami idén március 21. és 24. között látja el új információkkal és bejelentésekkel a különböző, mesterséges intelligenciához kapcsolódó technológiák iránt fogékony közönséget. Ahogy azt már megszokhattuk az ilyen rendezvényeknél, ismét egy keynote során prezentálták nekünk a bejelentéseket, amelyek között lapult jó néhány izgalmas újdonság.
A GPU
Kezdjük is mindjárt talán az egyik legfontosabbal. Az Nvidia bemutatta következő generációs GPU-architektúráját, a Hoppert, ami a transformer modellre fókuszálva alaposan felgyorsíthat bizonyos folyamatokat az MI-fejlesztők számára. A H100-as chipben lapuló Transformer Engine akár hatszor gyorsabb model traininget eredményezhet, az új NVLink Switch rendszernek hála a nagyobb hálózatok támogatása is egyszerűbb lesz.
A Hopper architektúra azért is jelenthet jelentős előrelépést ezen a területen, mivel az Nvidia már a kezdetektől úgy építette fel azt, hogy komoly számítástechnikai erejével képes legyen felgyorsítani az új generációs MI-munkákat, gyors memóriájával pedig simán kezelni tudja a növekvő hálózatokat és adatkészleteket.
Az új Transformer Engine egyébként Tensor Core-okat használ, amelyekkel szükség esetén keverni lehet a 8-bites pontosságot a 16-bites félpontossággal, miközben a precizitásról sem kell lemondani. A H100-as GPU 80 milliárd tranzisztornak ad otthont, támogatja a PCIe 5.0-t és a HBM3-as memóriát, az előállításához pedig felhasználják a TSMC 4nm-es eljárását is.
Az új hardvert megtalálhatjuk majd az Nvidia negyedik generációs DGX szervereiben, de a még nagyobb erőre vágyóknak jobb választás lehet a DGX H100 SuperPod.
A szuperchip
A bemutató másik nagy újdonsága a Grace CPU Superchip, ami az Nvidia első próbálkozása a dedikált, adatközpontokba szánt CPU-k terén. Az Arm Neoverse-en alapuló hardver 144 maggal operál, és 1 terabájt/másodperc memória-sávszélességet kínál. Az LPDDR5X memóriával felszerelt chip akár olyan teljesítményt is kínálhat, amivel simán felveszi a harcot az AMD és az Intel hasonló csúcskategóriás megoldásaival.
Az Armv9 architektúrára épülő, két Grace CPU-t tömörítő szuperchip akár 8 Hopper-alapú GPU mellett is megállja a helyét. Hasonló tehát a felépítése, mint az Apple-től származó M1 Ultrának, ám azzal ellentétben ez nem a mezei felhasználóknak, hanem inkább az MI-vel foglalkozó szakemberek számára készül.
