Miközben a világ elsősorban az Nvidiára és GPU-ira figyel, a Microsoft szépen csendben kifejlesztett és bemutatott egy új AI-chipet, a Maia 200-at (kódnevén a Bragát). Az új, házon belül készült mesterséges intelligencia chip a Microsoft Maia GPU termékcsaládjának következő generációja, egy szerverchip, amelyet igen nagy sebességű mesterséges intelligencia modellek következtetésére terveztek. Segítségével a mesterséges intelligencia modellek sokkal gyorsabban és hatékonyabban alkalmazhatják tudásukat valós helyzetekben.
A Maia 200 nem az Nvidia-chipek másolata, nem újabb általános célú GPU, nem is PC-be szánt gyorsító, hanem kifejezetten AI-következtetésre tervezett áramkör (következtetés-gyorsító), amelynek egyetlen célja van: olcsóbban és gyorsabban kiszolgálni a Microsoft Azure AI-szolgáltatásait. Ez tehát azt jelenti, hogy a chipet a mesterséges intelligencia következtetéseiben, nem pedig a betanításában fogják használni, olyan rendszereket és ágenseket működtetve, amelyek előrejelzéseket készítenek, válaszokat adnak a lekérdezésekre, és kimeneteket generálnak a hozzájuk betáplált új adatok alapján.
Mindez igen tudatos döntés: a következtetés ma már drágább és nagyobb volumenű feladat, mint a betanítás. Egy chatbot vagy keresőmotor mögött futó AI-modell folyamatosan számol, válaszol, generál – ez az, ami igazán terheli az adatközpontokat. A Maia 200 tehát nem váltja le teljesen a GPU-kat (ezeket a Microsoft továbbra is használja majd tréningre és speciális feladatokra), inkább egy célra szabott „munkagép”, amely ott veszi át a szerepet, ahol a nagy GPU-k túl drágák vagy túl általánosak.
A Maia 200 a TSMC 3 nm-es folyamatcsomópontjára épül, és 140 milliárd tranzisztort tartalmaz. 216 GB HBM3e memória is került bele, beépített 7 TB/s HBM sávszélességgel, amelyhez 272 MB beépített SRAM csatlakozik. A Microsoft szerint a chip akár 10 petaflopos FP4 számítási teljesítményt is elérhet – avat be a technikai részletekbe a Tom’s Hardware. Ez gyakorlati szempontból azt jelenti, hogy egyetlen Maia 200 csomópont gond nélkül képes futtatni a mai legnagyobb modelleket, és rengeteg mozgástér áll rendelkezésre a jövőbeli még nagyobb modellek számára is – ezt már Scott Guthrie, a Microsoft mesterséges intelligenciáért és a felhőszolgáltatásokért felelős alelnöke írta egy blogbejegyzésben, hozzátéve, hogy ez azt jelenti, hogy a Maia 200 háromszor akkora teljesítményt nyújt FP4-ben, mint a harmadik generációs Amazon Trainium, FP8-ban pedig a Google hetedik generációs TPU-ja.
A Maia 200-at már telepítették a Microsoft amerikai központi Azure adatközpontjában, és telepítéseket jelentettek be az arizonai Phoenixben található US West 3-ban, valamint újabbakat is terveznek, ahogy a Microsoft további chipeket kap. Azt Satya Nadella vezérigazgató is megerősítette az X-en, hogy a Maia 200 már ténylegesen „élesben” fut az Azure adatközpontjaiban.
A Maia 200 két évvel azután jelent meg, hogy a Microsoft bejelentette első AI-chipjének, a Maia 100-nak a kifejlesztését, amit azonban sosem adtak bérbe felhőügyfeleik számára. Ezúttal viszont más lesz a helyzet. Guthrie erről azt mondta, hogy „az új chip szélesebb körű ügyfél-elérhetőséget kínál majd a jövőben”.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
