Chipek
FT: több mint egymillió Nvidia-kártyát vettek fel a kínai AI-cégek
Kína nem kapja meg az Nvidia legerősebb adatközponti chipjeit, ezért a cégek a még engedélyezett, olcsóbb kártyákból vásárolnak tömegével. A Financial Times beszámolója szerint ez már több mint egymillió GPU, és a hatása a nyugati boltok polcain is látszik.
Hiányzik másfél millió chip
Az FT szerint a hazai kínai AI-chipgyártás idén megduplázódott, és várhatóan 3,5 millió chip készül el. A kereslet viszont jóval 5 millió fölött van, így közel 1,5 millió chip hiányzik. Ezt a rést próbálják betömni a cégek az Nvidia kártyáival. A háttérben az amerikai exportkorlátozások állnak: Kína nem juthat hozzá az Nvidia csúcskategóriás adatközponti AI-chipjeihez. A cégek ezért azokhoz a fogyasztói és munkaállomás-kártyákhoz fordulnak, amelyek a szabályok szerint még eladhatók.
A vásárolt kártyák többnyire RTX Pro 6000D, RTX Pro 5000 és RTX 5090 típusúak, és mind megfelelnek az amerikai exportszabályoknak. Nyers teljesítményben nem versenyezhetnek a Huawei Ascend 910C AI-gyorsítójával, egyszerűbb AI-feladatokra viszont használhatók. Ilyen például a prefill, vagyis az a lépés, amikor a nyelvi modell a válaszadás előtt feldolgozza a beérkező szöveget. Ez a feladat jól elosztható olcsóbb hardverre, így a drága, nagy teljesítményű gyorsítók a nehezebb munkára maradhatnak.
A CUDA még mindig erős vonzerő
A keresletet nem csak a hardverhiány hajtja. A beszámoló szerint sokan az Nvidia CUDA szoftverkörnyezete miatt is a zöld kártyákat választják. A CUDA az a programozási platform, amelyre az AI-fejlesztés eszközeinek jelentős része épül. A fejlesztők kedvezőbbnek tartják, mint a Huawei saját megoldását, a CANN-t. Ez jól mutatja, hogy a kínai AI-ipar a Huawei erőfeszítései ellenére továbbra is erősen függ az amerikai hardvertől és az Nvidia szoftveres ökoszisztémájától. A chipgyártás felfuttatása önmagában nem elég, ha a fejlesztők megszokott eszközei máshoz kötődnek.
A gamerek is megérzik
A tömeges felvásárlás a csúcskategóriás GPU-piacot is érinti, amely amúgy is drága. Az RTX 5090 hivatalos ajánlott ára 1999 dollár. A Tom's Hardware szerint viszont gyakorlatilag eltűnt a piacról, és csak három külső viszonteladónál kapható, ott is legalább 7199 dollárért. Ez nem általános piaci ár, de jól jelzi, mennyire szűkös a kínálat. A cikk szerint a közelmúltban olyan hírek is megjelentek, hogy az Nvidia leállította az RTX 5090 gyártását. A helyére egy 24 GB memóriás RTX 5080 csúcsmodell jönne az 5090 32 GB-ja helyett. Ez egyelőre megerősítetlen pletyka.
Sok kérdés nyitva marad. Az FT számait nem lehet független forrásból ellenőrizni. Az sem egyértelmű, pontosan melyik időszakra vonatkozik az „idén”. Az is kérdés, meddig marad nyitva ez a kiskapu, ha az amerikai szabályozás szigorodik, vagy ha a kínai chipgyártás utoléri a keresletet. Egy biztos: amíg a kapacitáshiány fennáll, a kínai AI-ipar és a nyugati PC-s vásárlók ugyanazokért a kártyákért versenyeznek.