近日,華為公布了AI基礎(chǔ)設(shè)施架構(gòu)的新進展,推出CloudMatrix 384超節(jié)點,并已在蕪湖數(shù)據(jù)中心規(guī)模上線。據(jù)了解,華為云CloudMatrix384超節(jié)點今年上半年將有數(shù)萬規(guī)模的上線。華為內(nèi)部人士稱其為核彈級的產(chǎn)品,或?qū)氐捉K結(jié)算力焦慮。未來,CloudMatrix超節(jié)點可以構(gòu)建超過萬片的大集群來提供算力。據(jù)悉,華為CloudMatrix 384在規(guī)模、性能和可靠性上對標英偉達NVL72,基于CloudMatrix的昇騰AI云服務(wù),大模型訓(xùn)練作業(yè)可穩(wěn)定運行40天,互聯(lián)帶寬斷點恢復(fù)在10秒級別。目前,國產(chǎn)芯片與英偉達芯片在單卡性能方面仍存在一定的差距,但通過多卡集群后差距就會縮小。華為公布的數(shù)據(jù)顯示,CloudMatrix 384實現(xiàn)算力規(guī)模達300PFlops,相比英偉達NVL72的180PFlops提升67%。不過,在單位算力功耗方面,國產(chǎn)芯片仍比英偉達高得多。(財聯(lián)社)