華碩發(fā)布了全新Ascent GX10迷你機,搭載了由英偉達提供的NVIDIA GB10 Grace Blackwell Superchip芯片,其AI算力高達1000 TOPS,能夠高效運行超過2000億參數(shù)的大型語言模型(LLM),為AI開發(fā)者和企業(yè)提供了強大的本地計算能力。
據(jù)悉,NVIDIA GB10 Grace Blackwell Superchip芯片由Blackwell GPU和Grace CPU組成,并針對緊湊的外形進行了優(yōu)化,能夠運行超過2000億個參數(shù)的大型語言模型。
其中Grace CPU共有20個Arm核心,可增強數(shù)據(jù)預(yù)處理和編排,加速模型調(diào)整和實時推理。
Ascent GX10配備了128GB LPDDR5X統(tǒng)一內(nèi)存,為大型AI模型提供充足的內(nèi)存支持。
此外,得益于集成的NVIDIA ConnectX-7 NIC網(wǎng)口,用戶可以將兩臺Ascent GX10連接在一起,進行本地擴展,以處理更大規(guī)模的AI模型,例如參數(shù)高達4050億的Llama 3.1。
Ascent GX10不僅適用于本地AI開發(fā)和測試,還能與NVIDIA DGX Cloud或其他加速云、數(shù)據(jù)中心基礎(chǔ)設(shè)施無縫銜接。用戶幾乎無需調(diào)整代碼即可將本地開發(fā)環(huán)境遷移到云端,從而大幅簡化AI模型的原型設(shè)計、微調(diào)和迭代過程。