華碩發布了全新Ascent GX10迷你機,搭載了由英偉達提供的NVIDIA GB10 Grace Blackwell Superchip芯片,其AI算力高達1000 TOPS,能夠高效運行超過2000億參數的大型語言模型(LLM),為AI開發者和企業提供了強大的本地計算能力。
據悉,NVIDIA GB10 Grace Blackwell Superchip芯片由Blackwell GPU和Grace CPU組成,并針對緊湊的外形進行了優化,能夠運行超過2000億個參數的大型語言模型。
其中Grace CPU共有20個Arm核心,可增強數據預處理和編排,加速模型調整和實時推理。
Ascent GX10配備了128GB LPDDR5X統一內存,為大型AI模型提供充足的內存支持。
此外,得益于集成的NVIDIA ConnectX-7 NIC網口,用戶可以將兩臺Ascent GX10連接在一起,進行本地擴展,以處理更大規模的AI模型,例如參數高達4050億的Llama 3.1。
Ascent GX10不僅適用于本地AI開發和測試,還能與NVIDIA DGX Cloud或其他加速云、數據中心基礎設施無縫銜接。用戶幾乎無需調整代碼即可將本地開發環境遷移到云端,從而大幅簡化AI模型的原型設計、微調和迭代過程。