輝達轉型AI基建公司 釋出重量訊息及供應鏈

2025/06/07 00:00
  • share_fb
  • share_line
  • A-
  • A
  • A+

財經中心/廖珪如報導

AI需求日新月異,輝達已經搖身變成AI基建公司,超級電腦設備供應鏈出爐。(圖/資料照)

▲AI需求日新月異,輝達已經搖身變成AI基建公司,超級電腦設備供應鏈出爐。(圖/資料照)

2025年Computex輝達執行長黃仁勳keynote日釋出一個重要訊息,輝達已從晶片提供跨步到AI基礎建設公司,持續加速推動「AI 工廠」願景。包括黃仁勳來台前的中東行,到離台後的瑞典行,黃仁勳都對客戶提供整套方案,架構主權AI的基礎建設。輝達官方也傳來好消息,的最新 Blackwell 架構平台在本輪 MLPerf Training v5.0 基準測試中全面展現效能優勢,囊括所有測試項目結果,成為唯一在全部測試項目中均提交成績的平台,進一步鞏固其在 AI 加速運算市場的主導地位。

根據 MLCommons 最新公布的資料,NVIDIA 平台不僅成功完成所有基準項目,並在最具挑戰性的 Llama 3.1 405B 預訓練測試中領先群雄。此次測試動用了兩套以 NVIDIA Blackwell 為基礎的 AI 超級電腦——Tyche(採用 GB200 NVL72 架構)與 Nyx(基於 DGX B200 系統),合計使用 2,496 顆 Blackwell GPU 與 1,248 顆 Grace CPU。

相較上一代架構,Blackwell 在 Llama 3.1 405B 測試中的訓練效能提升達 2.2 倍,而在 Llama 2 70B LoRA 微調任務中,單套 DGX B200 系統的效能更提升達 2.5 倍。

此次成績反映 Blackwell 架構在系統設計上的幾項核心創新:包括機架等級液冷設計、13.4TB 一致性記憶體、支援垂直與橫向擴展的第五代 NVIDIA NVLink 技術與 Quantum-2 InfiniBand 網路技術。同時,NVIDIA NeMo Framework 軟體堆疊也支援多模態大型語言模型的快速訓練,為生成式與代理型 AI 應用鋪路。

NVIDIA 表示,這些技術正是驅動「AI 工廠」的基礎,而這些 AI 工廠將成為「代理型 AI 經濟」的核心引擎,產生可應用於各產業與學術領域的大規模詞元與智慧資產。

本輪 MLPerf 測試也凸顯 NVIDIA 生態系的廣泛參與。除與雲端業者 CoreWeave 與 IBM 合作外,華碩、戴爾科技、Google Cloud、聯想、美超微、Oracle Cloud Infrastructure、Lambda、慧與科技等主要硬體與雲端夥伴亦提交了採用 NVIDIA 平台的測試成績。

隨著 AI 訓練規模持續升級,產業對整合 GPU、CPU、高速網路與軟體平台的需求日益提升,NVIDIA 的整體解決方案在短時間內難有對手能匹敵。未來能否持續領先,則端視其 Blackwell 平台大規模部署的速度與軟體創新能力。

CH54三立新聞台直播