Keynote日/黃仁勳NVLink 打造未來世界綁定輝達生態系野心

2025/05/19 12:20
  • share_fb
  • share_line
  • A-
  • A
  • A+

財經中心/廖珪如報導

NVLink Fusions能讓所有輝達生態系運算結合,甚至客製化,影響各行各業。(圖/翻攝自輝達官方YT)

▲NVLink Fusions能讓所有輝達生態系運算結合,甚至客製化,影響各行各業。(圖/翻攝自輝達官方YT)

 

眾所矚目輝達執行長黃仁勳今(19)日keynote日談到未來輝達願景,提到NVLink Fusion、半客製化AI基礎建設(Semi-Custom AI Infrastructure)以及NVIDIA與混合型ASIC AI基礎建設(NVIDIA Plus ASIC Hybrid AI Infrastructure)的概念。

 

NVLink Fusion

概念:NVLink Fusion是NVIDIA的高速互連技術的進階版本,旨在實現多晶片模組(MCM)的整合。黃仁勳在演講中強調,這項技術允許第三方客製化晶片(ASIC)與NVIDIA的GPU、CPU等硬體通過高頻寬、低延遲的互連進行協作,打造統一的AI計算平台。這項技術的開放性讓企業能夠根據自身需求,將NVIDIA的通用運算能力與特定用途的ASIC結合。例如,生成式AI應用(如大型語言模型)需要高效的資料傳輸,NVLink Fusion能大幅提升系統性能。

NVLink Fusion適用於資料中心、邊緣運算和高效能運算,旨在實現多晶片模組(MCM)的整合。黃仁勳在演講中強調,這項技術允許第三方客製化晶片(ASIC)與NVIDIA的GPU、CPU等硬體通過高頻寬、低延遲的互連進行協作,打造統一的AI計算平台。這項技術的開放性讓企業能夠根據自身需求,將NVIDIA的通用運算能力與特定用途的ASIC結合。例如,生成式AI應用(如大型語言模型)需要高效的資料傳輸,NVLink Fusion能大幅提升系統性能。 應用場景:黃仁勳提到,NVLink Fusion適用於資料中心、邊緣運算和高效能運算(HPC),特別在需要快速處理大量資料的場景中表現出色。

半客製化AI基礎建設(Semi-Custom AI Infrastructure)(如DGX系統或Grace CPU Superchip)的解決方案,允許客戶進行有限度的客製化調整,例如優化軟體堆疊或記憶體配置,以適應特定行業需求。這讓不同行業的AI需求差異顯著,例如金融業需要低延遲,醫療業需要高精度。半客製化方案讓客戶在不需自行設計完整系統的情況下,快速部署高效的AI基礎建設,降低成本和技術門檻。黃仁勳提到,這類方案通常與NVIDIA AI Enterprise軟體套件結合,提供預訓練模型和優化工具(如NVIDIA RAPIDS)。

NVIDIA與混合型ASIC AI基礎建設(NVIDIA Plus ASIC Hybrid AI Infrastructure)

是一種結合NVIDIA硬體與第三方ASIC的混合運算平台,通過NVLink Fusion實現高效整合。黃仁勳強調,這種模式特別適合需要高能效的應用,如AI推理或邊緣設備。ASIC能在特定任務上具有高能效,但開發成本高且靈活性低。NVIDIA的混合型方案結合了ASIC的效率與NVIDIA硬體的通用性,並利用其軟體生態(如CUDA、TensorRT)提升整體性能。例如輝達Qualcomm的合作,結合Qualcomm的5G和AI ASIC與NVIDIA的GPU,應用於智慧城市和自動駕駛等場景。別在需要快速處理大量資料的場景中表現出色。

半客製化AI基礎建設(Semi-Custom AI Infrastructure)

基於NVIDIA標準化硬體平台(如DGX系統或Grace CPU Superchip)的解決方案,允許客戶進行有限度的客製化調整,例如優化軟體堆疊或記憶體配置,以適應特定行業需求。能ㄖㄤ不同行業的AI需求差異顯著,例如金融業需要低延遲,醫療業需要高精度。半客製化方案讓客戶在不需自行設計完整系統的情況下,快速部署高效的AI基礎建設,降低成本和技術門檻。黃仁勳提到,這類方案通常與NVIDIA AI Enterprise軟體套件結合,提供預訓練模型和優化工具(如NVIDIA RAPIDS)。

CH54三立新聞台直播