GB200 將出貨  誰物超所值? 

◎陳子榕 CSIA/CFTA

NVIDIA推出下一代人工智慧(AI)超級電腦,此產品由NVIDIA GB200 Grace Blackwell Superchips驅動的NVIDIA DGX SuperPOD,用於處理具有恆定運行時間的兆級參數模型,以實現超大規模生成式AI訓練和推論工作負載。

GB200 NVL72 是一款超級晶片,主要特點為:

(1) 架構:GB200 NVL72 連接了 36 個 Grace CPU 和 72 個 Blackwell GPU,採用液冷機架設計。

(2) NVLink 域:GB200 NVL72 擁有 72 個 GPU,形成一個單一的大型 GPU,並提供 30 倍的即時兆級參數語言模型推論速度。GB200 NVL72 配備第二代 Transformer 引擎,搭配第五代 NVIDIA NVLink,可實現 30 倍的即時兆級參數語言模型推論。

(3) 大規模訓練:GB200 NVL72 具有更快的第二代 Transformer 引擎,支持 FP8 精度,可實現大型語言模型的 4 倍快速訓練。

(4) 能效:液冷 GB200 NVL72 機架可降低數據中心的碳足跡和能耗。

(5) GB200 NVL72 使用 NVLink 和液冷技術,能克服通信瓶頸的 72-GPU 大型機架。 

估計,輝達 GB200 的價格可能高達 7 萬美元。GB200 NVL36 伺服器機櫃的平均售價約為 180 萬美元,而 GB200 NVL72 伺服器機櫃的售價則約為 300 萬美元。超級晶片 GB200(一個 Grace CPU+兩個 B200)售價介於 6 萬至 7 萬美元。

GB200可運用的例子:

自然語言處理:GB200 可用於翻譯、問答、流暢度等自然語言處理任務。

多模態應用:結合語言、視覺和語音的應用、視頻分析和語音合成。

創意應用:GB200 可生成故事、詩歌和程式碼,創意性應用。

科學應用:用於蛋白質折疊預測、藥物研發等科學領域。

 

GB200受惠者包括台積電(2330)、京元電(2449)、信驊(5274)、奇鋐(3017)、雙鴻(3324)、勤誠(8210)和廣達(2382)等。

除此之外,再推一檔

智邦(2345),智邦Q1每股賺4.02元;在網路升級趨勢下,網路交換器與網路應用裝置需求將持續成長,美系大型資料中心客戶對400G交換器需求暢旺,在今年下半年開始進入800G交換器升級週期,有望帶動智邦整體營運。股價重回季線之上,已打出頭肩底,拉回買進。