Nvidia創辦人暨執行長黃仁勳準備參與今日(5/20)登場的臺北國際電腦展(Computex Taipei 2025),並於周一(5/19)發表演說,他說全球AI基礎設施市場規模高達數兆美元,也揭露要與臺灣政府合作打造AI超級電腦,並宣布強化與富士康的合作,協助富士康打造智慧醫院解決方案。
黃仁勳認為,AI現在是基礎設施,如同過去的網路及電力,需要工廠,而這就是Nvidia如今在打造的;這些工廠並不是過去的資料中心,它們是AI工廠,生產的是Token。
Nvidia亦將與臺灣國科會轄下國家實驗研究院國家高速網路與計算中心(National Center for High-Performance Computing,國網中心,NCHC)合作,共同建置一座AI超級電腦,估計其AI性能將是臺灣杉二號( Taiwania 2)的8倍以上。
該座落於NCHC的AI超級電腦將由華碩負責建置,配置逾200個Nvidia HGX H200系統,總計搭載超過1,700個H200 GPU;以及兩套Nvidia GB200 NVL72機架系統;一個基於Nvidia Blackwell Ultra平臺建置的Nvidia HGX B300系統;此外,NCHC也計畫在雲端部署一組Nvidia DGX Spark個人AI超級電腦,以及Nvidia HGX系統。
其中,Nvidia HGX H200叢集可用來執行大規模AI訓練及高性能運算;Nvidia GB200 NVL72連結36個Grace CPU與72個Blackwell GPU,採用液冷設計,以NVLink互連的GPU可作為單一大型的GPU使用,而替擁有兆級參數的大型語言模型提供30倍的即時推論速度;Nvidia HGX B300被視為是新一代的AI工廠,能夠處理諸如影音生成或3D模擬等高吞吐量的即時生成式AI應用;雲端上的Nvidia DGX Spark為小叢集,適用於研究團隊或中型企業;Nvidia HGX屬於大叢集,可用來訓練及部署生產級模型。
此一新的超級電腦將用來支援包括Taiwan AI RAP在內的各種專案。Taiwan AI RAP是NCHC在今年3月所提出的專案,定位為高效能AI應用開發平臺,它整合了運算能力、生成式AI工具,以及標準化的開發流程,旨在協助各個產業創造符合需求的專屬AI,並開放申請,通過審核的團隊將可獲得價值65萬元新臺幣的免費算力額度。
Taiwan AI RAP已展開試營運,第一階段的申請時間已於4月24日結束,第二階段則將於6月16日開放申請,於7月11日截止。有意申請的資訊服務業、新創公司、中小企業或學術單位可提出開發AI產品或服務的規畫以供審核。
新的超級電腦也將被應用在臺灣大型語言模型專案TAIDE、氣候研究與量子研究上。