Nvidia GTC大會盛大開幕：揭露Blackwell運算平台，引領AI新時代

🚀Nvidia的開發者大會Nvidia GTC在睽違5年後，於2024本周一（3/18）再度舉辦連續4天的實體活動。受益於AI風潮，這是GTC大會15年來最盛大的一場，預計進行逾900場會議，實體與會人數超過1.1萬名。

🔮會議由Nvidia創辦人暨執行長黃仁勳（Jensen Huang）的演講揭開序幕，他介紹了Nvidia的各種新技術與產品，宣稱全新的Blackwell運算平臺是Nvidia專為生成式AI時代所打造的處理器，包括AWS、微軟、Meta、OpenAI、Dell、Google、甲骨文、Tesla都計畫採用。

🔮這場會議備受外界矚目，因為Nvidia在全球AI晶片的市占率高達9成。黃仁勳認為，通用運算已失去動力，加速運算則到達了臨界點，人們需要另一種運算方式以繼續擴展，繼續降低運算成本，才能於可持續的同時繼續消耗更多的運算。此外，需要訓練各種型態資料的多模態AI的興起也讓運算需求升溫，人們需要更大的模型，也需要更大的GPU，Blackwell即是為了解決此一挑戰而設計的。

✅ 什麼是Blackwell GPU？

📌Blackwell是Nvidia新一代的GPU架構，是兩年前推出的Hopper架構的繼任者，其名稱是為了向美國首位進入國家科學院的黑人數學家David Harold Blackwell致敬。

📌根據Nvidia的說明，基於Blackwell架構的GPU是由2,080億個電晶體組成，採用客製化的台積電4NP製程所生產，所有Blackwell產品皆配備兩個具有光罩限制的晶粒，藉由每秒10TB的晶片互連技術，產生一個強大的GPU。此外，Blackwell支援第二代Transformer引擎，可加速大型語言模型（LLM）及專家混合模型（MoE）的推論及訓練，並提高其精度與準確度。

📌Blackwell透過NVLink及NVLink Switch等互連技術來強化GPU之間的通訊，配備解壓縮引擎來協助處理傳統上通常仰賴CPU的資料分析任務，以及擁有一個可協助系統復原的可靠性、可用性及可維護性引擎（RAS）。

📌這使得Blackwell在訓練上的FP8效能是Hopper的2.5倍，推論的FP4效能是Hopper的5倍，採用第5代NVLink技術則可達到Hopper的兩倍快，還可擴展至576個GPU。

📌現階段基於Blackwell架構的AI晶片主要為B100與B200，但Nvidia特別設計了GB200 Grace Blackwell Superchip超級晶片，透過NVLink將兩個B200連至Nvidia Grace CPU，再利用GB200建置了機架系統Nvidia GB200 NVL72。

🙌全球最主要的AI晶片業者所發表的最新技術及產品，也受到全球主要AI業者及雲端服務供應商的青睞，包括AWS、Google Cloud、Microsoft Azure與Oracle Cloud Infrastructure皆已承諾要提供基於Blackwell架構的實例。

#NvidiaGTC大會

#Blackwell運算平臺

#生成式AI技術

#Nvidia新一代GPU

#AI晶片市占率

#加速運算技術

#多模態AI訓練

#Nvidia B100與B200晶片