全程回顧黃仁勛GTC演講:Blackwell架構B200芯片登場(chǎng)
北京時(shí)間3月19日4時(shí)-6時(shí),英偉達創(chuàng )始人黃仁勛在美國加州圣何塞SAP中心登臺,發(fā)表GTC 2024的主題演講《見(jiàn)證AI的變革時(shí)刻》。鑒于過(guò)去一年多時(shí)間里AI帶來(lái)的生產(chǎn)力變革,以及英偉達等一眾概念股的表現,老黃的演講已經(jīng)變成全球資本市場(chǎng)翹首以待的熱門(mén)事件。
本文引用地址:http://dyxdggzs.com/article/202403/456495.htm在這場(chǎng)兩個(gè)小時(shí)的演講中,黃仁勛公布了搭載B200芯片的GB200 Grace Blackwell超級芯片系統,以及英偉達在A(yíng)I軟件(NIM微服務(wù))、Omiverse云、具身智能方面的最新進(jìn)展。
以下為演講內容回顧:
播放開(kāi)場(chǎng)影片
黃仁勛登臺,對觀(guān)眾們強調:我希望你們搞清楚今天這里不是演唱會(huì ),而是一場(chǎng)開(kāi)發(fā)者大會(huì )。
黃仁勛介紹了本屆GTC的一些參與者,并強調這些公司不只是來(lái)參會(huì ),而是有自己的東西要來(lái)展示。
黃仁勛展示英偉達發(fā)展史,又提了將首臺DGX One送給OpenAI的故事。
黃仁勛:今天我們將討論這個(gè)新行業(yè)的許多問(wèn)題。我們要談?wù)勅绾芜M(jìn)行計算、我們要談?wù)勀闼鶚嫿ǖ能浖?lèi)型,你將如何看待這個(gè)新軟件,新行業(yè)中的應用 然后,也許(再談?wù)劊┫乱徊绞鞘裁?,我們如何從今天開(kāi)始做準備,下一步會(huì )發(fā)生什么。
黃仁勛:我們使用仿真工具來(lái)創(chuàng )造產(chǎn)品,并不是為了降低計算成本,而是為了擴大計算規模。我們希望能夠以完全保真、完全數字化的方式模擬我們所做的整個(gè)產(chǎn)品。從本質(zhì)上講,我們稱(chēng)之為數字孿生。
老黃開(kāi)始介紹一系列“新加速生態(tài)系統”合作伙伴,包括ANSYS、Synopsis、Cadence等。他也提及,臺積電和Synopsys將突破性的英偉達計算光刻平臺投入生產(chǎn)。
隨著(zhù)transformer模型被發(fā)明,我們能以驚人的速度擴展大型語(yǔ)言模型,實(shí)際上每六個(gè)月就能翻一番。而為了訓練這些越來(lái)越大的模型,我們也需要更強的算力。
“非常強大”的Blackwell架構GPU登場(chǎng)
老黃現場(chǎng)對比Blackwell架構和Grace Hopper架構的GPU
老黃現場(chǎng)展示Grace-Blackwell系統(兩個(gè)Blackwell GPU、四個(gè)die與一個(gè)Grace Cpu連接在一起)。GB200將兩個(gè)B200 Blackwell GPU與一個(gè)基于A(yíng)rm的Grace CPU進(jìn)行配對。新芯片擁有2080億個(gè)晶體管,所有這些晶體管幾乎同時(shí)訪(fǎng)問(wèn)與芯片連接的內存。
為了處理大規模數據中心的GPU交互問(wèn)題,也需要更強的連接(NVlink)能力。
這個(gè)GB200新系統提升在哪里呢?老黃舉例稱(chēng),如果要訓練一個(gè)1.8萬(wàn)億參數量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續跑上90天。但如果使用Blackwell GPU,只需要2000張,同樣跑90天只要消耗四分之一的電力。當然不只是訓練,生成Token的成本也會(huì )隨之降低。
把芯片做大的好處:?jiǎn)蜧PU每秒Token吞吐量翻了30倍
毫無(wú)疑問(wèn),微軟Azure、AWS、谷歌云等一眾科技巨頭都是Blackwell架構的首批用戶(hù)。
接下來(lái)應該是應用側的部分,先展示的是生物醫藥的部分,包括NVIDIA DGX云中的多項更新。
黃仁勛宣布新的AI微服務(wù),用于開(kāi)發(fā)和部署企業(yè)級生成式AI應用。老黃表示,未來(lái)如何開(kāi)發(fā)軟件?與現在寫(xiě)一行行代碼不同,未來(lái)可能就要靠一堆NIMs(Nvidia inference micro service),用與AI聊天的形式調動(dòng)一堆NIMS來(lái)完成訓練、應用的部署。英偉達的愿景是成為AI軟件的“晶圓廠(chǎng)”。
英偉達的AI微服務(wù)NIM網(wǎng)站已經(jīng)上線(xiàn)。
NIM微服務(wù)提供了最快、性能最高的AI生產(chǎn)容器,用于部署來(lái)自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及來(lái)自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開(kāi)放模型。
NVIDIA AI Enterprise軟件平臺更新,包括NIM、構建RAG應用程序的工具等。隨后老黃又分享了西門(mén)子科技、日產(chǎn)汽車(chē)等用如何在工作流中將Omiverse Cloud應用在工作流中。
黃仁勛宣布,現在支持將Omniverse云推流至Vision Pro。
可能是時(shí)間不太夠了,老黃開(kāi)始加速官宣一系列合作。其中提到全球最大電動(dòng)車(chē)公司比亞迪將采用英偉達下一代智能汽車(chē)芯片Thor。比亞迪同時(shí)將使用英偉達基礎設施進(jìn)行自動(dòng)駕駛模型訓練,以及英偉達Isaac來(lái)設計/模擬智能工廠(chǎng)機器人。
開(kāi)始提機器人了。黃仁勛表示,在我們的世界里,類(lèi)人機器人很有可能會(huì )發(fā)揮更大的作用,我們設置工作站、制造和物流的方式,并不是為人類(lèi)設計的,而是為人類(lèi)設計的。因此,這些人類(lèi)或機器人的部署可能會(huì )更有成效。黃仁勛同時(shí)宣布一項名為GR00T的項目,旨在進(jìn)一步推動(dòng)英偉達在機器人和具身智能的突破性工作。由GR00T驅動(dòng)的機器人可以理解自然語(yǔ)言,并通過(guò)觀(guān)察人類(lèi)動(dòng)作來(lái)模擬運動(dòng)。
除了機器人影像外,迪士尼的orange和green機器人也來(lái)到現場(chǎng),這款機器人用的是英偉達為機器人設計的首款AI芯片Jetson。
黃仁勛帶著(zhù)機器人下場(chǎng),現場(chǎng)播放ending影片
黃仁勛返場(chǎng)告別,全場(chǎng)發(fā)布會(huì )結束。
評論