微軟推出首款自研大模型AI芯片！臺積電5nm、1050億顆晶體管，OpenAI率先試用

▲在微軟雷德蒙德實(shí)驗室里，一位系統級測試人員正在模擬芯片在微軟數據中心內的運行情況。這臺機器在真實(shí)世界的條件下嚴格評估每個(gè)芯片，以確保它符合性能和可靠性標準。（圖源：微軟）

▲首批由微軟Azure Cobalt 100 CPU驅動(dòng)的服務(wù)器，位于華盛頓州昆西的一個(gè)數據中心內。（圖源：微軟）

▲在微軟雷德蒙德實(shí)驗室里，芯片正在進(jìn)行系統級測試，在安裝到服務(wù)器上之前，模擬它們在實(shí)際生產(chǎn)條件下的使用情況。（圖源：微軟）

▲在微軟雷德蒙德實(shí)驗室的一個(gè)熱室里，為Maia 100 AI芯片和它的“伙伴”定制的機架。在處理AI工作負載的計算需求時(shí)，新“助手”在機架之間循環(huán)液體來(lái)冷卻芯片。（圖源：微軟）

▲冷板附著(zhù)在Maia 100 AI芯片的表面。（圖源：微軟）

“我們建造的所有東西，無(wú)論是基礎設施、軟件還是固件，我們都可以利用我們自己的芯片，或是我們行業(yè)合作伙伴的芯片?！盡cCullough分享道，“這是客戶(hù)做出的選擇，我們正努力為他們提供最好的選擇，無(wú)論是性能、成本還是他們關(guān)心的任何其他方面?！?/span>Stemen說(shuō)，微軟的使命很明確：優(yōu)化其技術(shù)堆棧的每一層，從核心芯片到終端服務(wù)。“微軟的創(chuàng )新將進(jìn)一步深入到芯片工作中，以確保我們客戶(hù)在A(yíng)zure上的工作負載的未來(lái)，優(yōu)先考慮性能、能效和成本?！彼劦?，“我們有意選擇這項創(chuàng )新，以便我們的客戶(hù)能夠在今天和未來(lái)獲得Azure的最佳體驗?！?/span>大會(huì )期間，微軟還宣布了其中一個(gè)關(guān)鍵要素的全面可用性——Azure Boost，這是一個(gè)將存儲和網(wǎng)絡(luò )進(jìn)程從主機服務(wù)器轉移到專(zhuān)用硬件和軟件上的系統，有助于加快存儲和網(wǎng)絡(luò )的速度。
03.英偉達推出AI代工服務(wù)，助攻快速定制生成式AI模型

在微軟Ignite大會(huì )上，英偉達也誠意滿(mǎn)滿(mǎn)地公布一項新進(jìn)展——推出AI代工服務(wù)。英偉達創(chuàng )始人兼CEO黃仁勛現場(chǎng)與微軟CEO納德拉進(jìn)行了11分鐘的對談，分享英偉達與微軟的全面合作。

他談道，生成式AI是計算史上最重要的平臺轉型，由于生成式AI，一切都變了，過(guò)去12個(gè)月，微軟與英偉達兩個(gè)團隊盡一切努力加快速度，聯(lián)手打造了世界上最快的AI超級計算機，這通常需要兩三年，而兩個(gè)團隊只用1年就構建了其中的兩個(gè)，一個(gè)在微軟，一個(gè)在英偉達。“我們將為想要構建自己專(zhuān)有大語(yǔ)言模型的人做臺積電為我們做的事情，我們將成為AI模型的代工廠(chǎng)?！秉S仁勛說(shuō)，企業(yè)需要定制模型來(lái)執行根據公司專(zhuān)有DNA（即數據）進(jìn)行訓練的專(zhuān)業(yè)技能，該AI代工服務(wù)結合了英偉達的生成式AI模型技術(shù)、大語(yǔ)言模型訓練專(zhuān)業(yè)知識和巨型AI工廠(chǎng)。AI代工服務(wù)能幫助企業(yè)構建跨行業(yè)（包括企業(yè)軟件、電信和媒體）的生成式AI應用定制模型。準備好部署后，企業(yè)可以用檢索增強生成（RAG）技術(shù)將其模型與企業(yè)數據連接起來(lái)。英偉達在微軟Azure中構建了此功能，以便世界各地的企業(yè)可以將其定制模型與微軟云服務(wù)連接起來(lái)。

該服務(wù)匯集了三要素：英偉達AI基礎模型、英偉達NeMo框架和工具、英偉達DGX Cloud AI超級計算服務(wù)的集合，來(lái)提供用于創(chuàng )建自定義生成式AI模型的端到端解決方案。然后，企業(yè)可使用英偉達AI Enterprise軟件部署自定義模型，以支持生成式AI應用程序，包括智能搜索、摘要、內容生成。使用英偉達AI代工服務(wù)的客戶(hù)可以從多個(gè)英偉達AI Foundation模型中進(jìn)行選擇，包括托管在A(yíng)zure AI模型目錄中的全新英偉達Nemotron-3 8B模型系列。Nemotron-3 8B具有用于構建自定義企業(yè)生成式AI應用的多語(yǔ)言功能。開(kāi)發(fā)人員還可以訪(fǎng)問(wèn)英偉達NGC目錄中的Nemotron-3 8B模型以及社區模型，比如專(zhuān)為英偉達優(yōu)化以加速計算的Meta Llama 2模型。SAP SE、Amdocs、Getty Images等均已使用該服務(wù)構建自定義模型。SAP計劃將該服務(wù)和優(yōu)化的RAG工作流程與在 Azure上運行的英偉達DGX Cloud和英偉達AI Enterprise發(fā)軟件結合使用，以幫助定制和部署其新的自然語(yǔ)言生成式AI copilot Joule。
04.結語(yǔ)：尚未公布具體芯片參數，如何影響云服務(wù)定價(jià)有待觀(guān)察

可能是因為處于早期部署階段，微軟并沒(méi)有發(fā)布具體的芯片參數或性能基準。兩款芯片新品將加入微軟云的底層硬件供應列表中，以幫助滿(mǎn)足對高效、可擴展和可持續計算能力的爆炸式需求。微軟正在建設持AI創(chuàng )新的基礎設施，并正在重新構想數據中心的各個(gè)方面，包括優(yōu)化Azure硬件系統的靈活性、電源、性能、可持續性、成本，優(yōu)化和整合基礎設施堆棧的每一層，以最大限度地提高性能，使其供應鏈多樣化。自研AI芯片能讓微軟免于過(guò)度依賴(lài)少數頭部芯片供應商。目前尚存的疑問(wèn)是微軟將以多快速度將兩款芯片上架，以及這些芯片會(huì )如何幫助平衡對生成式AI體驗爆發(fā)的需求，以及將如何影響微軟Azure AI云服務(wù)的定價(jià)。來(lái)源：微軟，The Verge

---

*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。