微軟推出自己的人工智能芯片，注重于成本

微軟周三在西雅圖舉行的 Ignite 會(huì )議上推出了兩款芯片。

第一個(gè)是 Maia 100 人工智能芯片，可以與 Nvidia 的芯片競爭備受追捧的人工智能圖形處理單元。 第二個(gè)是 Cobalt 100 Arm 芯片，針對通用計算任務(wù)，可以與英特爾處理器競爭。

現金充裕的科技公司已經(jīng)開(kāi)始為客戶(hù)提供更多云基礎設施選擇，讓他們可以用來(lái)運行應用程序。 阿里巴巴，亞馬遜和谷歌多年來(lái)一直這樣做。 據一項估計，截至 10 月底，微軟擁有約 1,440 億美元現金，到 2022 年，其云市場(chǎng)份額將達到 21.5%，僅次于亞馬遜。

公司副總裁 Rani Borkar 在接受 CNBC 采訪(fǎng)時(shí)表示，在 Cobalt 芯片上運行的虛擬機實(shí)例將于 2024 年通過(guò)微軟的 Azure 云實(shí)現商業(yè)化。 她沒(méi)有提供發(fā)布 Maia 100 的時(shí)間表。

谷歌2016 年，亞馬遜宣布了其原創(chuàng )的 AI 張量處理單元。

  Web Services 于 2018 年推出了基于 Graviton Arm 的芯片和 Inferentia AI 處理器，并于 2020 年推出了用于訓練模型的 Trainium。

當 GPU 短缺時(shí)，云提供商的特殊 AI 芯片可能能夠幫助滿(mǎn)足需求。 但與 Nvidia 或 AMD 不同的是，微軟及其云計算領(lǐng)域的同行并不打算讓公司購買(mǎi)包含其芯片的服務(wù)器。

博卡解釋說(shuō)，該公司根據客戶(hù)反饋構建了人工智能計算芯片。

微軟正在測試 Maia 100 如何滿(mǎn)足其 Bing 搜索引擎的 AI 聊天機器人（現在稱(chēng)為 Copilot，而不是 Bing Chat）、GitHub Copilot 編碼助手和 GPT-3.5-Turbo（來(lái)自微軟支持的 OpenAI 的大型語(yǔ)言模型）的需求， 博卡爾說(shuō)道。 OpenAI 為其語(yǔ)言模型提供了來(lái)自互聯(lián)網(wǎng)的大量信息，它們可以生成電子郵件、總結文檔并通過(guò)人類(lèi)指令的幾句話(huà)回答問(wèn)題。

GPT-3.5-Turbo 模型適用于 OpenAI 的 ChatGPT 助手，該助手去年推出后很快就流行起來(lái)。 隨后，各公司迅速采取行動(dòng)，在其軟件中添加類(lèi)似的聊天功能，從而增加了對 GPU 的需求。

Nvidia 財務(wù)主管科萊特·克雷斯 (Colette Kress) 表示：“我們一直在與所有不同的供應商進(jìn)行全面合作，以幫助改善我們的供應狀況并支持我們的許多客戶(hù)以及他們向我們提出的需求?！?9 月份在紐約舉行的 Evercore 會(huì )議上說(shuō)道。

OpenAI 之前曾在 Azure 中的 Nvidia GPU 上訓練過(guò)模型。

除了設計 Maia 芯片之外，微軟還設計了名為 Sidekicks 的定制液冷硬件，該硬件安裝在包含 Maia 服務(wù)器的機架旁邊的機架中。 一位發(fā)言人表示，該公司無(wú)需改造即可安裝服務(wù)器機架和 Sidekick 機架。

對于 GPU，充分利用有限的數據中心空間可能會(huì )帶來(lái)挑戰。 服務(wù)器初創(chuàng )公司 Oxide Computer 的聯(lián)合創(chuàng )始人兼首席執行官 Steve Tuck 表示，公司有時(shí)會(huì )將一些包含 GPU 的服務(wù)器像“孤兒”一樣放在機架底部，以防止過(guò)熱，而不是從上到下填滿(mǎn)機架。 塔克說(shuō)，公司有時(shí)會(huì )增加冷卻系統來(lái)降低溫度。

如果以亞馬遜的經(jīng)驗為指導，微軟可能會(huì )看到 Cobalt 處理器的采用速度比 Maia AI 芯片更快。 微軟正在 Cobalt 上測試其 Teams 應用程序和 Azure SQL 數據庫服務(wù)。 微軟表示，到目前為止，它們的性能比 Azure 現有的基于 Arm 的芯片（來(lái)自初創(chuàng )公司 Ampere）的性能提高了 40%。

在過(guò)去的一年半中，隨著(zhù)價(jià)格和利率的走高，許多公司都在尋找提高云支出效率的方法，對于 AWS 客戶(hù)來(lái)說(shuō)，Graviton 就是其中之一。 AWS 副總裁戴夫·布朗 (Dave Brown) 表示，AWS 的所有前 100 家客戶(hù)現在都在使用基于 Arm 的芯片，這可以將性?xún)r(jià)比提高 40%。

不過(guò)，從 GPU 遷移到 AWS Trainium AI 芯片可能比從 Intel Xeon 遷移到 Graviton 更復雜。 每個(gè)人工智能模型都有自己的怪癖。 布朗表示，由于 Arm 在移動(dòng)設備中的普及，許多人都在努力讓各種工具在 Arm 上運行，但在人工智能芯片中情況并非如此。 但他表示，隨著(zhù)時(shí)間的推移，他預計組織會(huì )看到與 GPU 相比，Trainium 具有類(lèi)似的性?xún)r(jià)比優(yōu)勢。

“我們已經(jīng)與生態(tài)系統以及生態(tài)系統中的許多合作伙伴共享了這些規范，這使我們所有的 Azure 客戶(hù)受益，”她說(shuō)。

Borkar 表示，她沒(méi)有詳細了解 Maia 與 Nvidia H100 等替代品相比的性能。 周一，Nvidia 表示其 H200 將于 2024 年第二季度開(kāi)始發(fā)貨。