英偉達獨霸時(shí)代結束？ChatGPT引爆谷歌微軟芯片大戰，亞馬遜也入局
發(fā)布人：傳感器技術(shù)
時(shí)間：2023-05-10
來(lái)源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對面交流
海量資料庫查詢(xún)
各大科技巨頭研發(fā)的AI芯片ChatGPT爆火，大廠(chǎng)開(kāi)啟芯片爭霸賽
根據外媒The Information的報道以及其他來(lái)源，這三家大廠(chǎng)現在已經(jīng)推出或計劃發(fā)布8款服務(wù)器和AI芯片，用于內部產(chǎn)品開(kāi)發(fā)、云服務(wù)器租賃或者二者兼有。
「如果你能制造出針對AI進(jìn)行優(yōu)化的硅，那前方等待你的將是巨大的勝利」，研究公司Forrester的董事Glenn O’Donnell這樣說(shuō)。付出這些巨大的努力，一定會(huì )得到回報嗎？答案是，并不一定。
英特爾、AMD和英偉達可以從規模經(jīng)濟中獲益，但對大型科技公司來(lái)說(shuō)，情況遠非如此。它們還面臨著(zhù)許多棘手的挑戰，比如需要聘請芯片設計師，還要說(shuō)服開(kāi)發(fā)者使用他們定制的芯片構建應用程序。不過(guò)，大廠(chǎng)們已經(jīng)在這一領(lǐng)域取得了令人矚目的進(jìn)步。根據公布的性能數據，亞馬遜的Graviton服務(wù)器芯片，以及亞馬遜和谷歌發(fā)布的AI專(zhuān)用芯片，在性能上已經(jīng)可以和傳統的芯片廠(chǎng)商相媲美。亞馬遜、微軟和谷歌為其數據中心開(kāi)發(fā)的芯片，主要有這兩種：標準計算芯片和用于訓練和運行機器學(xué)習模型的專(zhuān)用芯片。正是后者，為ChatGPT之類(lèi)的大語(yǔ)言模型提供了動(dòng)力。此前，蘋(píng)果成功地為iPhone，iPad和Mac開(kāi)發(fā)了芯片，改善了一些AI任務(wù)的處理。這些大廠(chǎng)，或許正是跟蘋(píng)果學(xué)來(lái)的靈感。在三家大廠(chǎng)中，亞馬遜是唯一一家在服務(wù)器中提供兩種芯片的云服務(wù)商，2015年收購的以色列芯片設計商Annapurna Labs，為這些工作奠定了基礎。谷歌在2015年推出了一款用于A(yíng)I工作負載的芯片，并正在開(kāi)發(fā)一款標準服務(wù)器芯片，以提高谷歌云的服務(wù)器性能。相比之下，微軟的芯片研發(fā)開(kāi)始得較晚，是在2019年啟動(dòng)的，而最近，微軟更加快了推出專(zhuān)為L(cháng)LM設計的AI芯片的時(shí)間軸。而ChatGPT的爆火，點(diǎn)燃了全世界用戶(hù)對于A(yíng)I的興奮。這更促進(jìn)了三家大廠(chǎng)的戰略轉型。
ChatGPT運行在微軟的Azure云上，使用了上萬(wàn)塊英偉達A100。無(wú)論是ChatGPT，還是其他整合進(jìn)Bing和各種程序的OpenAI軟件，都需要如此多的算力，以至于微軟已經(jīng)為開(kāi)發(fā)AI的內部團隊分配了服務(wù)器硬件。在亞馬遜，首席財務(wù)官Brian Olsavsky在上周的財報電話(huà)會(huì )議上告訴投資者，亞馬遜計劃將支出從零售業(yè)務(wù)轉移到AWS，部分原因是投資于支持ChatGPT所需的基礎設施。在谷歌，負責制造張量處理單元的工程團隊已經(jīng)轉移到谷歌云。據悉，云組織現在可以為T(mén)PU和在其上運行的軟件制定路線(xiàn)圖，希望讓云客戶(hù)租用更多TPU驅動(dòng)的服務(wù)器。谷歌：為AI特調的TPU V4
早在2020年，谷歌就在自家的數據中心上部署了當時(shí)最強的AI芯片——TPU v4。
不過(guò)直到今年的4月4日，谷歌才首次公布了這臺AI超算的技術(shù)細節。
相比于TPU v3，TPU v4的性能要高出2.1倍，而在整合4096個(gè)芯片之后，超算的性能更是提升了10倍。同時(shí)，谷歌還聲稱(chēng)，自家芯片要比英偉達A100更快、更節能。對于規模相當的系統，TPU v4可以提供比英偉達A100強1.7倍的性能，同時(shí)在能效上也能提高1.9倍。對于相似規模的系統，TPU v4在BERT上比A100快1.15倍，比IPU快大約4.3倍。對于ResNet，TPU v4分別快1.67倍和大約4.5倍。
另外，谷歌曾暗示，它正在研發(fā)一款與Nvidia H100競爭的新TPU。谷歌研究員Jouppi在接受路透社采訪(fǎng)時(shí)表示，谷歌擁有「未來(lái)芯片的生產(chǎn)線(xiàn)」。微軟：秘密武器雅典娜
不管怎么說(shuō)，微軟在這場(chǎng)芯片紛爭中，依舊躍躍欲試。
此前有消息爆出，微軟秘密組建的300人團隊，在2019年時(shí)就開(kāi)始研發(fā)一款名為「雅典娜」（Athena）的定制芯片。
根據最初的計劃，「雅典娜」會(huì )使用臺積電的5nm工藝打造，預計可以將每顆芯片的成本降低1/3。如果在明年能夠大面積實(shí)裝，微軟內部和OpenAI的團隊便可以借助「雅典娜」同時(shí)完成模型的訓練和推理。這樣一來(lái)，就可以極大地緩解專(zhuān)用計算機緊缺的問(wèn)題。彭博社在上周的報道中，稱(chēng)微軟的芯片部門(mén)已與AMD合作開(kāi)發(fā)雅典娜芯片，這也導致AMD的股價(jià)在周四上漲了6.5%。但一位知情者表示，AMD并未參與其中，而是在開(kāi)發(fā)自己的GPU，與英偉達競爭，并且AMD一直在與微軟討論芯片的設計，因為微軟預計要購買(mǎi)這款GPU。亞馬遜：已搶跑一個(gè)身位
而在與微軟和谷歌的芯片競賽中，亞馬遜似乎已經(jīng)領(lǐng)先了一個(gè)身位。
在過(guò)去的十年中，亞馬遜在云計算服務(wù)方面，通過(guò)提供更加先進(jìn)的技術(shù)和更低的價(jià)格，一直保持了對微軟和谷歌的競爭優(yōu)勢。而未來(lái)十年內，亞馬遜也有望通過(guò)自己內部開(kāi)發(fā)的服務(wù)器芯片——Graviton，繼續在競爭中保持優(yōu)勢。作為最新一代的處理器，AWS Graviton3在計算性能上比上一代提高多達25%，浮點(diǎn)性能提高多達2倍。并支持DDR5內存，相比DDR4內存帶寬增加了50%。針對機器學(xué)習工作負載，AWS Graviton3比上一代的性能高出多達3倍，并支持 bfloat16。
基于Graviton 3芯片的云服務(wù)在一些地區非常受歡迎，甚至于達到了供不應求的狀態(tài)。亞馬遜另一方面的優(yōu)勢還表現在，它是目前唯一一家在其服務(wù)器中提供標準計算芯片（Graviton）和AI專(zhuān)用芯片（Inferentia和Trainium）云供應商。早在2019年，亞馬遜就推出了自己的AI推理芯片——Inferentia。它可以讓客戶(hù)可以在云端低成本運行大規模機器學(xué)習推理應用程序，例如圖像識別、語(yǔ)音識別、自然語(yǔ)言處理、個(gè)性化和欺詐檢測。而最新的Inferentia 2更是在計算性能提高了3倍，加速器總內存擴大了4倍，吞吐量提高了4倍，延遲降低到1/10。
在初代Inferentia推出之后，亞馬遜又發(fā)布了其設計的主要用于A(yíng)I訓練的定制芯片——Trainium。它對深度學(xué)習訓練工作負載進(jìn)行了優(yōu)化，包括圖像分類(lèi)、語(yǔ)義搜索、翻譯、語(yǔ)音識別、自然語(yǔ)言處理和推薦引擎等。
在一些情況下，芯片定制不僅僅可以把成本降低一個(gè)數量級，能耗減少到1/10，并且這些定制化的方案可以給客戶(hù)以更低的延遲提供更好的服務(wù)。撼動(dòng)英偉達的壟斷，沒(méi)那么容易
不過(guò)到目前為止，大多數的AI負載還是跑在GPU上的，而英偉達生產(chǎn)了其中的大部分芯片。
據此前報道，英偉達獨立GPU市場(chǎng)份額達80%，在高端GPU市場(chǎng)份額高達90%。20年，全世界跑AI的云計算與數據中心，80.6%都由英偉達GPU驅動(dòng)。21年，英偉達表示，全球前500個(gè)超算中，大約七成是由自家的芯片驅動(dòng)。而現在，就連運行ChatGPT的微軟數據中心用了上萬(wàn)塊英偉達A100 GPU。一直以來(lái)，不管是成為頂流的ChatGPT，還是Bard、Stable Diffusion等模型，背后都是由每個(gè)大約價(jià)值1萬(wàn)美元的芯片英偉達A100提供算力。
不僅如此，A100目前已成為人工智能專(zhuān)業(yè)人士的「主力」。2022人工智能現狀報告還列出了使用A100超級計算機部分公司的名單。
顯而易見(jiàn)，英偉達已經(jīng)壟斷了全球算力，憑借自家的芯片，一統江湖。根據從業(yè)者的說(shuō)法，相比于通用芯片，亞馬遜、谷歌和微軟一直在研發(fā)的專(zhuān)用集成電路（ASIC）芯片，在執行機器學(xué)習任務(wù)的速度更快，功耗更低。O’Donnell董事在比較GPU和ASIC時(shí)，用了這樣一個(gè)比較：「平時(shí)開(kāi)車(chē)，你可以用普銳斯，但如果你必須在山上用四輪驅動(dòng)，用吉普牧馬人就會(huì )更合適?！?/span>
然而盡管已經(jīng)做出了種種努力，但亞馬遜、谷歌和微軟都面臨著(zhù)挑戰——如何說(shuō)服開(kāi)發(fā)者使用這些AI芯片呢？現在，英偉達的GPU是占主導地位的，開(kāi)發(fā)者早已熟悉其專(zhuān)有的編程語(yǔ)言CUDA，用于制作GPU驅動(dòng)的應用程序。如果換到亞馬遜、谷歌或微軟的定制芯片，就需要學(xué)習全新的軟件語(yǔ)言了，他們會(huì )愿意嗎？ 來(lái)源：新智元
*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。
