深扒歐美AI芯片六大獨角獸：世界最大芯片、傳奇人物加盟、科技巨頭聯(lián)投

作者 |  程茜
編輯 |  心緣
2021年，AI芯片戰場(chǎng)依然烽火連天，但國內外卻呈現出兩番光景。在國內，BAT互聯(lián)網(wǎng)大廠(chǎng)自研AI芯片均已揭曉，超40家AI芯片企業(yè)今年拿下新融資。地平線(xiàn)、黑芝麻智能、燧原科技、壁仞科技、昆侖芯、摩爾線(xiàn)程等企業(yè)的估值均超100億人民幣。高額融資、新品發(fā)布、量產(chǎn)成績(jì)公布等不勝枚舉。相比國內的繁榮，歐美AI芯片的多數風(fēng)頭卻被科技巨頭占據，英偉達在云端訓練市場(chǎng)風(fēng)光無(wú)二，英特爾繼續主導推理市場(chǎng)，率先闖進(jìn)獨角獸陣營(yíng)的歐美AI芯片獨角獸僅有6家。AI芯片，這一互聯(lián)網(wǎng)巨頭們爭相布局的硬科技領(lǐng)域，為何在國外市場(chǎng)沒(méi)有掀起大量融資浪潮？我們從其核心團隊、融資情況、發(fā)布產(chǎn)品等信息進(jìn)行了梳理。這6家獨角獸集中成立于2016-2017年，分別是拿到谷歌、英特爾投資的SambaNova Systems，憑借全球最大晶圓級芯片爆紅的Cerebras Systems，英國唯一AI芯片獨角獸Graphcore，由谷歌TPU初始團隊創(chuàng )立的Groq，芯片大神Jim Keller加盟的Tenstorrent以及以色列的AI芯片獨角獸Hailo Technologies。

憑借領(lǐng)先的創(chuàng )新技術(shù)與落地進(jìn)程，這6家歐美AI芯片獨角獸代表，正將影響力輻射至全球科技圈。
SambaNova：甲骨文元老斯坦福教授創(chuàng )立，獲谷歌英特爾投資

6家獨角獸中，SambaNova Systems估值最高，最新一輪融資總額也遙遙領(lǐng)先。這家美國的AI芯片公司成立于2017年，總部位于美國加州帕洛阿爾托，2019年春季已發(fā)布第一款Cardinal云端訓練芯片，落地于美國阿貢國家實(shí)驗室、美國能源部旗下國家核安全管理局（NNSA）等多個(gè)研究機構。值得一提的是，投資SambaNova Systems的投資方不僅包括活躍的投資機構日本軟銀、淡馬錫等，還有谷歌、英特爾等知名科技巨頭。

今年4月，該公司獲得最新一輪6.76億美元的D輪融資，融資后估值超過(guò)50億美元，一舉躍升歐美估值最高的AI芯片公司。SambaNova Systems由曾在甲骨文任職的羅德里戈·梁（Rodrigo Liang）以及斯坦福大學(xué)教授昆勒·奧魯克頓（Kunle Olukotun）、克里斯·雷（Chris Ré）聯(lián)合創(chuàng )辦。

其中奧魯克頓是斯坦福大學(xué)芯片多處理器項目的負責人，雷是斯坦福大學(xué)計算機科學(xué)系副教授、麥克阿瑟天才獎的獲得者，并在統計機器學(xué)習小組和斯坦福大學(xué)AI實(shí)驗室開(kāi)展研究工作。2021年4月，SambaNova Systems推出了其第二代云端AI芯片可重構數據流單元Cardinal SN10 RDU，包含400億晶體管，采用臺積電7nm制程，由一系列可重構節點(diǎn)組成，用于數據存儲和交換。每個(gè)Cardinal芯片有6個(gè)控制器用于內存，可實(shí)現153 GB/s的帶寬，8個(gè)芯片以全配置連接。

SambaNova Systems的AI芯片并不會(huì )單獨出售，而是作為一種安裝在數據中心上的解決方案配套出售。目前其SambaNova Systems的旗艦產(chǎn)品是訂閱型的AI服務(wù)平臺SambaNova DaaS，與其集成軟件和硬件系統平臺DataScale一起使用。

SambaNova Systems的AI芯片以及它的客戶(hù)在很大程度上仍處于保密狀態(tài)。其產(chǎn)品自2020年以來(lái)已進(jìn)入美國能源部下屬的勞倫斯·利弗莫爾國家實(shí)驗室和阿貢國家實(shí)驗室。SambaNova Systems主要是根據客戶(hù)需求定制產(chǎn)品，并提供一套默認的網(wǎng)絡(luò )和管理功能，并由SambaNova Systems進(jìn)行遠程管理。
Cerebras：打造全球最大芯片今年解鎖“人腦級”AI模型

2019年8月，美國硅谷創(chuàng )企Cerebras Systems推出的世界最大芯片引爆芯片圈。今年4月，這家公司推出了巨芯二代WSE-2，可處理超級計算任務(wù)，搭載WSE-2芯片的AI超算系統CS-2也同期發(fā)布。這家以巨型芯片聞名的獨角獸公司成立于2016年，總部位于美國加州洛斯阿爾托斯。就在今年11月10日，Cerebras Systems宣布，獲得2.5億美元F輪融資，總融資額達到7.5億美元，投后估值超40億美元。

Cerebras Systems由加里·勞特巴赫（Gary Lauterbach）和安德魯·費爾德曼（Andrew Feldman）聯(lián)合創(chuàng )立。

值得一提的是，加里和安德魯曾經(jīng)還聯(lián)合創(chuàng )辦了專(zhuān)注于超高密度計算機服務(wù)器業(yè)務(wù)的Seammicro公司，這家公司在2012年被AMD以高達3.57億美元的價(jià)格收購。

今年4月，Cerebras Systems又推出了巨芯二代Wafer Scale Engine 2（WSE-2），該芯片為超級計算任務(wù)而構建，具有破紀錄的2.6萬(wàn)億個(gè)晶體管和85萬(wàn)顆AI優(yōu)化內核，大小類(lèi)似餐盤(pán)，采用臺積電的7nm工藝。

今年8月，Cerebras Systems宣布推出世界上第一個(gè)人類(lèi)大腦規模的AI解決方案，一臺CS-2 AI計算機可支持超過(guò)120萬(wàn)億參數規模的訓練。相比之下，人類(lèi)大腦大約有100萬(wàn)億個(gè)突觸。此外，Cerebras Systems還實(shí)現了192臺CS-2 AI計算機近乎線(xiàn)性的擴展，從而打造出包含高達1.63億個(gè)核心的計算集群。

目前，Cerebras Systems的AI超算系統CS-2只有少數客戶(hù)可以使用，它的客戶(hù)集中于軍事、實(shí)驗室等。Cerebras Systems重量級客戶(hù)包括美國阿貢國家實(shí)驗室、勞倫斯利弗莫爾國家實(shí)驗室、匹茲堡超級計算中心、愛(ài)丁堡大學(xué)的超級計算中心、葛蘭素史克、東京電子器件等。
Graphcore：英國唯一AI芯片獨角獸與阿里、百度建立合作

作為闖入中國AI芯片市場(chǎng)的少數國外獨角獸之一，Graphcore已經(jīng)與阿里巴巴、百度建立合作。該公司為阿里巴巴的HALO專(zhuān)門(mén)定制代碼，并加入了百度的飛槳硬件生態(tài)聯(lián)盟。這家公司還是英國的唯一一家AI芯片獨角獸。Graphcore成立于2016年，總部位于英國布里斯托爾。2020年7月，Graphcore推出第二代云端訓練芯片GC200。最新一輪融資后Graphcore估值達27.7億美元，這使得它成為歐洲市值最高的芯片初創(chuàng )公司。此前，Graphcore高級副總裁、中國區總經(jīng)理盧濤在接受芯東西等媒體采訪(fǎng)時(shí)談道，當下Graphcore面臨唯一的巨頭挑戰是英偉達。而Graphcore和英偉達的淵源不止于此，Graphcore的創(chuàng )始人Nigel Toon此前創(chuàng )立的芯片公司Icera，于2011年被英偉達收購。

Graphcore此前共經(jīng)歷了6輪融資，最新一輪融資在2020年12月29日公布，融資金額高達2.22億美元，是6筆融資中金額最高的。Graphcore已經(jīng)獲得超過(guò)4.5億美元的融資，戰略投資者不乏寶馬、博世、戴爾、微軟、三星等各行業(yè)巨頭。

Graphcore的AI芯片為智能處理單元IPU，采用自研大規模并行同構多核架構，包含1216個(gè)獨立IPU核心。Graphcore研發(fā)的GC200芯片基于7nm工藝，最多可以連接64000個(gè)芯片來(lái)創(chuàng )建一個(gè)巨大的并行處理器，其計算能力約為16 exaFLOPS。這樣的系統將能夠支持具有數萬(wàn)億個(gè)參數的AI模型。基于第二代IPU芯片GC200，Graphcore還構造了大規模系統級產(chǎn)品IPU-M2000以及模塊化機架規模解決方案IPU-POD系統。Graphcore的IPU-POD系統可以將AI計算和服務(wù)器進(jìn)行分解，以?xún)?yōu)化其解決方案為不同的AI工作負載提供最高性能。

值得注意的是，Graphcore也開(kāi)始在中國市場(chǎng)大展拳腳。Toon曾在接受采訪(fǎng)時(shí)說(shuō)，中國是支持Graphcore AI計算應用增長(cháng)最快的市場(chǎng)，并正式定名為“擬未科技”。Graphcore將與中國的生態(tài)聯(lián)盟共同推廣新的AI應用程序，并幫助建立行業(yè)標準。在去年5月的Wave Summit 2020深度學(xué)習開(kāi)發(fā)者峰會(huì )上，Graphcore宣布成為百度飛槳硬件生態(tài)圈共建計劃伙伴之一，加速機器視覺(jué)、自然語(yǔ)言處理等算法模型與硬件的適配與落地。
Groq：主攻計算機視覺(jué)前谷歌TPU團隊創(chuàng )立

2016年底，谷歌TPU核心團隊中喬納森·羅斯（Jonathan Ross）悄悄離職，與同樣出身谷歌的道格拉斯·懷特曼（Douglas Wightman）在美國加利福尼亞創(chuàng )立了一家機器學(xué)習系統公司。這家公司就是美國的獨角獸AI芯片初創(chuàng )公司Groq，它成立于2017年，總部位于美國加州山景城。最新一輪融資完成后，該公司估值已超10億美元。谷歌的TPU團隊負責研發(fā)用于加速機器學(xué)習的定制芯片，曾幫助軟件程序AlphaGo（阿爾法狗）擊敗傳奇圍棋玩家李世石。而Groq的創(chuàng )始團隊中有8名都出身于谷歌的TPU核心團隊。

此前，Groq共經(jīng)歷4輪融資，2021年4月，Groq獲得最新一筆融資，金額為3億美元，由Tiger Global Management和億萬(wàn)富翁Dan Sundheim投資。該公司前3輪融資總額僅為6230萬(wàn)美元，新一輪融資完成后，其融資總額達到3.623億美元。

第一個(gè)能在單個(gè)芯片上每秒執行1000萬(wàn)億次（1000 TOPS）操作的芯片架構，專(zhuān)門(mén)針對計算機視覺(jué)、機器學(xué)習和其他AI相關(guān)工作負載的性能需求而設計。

Groq的TSP架構受軟件優(yōu)先的啟發(fā)，能夠實(shí)現實(shí)現計算靈活性和大規模并行性。目前已經(jīng)在x86和非x86系統的客戶(hù)站點(diǎn)上運行。同時(shí)期，Groq推出了其首個(gè)云端推理芯片GroqChip，可以實(shí)現16個(gè)芯片間互連和230 MB SRAM，靈活集成到嵌入式應用中，算力可達750 TOPS。GroqChip還使用TSP架構，使其能夠在內存中存儲更多的模型，以高計算性能處理數據，這使得它非常適合從大型數據集進(jìn)行推理。除此之外，該公司堅持“以軟件為先”，其編譯器能處理硬件中的控制功能，例如執行計劃等。Groq的軟件還可精心編排所有數據流和所需時(shí)序，以確保計算不會(huì )出現停頓，并在編譯時(shí)完全可預測延遲、性能和功耗。

2020年，美國阿貢實(shí)驗室的科學(xué)家們使用GroqChip創(chuàng )建了SARS-CoV-2病毒的機器學(xué)習模型。第一代芯片發(fā)布后，Groq稱(chēng)正在研發(fā)第二代新型芯片，但截至現在，還沒(méi)有檢索到二代芯片的相關(guān)信息。羅斯談到，機器的學(xué)習效果是具有隨機性的，想要他們正確應對各種復雜的情況是非常困難的，當隨機情況發(fā)生的時(shí)候，需要完成所有可能的計算，才能達到機器學(xué)習的最優(yōu)化，這使得執行起來(lái)的成本大大增加。而Groq的芯片構架就可以為機器學(xué)習和AI應用帶來(lái)客觀(guān)的性能提升。
Tenstorrent：兼顧高算力和可擴展，獲芯片大神加盟

傳奇芯片設計大神Jim Keller去年6月從英特爾辭職后，今年1月宣布加盟加拿大AI芯片創(chuàng )企Tenstorrent，擔任CTO兼總裁。手握本科學(xué)歷的Jim Keller，人送外號“硅谷游俠”，1998年從業(yè)以來(lái)，20年間輾轉于多家大型科技公司，不乏AMD、蘋(píng)果、特斯拉、英特爾等頂尖企業(yè)，這位技術(shù)大牛不斷革新半導體行業(yè)的發(fā)展，屢屢研發(fā)出里程碑式的芯片。2020年6月，這位業(yè)界傳奇人物從英特爾離職，他的去向備受業(yè)界關(guān)注。但出乎多數人的預期，這個(gè)答案在今年1月揭曉——Jim Keller選擇加盟了一家AI芯片公司Tenstorrent。之所以做出這樣的選擇，Jim Keller在接受外媒專(zhuān)訪(fǎng)時(shí)予以回應：“目前爆發(fā)性增長(cháng)的AI芯片領(lǐng)域，Tenstorrent更像是一張白紙。我在公司中擁有大量股權，公司CEO Ljubisa Bajic也是我的老朋友，無(wú)論是基于財務(wù)還是對朋友的承諾，我都會(huì )選擇暫時(shí)待在這里?！?/span>

Tenstorrent于2016年創(chuàng )立，總部位于加拿大多倫多市。最新一輪融資完成后，這家公司的估值達到了10億美元的級別。2020年4月，Tenstorrent推出其第一款AI芯片Grayskull，可以兼顧AI訓練和推理任務(wù)。Tenstorrent此前共經(jīng)歷4輪融資，最新一輪融資在2021年5月20日，完成了超過(guò)2億美元資金的C輪融資，由私募股權機構富達管理（Fidelity Management）領(lǐng)投。

2020年4月7日，Tenstorrent發(fā)布其首款AI芯片Grayskull。同年年底，Grayskull開(kāi)始量產(chǎn)，并逐漸向早期客戶(hù)出樣。Grayskull處理器配備Tenstorrent定制的Tensix能夠提供368 TOPS。每個(gè)Tensix核心具備完全C++可編程、多線(xiàn)程、前端功能；高面積和功率效率矩陣計算引擎；強大靈活的SIMD引擎等。

相較市面上現有AI芯片產(chǎn)品，Grayskull不僅能兼顧高算力和低能耗，還具備高度可擴展的特點(diǎn)，可擴展到10萬(wàn)個(gè)節點(diǎn)，支持從小型嵌入式設備到大型數據中心的AI推理和訓練任務(wù)。Tenstorrent的研究人員設計了一個(gè)能實(shí)現細粒度條件執行、動(dòng)態(tài)稀疏處理的完全可編程體系結構，可將較大數據組的復雜計算任務(wù)分解成多個(gè)較小數據組的計算，由芯片上的各個(gè)內核進(jìn)行獨立的處理。其研究人員稱(chēng)，該處理器新的架構方法將通過(guò)適應模型的確切輸入并緊密集成計算和網(wǎng)絡(luò )，使處理器能夠隨著(zhù)AI模型的持續增長(cháng)而擴展。2021年6月，外媒SemiAnalysis報道，Tenstorrent正在研發(fā)的第二代AI芯片Wormhole，將更注重訓練而不是加速，并捆綁在16x100 G以太網(wǎng)端****換機中。Jim Keller加盟后談道，Tenstorrent的目標是將高性能的AI芯片與一種新方法相結合，利用AI來(lái)優(yōu)化低級軟件功能，通過(guò)這種被稱(chēng)為Software 2.0的方法來(lái)提高效率和運算速度。Jim Keller將為Software 2.0提供所需的硬件解決方案。
Hailo：以色列獨角獸，中國資本參投

以色列AI芯片獨角獸Hailo Technologies成立于2017年，總部位于特拉維夫，主打為邊緣設備提供數據中心性能。以色列國防軍以黑科技著(zhù)稱(chēng)，是以色列科技界的中堅力量，Hailo Technologies的創(chuàng )始人奧爾·達農（Orr Danon）就來(lái)自以色列國防軍精英技術(shù)小組。

今年完成最新一輪融資后，Hailo Technologies的總估值約為10億美元，正式晉升獨角獸企業(yè)。此前，有中國投資公司上海耀途資本參投，這家投資公司聚焦物聯(lián)網(wǎng)、大數據、云計算及AI領(lǐng)域。該公司共經(jīng)歷4輪融資，最新的一輪是2021年10月12日，融資金額為1.36億美元，其融資總額已經(jīng)達到2.239億美元。

目前Hailo已推出一款AI推理芯片Hailo-8及M.2和Mini PCIe加速模塊，分別在2019年5月和2020年10月推出，AI推理芯片Hailo-8已經(jīng)實(shí)現量產(chǎn)。2019年5月，Hailo Technologies發(fā)布了超性能創(chuàng )新架構AI芯片Hailo-8，該芯片性能高達26 TOPS，并且具有超小的面積和功耗，芯片尺寸均小于1美分。

Hailo Technologies的Hailo-8深度學(xué)習芯片可在邊緣提供數據中心級芯片的性能，同時(shí)在尺寸、性能和功耗方面擊敗競爭的邊緣處理器。2020年10月，Hailo Technologies宣布推出基于Hailo-8芯片M.2和Mini PCIe高AI加速模塊，該公司稱(chēng)已經(jīng)與富士康展開(kāi)合作，將M.2模塊整合到其 “BOXiedge”邊緣計算平臺中。IBM、英特爾、三星電子、阿里巴巴等跨國科技巨頭已經(jīng)在研發(fā)過(guò)程中注意到了該公司的技術(shù)，它們已經(jīng)有部分技術(shù)引用了Hailo Technologies公司的專(zhuān)利。今年10月，Hailo Technologies稱(chēng)正在努力將其芯片構建到原始設備制造商（OEMs）和一級汽車(chē)公司的產(chǎn)品中，這些領(lǐng)域包括先進(jìn)的駕駛輔助系統以及機器人、醫學(xué)、智慧城市和家庭等。
結語(yǔ)：AI芯片產(chǎn)品各異創(chuàng )企如何突出重圍？

經(jīng)過(guò)四五年的磨礪，這6家歐美AI芯片獨角獸的自研芯片產(chǎn)品已經(jīng)開(kāi)始走向落地?？梢钥吹?，多家的首批客戶(hù)集中于大型實(shí)驗室，商業(yè)化程度還相對有限，其中Graphcore已率先發(fā)力中國市場(chǎng)。與此同時(shí)，系統化已經(jīng)是今年AI芯片產(chǎn)業(yè)呈現的一大趨勢。AI芯片獨角獸在其自研芯片的基礎上，已經(jīng)陸續打造從板卡、服務(wù)器、軟件到集群的更完整系統級解決方案，并公布更多的應用案例，來(lái)展現其技術(shù)實(shí)力和商用價(jià)值。相比國內，歐美AI芯片創(chuàng )企面臨的生存壓力往往更甚，它們直面英偉達、英特爾等芯片巨頭已經(jīng)構筑的深厚生態(tài)壁壘，又缺少?lài)a(chǎn)化替代等外部環(huán)境特定的激勵，此前有些AI芯片創(chuàng )企已經(jīng)被巨頭企業(yè)收購，也曾有明星企業(yè)走向破產(chǎn)重組。作為AI技術(shù)的底層驅動(dòng)，AI芯片行業(yè)發(fā)展態(tài)勢不可逆轉，更多半導體大公司、互聯(lián)網(wǎng)巨頭和創(chuàng )業(yè)公司開(kāi)始布局這一領(lǐng)域。而如何在一眾強手中突出重圍，將是AI芯片企業(yè)們面臨的關(guān)鍵考驗。