定制 SoC 成為熱潮

隨著(zhù)采用尖端制造技術(shù)開(kāi)發(fā)和生產(chǎn) SoC（片上系統）的成本不斷上升，越來(lái)越多的公司選擇開(kāi)發(fā)獨特的 SoC 設計，以區別于競爭對手。這種趨勢并沒(méi)有讓 AMD、英特爾和高通等標準 CPU/SoC 供應商受益。然而，對于代工廠(chǎng)以及其他行業(yè)參與者（包括 EDA 軟件開(kāi)發(fā)商、知識產(chǎn)權 (IP) 供應商和合同芯片設計公司）來(lái)說(shuō)，這有著(zhù)顯著(zhù)的好處。

幾個(gè)全球大趨勢正在影響微電子的發(fā)展。比如：5G、邊緣計算、SDV、AI、云計算、高性能計算等。

人工智能、云計算和 HPC 等應用程序可能會(huì )浪費一定的性能，但主要限制因素是數據中心的功耗和空間，而不是硬件成本。同樣，SDV 和邊緣計算設備需要更高的計算性能。然而，除了功耗和空間之外，它們還受到成本（即使用的芯片數量和芯片尺寸）的限制。

人工智能、汽車(chē)、云計算、邊緣計算和高性能計算是完全不同的應用，可以通過(guò)廣泛使用的現成芯片來(lái)解決。然而，通過(guò)精確調整芯片以適應其運行的工作負載，從成本和功耗的角度來(lái)看，它可以更有效地實(shí)現所需的性能和功耗水平。

Arm 基礎設施業(yè)務(wù)線(xiàn)產(chǎn)品解決方案副總裁 Dermot O'Driscoll 表示：「我們意識到一刀切的方法無(wú)法再滿(mǎn)足計算需求，更多越來(lái)越多的公司正在考慮定制 SoC 項目來(lái)獲得高級計算能力?！?/p>

此外，知識產(chǎn)權保護、功能差異化、設計靈活性和產(chǎn)品的長(cháng)期可用性比以往任何時(shí)候都更加重要。針對這種情況，許多公司正在內部開(kāi)發(fā) SoC 或從代工芯片開(kāi)發(fā)制造商處訂購 SoC。

Ansys 首席技術(shù)專(zhuān)家 Christophe Bianchi 表示：「我們肯定會(huì )看到越來(lái)越多的公司設計自己的芯片。Ansys 是分析工具軟件的領(lǐng)先供應商以及工程仿真和 EDA 軟件的開(kāi)發(fā)商。這種轉變在北美尤其明顯，但 EMEA（歐洲、中東和非洲）和 APAC（亞太地區）地區現在也在效仿?！?/p>

Sondrel 的創(chuàng )始人兼首席執行官 Graham Curren 表示：「擁有定制 SoC 意味著(zhù)擁有融合了特定且差異化技術(shù)且極難復制的定制 SoC，這意味著(zhù)擁有難以實(shí)施的獨特解決方案。它深深嵌入半導體芯片中，使公司的知識產(chǎn)權得到保護。此外，它在功耗、性能和面積方面都根據任務(wù)規范進(jìn)行了精確定制，這是一個(gè)完全合規的專(zhuān)用解決方案?！?/p>

蘋(píng)果如何從自己的定制芯片中獲利

蘋(píng)果是新進(jìn)入者的一個(gè)很好的例子，它開(kāi)發(fā)了自己的 SoC，首先用于智能手機，然后用于個(gè)人電腦，并獲得了巨額利潤。

蘋(píng)果表示，它從 2000 年代末開(kāi)始要求三星電子將蘋(píng)果自己的一些定制 IP 植入其 iPhone 應用處理器中。不久之后，他們建立了一個(gè)內部芯片開(kāi)發(fā)團隊，并開(kāi)發(fā)了定制 CPU 微架構和加速器，為 iPhone、iPad 和 Apple TV STB（機頂盒）等產(chǎn)品增加價(jià)值。之后，該公司開(kāi)始制造用于 PC 的 SoC，它集成了各種類(lèi)型的定制 IP，以在要求苛刻的應用中實(shí)現更低的功耗、更長(cháng)的電池壽命和更高的性能。

「設計定制 SoC 的主要原因包括提供專(zhuān)門(mén)的加速、實(shí)施獨特的系統和封裝拓撲以及通過(guò)垂直集成優(yōu)化成本?！筄'Driscoll 說(shuō)。

Apple 正在從 M 系列 SoC 的努力中獲得巨大收益。2019 年第一季度，該公司在 PC 市場(chǎng)的份額為 6.4%（出貨量 3,791,000 臺），2022 年第一季度增至 9.3%（銷(xiāo)量 7,324,000 臺）。此外，該公司 2022 財年的研發(fā)費用為 262.51 億美元（高于 2019 財年的 162.17 億美元），其中大部分用于半導體芯片開(kāi)發(fā)。

過(guò)去，半導體芯片設計是 IBM、思科系統公司和 Sun Microsystems（現為 Oracle）等大型、利潤豐厚的制造商的專(zhuān)利。隨后，蘋(píng)果向世界展示了消費級 SoC 的用途，華為和三星等公司也紛紛效仿。

到 2010 年中期，互聯(lián)網(wǎng)巨頭們經(jīng)歷了顯著(zhù)的增長(cháng)和利潤的擴大。這些公司開(kāi)始開(kāi)發(fā)自己的半導體也就不足為奇了。

現在，汽車(chē)制造商正在追隨蘋(píng)果的腳步。

技術(shù)信息服務(wù)公司 TechInsights 的副主席丹·哈欽森 (Dan Hutchenson) 表示：「近年來(lái)，自行設計芯片的制造商數量呈爆炸式增長(cháng)。比如 IBM、蘋(píng)果、谷歌、Meta、亞馬遜、百度、特斯拉等巨頭都在開(kāi)發(fā)自己的芯片。2021 年左右開(kāi)始，各大汽車(chē)制造商都開(kāi)始設計自己的芯片?！?/p>

領(lǐng)先的超大規模企業(yè)

目前，蘋(píng)果是唯一一家開(kāi)發(fā)自己的定制處理器的主要個(gè)人電腦制造商。鑒于 PC 制造商對 Windows 開(kāi)發(fā)的控制力明顯低于 Apple 對 MacOS 開(kāi)發(fā)的控制力，PC 制造商不愿意開(kāi)發(fā)自己的 SoC。

超大規模企業(yè)與 PC 制造商的不同之處在于，他們對自己的硬件和軟件擁有近乎絕對的控制權。因此，超大規模廠(chǎng)商開(kāi)發(fā)自己的定制 SoC 是很自然的事情。

「超大規模是定制芯片開(kāi)發(fā)的最初驅動(dòng)力，」Bianchi 說(shuō)，「對人工智能計算和云性能的需求推動(dòng)了這種增長(cháng)?！?/p>

谷歌運營(yíng)著(zhù)一些世界上最著(zhù)名的互聯(lián)網(wǎng)服務(wù)，包括用于人工智能訓練和推理加速的張量處理單元（TPU）、用于 YouTube 的視頻轉碼單元（VCU）以及服務(wù)器 SoC，擁有多方面的定制數據中心芯片策略。傳聞中的谷歌服務(wù)器 SoC 是否會(huì )比 AMD 的 EPYC 或英特爾的 Xeon 更好還有待觀(guān)察。

與此同時(shí)，谷歌的 TPU 和 VCU 已經(jīng)提供了該公司擴展其 AI/視頻服務(wù)所需的性能、可擴展性、功能和成本。

Cambrian-AI Research 創(chuàng )始人兼首席分析師 Karl Freund 表示：「成本和定制化是這些制造商開(kāi)發(fā)自己芯片的驅動(dòng)力，我們希望用芯片支持的關(guān)鍵應用之一是人工智能工作負載?！?/p>

EDA 工具和 IP 巨頭 Cadence 的數字/簽核小組產(chǎn)品管理副總裁 Kam Kittrell 表示：「構建超大規模芯片比批量購買(mǎi)芯片更便宜，省去了中間商。擁有有價(jià)值的專(zhuān)用軟件，可以以更高的能源效率交付軟件工作負載?！?/p>

新玩家不斷涌現

SiPearl 和 Tenstorrent 可能是最引人注目的新進(jìn)入者，它們希望在定制芯片開(kāi)發(fā)方面挑戰行業(yè)巨頭。SiPearl 為歐洲的百億億次超級計算機提供基于 Arm 的 CPU。Tenstorrent 是一家基于 RISC-V 指令集架構 (ISA) 的超高性能 AI/HPC 解決方案的開(kāi)發(fā)商和制造商。

兩家公司采用不同的方法。

SiPearl 計劃于 2024 年將其擁有多達 72 個(gè)內核的「Rhea」處理器商業(yè)化。它使用經(jīng)許可的現成 CPU 內核「Arm Neoverse V1」，設計由半導體制造合同制造商負責。SiPearl 高管表示，他們選擇 Arm 內核是因為其能效、軟件兼容性和成本的最佳組合。

SiPearl 首席執行官 Philippe Notton 表示：「我們選擇 Arm ISA，是因為 Arm 擁有經(jīng)過(guò)驗證的服務(wù)器處理器軟件生態(tài)系統，這是市場(chǎng)的基本組成部分。我們還選擇了 Arm Neoverse V1 內核，因為它是一個(gè)理想的選擇。標量/矢量處理性能和能源效率（每 1W 性能），對于服務(wù)器處理和 HPC 來(lái)說(shuō)是世界一流的，該架構可以節省數百萬(wàn)美元的開(kāi)發(fā)成本，并將開(kāi)發(fā)時(shí)間縮短數年?！?/p>

此外，SiPearl 還從 IP 供應商處獲得內存和 PCIe 控制器等標準塊的許可，并從歐洲處理器倡議 (EPI) 成員處獲取其他 IP。

「我們目前正在開(kāi)發(fā)與關(guān)鍵性能/功能相關(guān)的 IP，例如架構實(shí)現和內存層次結構，」Notton 說(shuō)，「我們使用 PCIe 和內存控制器的標準塊，這些塊價(jià)格昂貴且難以開(kāi)發(fā)?！?/p>

Synopsys 表示 SiPearl 的方法在業(yè)界相當普遍。

Synopsys 解決方案集團營(yíng)銷(xiāo)和戰略副總裁 John Koeter 表示：「對于剛剛接觸 SoC 設計的系統制造商來(lái)說(shuō)，采購盡可能多的 IP 是有意義的，特別是在接口 IP 和通用處理器方面這些公司通常會(huì )花費時(shí)間和資源來(lái)使自己脫穎而出，例如解釋算法和優(yōu)化軟件工作負載?！?/p>

許多公司通過(guò)設計對其系統重要的特定塊來(lái)使自己脫穎而出。通過(guò)這樣做，您可以創(chuàng )建 USP（獨特的銷(xiāo)售主張）并獲得優(yōu)于競爭對手的優(yōu)勢。這占所需 IP 的 10%。

Tenstorrent 希望將所有可能的性能、靈活性和功能融入其芯片中，并決定基于所選的定制 RISC-V 微架構設計 SoC（最終是多芯片解決方案）。這確保了性能和功耗之間的適當平衡。

Tenstorrent 通信副總裁 Bob Grim 表示：「鑒于 Jim Keller 和首席 CPU 架構師 Wei-Han Lien 在 Arm 方面的經(jīng)驗，我們計劃使用 Arm 來(lái)實(shí)現我們的高性能 CPU 內核。我們最初考慮使用 Arm 是因為它具有強大的性能。軟件堆棧和一個(gè)好的編譯器，考慮到我們對人工智能的關(guān)注是必不可少的，我們選擇了 RISC-V?！?/p>

Grim 提到的數據格式是 BF16，廣泛用于 AI 應用。同時(shí)，Tenstorrent 用于 AI/ML 工作負載的基于 RISC-V 的核心 Tensix 支持多種數據格式：BF4 和 BF8、INT8、FP16、BF16 甚至 FP64。目前，這種組合在商用內核中尚不可用。如果公司需要在未來(lái)的產(chǎn)品中添加新的格式，他們可以按原樣進(jìn)行。

Grim 表示：「采用 RISC-V 是一個(gè)偉大的決定，因為像 RISC-V 這樣的開(kāi)源解決方案使我們能夠在需要時(shí)進(jìn)行所需的更改。如果存在任何錯誤或問(wèn)題，我們可以進(jìn)行修改我們不必等待許可方發(fā)布修改或更新的版本。事實(shí)上，我們對 Tensix 內核的 RISC-V 的經(jīng)驗表明，我們可以將 RISC-V 用于高性能 CPU 內核。對使用 V 有了信心?！?/p>

然而，盡管 Tenstorrent 使用開(kāi)源 ISA，但它選擇了對接口等進(jìn)行許可。

Tenstorrent 工程副總裁 Stan Sokorac 表示：「對于從頭開(kāi)發(fā)行業(yè)標準接口，例如 PCIe、DDR 和以太網(wǎng)，我們通常會(huì )授予 IP 許可?！?/p>

Grim 表示，「軟件方面的開(kāi)發(fā)進(jìn)展迅速，Tenstorrent 計劃繼續使用 RISC-V?！?/p>

Grim 補充道：「一旦人們轉向開(kāi)源，他們就不會(huì )再回到專(zhuān)有解決方案，因為開(kāi)源的好處是如此強大?！顾f(shuō)。

GPU 在 AI 領(lǐng)域大展實(shí)力

處理新人工智能工作負載的另一種方法是設計 GPU。

美國研究公司 Jon Peddie Research 總裁 Jon Peddie 表示：「新進(jìn)入者最常見(jiàn)的目標市場(chǎng)是人工智能、光線(xiàn)追蹤和游戲?！?016 年，有 5 家公司為 x86 平臺生產(chǎn) GPU；現在有 17 家制造商和幾家 IP 公司。

對于 Biren Technology 和 MetaX 等中國公司來(lái)說(shuō)，圖形處理并不是首要任務(wù)，它們希望首先解決快速增長(cháng)的人工智能、高性能計算問(wèn)題。與之形成對比的是中國的摩爾線(xiàn)程技術(shù)。該公司將游戲 GPU 投入市場(chǎng)，不僅作為游戲用圖形卡，還作為遠程游戲用和 AI 工作負載用的數據中心板提供，可以清楚地看到該公司有意利用 AI 大趨勢。

汽車(chē)行業(yè)追隨蘋(píng)果的道路

汽車(chē)制造商正在追隨蘋(píng)果的腳步。這背后是向 SDV 轉型的趨勢。汽車(chē)正在發(fā)展成為緊密互連的軟件定義平臺，并且可以隨著(zhù)時(shí)間的推移增強功能。

當汽車(chē)基于數十個(gè)傳感器的數據每秒執行數百次操作時(shí)，協(xié)調傳統上由車(chē)載計算機或 ECU（電子控制單元）管理的眾多電子組件變得效率低下。因此，將硬件與軟件分離，像傳統 PC 一樣操作汽車(chē)更為實(shí)用。后者可以受益于定制 SoC，汽車(chē)也是如此，因此許多汽車(chē)制造商現在都在設計自己的芯片。

仿真軟件供應商 Ansys 首席技術(shù)專(zhuān)家 Christophe Bianchi 表示：「第二波定制芯片設計浪潮來(lái)自汽車(chē)行業(yè)，它除了是實(shí)現高級 ADAS（高級駕駛輔助系統）的關(guān)鍵組件之外。此次活動(dòng)讓傳統汽車(chē)制造商認識到 SDV 也是增加服務(wù)收入的關(guān)鍵?！?/p>

有趣的是，在芯片復雜性方面，汽車(chē)制造商正在迅速趕上超大規模和 AI/HPC 的芯片設計。據悉，許多汽車(chē)制造商已經(jīng)在研究分布式多芯片解決方案。

「在汽車(chē)行業(yè)，越來(lái)越多的原始設備制造商正在考慮專(zhuān)有設計，這無(wú)疑是由于 L3 和 L4 級自動(dòng)駕駛車(chē)輛的 ADAS 應用日益復雜所推動(dòng)的，」Koeter 分析到。

盡管汽車(chē)行業(yè)如今發(fā)展迅速，但它是一個(gè)極其保守的行業(yè)，因為它生產(chǎn)的設備（車(chē)輛）通常使用時(shí)間超過(guò) 10 年，可靠性極高。

擁有良好業(yè)績(jì)記錄的芯片制造商聲稱(chēng)他們的芯片可以使用很多年，但沒(méi)有人知道這些公司 10 年后會(huì )是什么樣子。因此，汽車(chē)制造商確保其關(guān)鍵芯片使用壽命超過(guò) 10 年的一種方法是自行開(kāi)發(fā)。

Bianchi 表示：「由于并購和剝離，半導體行業(yè)的優(yōu)先事項和參與者情況會(huì )發(fā)生快速變化，尤其是在汽車(chē)行業(yè)，需要三到五年的時(shí)間來(lái)開(kāi)發(fā)和成熟硬件和半導體平臺?！?/p>