刷屏的清華AI光芯片，突破了什么？

最近，清華大學(xué)傳出了好消息。首創(chuàng ) AI 光芯片架構，研制全新 AI「光芯片」——太極（Taichi），可以實(shí)現 160 TOPS/W 通用智能計算，能效是 H100 的 1000 倍。

訓練下一代萬(wàn)億級參數大模型的高效芯片誕生了。目前，相關(guān)研究論文以「Large-scale photonic chiplet Taichi empowers 160-TOPS/W artificial general intelligence」為題，已發(fā)表在權威科學(xué)期刊 Science 上。

論文地址：https://www.science.org/doi/10.1126/science.adl1203

成果是什么？

當前，越來(lái)越多跡象表明，LLM 不會(huì )是通往 AGI 的最終路徑。

計算機早已經(jīng)成為世界能耗巨頭，隨著(zhù)越來(lái)越多耗電量大的人工智能投入使用，計算機的能源需求也飛速上漲。

以英偉達 H100 為例，其峰值功耗為 700 瓦，按照 61% 的年利用率計算，相當于一個(gè)美國家庭的平均功耗（假設每個(gè)家庭 2.51 人）。有專(zhuān)家預測，在大量部署 H100 后，總功耗將于一座美國大城市不相上下，甚至超過(guò)一些歐洲小國。

若是能夠發(fā)明一種，節省大量能耗的芯片，LLM 的性能或在未來(lái)實(shí)現更大的提升。

而太極，可能會(huì )讓通用人工智能（AGI）成為現實(shí)。

根據清華大學(xué)官網(wǎng)介紹，清華團隊設計了基于集成衍射干涉異構設計和通用分布式計算架構的大規模光芯片——太極，該架構具有上千萬(wàn)個(gè)神經(jīng)元的能力，實(shí)現 160 萬(wàn)億次/秒·瓦（TOPS/W）的通用智能計算。

此外，在太極光芯片在實(shí)驗中實(shí)現了芯片上 1000 個(gè)類(lèi)別級別的分類(lèi)（在 1623 類(lèi)別的 Omniglot 數據集上準確率為 91.89%）和高保真的人工智能生成的內容，效率提高了兩個(gè)數量級。

研究人員表示，「太極」為大規模的光子計算和高級任務(wù)鋪平了道路，進(jìn)一步發(fā)掘了光子學(xué)在現代 AGI 中的靈活性和潛力。

Science 對這個(gè)研究有高度評論：「來(lái)自清華的團隊探索了分布式衍射干涉混合光計算架構，有效地將光神經(jīng)網(wǎng)絡(luò )（ONN）的規模提高到百萬(wàn)神經(jīng)元級別。通過(guò)實(shí)驗實(shí)現了一個(gè)芯片上 1396 萬(wàn)個(gè)神經(jīng)元的 ONN，用于復雜的、千類(lèi)級的分類(lèi)和人工智能生成的內容任務(wù)。這項工作是向現實(shí)世界的光計算邁出的有希望的一步，支持人工智能中的各種應用?！?/span>

什么東西，有什么用？

電子芯片的瓶頸

當電子通過(guò)晶體管和其他傳統集成電路元件時(shí)，會(huì )遇到阻力并產(chǎn)生熱量。隨著(zhù)設計者不斷將各種元件添加到芯片上，芯片產(chǎn)生的熱量自然會(huì )升高。電子這一特性甚至成為了微型芯片性能提升的障礙，同時(shí)也是計算機能耗如此之高的主要原因。

以電子為載體的技術(shù)發(fā)展已趨近物理極限，芯片尺寸降到極致時(shí)出現的「功耗墻」難題，訪(fǎng)存瓶頸下大量信息存儲不過(guò)來(lái)、計算不過(guò)來(lái)，以及電子芯片性能提升的同時(shí)性?xún)r(jià)比降低。

在電路上，用光子替代電子的設想由來(lái)已久。

20 世紀六七十年代，研究者就已經(jīng)開(kāi)始開(kāi)發(fā)光子芯片了。那時(shí)候，部分專(zhuān)家預計光子芯片會(huì )像傳統集成芯片一樣迅速微型化。

電路能耗降低，還是歸功于光的性質(zhì)。光子芯片不存在電阻問(wèn)題。因為由鐳射產(chǎn)生的光子能快速通過(guò)波導、調制器、反射器等原件陣列。因此，光子芯片產(chǎn)生熱量更少，能耗也更低。

光為載體的計算芯片

光計算，顧名思義是將計算載體從電變?yōu)楣?，利用光在芯片中的傳播進(jìn)行計算。

人工智能時(shí)代是由算力支撐起來(lái)的，從能耗的角度來(lái)看，硅光技術(shù)能夠有效提升 GPU 的整體性能、大幅降低其功耗，有效解決目前的算力瓶頸。也就是說(shuō)，下一代算力很可能會(huì )是光子計算甚至量子計算。

問(wèn)題在于，當前的集成光子計算，特別是光學(xué)神經(jīng)網(wǎng)絡(luò )（ONN），通常包含數百到數千個(gè)參數，其中數十個(gè)是可調參數，僅支持基本任務(wù)，如簡(jiǎn)單的模式識別和元音識別。能夠進(jìn)行一些簡(jiǎn)單任務(wù)和淺層模型，無(wú)法支撐亟需高算力與高能效的復雜大模型智能計算。

光計算對于集成度的要求會(huì )更高，但其技術(shù)難點(diǎn)其實(shí)并不只在集成，在計算單元循環(huán)使用和非線(xiàn)性處理方面挑戰更大。

據了解，一個(gè)巨大的 AI 模型中，每一層網(wǎng)絡(luò )都需要進(jìn)行矩陣運算，一個(gè)大矩陣還可能需要拆成幾個(gè)小矩陣進(jìn)行計算。也就是說(shuō)，在大模型中，矩陣乘加運算是一個(gè)反復、循環(huán)的計算過(guò)程，每次循環(huán)，矩陣上的元素權重都會(huì )被更新。

與電子相比，光的矩陣乘加運算非?？?，但一涉及到權重的更新，光的速度就會(huì )變慢。

要實(shí)現大規模、高能效的光子計算，簡(jiǎn)單地擴大現有的光子神經(jīng)網(wǎng)絡(luò )芯片是不現實(shí)的，因為隨著(zhù)神經(jīng)網(wǎng)絡(luò )層數的增加，不可避免的模擬噪聲會(huì )呈指數級擴大。放大現有架構的規模并不能成比例地提高性能。

新架構：分布式衍射-干涉混合光子計算架構

清華團隊進(jìn)行了架構方面的研究，「從 0 到 1」重新設計適合光計算的新架構。

根據論文介紹，清華團隊為采用分布式計算的太極，構建了一個(gè)深度較淺但寬度較廣的網(wǎng)絡(luò )結構。

與為深度計算堆疊一系列層的傳統方法不同，Taichi 將計算資源分布到多個(gè)獨立的集群中，為子任務(wù)分別組織集群，并最終合成這些子任務(wù)，從而完成復雜的高級任務(wù)。

具體地說(shuō)，光學(xué)衍射層的完全連通特性，可以提供比傳統 DNN 中的卷積層更大的變形能力。

這意味著(zhù)光學(xué)網(wǎng)絡(luò )有可能用比電子系統更少的層數實(shí)現相同的變換。

圖中（B）中展示了「太極」芯片，包括用于大規模輸入和輸出數據的雙衍射單元，以及用于可重構特征嵌入和硬件多路復用的 MZI 陣列的可調矩陣乘法。

論文第一作者、電子系博士生徐智昊介紹：「在「太極」架構中，自頂向下的編碼拆分-解碼重構機制，將復雜智能任務(wù)化繁為簡(jiǎn)，拆分為多通道高并行的子任務(wù)，構建的分布式『大感受野』淺層光網(wǎng)絡(luò )對子任務(wù)分而治之，突破物理模擬器件多層深度級聯(lián)的固有計算誤差?！?/span>

AI 光芯片：干涉-衍射融合計算芯片

在這項工作中，團隊設計了一種具有靈活分布式計算架構的大規模衍射-干涉混合型光子 AI 芯片——「太極」。

據論文報道：「太極」光芯片具備 879 T MACS/mm2的面積效率與 160 TOPS/W 的能量效率，實(shí)現了高達兩個(gè)數量級的能效提升。首次賦能光計算實(shí)現自然場(chǎng)景千類(lèi)對象識別、跨模態(tài)內容生成等人工智能復雜任務(wù)。

國內光芯片企業(yè)情況如何？

在面向「后摩爾時(shí)代」的潛在顛覆性技術(shù)里，光子芯片已進(jìn)入人們的視野。其所具有的高速度、低能耗、工藝技術(shù)相對成熟等優(yōu)勢，能夠有效突破傳統集成電路物理極限上的瓶頸，滿(mǎn)足新一輪科技革命中人工智能、物聯(lián)網(wǎng)、云計算等產(chǎn)業(yè)對信息獲取、傳輸、計算、存儲、顯示的技術(shù)需求。

目前，全球光子芯片產(chǎn)業(yè)剛剛起步，作為獨立于電子集成技術(shù)的新集成技術(shù)，其技術(shù)壁壘還沒(méi)有形成。我國光子產(chǎn)業(yè)發(fā)展水平與世界處于并跑階段，在光子基礎理論研究和技術(shù)發(fā)展方面具有一定的優(yōu)勢。

目前中國本土的高功率激光芯片、部分高速率激光芯片（10G、25G 等）等已處于國產(chǎn)化加速突破階段，而光探測芯片、25G 以上高速率激光芯片剛剛起步。

值得注意的是，光芯片方面華為也有所布局。

今年 3 月，華為公布了一項「光芯片及其制備方法、通信設備」發(fā)明專(zhuān)利。申請公布號為：CN117616316A，該專(zhuān)利申請日期為 2021 年 9 月 18 日。摘要顯示，本申請的實(shí)施例提供一種光芯片及其制備方法、通信設備，涉及光通信技術(shù)領(lǐng)域，解決現有的光芯片中光波導在制備過(guò)程中尖端易斷裂的問(wèn)題。

光芯片企業(yè)利潤下降

國內光芯片廠(chǎng)商有源杰科技、長(cháng)光華芯和炬光科技等。在 2023 年度業(yè)績(jì)快報中，這三家企業(yè)均提到宏觀(guān)環(huán)境、行業(yè)發(fā)展的影響，導致產(chǎn)品需求減少和價(jià)格降低。

源杰科技是國內領(lǐng)先的光芯片 IDM 廠(chǎng)商，產(chǎn)品涵蓋從 2．5G 到 50G 磷化銦激光器芯片。從源杰科技 2023 年的業(yè)績(jì)來(lái)看，營(yíng)業(yè)收入共計約 1．44 億元，與去年同期相比下降 48．96%，全年歸屬凈利潤盈利 0.195 億元，同比減少 80.58%。

長(cháng)光華芯發(fā)布的業(yè)績(jì)報告來(lái)看，也同樣處于虧損狀態(tài)。營(yíng)業(yè)收入約 2.92 億元，同比減少 24.2%；歸屬于上市公司股東的凈利潤虧損 8610.17 萬(wàn)元。2023 年 1 至 6 月份，長(cháng)光華芯的營(yíng)業(yè)收入構成為：高功率單管系列占比 90.16%，高功率巴條系列占比 8.24%，其他業(yè)務(wù)占比 0.9%，VCSEL 芯片系列占比 0.7%。

炬光科技業(yè)務(wù)覆蓋上游「產(chǎn)生光子」「調控光子」及中游汽車(chē)、泛半導體、醫療健康領(lǐng)域，與多家業(yè)內知名公司達成合作。炬光科技發(fā)布 2023 年度業(yè)績(jì)快報，營(yíng)業(yè)收入約 5.61 億元，同比增加 1.69%；歸屬于上市公司股東的凈利潤 8968 萬(wàn)元，同比減少 29.44%

源杰科技表示「電信市場(chǎng)及數據中心銷(xiāo)售不及預期」；長(cháng)光華芯稱(chēng)「受宏觀(guān)經(jīng)濟環(huán)境等因素的影響，市場(chǎng)信心不足，激光器市場(chǎng)需求持續疲軟，同時(shí)行業(yè)競爭加劇」，炬光科技稱(chēng)「公司部分上游元器件產(chǎn)品價(jià)格降低，綜合毛利率下降」。