全球首個(gè)光子AI芯片原型發(fā)布

近日，AI芯片初創(chuàng )公司Lightelligence對外發(fā)布了世界第一款光子芯片原型板卡(Prototype)，團隊在這個(gè)原型產(chǎn)品上成功用光子芯片運行了Google Tensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò )模型來(lái)處理MNIST數據集。測試中，整個(gè)模型超過(guò)95%的運算是在光子芯片上完成的，其測試結果顯示，光子芯片處理的準確率已經(jīng)接近電子芯片(97%以上)。該公司已經(jīng)與谷歌、FaceBook、AWS、BAT級別客戶(hù)進(jìn)行了接洽。

對于這家成立一年半的公司，這款芯片原型的誕生，驗證了團隊部分成員在2017年發(fā)表在NaturePhotonics期刊上的開(kāi)創(chuàng )性想法——用光子代替電子來(lái)進(jìn)行AI計算。但是在那個(gè)時(shí)候，他們在實(shí)驗室開(kāi)發(fā)的整個(gè)光子計算系統占據了半個(gè)實(shí)驗室。

在視頻演示中，團隊在這個(gè)原型產(chǎn)品上成功用光子芯片運行了GoogleTensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò )模型來(lái)處理MNIST數據集。這是一個(gè)使用計算機視覺(jué)識別手寫(xiě)數字的基準機器學(xué)習模型，也是機器學(xué)習中最著(zhù)名的基準數據集之一。測試中，整個(gè)模型超過(guò)95%的運算是在光子芯片上完成的處理，測試結果顯示，光子芯片處理的準確率已經(jīng)接近電子芯片（97%以上），另外光子芯片完成矩陣乘法所用的時(shí)間是最先進(jìn)的電子芯片的1/100以?xún)取?/p>

LightelligenceCEO沈亦晨對DeepTech表示，公司計劃將該光子芯片提供給一些合作方、潛在客戶(hù)進(jìn)行測試，目前國外已經(jīng)有谷歌、FaceBook、AWS級別，國內BAT級別的客戶(hù)與Lightelligence接洽。

他透露，盡管這款芯片還不是公司真正意義上的第一款商業(yè)化產(chǎn)品，在性能上也還有很大的提升空間，但卻是對團隊開(kāi)發(fā)完整光子AI芯片系統可行性的一個(gè)重要驗證。

沈亦晨表示，在接下來(lái)的幾十年中，對于A(yíng)I算法尤其是機器學(xué)習算法的計算需求仍將大幅增加，但與此同時(shí)，我們回過(guò)頭看過(guò)去幾年計算硬件的發(fā)展，其演進(jìn)速度正變得越來(lái)越慢，“從光子學(xué)的角度來(lái)看，我意識到，對于一些最基本的算法以及機器學(xué)習任務(wù)來(lái)說(shuō)，光子可能是最佳的計算平臺。在我的博士生涯中，我用一個(gè)項目簡(jiǎn)單地證明了這個(gè)概念性質(zhì)的設想，現在，Lightelligence的成立正在將這個(gè)設想從學(xué)術(shù)研究帶到真實(shí)世界”。

“我們從硬件到軟件做出了一套可以運行的系統，原則上，它可以運行任何神經(jīng)網(wǎng)絡(luò )系統，它也是就我們所知世界上第一臺完全獨立的光學(xué)計算AI加速器（standaloneopticalAIaccelerator）。Lightelligence現在發(fā)布這款芯片原型想傳達的另一個(gè)信息是，光學(xué)計算不再是一個(gè)“ScienceProject”，而是一個(gè)已經(jīng)接近于產(chǎn)品化的技術(shù)”，他說(shuō)。

光學(xué)計算并不是一個(gè)全新的概念。

作為一種完全不同于電子計算的技術(shù)，光學(xué)計算以光子為信息處理載體，依賴(lài)光硬件而非電子硬件，以光運算代替電運算，擅長(cháng)快速并行處理高度復雜的計算任務(wù)，但它一直沒(méi)找到合適的應用場(chǎng)景，且受限于傳統分離式光學(xué)器件光場(chǎng)調控手段單一、光學(xué)設計體積龐大的缺點(diǎn)，光學(xué)計算一直都停留在實(shí)驗室階段。

近幾年，電子計算愈發(fā)受制于摩爾定律，信息技術(shù)載體的存儲密度與運算速度的提升愈發(fā)力不從心，讓一部分人將目光從“電”轉向了速度更快、能耗更低的“光”。

尤其是基于人工神經(jīng)網(wǎng)絡(luò )算法的深度學(xué)習系統的流行。不同于通用芯片所運行的邏輯運算，深度學(xué)習系統的大部分時(shí)間都花在低精度的矩陣乘法運算上，而密集的矩陣乘法運算，正是人工智能算法中最耗時(shí)間和功率的。

目前AI加速芯片都是基于電子運算的，但在結合電子計算所有前沿技術(shù)的基礎上，光子芯片可以來(lái)執行AI計算里最重要的兩個(gè)步驟：內存到計算單元的數據傳輸以及矩陣運算本身。這兩個(gè)方面光子芯片具有獨特優(yōu)勢。

由此，光子AI芯片的概念應運而生，利用光子來(lái)做矩陣乘法運算，在功耗降低和速度提升上前景可期，很可能帶來(lái)光學(xué)計算有史以來(lái)最大的機會(huì )。

Lightelligence成立的目的，就是從光子芯片這個(gè)全新的角度來(lái)切入AI加速。

“對產(chǎn)業(yè)界來(lái)說(shuō)，這可能開(kāi)啟了一個(gè)全新的方向，而且它的發(fā)展速度遠遠高于電子運算?！鄙蛞喑空f(shuō)。

2016年，沈亦晨還在MIT做博士后，他所在的研究團隊打造了首個(gè)光學(xué)計算系統。該成果于2017年以封面文章的形式發(fā)表在頂級期刊NaturePhotonics雜志上，其基于硬件和算法有著(zhù)雙重創(chuàng )新：在硬件上，光干涉儀作為基本的矩陣運算單元有效取代了傳統電子晶體管；在算法上，團隊開(kāi)發(fā)了一系列在不犧牲性能條件下有效降低深度學(xué)習計算量、并適應于光子芯片的算法。

當時(shí)，國際著(zhù)名光學(xué)科學(xué)家、斯坦福大學(xué)終身正教授DavidMiller，曾專(zhuān)門(mén)在Nature雜志上撰文評價(jià)沈亦晨團隊的光學(xué)AI芯片的研究成果，稱(chēng)“這一系列的研究成果極大地推動(dòng)了集成光學(xué)在未來(lái)取代傳統電子計算芯片的發(fā)展?！?/p>

那篇論文可以說(shuō)在全球范圍內啟發(fā)更多人投入到光子AI芯片的開(kāi)發(fā)中，帶來(lái)這一成果的MIT團隊已經(jīng)誕生出Lightelligence和LightMatter兩家公司。

現在，Lightelligence團隊正在全力研發(fā)光子芯片的相關(guān)技術(shù)，包含芯片設計、核心算法、傳輸、周邊等，欲打造一個(gè)完整的光學(xué)計算生態(tài)。全球包括Lightelligence在內也已經(jīng)有5~6個(gè)團隊正在進(jìn)行相關(guān)的研發(fā)及商業(yè)化，其中還不乏中國團隊。盡管各家公司的目標都不盡相同，從已經(jīng)公布的產(chǎn)品進(jìn)度來(lái)看，作為全球首個(gè)光子AI芯片的公司，Lightelligence仍將是最值得關(guān)注的公司之一。

以L(fǎng)ightelligence此次發(fā)布的芯片原型為例，和2017年的首個(gè)光學(xué)計算系統相比，其最大的改進(jìn)就體現在計算效率的提升、軟件環(huán)境和集成程度的成熟上。

Lightelligence團隊本身?yè)碛幸幌盗歇毩⒆灾髦R產(chǎn)權，包括光學(xué)器件設計、光學(xué)系統集成和深度學(xué)習算法的核心技術(shù)，在設計這款芯片的過(guò)程中，團隊在這幾個(gè)方面的技術(shù)儲備得到了驗證。

在開(kāi)發(fā)的過(guò)程中，提升運算速度和改善尺寸的工作是交叉進(jìn)行的。據沈亦晨介紹，原來(lái)實(shí)驗室版本的機器集成度比較低，它的控制單元沒(méi)有集成在板卡上?，F在這款芯片原型的集成度大大提高，隨著(zhù)集成程度的提高，運算速度也大大提升。

而且開(kāi)發(fā)上的主要任務(wù)不只是集成度方面的工作，還包括高速信號的控制。對于光子計算機來(lái)說(shuō)，其中比較重要也比較難的一點(diǎn)就是，當信號傳輸速度很快的時(shí)候，如何讓信號達到比較精確的強度。

最終，團隊用了近一年半的時(shí)間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學(xué)計算領(lǐng)域也是前所未有的。

而除了前文提到的MNIST圖像識別任務(wù)以外，這款芯片原型還可以運行其他的計算任務(wù)，團隊同時(shí)也提供軟件支持，與谷歌的Tensorflow，Facebook的Caffe2和Pytorch常用框架中的算法兼容。

沈亦晨表示：“團隊希望任何通用的基于線(xiàn)性運算的算法都可以在光子AI芯片上運行，Lightelligence生產(chǎn)的是一款通用的AI芯片，同時(shí)我們也會(huì )自研更適合在光子芯片上運算的算法，后期我們會(huì )發(fā)布相關(guān)的算法上的進(jìn)展?！?/p>

未來(lái)，光子AI芯片的發(fā)展能否引領(lǐng)算法開(kāi)發(fā)上加大矩陣計算比重的“硬件定義軟件”風(fēng)潮，亦值得觀(guān)察。

3年內推出第一款量產(chǎn)產(chǎn)品，面向服務(wù)器

目前，Lightelligence成立已經(jīng)一年半時(shí)間，團隊的技術(shù)進(jìn)展并不完全體現在這次發(fā)布的芯片原型里，沈亦晨說(shuō)，其實(shí)團隊早在半年以前就已經(jīng)著(zhù)手開(kāi)發(fā)下一代芯片了，“我們的下一款芯片將會(huì )在性能上徹底顛覆現有的電子同類(lèi)產(chǎn)品”。

基于光子AI芯片速度快、損耗少、算力高、成本低的這些特點(diǎn)，很多面臨性能瓶頸的深度學(xué)習場(chǎng)景將是這款產(chǎn)品大展身手的方向。因此，在應用場(chǎng)景上，沈亦晨設想Lightelligence的第一款產(chǎn)品將面向服務(wù)器和自動(dòng)駕駛。

“第一款光子AI芯片的產(chǎn)品定位不是低端市場(chǎng)，我們的競爭力不是價(jià)格和尺寸大小，而是同一塊板卡的性能，針對這個(gè)優(yōu)勢我們的應用場(chǎng)景確定為以上兩個(gè)市場(chǎng)?！鄙蛞喑空f(shuō)。他曾提到，電子芯片的生態(tài)鏈條非常完善，整個(gè)產(chǎn)業(yè)已經(jīng)達到數以十億、百億計的規模。和電子芯片的完善的生態(tài)鏈條不同，光子芯片還在剛剛起步的階段，這也決定了其產(chǎn)品可能沒(méi)辦法短期內進(jìn)入到輕量級、個(gè)人級的應用中。

未來(lái)的汽車(chē)工業(yè)很可能是光子AI芯片的最重要市場(chǎng)之一，例如，以L(fǎng)idar技術(shù)所需要的大量光源和光探測器來(lái)說(shuō)，光子AI芯片有望提供一個(gè)低成本、低功耗的解決方案。不過(guò)，自動(dòng)駕駛的市場(chǎng)仍比較小，Lightelligence仍會(huì )先從服務(wù)器市場(chǎng)切入，然后過(guò)渡到自動(dòng)駕駛中。

現在，在融資上，Lightelligence已于2017年底獲得包括百度風(fēng)投和真格基金在內的超過(guò)1000萬(wàn)美元的風(fēng)險投資，團隊規模也從最初麻省理工學(xué)院出來(lái)的三人團隊發(fā)展到了二十多人全職團隊，成員背景包括麻省理工學(xué)院、哥倫比亞大學(xué)、佐治亞理工大學(xué)、北京大學(xué)和加州大學(xué)伯克利分校等。團隊也吸引了很多業(yè)界專(zhuān)業(yè)人士加入，最引人注目的恐怕就是GilbertHendry和MauriceSteinman了。

GilbertHendry博士畢業(yè)于哥倫比亞大學(xué)，曾在谷歌和微軟工作過(guò)5年，并且主持開(kāi)發(fā)過(guò)多款機器學(xué)習產(chǎn)品，現在是Lightelligence的軟件部負責人及機器學(xué)習首席工程師。MauriceSteinman是Lightelligence的工程副總裁，加入Lightelligence之前曾任AMD首席芯片架構師，并主持開(kāi)發(fā)了AMD用于高通量信息傳輸的旗艦產(chǎn)品infinityfabric，有超過(guò)30年的豐富的半導體行業(yè)經(jīng)驗。

但必須承認，光子AI芯片整體依然仍處于非常早期的階段，光子AI芯片公司面臨的落地風(fēng)險和技術(shù)挑戰并不比其他AI芯片公司的小。但是，人類(lèi)在追求更高程度的機器智能過(guò)程中，對芯片計算能力的需求只會(huì )不斷增加，光子AI芯片有希望能夠彌補電子芯片的不足，在一些特殊的計算領(lǐng)域超過(guò)電子芯片。

有意思的是，許多人了解到光子AI芯片和光學(xué)計算之后，更感興趣的不是其與電子計算的比較，反而好奇光子計算和量子計算有什么區別，兩者哪一個(gè)將更快改變產(chǎn)業(yè)現狀。

和量子計算相比，光子計算發(fā)展的時(shí)間短，投入研發(fā)的人力也相對較少，聽(tīng)起來(lái)是一個(gè)更為小眾的領(lǐng)域。但光子計算對算力的提升不一定亞于量子計算，而且在技術(shù)實(shí)現上，其制造流程可兼容目前的CMOS工藝，在量產(chǎn)難度上遠低于量子計算，更容易與現有的計算周邊生態(tài)進(jìn)行配合，可說(shuō)是目前發(fā)展的次世代計算架構中，最有機會(huì )實(shí)現普及量產(chǎn)目標的一個(gè)。