全球最大芯片，想用光互聯(lián)實(shí)現4000倍提升

晶圓級處理器開(kāi)發(fā)商 Cerebras 正在研究一種光學(xué)子態(tài)，以將其系統性能提高 4000 倍，并呼吁行業(yè)合作和標準化。

目前的 Cerebras WSE3 處理器建立在一塊 300 毫米晶圓上，擁有 900 million晶體管，功耗為 20kW。這家總部位于加州的公司必須開(kāi)發(fā)自己的晶圓級封裝，用于 I/O、電力輸送和冷卻，目前正在研究光學(xué)互連。

該公司首席系統架構師本周在法國格勒諾布爾舉行的 Leti 創(chuàng )新日上發(fā)表了講話(huà)，探討了如何利用小芯片和 3D 異構封裝技術(shù)應對可擴展性挑戰?！八皇切⌒酒?，但它仍然是 3D 集成的候選者，”Cerebras 聯(lián)合創(chuàng )始人兼首席系統架構師 JP Fricker 表示?！斑@項技術(shù)將帶來(lái)變革?！?/span>

然而，性能、擴展和功耗的一個(gè)關(guān)鍵限制是片外 I/O。

“I/O 是大型計算的一個(gè)限制，會(huì )阻止您進(jìn)入非常大的系統。這些技術(shù)現在已經(jīng)存在，但我們需要發(fā)明技術(shù)來(lái)將它們整合在一起。我們正在開(kāi)發(fā)這些技術(shù)，我們的目標是構建比現在快 4000 倍的超級計算機，并將 1000 個(gè)晶圓連接在一起?！?/span>

“目前，I/O 位于芯片的兩個(gè)邊緣，但如果 I/O 分布在芯片上，效果會(huì )更好?？s短通道長(cháng)度可以減小 SERDES 的尺寸，從而節省空間和功耗?！?/span>

“我們希望擁有大量的光學(xué)引擎，”他說(shuō)?！澳壳八鼈兪峭獠康?，但最終我們會(huì )將這些激光器放入芯片中?！彼f(shuō)，這些將用于多個(gè)通信通道，數據速率合理，為 100 到 200Gbit/s，而不是粗管道。

“我們有自己的晶圓級引擎，并采用第三方晶圓級可編程光學(xué)互連，將它們組合在一起，利用晶圓的整個(gè)表面連接到晶圓上，”他說(shuō)?！斑@需要異質(zhì)晶圓對晶圓的封裝?！?/span>

Celestia AI 和 LightMatter 等公司一直在開(kāi)發(fā)這些光互連技術(shù)，特別是針對超大規模和 AI 芯片公司。

“但我們需要發(fā)明或重新利用技術(shù)。當前的互連間距太粗，我們無(wú)法獲得愿意集成該技術(shù)的晶圓廠(chǎng)，因為它太小眾了，所以我們需要創(chuàng )建一種不同的工藝?；旌湘I合可實(shí)現 12 微米以下的更細間距和更高的組裝產(chǎn)量，但它僅在特定晶圓廠(chǎng)中可用，并且晶圓廠(chǎng)中的工藝對有限，例如 5nm 到 5nm 晶圓，但不能使用不同的代工廠(chǎng)，而且兩年后也是如此?！?/span>

工藝步驟中也存在挑戰。

“為了進(jìn)行混合鍵合，晶圓廠(chǎng)會(huì )在最后的銅層之一處停止，這個(gè)銅層不容易探測，但這使得運送到另一家晶圓廠(chǎng)變得困難?！?/span>

“我們希望開(kāi)發(fā)一種新技術(shù)，通過(guò)一個(gè)共同的頂層來(lái)標準化晶圓的表面處理，并將這一層用作晶圓堆疊的標準接口，這樣不同的晶圓可以以不同的方式制造，但最后一組接口對于不同工廠(chǎng)之間的鍵合來(lái)說(shuō)是通用的。這也意味著(zhù)鍵合可以由第三方完成，而不僅僅是大批量工廠(chǎng)，”他說(shuō)。

測試探針在銅層上留下的標記對于平坦化來(lái)說(shuō)也是一個(gè)問(wèn)題，必須去除這些標記或使用非接觸式測試系統。

但他表示，這一做法具有顯著(zhù)的優(yōu)勢。

“我們可以通過(guò)光學(xué)晶圓傳輸電力，因為元件更稀疏，有許多硅通孔 (TSV) 和非常短的通道，并且這些元件通過(guò)使用多種波長(cháng)位于單層中。這樣就可以在同一系統中從頂部傳輸電力并從底部移除冷卻?！?/span>

“在我們的案例中，計算晶圓上的網(wǎng)絡(luò )基于可配置結構，該結構在晶圓上運行工作負載之前設置。當您在光域中使用電路交換執行此操作時(shí)，您可以將電氣交換發(fā)展到光域，但您不需要經(jīng)常這樣做。

跨越英偉達的護城河

英偉達的護城河有多寬？這是如今投資者心中3萬(wàn)億美元的問(wèn)題。至少部分答案可能在今年晚些時(shí)候以IPO的形式出現。Cerebras Systems是一家試圖在人工智能芯片戰場(chǎng)上挑戰英偉達的初創(chuàng )公司 AI，該公司將于2024年底進(jìn)行首次公開(kāi)募股。

Eclipse Ventures的創(chuàng )始人兼管理合伙人Lior Susan 于2015年首次投資Cerebras ，當時(shí)該公司有五張演示幻燈片和新計算機架構的理論計劃。八年后，這家初創(chuàng )公司提供了具有大量?jì)却娴奶厥獯笮托酒?，適用于模型訓練和推理等生成式人工智能工作負載。這些與 Nvidia 芯片（包括 B100 和 H100）相抗衡。

與 Nvidia 競爭最“煩人”的事情是 CUDA 但根據 Susan 的說(shuō)法，

CUDA 是 Nvidia 構建的軟件層，旨在幫助開(kāi)發(fā)人員處理和指導其圖形處理單元。該平臺擁有數百萬(wàn)行代碼，可節省開(kāi)發(fā)人員的時(shí)間和金錢(qián)，在這一點(diǎn)上，它是大部分人工智能生態(tài)系統的默認代碼。

Cerebras有自己的軟件，可以與初創(chuàng )公司的芯片配合使用。但即使是精心設計的替代品也比 CUDA 落后數年。隨著(zhù)開(kāi)發(fā)人員的知識和習慣的建立，這種領(lǐng)先優(yōu)勢將很難打破。

“我個(gè)人完全低估了銷(xiāo)售芯片的CUDA部分，”Susan說(shuō)?！澳闶菦_著(zhù)硬件來(lái)的。你留下來(lái)是因為軟件。他補充說(shuō)：“作為技術(shù)人員，我們總是喜歡哭泣，說(shuō)我們不喜歡某些東西，但后來(lái)我們繼續使用它。因為沒(méi)有比這更好的了。

半導體行業(yè)資深人士、Thomvest董事總經(jīng)理Umesh Padval稱(chēng)CUDA為堡壘。它在 2007 年發(fā)展緩慢，但近年來(lái)像滾雪球一樣越滾越大，大約有 500 萬(wàn)開(kāi)發(fā)人員編寫(xiě) CUDA 代碼，向規范添加可用數據，排除錯誤并相互支持。

隨著(zhù)時(shí)間的流逝，Nvidia 在 CUDA 之上疊加了更多工具和資產(chǎn)。像單詞庫和訓練數據這樣的東西，初創(chuàng )公司可以利用這些數據，這樣他們就不會(huì )在每次決定將人工智能革命的力量指向一個(gè)新的用例時(shí)從頭開(kāi)始。例如，Modulus 是一個(gè)幫助人工智能理解物理的庫。

“他現在有數以百萬(wàn)計的軟件開(kāi)發(fā)人員，他們知道這門(mén)語(yǔ)言，并且已經(jīng)使用了很長(cháng)時(shí)間，”P(pán)adval在談到英偉達首席執行官黃仁勛時(shí)說(shuō)?！翱傆幸惶鞎?huì )解決的，但這是一條很大的護城河?！?/span>

越過(guò)這條CUDA護城河是關(guān)鍵。Business Insider 獲得的亞馬遜內部文件就是一個(gè)例子。文件稱(chēng)，亞馬遜的 Neuron 軟件旨在幫助開(kāi)發(fā)人員使用 AWS 的 AI 芯片構建 AI 工具，但目前的設置“阻止了從 NVIDIA CUDA 的遷移”。這是阻礙一些AWS客戶(hù)使用亞馬遜人工智能芯片的主要因素之一。

任何構建CUDA替代品的人都不能完全忘記它。如果初創(chuàng )公司出于這種意圖從頭開(kāi)始構建技術(shù)，他們可以嘗試完全避免這種情況 。但是，大多數 AI 開(kāi)發(fā)人員如果想改變他們的硬件，就必須通過(guò)艱苦的工作來(lái)改變他們的軟件。

AMD是英偉達最直接的競爭對手 ，擁有自己的平臺ROCm。它帶有一個(gè)名為 Hipify 的工具，可將 CUDA 軟件代碼轉換為更便攜的東西。

“你用CUDA編寫(xiě)一個(gè)程序。要在A(yíng)MD GPU上運行它，您可以使用Hipify工具進(jìn)行切換，“AI芯片初創(chuàng )公司Positron的聯(lián)合創(chuàng )始人兼首席執行官Thomas Sohmers說(shuō)?！疤孤实卣f(shuō)，我還沒(méi)有看到有人使用Hipify。

9月，包括高通、谷歌和英特爾在內的一群 AI 名人和 Nvidia 競爭對手成立了 UXL 基金會(huì ) ，以構建一個(gè)與芯片無(wú)關(guān)的競爭對手軟件平臺。該軟件要到 2024 年底才能投入使用。其他攻破CUDA堡壘的嘗試都失敗了 。

然而，時(shí)間和慣性是一個(gè)強大的組合，正如KG Ganapathi樂(lè )于解釋的那樣。

他的創(chuàng )業(yè)公司Vimaan正在為未來(lái)的“黑暗倉庫”開(kāi)發(fā)技術(shù)，不需要人工操作。它使用計算機視覺(jué)和機器學(xué)習來(lái)理解和編目每個(gè)項目的形狀、大小、數量和位置。Vimaan 已獲得亞馬遜 工業(yè)創(chuàng )新基金 的資助，并且是 Nvidia 初創(chuàng )公司 Inception 計劃的一部分。

Vimaan團隊已經(jīng)在CUDA中構建了整個(gè)系統，而Ganapathi現在沒(méi)有興趣改變它，即使有明確的理由這樣做。

“我是否要借此機會(huì )切換我們在英偉達平臺上構建的整個(gè)基礎設施？”他說(shuō)?！翱赡懿粫?huì )?！?/span>

盡管如此，Thomvest 的 Padval 相信 Nvidia 客戶(hù)希望通過(guò)多樣化他們的 GPU 和支持軟件來(lái)源來(lái)降低風(fēng)險。這意味著(zhù)競爭對手仍將受到資本以及產(chǎn)品測試和購買(mǎi)的推動(dòng)。

“客戶(hù)喜歡領(lǐng)導者。但他們也覺(jué)得他們想要第二個(gè)來(lái)源，這樣他們就有了選擇，“他說(shuō)。

由于CUDA可能是英偉達護城河中最重要的元素，因此對該公司市場(chǎng)份額的長(cháng)期預測可以表明這種影響力有多大。

Eclipse Ventures的Susan表示，這個(gè)市場(chǎng)是如此巨大，即使從英偉達手中奪走一小部分也是值得的。

“我說(shuō)嘿，我最大的競爭對手價(jià)值3.5萬(wàn)億美元，所以你知道，如果我得到10%，我就是一個(gè)快樂(lè )的人，”他說(shuō)。

來(lái)源:半導體行業(yè)觀(guān)察