Rebellions尋求成為首家大規模生產(chǎn)人工智能芯片以支持語(yǔ)言模型的韓國初創(chuàng )企業(yè)

在位于首爾南部的一座辦公大樓里，一打芯片并排放在架子上，每個(gè)芯片旁邊都有自己的電風(fēng)扇來(lái)降溫。

這些名為ATOM的芯片是韓國初創(chuàng )企業(yè)Rebellions開(kāi)發(fā)的最新神經(jīng)處理單元（NPU），目標是擁有多達70億個(gè)參數的人工智能模型。它們的性能正在進(jìn)行測試，并與同一樓層上另一個(gè)房間里的幾個(gè)Nvidia的A100 GPU進(jìn)行比較。

作為下一代人工智能芯片，NPU是針對同時(shí)進(jìn)行矩陣運算進(jìn)行優(yōu)化的處理器，意味著(zhù)它們在深度學(xué)習方面比通用中央處理單元（CPU）和圖形處理單元（GPU）更進(jìn)一步。

2020年由五名韓國工程師共同創(chuàng )立的無(wú)晶圓廠(chǎng)人工智能芯片初創(chuàng )企業(yè)Rebellions被認為是與Nvidia在該領(lǐng)域匹敵或競爭的最佳希望。

Rebellions首席執行官兼聯(lián)合創(chuàng )始人樸成炫（Park Sung-hyun）在本周早些時(shí)候接受《韓國時(shí)報》采訪(fǎng)時(shí)表示，ATOM將于2024年上半年利用三星的5納米技術(shù)進(jìn)行大規模生產(chǎn)，這將是韓國芯片工業(yè)的重要里程碑，因為ATOM將是第一個(gè)在大規模生產(chǎn)水平上支持語(yǔ)言模型的國產(chǎn)芯片。

“我們在AI推理方面比Nvidia的GPU更節能，”樸成炫說(shuō)道，指的是通過(guò)訓練后的人工智能模型運行實(shí)時(shí)數據以進(jìn)行預測或解決任務(wù)的過(guò)程。他補充說(shuō)，ATOM在語(yǔ)言模型推理基準測試中的延遲只有Nvidia A2的一半，功耗效率是Nvidia A100的五倍。

從視覺(jué)上看，ATOM芯片只需要風(fēng)扇降溫，而Nvidia芯片需要在空調環(huán)境中運行——這意味著(zhù)更多的功耗和更高的運營(yíng)成本。

Rebellions的崛起正值全球半導體行業(yè)為AI芯片展開(kāi)激烈競爭之際，這受到了openAI的ChatGPT的普及以及對Nvidia GPU的需求不斷增長(cháng)的推動(dòng)。

韓國以其在內存芯片制造業(yè)中的地位而聞名，正準備在這個(gè)蓬勃發(fā)展的市場(chǎng)上獲得牢固的立足點(diǎn)。例如，三星電子正在與臺積電競爭AI芯片制造業(yè)的主導地位，而韓國政府則旨在到2030年將國內數據中心中本地開(kāi)發(fā)的AI芯片份額增加到80％。

Rebellions已經(jīng)獲得了韓國科技行業(yè)幾個(gè)最大公司的支持，包括三星、KT和Kakao。

今年1月，Rebellions完成了由KT領(lǐng)投的最新一輪融資，總額達到1.24億美元，迄今為止，KT在這家初創(chuàng )企業(yè)上已經(jīng)投資了超過(guò)5000萬(wàn)美元。這將Rebellions的估值提高到6.5億美元，成為韓國資金最多的芯片初創(chuàng )企業(yè)。

樸表示，進(jìn)入大規模生產(chǎn)將對公司的收入產(chǎn)生重大推動(dòng)，經(jīng)過(guò)多年的原型階段。根據樸的說(shuō)法，KT，韓國第二大電信運營(yíng)商和韓國最大的數據中心公司，將成為Rebellions在開(kāi)始大規模生產(chǎn)ATOM后的首個(gè)客戶(hù)。樸認為，電信公司是AI芯片最理想的客戶(hù)。

“AI行業(yè)的未來(lái)將成為基礎設施游戲。電信公司愿意向建立數據中心投入大量資金，”他說(shuō)道。

樸成炫還希望與韓國最大的數據中心公司的合作伙伴關(guān)系將成為其全球擴張的參考，尤其是在美國市場(chǎng)。樸成炫表示，該公司已與一些美國主要的超大規模云服務(wù)提供商進(jìn)行了談判，例如IBM。

樸成炫于2014年從麻省理工學(xué)院獲得電氣工程和計算機科學(xué)博士學(xué)位，曾在美國芯片行業(yè)工作了六年，曾在三星的美國研究部門(mén)、英特爾和SpaceX工作過(guò)。

盡管在美國芯片行業(yè)有著(zhù)豐富的經(jīng)驗，但樸成炫認為在韓國創(chuàng )辦半導體公司有更好的機會(huì )?！霸诎雽w硬件生態(tài)系統中，亞洲將是下一個(gè)大事件，”他說(shuō)道?！绊n國和臺灣正在迎頭趕上?！?/p>

樸成炫于2020年回到祖國，并與另一位在美國具有行業(yè)背景的韓國人工智能芯片專(zhuān)家吳進(jìn)旭（Oh Jin-wook）以及其他聯(lián)合創(chuàng )始人一起創(chuàng )立了Rebellions。

對于樸成炫來(lái)說(shuō)，這不是一個(gè)容易的決定，因為當時(shí)他在美國的行業(yè)網(wǎng)絡(luò )大部分在美國。Rebellions最初的團隊成員包括來(lái)自IBM、英特爾和蘋(píng)果以及三星美國的人物。

現在，它擁有大約120名員工，其中近100名是工程師。隨著(zhù)團隊的擴大，它吸引了本地背景的專(zhuān)家，其中來(lái)自韓國大型半導體公司的員工占據了近70％，根據樸的說(shuō)法。

Rebellions在2021年推出了名為ION的第一款產(chǎn)品，使用臺積電制造的芯片，針對金融行業(yè)的AI任務(wù)。然后，該公司決定重新將重點(diǎn)放在A(yíng)I模型的芯片上，因為與金融公司相比，數據中心公司的需求更高。

三星，韓國最大的芯片制造商，是Rebellions的ATOM的制造合作伙伴。去年10月，這兩家公司加深了他們的合作關(guān)系，宣布計劃在A(yíng)TOM之后共同開(kāi)發(fā)REBEL，這是該初創(chuàng )企業(yè)的下一代NPU，用于更大參數規模的LLMs，并與Nvidia的頂級GPU H200進(jìn)行比較。

樸成炫對REBEL寄予更大的希望，該芯片預計將在今年下半年完成開(kāi)發(fā)并開(kāi)始大規模生產(chǎn)，采用三星的4納米制造工藝。

隨著(zhù)生成式人工智能市場(chǎng)的不斷擴大，樸成炫預計推理芯片的需求將成為一個(gè)關(guān)鍵增長(cháng)點(diǎn)。

“AI訓練流量取決于開(kāi)發(fā)人員的數量，而AI推理流量隨著(zhù)最終用戶(hù)的數量增加而增加，”樸成炫說(shuō)道?！澳壳?，訓練和推理市場(chǎng)幾乎占據一半，但未來(lái)推理流量將大幅增加?！?/p>

在兩年半的時(shí)間里，樸成炫看到了該公司在韓國LLM市場(chǎng)中的份額增長(cháng)了30％，在推理任務(wù)方面占據了“至少3到5％”的份額。根據分析師的估計，目前，據估計，Nvidia在全球AI芯片市場(chǎng)的份額高達90％。