芯片推動(dòng)人工智能熱潮，韓國企業(yè)紛紛入局

爆發(fā)式的人工智能熱潮同樣也在半導體行業(yè)引起轟動(dòng)。英偉達是最大的贏(yíng)家，其 GPU 對于訓練高級人工智能系統變得至關(guān)重要。韓國企業(yè)也是看中了這一點(diǎn)，三星電子和 SK 海力士專(zhuān)為諸如英偉達的 GPU 等量身定制高端內存芯片。

三星電子計劃擴大其高帶寬內存（HBM）芯片的生產(chǎn)，預估明年產(chǎn)量擴大至今年的兩倍半。SK 海力士明年也將增加設備投資，擴大 HBM 芯片生產(chǎn)。SK 海力士將在其現有的清州工廠(chǎng)增加一條 HBM 芯片所必需的封裝生產(chǎn)線(xiàn)。

HBM 是一種高端動(dòng)態(tài)隨機存取存儲器（DRAM）芯片，采用堆疊技術(shù)，能夠比普通芯片更快地處理數據，并具有更高的能源效率。隨著(zhù)大型科技公司熱衷于升級迭代其生成式人工智能工具，這些工具需要低功耗高效處理大量數據，HBM 銷(xiāo)售炙手可熱。

三星電子和 SK 海力士控制著(zhù)超過(guò) 90% 的高端 DRAM 芯片市場(chǎng)。兩家公司表示，它們明年的 HBM 產(chǎn)能已被預訂完畢。2025 年的談判已經(jīng)開(kāi)始了。HBM 的價(jià)格平均比普通 DRAM 芯片高出五至六倍，過(guò)去它在 DRAM 市場(chǎng)中所占份額僅為個(gè)位數，但其份額可能會(huì )大幅增加?；ㄆ旒瘓F的芯片分析師 Peter Lee 預計，HBM 的市場(chǎng)份額將增長(cháng) 11%，并在 2027 年達到 30%。

內存芯片不再是一般商品

長(cháng)期以來(lái)，內存芯片一直被視為一般商品，可以在各種應用中使用，無(wú)需進(jìn)行復雜或定制化的加工。因此，生產(chǎn)商必須嚴格依賴(lài)規模經(jīng)濟來(lái)實(shí)現盈利，并且受市場(chǎng)波動(dòng)的影響較大。然而，情況不再如此。隨著(zhù) HBM 制造變得更加復雜，技術(shù)化差異開(kāi)始顯現，使得存儲具有更多的定制化可能性。

SK 海力士的 HBM3E 芯片 來(lái)源：SK 海力士

目前，SK 海力士是 HBM 市場(chǎng)的頭號玩家。根據集邦咨詢(xún)（TrendForce）的數據顯示，SK 海力士占據 HBM 市場(chǎng) 50% 份額。SK 海力士的 HBM 芯片通過(guò) MR-MUF 技術(shù)脫穎而出，使用液化填料粘合和保護連接每個(gè)堆疊晶圓的電路。MR-MUF 技術(shù)以提高能效而聞名。與常見(jiàn)的 NCF 封裝相比，NCF 封裝使用晶圓隔離墊，隨后必須被熔化，很難將熱量均勻傳遞給每個(gè)晶圓，收益率低。

SK 海力士將利用 MR-MUF 技術(shù)生產(chǎn)最新的 HBM3E 芯片，目前這些芯片尚未進(jìn)行大規模生產(chǎn)。從 8 月開(kāi)始，SK 海力士將向包括英偉達在內的客戶(hù)提供樣品。

「直到現在，被視為大宗商品的內存芯片一直專(zhuān)注于誰(shuí)能做得更小并且堆疊層數更多，」SK 海力士 CEO 說(shuō)道，「隨著(zhù)人工智能時(shí)代的到來(lái)，客戶(hù)的服務(wù)多樣化，對內存芯片的需求也有了各種規格。因此，內存芯片在某些方面正在演變成在某些方面強大的定制產(chǎn)品?！?/span>

三星電子正在發(fā)展「處理內存」（process-in-memory）技術(shù)，即在內存芯片內部集成邏輯單元，使得數據處理可以在內存內部完成，從而減少了數據傳輸量和能耗，并提高了處理效率。三星電子是在 2021 年首個(gè)開(kāi)發(fā)該項技術(shù)的公司。

在今年的 Hot Chips 論壇，三星透露了一項和 AMD 合作完成的研究結果，其技術(shù)將使普通 HBM 的能效和性能達到翻倍以上。具體來(lái)說(shuō)，三星將其 HBM-PIM 與 AMD 的 MI-100 GPU 加速器進(jìn)行了整合。

三星電子負責 DRAM 業(yè)務(wù)的執行副總裁 Hwang Sang-joon 表示：「HBM-PIM 通過(guò)在 DRAM 內部嵌入數據計算功能，解決了內存帶寬瓶頸問(wèn)題，性能提升了 12 倍。一些特定功能，例如如語(yǔ)音識別，能效提高了四倍?！?/span>

新的合作伙伴關(guān)系即將到來(lái)

三星電子的代工業(yè)務(wù)吸引了一些正在跟隨人工智能熱潮的新客戶(hù)。其位于德克薩斯州泰勒的制造工廠(chǎng)目前正在建設中，今年早些時(shí)候確定了首位客戶(hù)——硅谷人工智能初創(chuàng )公司 Groq。使用三星的 4 納米技術(shù)制造的人工智能芯片將在該工廠(chǎng)于明年底前完成生產(chǎn)。

此外，三星最近與由半導體專(zhuān)家吉姆·凱勒領(lǐng)導的加拿大的新興人工智能芯片設計公司 Tenstorrent 建立了額外的合作伙伴關(guān)系。

三星電子 HBM3E 芯片 來(lái)源：三星

加拿大人工智能芯片設計公司 Tenstorrent 正在與韓國的人工智能芯片制造商 Rebellions 和 DeepX 合作。三星正在充分利用其半導體實(shí)力，同時(shí)經(jīng)營(yíng)內存芯片和代工業(yè)務(wù)。

自今年初以來(lái)，三星一直在提供所謂的「Package Turn Key」服務(wù)。三星充當一站式服務(wù)站，既代工處理器又將其與自己的內存（包括 DRAM）封裝在一起，以節省時(shí)間和金錢(qián)。這種產(chǎn)品是為吸引尋求高性能半導體來(lái)支持其人工智能工具的大型科技公司而做出的努力。目前，三星是唯一能夠同時(shí)制造邏輯芯片和內存芯片并對它們進(jìn)行封裝的公司。

人工智能芯片已成為重要議題

考慮到人工智能及其所需的先進(jìn)芯片需要巨額投資和基礎設施支持，政府的態(tài)度至關(guān)重要。

韓國政府計劃投資 8262 億韓元（約合 6.31 億美元），希望到 2030 年在韓國塑造一個(gè)以本土高端人工智能芯片為核心的人工智能生態(tài)系統。

「人工智能將對半導體、數據和平臺服務(wù)乃至安全產(chǎn)生重大影響?！鬼n國總統在九月份的一次政府間會(huì )議上表示。他說(shuō)：「政府支持應該起到催化作用，以促進(jìn)企業(yè)投資和創(chuàng )新?！?/span>

政府的中心倡議項目命名為「K-Cloud」。參與者包括人工智能芯片設計公司、云計算公司、學(xué)術(shù)專(zhuān)家和科學(xué)技術(shù)部，將花費約 1000 億韓元用于到 2025 年開(kāi)發(fā)用于人工智能數據中心的神經(jīng)處理單元（NPU）。

K-Cloud 項目旨在建立基于新的 NPU 的數據中心集群，提供 39.9 petaflops 的人工智能計算能力，其中公共部門(mén)和私營(yíng)部門(mén)分別提供 19.95 petaflops。1 petaflop 每秒執行一千萬(wàn)億（即一萬(wàn)億億，或 10 的 15 次方）次計算。

在第二階段，該項目計劃在 2028 年基于 DRAM 技術(shù)創(chuàng )建一種低功耗的內存內處理（PIM）芯片。PIM 芯片整合了存儲和處理功能，以減少延遲并解決馮·諾伊曼瓶頸問(wèn)題。

最后階段將在 2030 年之前，升級基于非易失性存儲器和超低能耗的 PIM 芯片。

根據市場(chǎng)跟蹤機構 Gartner 的預測，全球人工智能芯片市場(chǎng)預計到 2026 年將達到 861 億美元，每年增長(cháng) 16%。

數據中心加入 AI 熱潮

另一個(gè)預計從人工智能技術(shù)中獲益的行業(yè)是數據中心。新冠疫情期間，數據中心和云計算的需求增加，生成式人工智能受到廣泛關(guān)注。公司將需要計算資源來(lái)訓練自己的大型語(yǔ)言模型，因此預計這一趨勢將進(jìn)一步擴大。

韓國三家移動(dòng)運營(yíng)商——SK Telecom、KT 和 LG Uplus——在全國范圍內共擁有 31 個(gè)數據中心，其中 18 個(gè)位于首爾。根據元大證券（Yuanta Securities）的報告，這三家公司占據了總數據中心容量的 93%。

「從 2028 年開(kāi)始，互聯(lián)網(wǎng)數據中心市場(chǎng)將轉向以供應商為導向的模式?！乖笞C券分析師 Lee Seung-woong 表示：「到 2030 年，數據中心的需求可能會(huì )增加 1088 億韓元，而同期供應可能僅增加 609 億韓元。由于在短期內供應很難超過(guò)需求，數據中心可能會(huì )在中長(cháng)期內提升電信公司的盈利能力?！?/span>

在韓國國內擴大規模之后，SK Telecom 和 KT 計劃將它們的數據中心基礎設施出口海外，首選東南亞地區。

上個(gè)月，一場(chǎng)介紹其人工智能戰略的新聞發(fā)布會(huì )上，SK Telecom 的 CEO Ryu Young-sang 表示，該公司計劃將其數據中心的國內容量增加一倍以上（從 1 億韓元增加到 2.07 億韓元），并與外國云服務(wù)提供商合作，將其基礎設施擴展到海外。

KT 旗下的云計算子公司 KT Cloud 于 5 月從當地私募股權公司 IMM Credit & Solutions 獲得了 6000 億韓元的資金，用于擴大其基礎設施云和數據中心基礎設施。預計到 2026 年，其年收入將達到 2 萬(wàn)億韓元。