康普觀(guān)點(diǎn):數據中心如何更快、更經(jīng)濟地利用AI

人氣科幻小說(shuō)在描繪“機器智能的崛起”時(shí)，通常伴隨著(zhù)激光、爆炸等場(chǎng)景，就算不是這般震撼，至少也會(huì )帶有些許哲學(xué)上的恐懼意味。但毋庸置疑的是，人們日益關(guān)注人工智能（AI）和機器學(xué)習（ML）在更廣泛應用中的可能性，而且新的應用也層出不窮。

目前，數百萬(wàn)人已經(jīng)開(kāi)始通過(guò) ChatGPT 和其他AI界面來(lái)嘗試這些想法。但這些用戶(hù)中的許多人并沒(méi)有意識到，他們通過(guò)電腦屏幕與富有好奇心的AI助手之間的交流實(shí)際上是由位于全球各地的大型數據中心驅動(dòng)的。

企業(yè)也在其數據中心內投資建立自己的AI集群，構建、訓練并完善自己的AI模型，以滿(mǎn)足其自身商業(yè)利益。這些AI的核心就是由大量 GPU（圖形處理器）機架所構成的，其可提供AI模型所需的驚人的并行處理能力，以便對其算法進(jìn)行詳盡的訓練。

在導入數據集后，AI推理會(huì )對數據進(jìn)行分析，并闡釋其中蘊含的意義。例如，基于貓與狗特征差異進(jìn)行訓練，就能識別出圖片中呈現的是貓還是狗。然后，生成式AI就可以對此數據進(jìn)行處理，以創(chuàng )建全新的圖像或文本。

正是這種“智能”的處理吸引著(zhù)全球各地的人們、政府和企業(yè)發(fā)揮想象力。據IDC最新發(fā)布的《全球人工智能支出指南》預計，2027年中國AI投資規模有望達到381億美元，全球占比約9%。近年來(lái)，本土人工智能產(chǎn)業(yè)向高質(zhì)量發(fā)展邁進(jìn)，并加速與各行業(yè)的不同需求的融合落地。然而，創(chuàng )建一個(gè)有用的AI算法需要大量的數據用于訓練，而這是一個(gè)成本高昂且耗能的過(guò)程。

“智能”源自高效的訓練

數據中心一般都有著(zhù)離散式的AI和計算集群，他們協(xié)同工作以提供訓練AI算法的數據。這些高能耗 GPU 產(chǎn)生的熱量限制了在給定機架空間內能夠安裝GPU的數量，因此必須優(yōu)化物理布局。另一個(gè)令人擔憂(yōu)的問(wèn)題是，光纖線(xiàn)纜線(xiàn)路過(guò)長(cháng)會(huì )增加插入損耗。

光纖是一種高效、低損耗、低延遲的基礎設施，AI集群的運行速度可達 100G 或 400G。然而，隨著(zhù)大量數據在A(yíng)I集群中傳輸，每增加一米光纖布線(xiàn)，都會(huì )帶來(lái)成本高昂的延遲和損耗。

一般認為，訓練大規模AI所需的時(shí)間中，約有三成消耗在網(wǎng)絡(luò )延遲上，其余七成用于計算時(shí)間。任何減少延遲的機會(huì )，哪怕是通過(guò)減少 10 米光纖來(lái)減少 50 納秒的延遲，都能節省大量的時(shí)間和成本?？紤]到訓練這樣一個(gè)大型AI模型動(dòng)輒需要花費 1000 萬(wàn)美元或更多，延遲的代價(jià)就非常明顯了。

縮減光纖米數、延遲納秒數和功耗瓦數

運營(yíng)商應仔細考慮在A(yíng)I集群中使用哪些光收發(fā)器和光纜，以最大限度地降低成本和功耗。由于光纖運行必須盡可能短，因此光學(xué)成本將取決于收發(fā)器。使用并行光纖的收發(fā)器的優(yōu)勢在于其無(wú)需用于波分復用的光復用器和解復用器。因此，使用并行光纖的收發(fā)器成本和功耗都更低。收發(fā)器成本的節省足以抵消多芯光纜（而非雙工光纜）成本的小幅增加。例如，使用8芯光纜的 400G-DR4 收發(fā)器比使用雙工光纜的 400G-FR4 收發(fā)器更具成本效益。

單模光纖和多模光纖應用可支持長(cháng)達 100 米的鏈路。硅光等技術(shù)的進(jìn)步降低了單模收發(fā)器的成本，使其接近同等多模收發(fā)器的成本。對于高速收發(fā)器（400G +）而言，單模收發(fā)器的成本往往是同等多模收發(fā)器成本的兩倍。雖然多模光纖的成本略高于單模光纖，但由于多模光纖線(xiàn)纜成本主要取決于 MPO 連接器，因此多模和單模之間的線(xiàn)纜成本差異較小。

此外，高速多模收發(fā)器的功耗比單模收發(fā)器低一到兩瓦。單一AI集群中最多有 768 個(gè)收發(fā)器，使用多模光纖的設置將節省高達 1.5 千瓦的功率。與每臺 GPU 服務(wù)器 10 千瓦的功耗相比，這似乎微不足道，但對于A(yíng)I集群而言，任何節省功耗的機會(huì )都能在A(yíng)I訓練和運行過(guò)程中節省大量費用。

收發(fā)器與AOC

許多 AI/ML 集群和 HPC 使用有源光纜（AOC）來(lái)實(shí)現 GPU 和交換機之間的互連。有源光纜是一種設備直連線(xiàn)纜，兩端集成了光發(fā)射器和接收器。大多數有源光纜用于短距離傳輸，其通常使用多模光纖和 VCSEL光源。高速（>40G）有源光纜和連接光收發(fā)器的光纜相同，使用的都是 OM3 或 OM4 光纖。AOC 中的發(fā)射器和接收器可能與同類(lèi)收發(fā)器中的發(fā)射器和接收器相同，但它們不一定適合所有場(chǎng)合使用。每個(gè)發(fā)射器和接收器都不需要滿(mǎn)足嚴格的互操作性規范，它們只需要與連接到光纜另一端的特定設備一同運行即可。由于安裝人員無(wú)法接觸到光纖連接器，因此無(wú)需具備清潔和檢查光纖連接器的技能。

AOC 的缺點(diǎn)是不具備收發(fā)器能提供的靈活性。安裝 AOC 需要耗費大量時(shí)間，因為必須在連接著(zhù)收發(fā)器的情況下布線(xiàn)。正確安裝帶分支的 AOC 尤其具有挑戰性。AOC 的故障率是同等收發(fā)器的兩倍。當 AOC 出現故障時(shí)，新的 AOC 必須通過(guò)網(wǎng)絡(luò )來(lái)布線(xiàn)，這也就占用了計算時(shí)間。最后，當需要升級網(wǎng)絡(luò )鏈路時(shí)，必須移除 AOC 并用新的 AOC 取而代之。對于收發(fā)器，光纖布線(xiàn)是基礎設施的一部分，并且可以在幾代數據速率下保持不變。

結論

AI/ML 已經(jīng)到來(lái)，并將成為人、企業(yè)和設備之間交互方式中更重要、更集成的一部分。但不可否認的是，雖然與AI服務(wù)的交互可以在手機上實(shí)現，但它仍然依賴(lài)于大型數據中心基礎設施和算力的驅動(dòng)，而能夠快速高效地訓練AI的企業(yè)將在當前瞬息萬(wàn)變、超級互聯(lián)的世界中占據重要的一席之地。如若當下投資于先進(jìn)的光纖基礎設施以推動(dòng)AI的訓練和運行，日后就會(huì )收獲令人難以置信的成果。