揭秘IPU的設計理念:站在客戶(hù)的角度設計處理器

“IPU設計者的幕后故事”：英特爾研究員Brad Burres介紹如何通過(guò)基礎設施處理器（IPU）使中央處理器（CPU）擺脫低價(jià)值的繁瑣任務(wù)，使其專(zhuān)注于處理更重要的工作負載。

如果問(wèn)Brad Burres在業(yè)余時(shí)間有什么愛(ài)好，您可能想不到他的回答如此簡(jiǎn)單：除了騎摩托車(chē)、徒步旅行和帶領(lǐng)童子軍野外遠足，他還喜歡DIY。他說(shuō)：“當我們使用射釘槍時(shí)，只要全神貫注，那便不會(huì )遇到什么棘手問(wèn)題了?！?/p>

有趣的是，作為以太網(wǎng)產(chǎn)品事業(yè)部的英特爾研究員，Brad Burres是打造IPU的幕后關(guān)鍵人物之一。IPU是一款針對特定領(lǐng)域的處理器，旨在為服務(wù)器客戶(hù)解決棘手問(wèn)題。當CPU內核數量隨著(zhù)計算需求的增加而增加，開(kāi)銷(xiāo)或基礎設施處理任務(wù)量也會(huì )隨之增加。人們最不想看到的事情就是讓強大的CPU內核陷入處理開(kāi)銷(xiāo)的泥潭，以致無(wú)法有效運行應用程序。

可以這樣作類(lèi)比：假如您希望增加團隊人數，從而更快地完成工作，但這需要成本——需要考慮分配任務(wù)所需的時(shí)間、確保各項工作妥善完成、管理團隊的輪班時(shí)間表等。在數據中心內，網(wǎng)絡(luò )、存儲和安全等基礎設施功能都需要處理能力，但不一定必須由CPU處理，而這就是IPU的用武之地。

Brad Burres表示：“多達30%至40%的處理器周期花費在基礎設施上?！蹦敲?，將其中一些基礎設施任務(wù)轉移到IPU，則可以為更重要的工作負載釋放CPU周期。

Brad Burres介紹道：“大型基礎設施供應商都有一個(gè)共同的目標，那就是‘不在至強?處理器上運行任何基礎設施周期’。如果您是微軟Azure、AWS或谷歌云等公有云提供商，您不會(huì )希望在基礎設施任務(wù)或網(wǎng)絡(luò )上花費絲毫至強計算周期?！?/p>

群策群力解決問(wèn)題

英特爾與谷歌聯(lián)手開(kāi)發(fā)了其首款ASIC IPU。谷歌這家網(wǎng)絡(luò )巨頭有一份具體的需求清單，需要全方位深度合作并進(jìn)行共同開(kāi)發(fā)的伙伴關(guān)系?；诖?，英特爾與谷歌的團隊共同開(kāi)發(fā)了可編程數據包處理功能，以支持由谷歌定義的一系列使用場(chǎng)景。雙方合作的最終成果就是Mount Evans，這款ASIC芯片負責進(jìn)行硬件卸載，也利用ARM N1內核來(lái)處理那些必須被處理，而又無(wú)需英特爾?至強?處理器的強大功能的工作負載。不過(guò)，這并非該款芯片的全部?jì)?yōu)點(diǎn)。為確保Mount Evans能夠盡可能高效地處理基礎設施任務(wù)，雙方做了大量工作。例如，Mount Evans支持每秒傳輸多達2億個(gè)數據包（這些信息包基于實(shí)際工作負載，而非基準工作負載）。

該款芯片雖然由英特爾與谷歌共同設計，但它絕非僅被用來(lái)解決谷歌所面臨的問(wèn)題。Brad Burres說(shuō)：“Mount Evans并非僅針對谷歌而打造。雖然其優(yōu)化功能針對谷歌在其自身運營(yíng)中發(fā)現的問(wèn)題而量身定制，但該款芯片足夠靈活，也可以用于其它許多地方?！?/p>

其他一些客戶(hù)也希望利用首代ASIC IPU來(lái)滿(mǎn)足其數據中心運營(yíng)的類(lèi)似需求。

Brad Burres表示：“我們從多個(gè)客戶(hù)那里了解到存在類(lèi)似問(wèn)題，然后花時(shí)間和從事技術(shù)工作的朋友討論如何解決這些問(wèn)題，并尋找共性，由此催生出打造IPU的絕佳想法?！彼a充說(shuō)，面臨類(lèi)似基礎設施挑戰的其他公司已經(jīng)提出了自己的解決方案。

進(jìn)化理論：智能網(wǎng)卡、IPU以及未來(lái)

雖然IPU進(jìn)入大眾視野才短短一年，但Brad Burres已經(jīng)為此冥思苦想了很多年。英特爾首款I(lǐng)PU的開(kāi)發(fā)工作始于2016年，當時(shí)是為了推出另一款與眾不同的產(chǎn)品，而這款產(chǎn)品最終演變成為一年前面市的產(chǎn)品。但其實(shí)，這款芯片的歷史可以追溯到更早。

Brad Burres在之前擔任智能網(wǎng)卡首席架構師期間，專(zhuān)注于網(wǎng)絡(luò )卸載、存儲卸載和整體數據包處理等領(lǐng)域，專(zhuān)門(mén)針對頂級云服務(wù)提供商。因此，對于一款最終將被設計用于這些領(lǐng)域的特定處理器來(lái)說(shuō)，這些都是熟悉的領(lǐng)域。從智能網(wǎng)卡到IPU的轉變是一個(gè)合乎邏輯的演變，而非僅僅是一個(gè)術(shù)語(yǔ)的變化。事實(shí)上，兩者之間的差異更廣泛地詮釋了IPU的未來(lái)。

Brad Burres解釋說(shuō)：“智能網(wǎng)卡是一個(gè)臨時(shí)術(shù)語(yǔ)。普通網(wǎng)卡不具備智能化功能，若非借助FPGA或計算，它只是一個(gè)固定管道。而智能網(wǎng)卡不僅擁有智能化功能，還具備內核和靈活性，但它只局限在網(wǎng)絡(luò )范圍內。隨著(zhù)存儲和遙測等附加功能的增加，我們有更多機會(huì )進(jìn)行優(yōu)化，‘智能網(wǎng)卡’一詞也不再能準確地描述這些芯片的功能?！?/p>

在需求波動(dòng)的情況下，對于整體業(yè)務(wù)圍繞租賃服務(wù)器容量的公司來(lái)說(shuō)，釋放通用算力十分重要。在此過(guò)程中，為滿(mǎn)足某些功能的需求增加而過(guò)度配置是一種浪費，而引入更強大的至強處理器則不是非常經(jīng)濟?；诖?，客戶(hù)爭相購買(mǎi)Mount Evans IPU庫存，以應對上述挑戰。

Brad Burres說(shuō)：“IPU的市場(chǎng)需求非常旺盛。這不僅僅是芯片出貨的問(wèn)題，英特爾必須確保其軟件也能夠滿(mǎn)足客戶(hù)需求，例如擴展到邊緣。它不像至強處理器這樣，當我們把至強處理器賣(mài)給客戶(hù)后，客戶(hù)就會(huì )去編寫(xiě)軟件。而在IPU的出貨中，我們發(fā)揮了很重要的作用，并希望確保漸進(jìn)式的進(jìn)步?！?/p>

5月發(fā)布的IPU更新路線(xiàn)圖列出了未來(lái)四年英特爾IPU，包括第二代Mount Morgan的一些細節。雖然現在還處于早期階段，但致力于開(kāi)發(fā)Mount Morgan和后續第三代IPU的團隊正在與至強產(chǎn)品團隊合作，以協(xié)調并確保他們沿著(zhù)各自的路徑并行前進(jìn)，并在必要時(shí)匯合。

“前途不可限量?！碑敱粏?wèn)到IPU的未來(lái)發(fā)展時(shí)，Brad Burres說(shuō)：“一個(gè)新領(lǐng)域的創(chuàng )新率相當高，這也正是它的魅力所在。IPU足夠靈活，可以支持更多使用場(chǎng)景。Mount Evans的使用場(chǎng)景就涵蓋了網(wǎng)絡(luò )和基礎設施領(lǐng)域，下一步則是存儲領(lǐng)域。隨后，您會(huì )開(kāi)始看到一些I/O任務(wù)向下轉移到IPU。創(chuàng )新空間無(wú)處不在——而我們正處于冰山一角?！?/p>

這種想法可能會(huì )讓很多人大吃一驚，但工程師更喜歡“初期而有趣”的階段。因為在這個(gè)階段，“開(kāi)銷(xiāo)任務(wù)”（例如排滿(mǎn)會(huì )議的日程表）被壓縮到最低。開(kāi)發(fā)IPU雖然不像周日下午使用射釘槍那么簡(jiǎn)單，但它比很多人想象的要更容易一些。