亞馬遜第三代服務(wù)器芯片來(lái)了！機器學(xué)習負載性能飆3倍，能耗降60%

作者 |  心緣
編輯 |  漠影
芯東西12月1日報道，今日凌晨，云計算領(lǐng)域最受矚目的年度技術(shù)盛會(huì )AWS re:Invent在拉斯維加斯舉行。這是時(shí)隔兩年，re:Invent再度在線(xiàn)下舉辦。今年也是AWS re:Invent十周年和全球最大云服務(wù)商亞馬遜云科技（AWS）的十五周年。AWS首席執行官Adam Selipsky在主題演講中首先分享了AWS的最新成績(jì)，包括Amazon S3服務(wù)存儲了3萬(wàn)億多份文件、AWS提供逾200種服務(wù)、在全球有數百萬(wàn)客戶(hù)等。期間，AWS發(fā)布其第三代自研服務(wù)器處理器Graviton3、基于A(yíng)WS自研云端AI訓練芯片的加速實(shí)例Trn1、讓開(kāi)發(fā)小白也能輕松上手機器學(xué)習預測模型的Amazon SageMaker Canvas、用于輕松構建數字孿生的AWS IoT TwinMaker等一系列重磅新品。值得一提的是，這是Adam Selipsky接任AWS首席執行官一職以來(lái)，首次在線(xiàn)下發(fā)表公開(kāi)演講。在原AWS負責人Andy Jassy接替Jeff Bezos擔任亞馬遜CEO后，曾為AWS效力11年的Selipsky成為AWS新的掌舵人。
Graviton3：機器學(xué)習負載性能提高3倍

AWS首先推出其第三代基于A(yíng)rm的自研服務(wù)器處理器Graviton3。相比上一代處理器，Graviton3的計算性能可提高25%，浮點(diǎn)和加密工作負載性能提高2倍，機器學(xué)習工作負載性能提高3倍，其消耗能源將減少60%。

Graviton3處理器還包括一項新的指針身份驗證功能以提高安全性。AWS正與操作系統及編譯器開(kāi)發(fā)人員合作，以增加對該功能的額外支持。AWS在2018年底推出其首款自研Graviton處理器，2019年推出第二代Graviton2，如今AWS客戶(hù)可使用12種由Graviton2驅動(dòng)的不同實(shí)例。新款Graviton3芯片將為AWS即將推出的EC2 C7g實(shí)例提供支持，適用于HPC、批處理、電子設計自動(dòng)化（EDA）、媒體編碼、科學(xué)建模、廣告服務(wù)、分布式分析和基于CPU的機器學(xué)習推理等計算密集型工作負載。C7g實(shí)例也是云產(chǎn)業(yè)中第一個(gè)配備DDR5內存的實(shí)例。除了耗電量更少外，其內存將提供比上一代EC2實(shí)例中使用的DDR4內存高50%的帶寬。在網(wǎng)絡(luò )方面，C7g實(shí)例將提供高達30Gbps的網(wǎng)絡(luò )帶寬和彈性結構適配器（EFA）支持。目前AWS正在運行C7g實(shí)例的預覽。Selipsky說(shuō)，現在幾乎每個(gè)工作負載都有超過(guò)475種不同的實(shí)例類(lèi)型可用。

推出Trn1新實(shí)例，加速機器學(xué)習模型訓練

除了服務(wù)器芯片外，AWS早在2019年就發(fā)布其自研云端推理芯片，并于2020年推出其專(zhuān)為機器學(xué)習模型設計的自研云端訓練芯片Trainium。今日，AWS公布其由Trainium芯片提供支持的最新實(shí)例Trn1?！拔覀兿Ｍ転樵谠贫擞柧毶疃葘W(xué)習模型提供最佳的性?xún)r(jià)比，并在EC2上提供最快的性能?！盨elipsky說(shuō)。Trn1是第一個(gè)每秒帶寬高達800千兆字節的EC2實(shí)例，適用于大規模、多節點(diǎn)分布式訓練用例，包括圖像識別、自然語(yǔ)言處理、欺詐檢測和預測等等。

Selipsky談道：“我們可以將這些與Ultra集群聯(lián)系起來(lái)，這些集群由數萬(wàn)個(gè)與兆字節規模網(wǎng)絡(luò )互聯(lián)的訓練加速器組成。這些訓練Ultra集群由強大的機器學(xué)習超級計算機提供支持，用于快速訓練有數萬(wàn)億參數的最復雜、最深的學(xué)習模型?！?/span>早在2014年，亞馬遜就已成立芯片研發(fā)部門(mén)，并于次年收購以色列芯片設計公司Annapurna Labs。迄今AWS已公布其三個(gè)系列的自研芯片，除了前文所述的Arm服務(wù)器芯片、用于機器學(xué)習加速的云端訓練及推理芯片之外，還有替CPU分擔工作負載的AWS Nitro系統芯片。

Mainframe Modernization：讓客戶(hù)盡快“擺脫”主機，遷移上云

隨后，Selipsky宣布了一款主機遷移和現代化新平臺AWS Mainframe Modernization，旨在幫助AWS客戶(hù)盡快“擺脫”主機，以便更好地利用云。今天，客戶(hù)擺脫主機束縛的方法有幾種，要么幾乎原樣調整應用程序，要么可能會(huì )將應用程序重構和分解為云端的微服務(wù)。但這兩種方式都要耗費相當長(cháng)的時(shí)間來(lái)完成，因為客戶(hù)必須評估應用程序源代碼的復雜性，了解對其他系統的依賴(lài)性，轉換或重新編譯代碼，然后必須測試所有內容，以確保一切正常。而AWS Mainframe Modernization能幫助企業(yè)以比以往低得多的成本，更快地在A(yíng)WS上遷移、現代化和運行主機工作負載。使用其一套開(kāi)發(fā)、測試和部署工具以及兼容主機的運行時(shí)環(huán)境，它可以將主機工作負載移動(dòng)到云端所需的時(shí)間縮短多達2/3。

該解決方案還將幫助客戶(hù)評估分析他們的主機應用程序是否就緒，然后幫助他們選擇要走的路徑并制定計劃。許多公司可能希望在云上運行一些應用程序，并希望其中的一些實(shí)際AWS使用相同的API、硬件和工具，由AWS全面管理和支持。
AWS Private 5G：幾天構建專(zhuān)用移動(dòng)網(wǎng)絡(luò )

面向5G通信，AWS推出AWS Private 5G，一種可在幾天內即可輕松構建和擴展專(zhuān)用移動(dòng)網(wǎng)絡(luò )的新服務(wù)。

以往部署專(zhuān)用移動(dòng)網(wǎng)絡(luò )，需投入大量時(shí)間、金錢(qián)和精力來(lái)設計其網(wǎng)絡(luò )，以實(shí)現預期的峰值容量，并從多個(gè)供應商采購和集成軟件和硬件組件。即便客戶(hù)能夠運行網(wǎng)絡(luò )，當前的專(zhuān)用移動(dòng)網(wǎng)絡(luò )定價(jià)模型也會(huì )對每臺連接的設備收費，并使涉及數千臺連接設備的用例成本高昂。而使用AWS推出的這項新服務(wù)，用戶(hù)只需告知想在哪里構建網(wǎng)絡(luò )，并指定網(wǎng)絡(luò )容量，AWS就會(huì )提供所有必要的硬件、軟件和SIM卡。其自動(dòng)配置功能使得用戶(hù)可按需連接盡可能多的設備。AWS Private 5G簡(jiǎn)化了部署，允許客戶(hù)快速部署自己的4G/LTE或5G，可快速擴大和減少連接的設備數量，并受益于熟悉的按需云定價(jià)模型。該服務(wù)沒(méi)有前期費用或每臺設備成本，客戶(hù)僅支付他們要求的網(wǎng)絡(luò )容量和吞吐量。總體而言，用戶(hù)無(wú)需漫長(cháng)的規劃周期、復雜的集成和高昂的前期成本，即可享用到移動(dòng)技術(shù)的所有優(yōu)點(diǎn)。
Amazon SageMaker Canvas：零經(jīng)驗小白也能玩轉機器學(xué)習

Selipsky也談到機器學(xué)習，他說(shuō)AWS提供了周?chē)顝V泛和最完整的機器學(xué)習功能集，希望通過(guò)AWS Sagemaker推動(dòng)機器學(xué)習普及。今日，AWS又推出一項新的可視化、無(wú)代碼機器學(xué)習服務(wù)Amazon SageMaker Canvas。

與其現有的機器學(xué)習服務(wù)不同，這里的目標受眾不是高度技術(shù)性的數據科學(xué)家和工程師，而是企業(yè)內部的任何工程師或業(yè)務(wù)用戶(hù)。Amazon SageMaker Canvas使得沒(méi)有任何經(jīng)驗的用戶(hù)，無(wú)需編寫(xiě)任何代碼，只需用鼠標點(diǎn)擊拖拽，即可創(chuàng )建機器學(xué)習預測模型。該服務(wù)得到了AWS完全托管的機器學(xué)習服務(wù)SageMaker的支持，可用于解決欺詐檢測、減少流失和庫存優(yōu)化等業(yè)務(wù)關(guān)鍵型用例。
4項基于云的分析服務(wù)

AWS提供有大量分析工具來(lái)幫助客戶(hù)挖掘數據，并宣布推出Amazon Redshift、EMR、MSK和Kinesis等四項基于云的分析服務(wù)，它們現可作為無(wú)服務(wù)器和按需服務(wù)提供。

Selipsky提到不同的工作負載需要正確的數據庫來(lái)支持它們，分析服務(wù)也是如此?？蛻?hù)不想擔心運行這些服務(wù)帶來(lái)的基礎設施，除了省去管理集群的麻煩外，用戶(hù)只需為其使用的資源付費。AWS推出了數字程序AWS技能生成器，并在A(yíng)mazon.com上提供學(xué)習云技能，以及AWS重新/啟動(dòng)程序，以幫助剛開(kāi)始上云的用戶(hù)。“Amazon Redshift Serverless會(huì )自動(dòng)為您準備正確的計算資源?！盇WS的Danilo Poccia解釋說(shuō)：“隨著(zhù)更多并發(fā)用戶(hù)和新工作負載的發(fā)展，您的數據倉庫會(huì )自動(dòng)無(wú)縫擴展以適應變化。您可以選擇指定基本數據倉庫大小，以額外控制成本和應用程序特定的SLA?！?/span>同樣，AWS處理流數據的服務(wù)Kinesis現在提供完全托管的按需模式。使用此新容量模式，服務(wù)可以根據數據流量自動(dòng)擴展。為了方便企業(yè)訪(fǎng)問(wèn)所需數據，Selipsky展示了Amazon QuickSight Q功能如何提供儀表板以有用的方式顯示數據。

AWS Lake Formation：構建安全的數據湖

AWS Lake Formation是一個(gè)非常重要的安全提升，允許限制對特定行和列的訪(fǎng)問(wèn)，并僅向授權用戶(hù)自動(dòng)過(guò)濾和顯示數據。建立和管理數據湖涉及許多人工、復雜和耗時(shí)的任務(wù)。相比以往動(dòng)輒花費數周或幾個(gè)月的時(shí)間，采用AWS Lake Formation，幾天就能輕松地建立一個(gè)安全的數據湖。

Selipsky分享了一些新特性，可簡(jiǎn)化進(jìn)一步的數據加載、優(yōu)化存儲和管理對數據湖的訪(fǎng)問(wèn)：一個(gè)是Governed Tables。這是一種新型的Amazon S3表，使得在任何規模下攝取和管理數據變得簡(jiǎn)單和可靠。它可以自動(dòng)管理沖突和錯誤，確保用戶(hù)視圖一致，并無(wú)需自定義錯誤處理代碼或批處理更新。當啟動(dòng)為Governed Tables提供自動(dòng)壓縮的存儲優(yōu)化選項時(shí)，用戶(hù)無(wú)需自定義ETL作業(yè)，這些作業(yè)讀取、合并和壓縮數據到新文件中，然后替換原始文件。還有具有行和單元級安全性的粒度訪(fǎng)問(wèn)控制，用戶(hù)可根據執行操作的身份控制對查詢(xún)結果和AWS Glue ETL作業(yè)中的特定行和列的訪(fǎng)問(wèn)。AWS IoT TwinMaker：輕松構建數字孿生

最后出場(chǎng)的是一項名為AWS IoT TwinMaker的新服務(wù)，可用于輕松創(chuàng )建和使用現實(shí)世界系統的數字孿生。數字孿生是建筑物、工廠(chǎng)、生產(chǎn)線(xiàn)和設備等事物的虛擬表示，它們定期更新現實(shí)世界數據，以模仿其所代表系統的行為。有了這項新服務(wù)，用戶(hù)無(wú)需將數據移動(dòng)到單個(gè)存儲庫中，便可通過(guò)連接視頻提要和應用程序等來(lái)源的數據來(lái)創(chuàng )建數字孿生。

另一個(gè)平臺AWS IoT FleetWise允許制造商從數百萬(wàn)輛車(chē)中收集數據，并易于在云中進(jìn)行分析。用戶(hù)可將內置數據連接器用于這些服務(wù)：AWS IoT FleetWise用于設備和時(shí)間序列傳感器數據；Amazon Kinesis視頻流用于視頻數據；Amazon Simple Storage Service（S3）用于存儲視覺(jué)資源（如CAD文件）和來(lái)自業(yè)務(wù)應用程序的數據。

AWS IoT TwinMaker還提供了一個(gè)框架以創(chuàng )建自己的數據連接器，與其他數據源（如Snowflake和Siemens MindSphere）一起使用。一旦創(chuàng )建了數字孿生，用戶(hù)可能會(huì )希望在物理環(huán)境中可視化數據。為了解決這個(gè)問(wèn)題，AWS IoT TwinMaker創(chuàng )建了一個(gè)數字孿生圖，它結合了用戶(hù)物理系統的虛擬表示和連接的數據源之間的關(guān)系。這允許用戶(hù)準確建模他們的現實(shí)世界環(huán)境。用戶(hù)可以導入現有的3D模型來(lái)排列物理空間的3D場(chǎng)景。從那里，用戶(hù)也可以添加交互式視頻和傳感器數據覆蓋，以及來(lái)自連接機器學(xué)習服務(wù)的見(jiàn)解。該服務(wù)附帶了Amazon Managed Grafana的插件，這是Grafana Labs開(kāi)放儀表板和可視化平臺的托管服務(wù)。
結語(yǔ)：云正為更多企業(yè)提供轉型的關(guān)鍵途徑

在過(guò)去的15年里，云計算作為新興技術(shù)革命的核心驅動(dòng)力，正為越來(lái)越多的企業(yè)提供了實(shí)現轉型的關(guān)鍵途徑?！拔覀儾艅倓傞_(kāi)始，”Selipsky提到只有5-15%的支出轉移到云端，因此有一個(gè)很大的機會(huì )到來(lái)，5G和物聯(lián)網(wǎng)也變得非常重要。在演講期間，Selipsky還宣布，AWS正在為培訓盡一份力，希望到2025年培訓29萬(wàn)個(gè)云技能工人，以應對云相關(guān)工作的爆發(fā)式增長(cháng)。