騰訊云奪冠計算奧運冠軍 憑什么創(chuàng )下史上最好大數據成績(jì)？

　　2016年11月10日，具有計算奧運會(huì )之稱(chēng)的SortBenchmark全球排序競賽公布結果，其中，騰訊云用98.8秒完成100TB的數據排序，打破阿里云去年創(chuàng )造的329秒記錄，以及更早前百度的716秒紀錄，這引起了業(yè)界的關(guān)注。

　　眾所周知，騰訊云直到最近幾年才開(kāi)始發(fā)力公有云和大數據業(yè)務(wù)，而阿里云早從2009年開(kāi)始就已經(jīng)大張旗鼓的發(fā)展云計算業(yè)務(wù)，進(jìn)入2016年全力推進(jìn)大數據業(yè)務(wù)。那么，騰訊云在2016年底刷新大數據國際比賽的紀錄，是偶然事件還是確有過(guò)人之處?記者就此采訪(fǎng)了騰訊云副總裁、騰訊數據平臺部總經(jīng)理蔣杰。

　　史上最好的大數據比賽成績(jì)

　　SortBenchmark是一個(gè)專(zhuān)門(mén)從事排序基準評估的非盈利國際機構，該機構每年主持的SortBenchmark排序競賽被認為是全球的“計算奧運會(huì )”，它主要通過(guò)“Sort排序”這個(gè)最基本的計算問(wèn)題來(lái)評估一家公司或機構大規模計算的綜合實(shí)力，不僅全面評測分布式系統軟件架構能力，也評測硬件架構能力。這是因為“Sort排序”計算任務(wù)雖然比較基礎，但兼具測試系統IO(數據吞吐)和CPU資源消耗這兩項計算系統的核心性能評估指標，尤其適合以海量數據為基準來(lái)測評不同分布式系統的性能。

　　(上圖：近三年來(lái)SortBenchmark最好成績(jì)對比)

　　今年騰訊云總共參加了SortBenchmark的兩項主要比賽：GraySort和MinuteSort。GraySort比拼的主要是參賽系統對大規模數據的處理能力，MinuteSort則評測參賽系統的效率。具體來(lái)說(shuō)，GraySort比拼的是在最短時(shí)間內將總共100TB、一共1萬(wàn)億條無(wú)序的100字節記錄、按照從小到大的順序排序;而MinuteSort比拼的是在1分鐘之內能夠完成多少數據量的排序。每個(gè)比賽還再分為Indy(專(zhuān)用目的排序)和Daytona(通用目的排序)兩個(gè)子項。

　　騰訊云“數智分布式計算平臺”(以下簡(jiǎn)稱(chēng)“數智”)參加IndyGraySort測試，每分鐘可完成60.7TB的數據排序，去年的最好成績(jì)?yōu)?8.2TB/分鐘(阿里云)、2014年最好成績(jì)?yōu)?.38TB/分鐘(百度);參加DaytonaGraySort測試，每分鐘可完成44.8TB的數據排序，去年的最好成績(jì)?yōu)?5.9TB/分鐘(阿里云)、2014年最好成績(jì)?yōu)?.35TB/分鐘(UCSD，加州大學(xué)圣地亞哥分校)以及4.27TB/分鐘(ApacheSpark)。

　　騰訊云“數智”參加IndyMinuteSort測試的成績(jì)?yōu)?5TB，去年的最好成績(jì)?yōu)?1TB(阿里云)、2014年的最好成績(jì)?yōu)?TB(百度);參加DaytonaMinuteSort測試的成績(jì)?yōu)?7TB，去年的最好成績(jì)?yōu)?.7TB(阿里云)、2014年的最好成績(jì)?yōu)?.7TB(三星)。

　　根據SortBenchmark官網(wǎng)，可以看到騰訊云此次所取得的成績(jì)即便在SortBenchmark歷史上也算得上是最強。而蔣杰介紹說(shuō)，騰訊云今年能取得好成績(jì)，不僅得益于騰訊云平臺自有的強大調度能力，還由于騰訊云平臺對自身的調度系統做了大量?jì)?yōu)化工作，目前在騰訊內部系統中每天的調度達2億次，可以說(shuō)是在海量系統中不斷驗證磨合出的大數據處理能力。

　　相應花了多少成本?

　　在本次SortBenchmark比賽中，騰訊云參賽系統主要采用的是512臺IBM的OpenPOWER服務(wù)器和邁絡(luò )思的100Gb網(wǎng)卡。蔣杰強調，這樣配置的平臺并不是專(zhuān)門(mén)為了本次比賽所搭建，而是來(lái)自于騰訊的日常計算服務(wù)網(wǎng)絡(luò )。

　　具體來(lái)說(shuō)，本次騰訊云的參賽系統配備了512個(gè)節點(diǎn)，每個(gè)節點(diǎn)配置兩顆OpenPOWER處理器、512GB內存、4塊華為NVMeSSD盤(pán)、100GbMellanox網(wǎng)卡。而去年阿里云配備3377個(gè)節點(diǎn)，每節點(diǎn)兩顆至強E5-2630芯片、96G內存、12塊SATA硬盤(pán)、10G網(wǎng)卡。由于技術(shù)的飛速進(jìn)行，兩個(gè)參賽系統的成本相差不大，騰訊云的系統總體成本甚至還要略低一些。

　　眾所周知，基于RISC架構的IBMPower芯片可同時(shí)執行多條指令，可將一條指令分割成若干個(gè)進(jìn)程或線(xiàn)程，交由多個(gè)處理器同時(shí)執行，因此并行計算性能方面遠優(yōu)于基于CISC架構的英特爾x86芯片。同時(shí)，Power架構還可以很好地結合GPU的優(yōu)勢，形成IBM+NVIDIA的強強組合。IBM在2013年對Power芯片技術(shù)進(jìn)行了開(kāi)放，隨后出現了大批定制的OpenPOWER服務(wù)器。值得一提的是，OpenPOWER服務(wù)器芯片不僅性能更優(yōu)，而價(jià)格甚至要低于英特爾的同等性能芯片。

　　而基于OpenPOWER服務(wù)器的騰訊云大數據實(shí)時(shí)計算平臺，能提供單集群上千臺規模實(shí)時(shí)流式計算;在數據存儲方面則支持多重數據備份、萬(wàn)億數據的存儲能力;在任務(wù)調度方面，支持百萬(wàn)級任務(wù)的毫秒級調用;而且可以自動(dòng)發(fā)現故障節點(diǎn)并自動(dòng)剔除，通過(guò)業(yè)務(wù)的自動(dòng)遷移、關(guān)鍵節點(diǎn)的主從熱備，實(shí)現故障的秒級切換。

　　當然，此次參賽也還是經(jīng)歷了不少困難。蔣杰回憶說(shuō)，在調優(yōu)的過(guò)程中發(fā)現網(wǎng)絡(luò )IO和磁盤(pán)IO都達不到理想的極限能力，雖然當時(shí)已經(jīng)跑出了不錯的成績(jì)，但整個(gè)團隊沒(méi)有放過(guò)任何一個(gè)可以提高性能的機會(huì )。從架構到代碼細節再到硬件的驅動(dòng)層，團隊成員加班加點(diǎn)、不停地提出優(yōu)化方案和嘗試，最終達到理想成績(jì)。

　　背后的騰訊云大數據平臺

　　蔣杰認為，最近幾年國內互聯(lián)網(wǎng)公司頻頻在該大賽中奪冠，說(shuō)明國內公司在云計算、大數據等領(lǐng)域已經(jīng)有了長(cháng)足的進(jìn)步，本次奪冠就是騰訊多年來(lái)技術(shù)積累的成果。在今年實(shí)際參賽時(shí)，組委會(huì )突然宣布比寒提前一個(gè)月進(jìn)行，這出乎很多參賽團隊的預料，但這也考驗了參賽團隊的技術(shù)能力。

　　騰訊云參賽團隊所使用的大數據平臺“數智”，是騰訊云于2016年發(fā)布了的大數據解決方案，這是基于騰訊十余年海量數據處理核心能力所打造的一站式大數據處理平臺。在對微信每天160億級別的多維分析場(chǎng)景中，“數智”平臺能夠做到6秒返回結果。

　　“數智”結合騰訊在互聯(lián)網(wǎng)海量數據處理經(jīng)驗、開(kāi)源生態(tài)和自研組件服務(wù)，具有穩定易用、技術(shù)開(kāi)放、秒級多維分析處理、安全可靠等特性。在基礎架構上，騰訊云大數據團隊對包括YARN、HIVE、PIG、SPARK、Kylin等眾多開(kāi)源組件進(jìn)行深度優(yōu)化，大幅提升了平臺性能;在使用上，可以按需部署大數據處理服務(wù)，包括數據倉庫建設、報表展示、數據分析、客戶(hù)畫(huà)像等大數據應用。除此之外，“數智”還囊括了騰訊自研的機器學(xué)習引擎和內置算法庫，可視化操作方式讓非技術(shù)人員也可能輕松駕馭數據挖掘。

　　蔣杰介紹說(shuō)，騰訊云“數智”平臺的誕生是因為騰訊要處理海量數據的自身需求。截至2015年底，騰訊QQ、QQ空間、微信等產(chǎn)品線(xiàn)背后，有著(zhù)3萬(wàn)億條數據接入、100億次數據分發(fā)、120PB的存儲、8.6PB的離線(xiàn)計算、2.5萬(wàn)億的實(shí)時(shí)計算、500萬(wàn)次任務(wù)調度等億萬(wàn)級的數據處理經(jīng)驗和能力，這些都是騰訊云“數智”這一大數據產(chǎn)品的基礎。

　　巨大的數據量和高復雜度高的數據分析，對底層技術(shù)平臺的要求也非常高。春晚?yè)u一搖發(fā)紅包的千萬(wàn)級并發(fā)請求量是搶火車(chē)票的一百余倍，要處理的不僅是海量并發(fā)請求，還有資源推送、紅包收發(fā)和金融級的安全防護等等。面臨每天的海量多維分析計算需求，已經(jīng)無(wú)法通過(guò)傳統的開(kāi)源社區組件來(lái)保證分析結果及時(shí)效性。

　　騰訊云大數據團隊針對交互式海量數據分析需求而自主研發(fā)了秒級分析平臺。“數智”實(shí)時(shí)檢索分析把檢索與數據分析有機結合，摒棄傳統數據分析的系統數據預加工模式，而是根據用戶(hù)輸入的個(gè)性化數據分析需求實(shí)時(shí)計算，可實(shí)現在億萬(wàn)級數據、萬(wàn)級維度的量級下進(jìn)行任意維度組合、任意層級下鉆等分析作業(yè)，結果響應在數秒以?xún)取?/p>

　　蔣杰表示，“數智”是騰訊云全面開(kāi)放騰訊18年海量大數據處理經(jīng)驗，讓企業(yè)在最短的時(shí)間內、用最少的資源，通過(guò)精準計算來(lái)建立核心商業(yè)競爭優(yōu)勢。用戶(hù)采用騰訊云大數據解決方案后，可在短時(shí)間內具備秒級響應的實(shí)時(shí)多維數據分析能力。“數智”目前已經(jīng)在政府、傳統企業(yè)和互聯(lián)網(wǎng)企業(yè)中深度應用。

　　在2015年9月，國務(wù)院印發(fā)了《促進(jìn)大數據發(fā)展行動(dòng)綱要》，指出信息技術(shù)與經(jīng)濟社會(huì )的交匯融合引發(fā)了數據迅猛增長(cháng)，數據已成為國家基礎性戰略資源。隨著(zhù)騰訊云在國際大數據大賽中取得新的世界紀錄，騰訊云的大數據平臺勢必將與騰訊的“互聯(lián)網(wǎng)+”相輔相承，成為在十三五期間的大數據高速公路之一。