英偉達的進(jìn)化之路：從電子游戲到人工智能

　　“深度學(xué)習幾乎和大腦一樣”，黃仁勛說(shuō)：“它非常有用，你可以教會(huì )他幾乎所有事情。但是它有一個(gè)非常大的壁壘，那就是它需要大量的計算。而我們的GPU具備這樣的計算能力，是深度學(xué)習計算模型的理想選擇?！?/p>本文引用地址：http://dyxdggzs.com/article/201612/341844.htm

　　深度學(xué)習發(fā)展史具有里程碑意義的事件發(fā)生在2010年帕羅奧圖的一家日本餐館，在這里，斯坦福的軟件語(yǔ)言學(xué)教授吳恩達(Andrew Ng)會(huì )見(jiàn)了Google 當時(shí)的 CEO 拉里·佩奇和塞巴斯蒂安·特倫(Sebastian Thrun)。塞巴斯蒂安·特倫是一位才華洋溢的計算機科學(xué)家，后來(lái)成為了Google X實(shí)驗室的負責人。早在2008年吳恩達就發(fā)表了一篇關(guān)于將GPU運用到深度學(xué)習模型的學(xué)術(shù)文章?！吧疃葘W(xué)習在2008年還不常見(jiàn)”，吳恩達說(shuō)：“當時(shí)的風(fēng)氣是寫(xiě)出花哨的算法?！?/p>

　　特倫開(kāi)發(fā)了最早一批的自動(dòng)駕駛車(chē)，在斯坦福他和吳恩達的辦公室只有一墻之隔，這兩位科學(xué)家共同選擇了在Google建立一個(gè)深度學(xué)習研究團隊。這樣的選擇是有道理的：Google有大量的計算基礎設施，這對于搭建世界上最大的神經(jīng)網(wǎng)絡(luò )來(lái)說(shuō)是再好不過(guò)的了。佩奇同意了他們的想法，Google Brain就這樣誕生了。Google Brain產(chǎn)出的深度學(xué)習幾乎滲透到了Google的每一個(gè)產(chǎn)品里，尤其是搜索、語(yǔ)音識別和圖像識別。

　　在谷歌開(kāi)始開(kāi)發(fā)Google Brain的同時(shí)，相隔2500英里以外的另一只研究團隊也在搗鼓著(zhù)深層學(xué)習。2012年，當時(shí)還是多倫多大學(xué)博士研究生的Alex Krizhevsky向ImageNet大賽提交了他出色的研究成果。全球各地的參賽者都可以向ImageNet大賽提交自己的軟件，比賽內容是軟件對圖像中的物件和場(chǎng)景識別的精準度。Alex Krizhevsky在自己的房間里用兩塊英偉達GeForce游戲芯片開(kāi)發(fā)出了他的深度學(xué)習神經(jīng)網(wǎng)絡(luò )系統，他向其中導入了120萬(wàn)張圖片來(lái)訓練其深度學(xué)習模型。他開(kāi)發(fā)的這套模型所達到的圖像識別準確度是前所未有的，錯誤率只有15%——對于以前25%的錯誤率來(lái)說(shuō)是巨大的進(jìn)步。Alex Krizhevsky的研究成果不僅贏(yíng)得了當年的ImageNet大賽還立刻在學(xué)術(shù)界引起了巨大的反響。(Alex Krizhevsky和他以前在多倫多大學(xué)的教授現在都在Google工作。)

　　有了這樣的進(jìn)步以后，深層學(xué)習開(kāi)始以野火般的趨勢推展開(kāi)來(lái)。除了谷歌以外，微軟、Facebook和亞馬遜也開(kāi)始著(zhù)手富有前瞻性的深層學(xué)習項目。英偉達加大了對CUDA基礎軟件生態(tài)系統的投資，這一決定成為了推動(dòng)這一場(chǎng)變革的關(guān)鍵助因?！斑@需要多年投入大量資金，”英偉達CUDA開(kāi)發(fā)團隊領(lǐng)頭人Ian Buck說(shuō)：“我們現在正在從多年前這筆富有遠見(jiàn)的投資中收獲果實(shí)，這是黃仁勛多年來(lái)一直的承諾?！?/p>

　　基于深層學(xué)習，英偉達持續優(yōu)化其硬件。英偉達將8片最新發(fā)布的服務(wù)器芯片Tesla P100集裝在一個(gè)三英尺長(cháng)五英寸厚的長(cháng)方形容器中，英偉達將這個(gè)容器命名為DGX-1并號稱(chēng)其是“世界上第一臺盒子里的AI”。這臺售價(jià)130,000美金的機器的計算速度達到了每秒170萬(wàn)億次( teraflop)，這相當于250臺傳統服務(wù)器的計算速度。今年8月，黃仁勛親自將第一臺DGX-1送給Elon Musk，Elon Musk在舊金山運營(yíng)了一個(gè)名為OpenAI的非營(yíng)利AI項目。

　　黃仁勛的競爭意識在他早年就顯現出來(lái)了。黃仁勛于1963年出生在臺灣，在他10歲那年，他的父母還在辦理移民手續，他被送到肯塔基州東部偏遠地區的寄宿學(xué)校上學(xué)，在那里度過(guò)了糟糕的青春時(shí)光。當時(shí)那里環(huán)境惡劣，他的室友是比他年長(cháng)7歲，身上有7處刀傷的男生。黃仁勛找到了自己的情緒出口，他迷上了乒乓球。1978年，15歲那年，他在美國乒乓球公開(kāi)賽中奪得了青年組雙人季軍。

　　黃仁勛在高中時(shí)又迷上了計算機，后來(lái)在俄勒岡州立大學(xué)(Oregon State University)學(xué)習計算機科學(xué)及芯片設計。在那里，他還遇見(jiàn)了他的老婆Lori。畢業(yè)以后，他們搬到了硅谷，在這里黃仁勛的第一份工作是在Intel的對手AMD那里設計處理器芯片。同時(shí)，他繼續進(jìn)修學(xué)習，在1992年，他在斯坦福取得了電氣工學(xué)學(xué)碩士學(xué)位。接下來(lái)，他就在芯片制造商LSI Corp.遇見(jiàn)了Malachowsky和Priem，當時(shí)Malachowsky和Priem都還在Sun Microsystems工作。

　　他們三個(gè)想創(chuàng )辦一家圖像處理芯片公司時(shí)，黃仁勛才剛滿(mǎn)30歲。他們在早期圖像處理中看到了可以帶來(lái)進(jìn)步的巨大機遇，他們的產(chǎn)品后來(lái)也成功的運用在了PC上。

　　英偉達在1995年發(fā)布了第一代芯片NV1，耗費了1千萬(wàn)美金開(kāi)發(fā)費，這筆錢(qián)由紅杉資本和Sutter Hill Ventures提供。英偉達設想NV1可以在很多場(chǎng)景下使用，但不幸的是消費者并不買(mǎi)單。當時(shí)英偉達才剛建立起來(lái)兩年，瀕臨破產(chǎn)，他們被迫解雇了幾乎一半的員工，最后留下了40人。他們于1997年發(fā)布的第三代芯片RIVA128終于取得了成功。RIVA128的速度比其他圖形處理器快4倍，公司的危機也由此解除了。

　　在接下來(lái)一二十年里，各廠(chǎng)商都在不斷打破處理速度記錄，這已成為該行業(yè)和英偉達的常態(tài)。但是當時(shí)的70家GPU公司現在還存在的只有英偉達和AMD了。

　　在當時(shí)，黃仁勛就成功地打造了愉快的工作氛圍，這呼應了該公司在Just 100榜單上的排名。他一直心系員工。在2015年的一場(chǎng)關(guān)于工作環(huán)境多樣化的會(huì )議上，他和一群英偉達女員工聊后發(fā)現了她們不能在事業(yè)上更上一層的原因。其中很重要的一點(diǎn)就是產(chǎn)假。黃仁勛決心改善這一狀況?，F在英偉達的員工可以休22周的帶薪產(chǎn)假，另外還有8周的彈性時(shí)間作為回歸過(guò)渡期。

　　黃仁勛將員工的幸福都歸功于英偉達所做的事業(yè)。進(jìn)入深沉學(xué)習這樣的領(lǐng)域也為整個(gè)工作氛圍注入了新的活力?！肮ぷ鞅仨毮軌蚪o整個(gè)社會(huì )帶來(lái)價(jià)值。我們希望我們的工作可以改進(jìn)癌癥的早期發(fā)現和診斷。這多么美妙啊!”

　　英偉達的成功并不是沒(méi)有人注意到，幾乎所有的大型芯片商都突然開(kāi)始追尋AI夢(mèng)了，同時(shí)也有大量的初創(chuàng )公司開(kāi)始開(kāi)發(fā)架構新型的深層學(xué)習芯片。開(kāi)始躁動(dòng)的不僅是芯片制造商。未來(lái)科技業(yè)中，深層學(xué)習至關(guān)重要，因此英偉達最重要的客戶(hù)Google現在也開(kāi)始制造芯片了，成了其競爭對手。Google在此之前從未制造過(guò)芯片。

　　Google在5月的開(kāi)發(fā)者大會(huì )上宣布已經(jīng)搭建好了一款名為T(mén)ensor Processor Unit的定制芯片，該芯片專(zhuān)為其深層學(xué)習框架TensorFlow制造。Google表示已經(jīng)在其數據中心中使用此芯片以改善其地圖服務(wù)和優(yōu)化搜索結果。

　　無(wú)獨有偶，英偉達的另一客戶(hù)微軟現在也開(kāi)始為自己的數據中心開(kāi)發(fā)制造芯片，該定制芯片被命名為FPGA，量產(chǎn)后，該芯片可以被重新編碼，對于A(yíng)I app來(lái)說(shuō)十分有利。

　　半導體行業(yè)的領(lǐng)軍人物英特爾似乎尤其懼怕英偉達的進(jìn)步。在錯過(guò)了智能手機的浪潮以后，它不能再錯過(guò)深層學(xué)習的浪潮了。英特爾沒(méi)有先進(jìn)的AI研究，于是選擇了瘋狂收購。英特爾最近買(mǎi)進(jìn)了兩家AI初創(chuàng )公司：在8月以4億多美金購入了Nervana，接下來(lái)還會(huì )收購Movidius，該筆收購還暫未披露任何報價(jià)。去年英特爾還豪擲160億美金購入了FPGA制造商Altera。

　　英特爾非常注重維護其收入來(lái)源——數據中心。英特爾以壟斷地位占據了該市場(chǎng)幾乎99%的市場(chǎng)份額。英偉達現有的芯片還不能替代英特爾的處理器，英特爾的處理器速度仍然更勝一籌。但是英特爾更想的是它的客戶(hù)們都只用它的產(chǎn)品。因此，英特爾計劃在2017年發(fā)布一款為深層學(xué)習優(yōu)化的服務(wù)器芯片——新一代Xeon Phi處理器。英特爾高調的宣布，有了從Nervana購入的技術(shù)，該公司可以在2020年之前將現有的深層學(xué)習網(wǎng)絡(luò )速度提高100倍。

　　英偉達的優(yōu)勢是它早于英特爾，AMD及其他對手在深層學(xué)習領(lǐng)域開(kāi)展業(yè)務(wù)。但是它也不能松懈。多年來(lái)，它在該領(lǐng)域一枝獨秀，但是現在市場(chǎng)涌入了更多競爭者了?！拔艺J為英偉達所處的位置非常好，形勢對他們非常有利，但是我還是不能保證他們會(huì )怎么樣，”資深科技分析家 Jon Peddie說(shuō)到，“有太多人對這個(gè)市場(chǎng)虎視眈眈了?！?/p>

　　“AI 計算是計算機的未來(lái)，”黃仁勛說(shuō)：“只要我們繼續保持著(zhù)最優(yōu)AI計算平臺的位置，我認為我們可以獲得大量業(yè)務(wù)。最終，GPU會(huì )存在于每一個(gè)公司?！?/p>

　　黃仁勛沿襲了曾長(cháng)期執掌英特爾的Andy Grove 在其90年代的暢銷(xiāo)書(shū)《只有偏執狂才能生存》(Only the Paranoid Survive)中的哲學(xué)理念。

　　“我一直都假設我們30天以后就沒(méi)有業(yè)務(wù)了，”黃仁勛說(shuō)：“這從來(lái)沒(méi)有變過(guò)。這不是害怕失敗，這是害怕自滿(mǎn)，我不想在心中為自滿(mǎn)留下一點(diǎn)點(diǎn)位置?！?/p>