谷歌正嘗試用深度學(xué)習技術(shù)開(kāi)發(fā)新一代計算機芯片
過(guò)去幾年中,谷歌開(kāi)發(fā)了一個(gè)AI硬件家族——Tensor Processing Unit(TPU芯片),用于在服務(wù)器計算機中處理AI。使用AI來(lái)設計芯片是一個(gè)良性循環(huán):AI讓芯片變得更好,經(jīng)過(guò)改良的芯片又能增強AI算法,依此類(lèi)推。
本文引用地址:http://dyxdggzs.com/article/202002/410149.htm在主題演講中,Dean向參會(huì )者介紹了如何使用機器學(xué)習程序決定計算機芯片的電路布局,最終設計與人類(lèi)芯片設計人員相比,其敏銳度相當甚至更高。
當“布線(xiàn)”任務(wù)中,芯片設計人員通常會(huì )使用軟件來(lái)確定芯片中的電路布局,有點(diǎn)類(lèi)似于建筑物設計平面圖。為了找到滿(mǎn)足多個(gè)目標的最佳布局,需要考慮很多因素,包括提供芯片性能,同時(shí)還要避免不必要的復雜性,否則可能增加芯片制造成本。這種平衡需要大量的人類(lèi)啟發(fā)式思維,以最佳方式進(jìn)行設計?,F在,人工智能算法也能夠以這種啟發(fā)式思維方式進(jìn)行設計。
Dean舉例說(shuō),深度學(xué)習神經(jīng)網(wǎng)絡(luò )只花了24個(gè)小時(shí)就解決了問(wèn)題,而人類(lèi)設計是需要6至8周,并且前者的解決方案更好。這減少了芯片總布線(xiàn)數量,從而提高了效率。
Dean向參會(huì )者表示,用于解決這個(gè)問(wèn)題的機器學(xué)習模型僅用24小時(shí)就提出了一種芯片設計方案,而人類(lèi)設計師用了8周時(shí)間才完成。
這個(gè)深度學(xué)習程序類(lèi)似于Google DeepMind部門(mén)為征服Go游戲開(kāi)發(fā)的AlphaZero程序,并且也是一種強化學(xué)習。為了實(shí)現目標,該程序嘗試了各種步驟來(lái)查看哪些步驟可以帶來(lái)更好的結果,只不過(guò)不是下棋,而是在芯片中設計最優(yōu)的電路布局。
與Go不同的是,這個(gè)解決方案的“空間”(布線(xiàn)數量)要大得多,而且如上所述必須滿(mǎn)足很多要求,不是僅僅贏(yíng)得比賽這一個(gè)目標。
Dean表示,這個(gè)內部研究還處于了解深度學(xué)習技術(shù)的早期階段?!拔覀冋谧屛覀兊脑O計師進(jìn)行試驗,看看如何開(kāi)始在工作流程中使用該程序。另外我們正在試圖了解該程序的用處以及它在哪些方面可以改進(jìn)?!?/p>
谷歌進(jìn)軍AI設計領(lǐng)域正處于芯片生產(chǎn)復興之時(shí),旨在讓不同大小的專(zhuān)用芯片都可以更快地運行機器學(xué)習。有機器學(xué)習科學(xué)家認為,專(zhuān)用AI硬件可以催生更大型、更高效的機器學(xué)習軟件項目。
Dean說(shuō),即使谷歌擴展了AI設計項目,仍然會(huì )有很多AI硬件初創(chuàng )公司(例如Cerebras Systems和Graphcore)給市場(chǎng)帶來(lái)多樣性,并迅速發(fā)展起來(lái)。并表示這種多樣性會(huì )很有意思。
“我不確定這些初創(chuàng )公司是否能夠在市場(chǎng)中生存下去,但這很有意思,因為其中很多初創(chuàng )公司采取了截然不同的設計方式。有些加速的模型很小,可以用于片上SRAM?!边@意味著(zhù),機器學(xué)習模型可能非常小,不需要外置內存。
“如果你的模型可用于SRAM,那么會(huì )變得非常高效,但如果不適合,那就不是你應該選擇的芯片?!?/p>
谷歌稱(chēng),這個(gè)機器學(xué)習程序創(chuàng )造了很多連人類(lèi)設計師都沒(méi)有想到的新穎電路設計。
當被問(wèn)及這些芯片是否會(huì )融入某些標準設計的時(shí)候,Dean暗示,多樣化是很有可能的,至少就目前來(lái)看?!拔掖_實(shí)認為大家使用的方法會(huì )各有千秋,因為當前有關(guān)機器學(xué)習的研究呈現爆炸式增長(cháng),機器學(xué)習被用于解決各種各樣的問(wèn)題,當有如此多選擇的時(shí)候,你肯定不想只盯著(zhù)一個(gè)選擇,而是想要五個(gè)或者六個(gè)——不會(huì )是一千個(gè),但得有五個(gè)或六個(gè)不同的設計點(diǎn)?!?/p>
Dean補充說(shuō):“哪些設計方法會(huì )脫穎而出,這一點(diǎn)令人期待,不管是能夠解決很多問(wèn)題的通用方法,還是加速某個(gè)方面的專(zhuān)業(yè)化方法?!?/p>
談到谷歌除了TPU之外的舉措, Dean表示,谷歌正在嘗試越來(lái)越多的專(zhuān)用芯片。當被問(wèn)及谷歌AI硬件是否可能延伸到其現有產(chǎn)品之外時(shí),Dean回答說(shuō):“哦,是的?!?/p>
“毫無(wú)疑問(wèn),機器學(xué)習正在被越來(lái)越廣泛地用于谷歌產(chǎn)品中,這些產(chǎn)品既包括基于數據中心的服務(wù),也有很多手機上的產(chǎn)品?!盌ean指出,Google Translate就是一個(gè)擺脫了復雜性的程序,該程序現在支持七十種不同的語(yǔ)言,即使是在飛行模式下也可以在手機上使用。
Dean指出,谷歌擴充了面向AI的芯片家族。例如Edge TPU就涵蓋了“不同的設計點(diǎn)”,包括低功耗應用,以及數據中心核心的高性能應用。當被問(wèn)及谷歌是否會(huì )進(jìn)一步擴大多樣性的時(shí)候,Dean回答說(shuō):“我認為會(huì )的?!?/p>
Dean表示,“即使在非數據中心領(lǐng)域,你會(huì )也看到不同高功率環(huán)境——例如自動(dòng)駕駛汽車(chē)——之間的區別,不一定是1瓦,有可能是50或100瓦。因此,針對這種環(huán)境和針對手機環(huán)境,你需要不同的方法?!蓖瑫r(shí),還有農業(yè)傳感器之類(lèi)的超低功耗應用,這些應用程序可以執行一些AI處理,而無(wú)需將任何數據發(fā)送到云中。這種傳感器如果支持AI就可以評估是否收集了(例如攝像頭的)任何數據,并將這些單獨的數據點(diǎn)發(fā)送回云端進(jìn)行分析。
評論