人工智能如何重塑芯片行業(yè)？

　　人工智能開(kāi)始影響半導體設計，因為架構師開(kāi)始利用人工智能技術(shù)來(lái)提高芯片的性能、降低芯片功耗，為未來(lái)芯片的開(kāi)發(fā)、制造和更新奠定了基礎。

　　AI和機器學(xué)習以及深度學(xué)習子集可用于極大地改善芯片內特定功能的控制和性能，它們能夠在現有設備之上分層，集成到新設計中，允許其應用于更大范圍的功能中。

　　AI提供了許多好處。其中：

　　它通過(guò)更稀疏的算法或數據壓縮來(lái)改變特定功能的準確性，從而增加了粒度，提高性能并降低功耗;

　　它提供了將數據作為模式進(jìn)行處理的能力，有效地提高了計算的抽象級別并增加了軟件的密度;

　　它允許處理和存儲器的讀寫(xiě)作為矩陣完成，并大大加快了這些操作。

　　但AI還需要重新思考數據如何在芯片中運行：應用于邊緣還是數據中心，因為無(wú)論在哪一方面，處理和存儲的數據量都是巨大的。

　　新的起點(diǎn)

　　從好的方面來(lái)說(shuō)，AI提供了一種平衡高精度結果的方法，而不是使用更多精度更低的元素來(lái)實(shí)現足夠高的精度。在語(yǔ)音識別的情況下，精度遠不如在安全應用中的面部識別或自動(dòng)駕駛車(chē)輛中的目標識別那么重要。人工智能帶來(lái)的是在特定應用程序需要時(shí)撥入這些結果的能力。

　　芯片中應運用AI，實(shí)際是關(guān)于數據的質(zhì)量、數量和移動(dòng)。這需要一種不同的方式來(lái)看待設計，包括團隊之間的協(xié)作。

　　“計算非常簡(jiǎn)單，壓縮/解壓縮數據也簡(jiǎn)單，但在內存中存儲和加載數據并不簡(jiǎn)單，”Arm研究員 Jem Davies說(shuō)，“要構建這些系統，你需要特定領(lǐng)域的專(zhuān)家，比如機器學(xué)習專(zhuān)家和一些優(yōu)化以及性能方面的專(zhuān)家?！?/p>

　　他指出，機器學(xué)習可以影響系統中的所有內容，其中大部分都隱藏在視圖之外。

　　“有些是用戶(hù)看不見(jiàn)的，”Davies說(shuō)，“它被用來(lái)改善電池壽命。在相機內也有運用的機器學(xué)習方法?！?/p>

　　人工智能最適用于神經(jīng)形態(tài)方法和不同的記憶結構，其中，數據可以作為矩陣來(lái)處理。使工作最佳化需要遠遠超出處理器的架構。它需要在內存中來(lái)回傳輸大量數據，并且需要更改內存，以便可以從左到右和上下左右寫(xiě)入和讀取數據。

　　“許多架構改進(jìn)是軟件和硬件的結合，”Cadence音頻和語(yǔ)音IP產(chǎn)品營(yíng)銷(xiāo)總監Gerard Andrews說(shuō)，“這并不一定能提高各個(gè)處理器的整體性能，但它確實(shí)增加了功耗和內存效率?！?/p>

　　實(shí)際上，這使得軟件方面的設計具有更高的密度，并且加速了數據在內存中的移動(dòng)?！拔覀兛吹降膯?wèn)題是內存不會(huì )有效縮小，而且識別錯誤率正在上升，”Andrews說(shuō)，“我們正在探索算法的稀疏性，以降低功耗并提高性能?！?/p>

　　這只是觸及正在發(fā)生變化的表面，而這些變化正在迅速發(fā)生。

　　“內存子系統中發(fā)生的事情是不連續的，而且是和突然的，”Achronix的系統架構師Kent Orthner說(shuō)，“由于需要大量數據管道，因此其開(kāi)發(fā)了許多關(guān)于如何移動(dòng)數據的架構。對于相對較淺的內存使用來(lái)說(shuō)，這是一個(gè)巨大的障礙?！?/p>

　　正在探索減少數據流量的新方法之一是尖峰神經(jīng)網(wǎng)絡(luò )。因此，它們不是一致地發(fā)射信號，而是像人腦中的信號一樣飆升。

　　AI風(fēng)險和混亂

　　但是，AI也存在一定程度的風(fēng)險，具體取決于應用和精確度。

　　過(guò)去電子系統的設計基于邏輯的完全可預測性，其中大部分都是硬連線(xiàn)的。AI將計算精度替換為可接受行為的分布。目前尚不清楚現有工具或方法是否會(huì )提供與設備在該分布范圍內相同的置信度，特別是在系統出現損壞或退化的情況下，以及檢測到任何異常行為的速度。

　　對于如何應用人工智能也存在一些困惑。目前，很多芯片并不是專(zhuān)門(mén)為人工智能開(kāi)發(fā)的，它們都經(jīng)過(guò)了修改和覆蓋，以更有效地利用人工智能。

　　總的來(lái)說(shuō)，這符合人工智能的初衷，這項技術(shù)是在全行業(yè)競爭的背景下出現的，用以提高相同或更低功率的性能。

　　對于針對AI培訓或推理的芯片，或者針對利用AI功能的芯片內的處理器和加速器的芯片，一般的共識是使用不同的芯片架構可以實(shí)現幾個(gè)數量級。但它并不適用于所有情況，并且有許多變量，例如訓練數據的大小和值，可以使AI對某些應用程序無(wú)用。在其他情況下，性能提升100倍被認為是保守的。

　　Synopsys的戰略營(yíng)銷(xiāo)經(jīng)理Ron Lowman說(shuō)：“應用程序和算法都存在挑戰，處理器和存儲器芯片也面臨著(zhù)挑戰。這使得探索對于A(yíng)I架構更為重要，而且這也是CCIX(加速器的高速緩存一致性互連)變得如此受歡迎的原因之一。越來(lái)越多的客戶(hù)正在尋求架構的探索。每個(gè)人都在努力建立新的架構來(lái)模仿大腦?！?/p>

　　此外，還有一種小型處理器，其與各種針對不同數據類(lèi)型定制的新型加速器相關(guān)聯(lián)。并且，還存在很多關(guān)于數據壓縮和量化的工作。

　　“正在進(jìn)行從32位浮點(diǎn)移動(dòng)到8位浮點(diǎn)的工作，”Lowman說(shuō)，“現在的問(wèn)題是你是否可以采用單比特進(jìn)行量化?！?/p>

　　量化涉及將大量輸入值映射到較小的輸出值集合，并且最大的擔憂(yōu)是可接受的精度損失。通過(guò)足夠的傳感器或數據輸入，理論上可以最小化該錯誤率的影響，但這非常依賴(lài)于應用程序。

　　沿著(zhù)這些方向的另一種方法涉及源同步，特別是對于數據中心中的AI芯片，這促使片上網(wǎng)絡(luò )拓撲發(fā)生變化。網(wǎng)絡(luò )中的所有目標都接收相同的數據，使用多播方法可以更有針對性地利用數據。

　　“通過(guò)多播，您可以對多個(gè)目的地進(jìn)行一次寫(xiě)入，”Arteris IP營(yíng)銷(xiāo)副總裁Kurt Shuler說(shuō)。

　　AI芯片的一個(gè)問(wèn)題是它們往往非常大?！白畲蟮膯?wèn)題是時(shí)鐘樹(shù)，”Shuler說(shuō)，“這需要同步通信，因為如果你以異步方式處理通信，會(huì )占用很多區域。此外，更有可能在大芯片上出現路由擁塞。解決這個(gè)問(wèn)題的方法是創(chuàng )建虛擬通道鏈接，這樣可以減少連線(xiàn)數量并通過(guò)一組線(xiàn)路共享通信?！?/p>

　　計劃過(guò)時(shí)

　　另一個(gè)部分涉及能夠與定期更新的算法保持同步，并影響將哪種處理器添加到使用AI的芯片中。其中每一個(gè)都會(huì )影響芯片內數據的移動(dòng)以及用于該數據的處理器類(lèi)型。

　　CPU和GPU主要通過(guò)軟件提供一些可編程性。 DSP和FPGA提供固件/硬件的可編程性。嵌入式FPGA將可編程性直接添加到SoC或多芯片封裝中。

　　選擇處理器類(lèi)型也取決于終端市場(chǎng)應用。例如，對于汽車(chē)或工業(yè)環(huán)境中的安全關(guān)鍵應用，該技術(shù)將保持最新?tīng)顟B(tài)，并且響應足以與道路上的其他車(chē)輛或工廠(chǎng)中的其他設備兼容。

　　eSilicon創(chuàng )新高級主管CarlosMacián表示，“當我們討論面向未來(lái)的問(wèn)題時(shí)，問(wèn)題不在于它是否有效。作為開(kāi)拓者的TPU表明，可以實(shí)現數量級的改進(jìn)。但是對于新的工作負載，如果沒(méi)有優(yōu)化ASIC，你可能只會(huì )提高3倍?！?/p>

　　提高數據質(zhì)量有助于解釋為什么算法變化如此之快以及為什么現場(chǎng)可升級性對于某些設備而言至關(guān)重要。但是這些更改也會(huì )對性能產(chǎn)生影響，如果不在硬件中添加一些可編程性，就無(wú)法對其進(jìn)行說(shuō)明。問(wèn)題是可編程性有多大，因為可編程邏輯比調整到軟件的硬件慢得多。

　　結論

　　與許多其他半導體增長(cháng)市場(chǎng)不同，AI是一種橫向技術(shù)。它可以應用于各種垂直市領(lǐng)域，并可用于為這些市場(chǎng)開(kāi)發(fā)芯片。它還可用于使現有芯片更高效。

　　這僅僅是人工智能革命的開(kāi)始，其影響已經(jīng)非常顯著(zhù)。隨著(zhù)設計團隊越來(lái)越精通這項技術(shù)，將對他們如何設計芯片、這些芯片如何與其他芯片交互產(chǎn)生重大影響，并將為工具、硬件、軟件的開(kāi)發(fā)人員創(chuàng )造新的機會(huì )，甚至可能提供全新的市場(chǎng)。