初創(chuàng )公司助英特爾在關(guān)鍵人工智能測試中擊敗AMD和Nvidia

這是 AI 硬件軍備競賽的最新轉折，Numenta 采用了一種新穎的方法來(lái)提高 CPU 性能,Numenta 已經(jīng)證明，通過(guò)應用一種新穎的方法，英特爾至強 CPU 在人工智能工作負載上的性能可以遠遠超過(guò)最好的 CPU 和最好的 GPU。

據 Serve the Home 稱(chēng)，這家初創(chuàng )公司利用基于這一理念的一系列技術(shù)，以 Numenta 智能計算平臺 (NuPIC) 為品牌，在人工智能推理方面解鎖了傳統 CPU 的新性能水平。

真正令人驚訝的是，它的性能明顯優(yōu)于專(zhuān)門(mén)為處理人工智能推理而設計的 GPU 和 CPU。 例如，Numenta 采用了 Nvidia 報告的 A100 GPU 性能數據的工作負載，并在增強型 48 核第四代 Sapphire Rapids CPU 上運行。 在所有場(chǎng)景中，基于總吞吐量，它都比 Nvidia 的芯片更快。 事實(shí)上，它比第三代 Intel Xeon 處理器快 64 倍，比 A100 GPU 快 10 倍。

利用神經(jīng)科學(xué)提升人工智能性能

Numenta 以其受神經(jīng)科學(xué)啟發(fā)的人工智能工作負載方法而聞名，它嚴重依賴(lài)稀疏計算的理念——這就是大腦在神經(jīng)元之間形成連接的方式。

如今，大多數 CPU 和 GPU 都是為密集計算而設計的，尤其是人工智能，這比大腦工作的上下文方式更加暴力。 盡管稀疏性是提高性能的必由之路，但 CPU 卻無(wú)法以這種方式良好工作。 這就是 Numenta 發(fā)揮作用的地方。

這家初創(chuàng )公司希望通過(guò)將其“秘密武器”應用于通用 CPU，而不是專(zhuān)門(mén)為處理以人工智能為中心的工作負載而構建的芯片，從而釋放人工智能模型中稀疏計算的效率增益。

雖然它可以在 CPU 和 GPU 上運行，但 Numenta 采用了 Intel Xeon CPU，并應用了其高級矢量擴展 (AVX)-512 和高級矩陣擴展 (AMX)，因為英特爾的芯片是當時(shí)最可用的。

這些是 x86 架構的擴展——作為額外的指令集，可以讓 CPU 執行更苛刻的功能。

Numenta 使用 Docker 容器提供 NuPIC 服務(wù)，并且可以在公司自己的服務(wù)器上運行。 如果它在實(shí)踐中發(fā)揮作用，這將是重新利用數據中心中已部署的 CPU 來(lái)處理 AI 工作負載的最佳解決方案，特別是考慮到 Nvidia 業(yè)界領(lǐng)先的 A100 和 H100 GPU 的等待時(shí)間較長(cháng)。