比B200快10倍？AI芯片初創(chuàng )公司Etched沖擊英偉達
加入技術(shù)交流群
據媒體報道，硅谷人工智能（AI）芯片初創(chuàng )公司Etched表示，已在A(yíng)輪融資中籌集1.2億美元，該公司計劃利用這筆資金進(jìn)一步開(kāi)發(fā)其專(zhuān)用AI芯片。
本文引用地址：http://dyxdggzs.com/article/202406/460434.htm據報道，由哈佛輟學(xué)生Gavin Uberti和Chris Zhu于2022年創(chuàng )立的Etched，憑借其用于A(yíng)I的ASIC芯片，從最底層的架構層面為主流AI大模型公司所采用的Transformer計算提供更優(yōu)性?xún)r(jià)比的選擇，在A(yíng)I硬件領(lǐng)域引發(fā)了高度關(guān)注。
報道稱(chēng)，Etched開(kāi)發(fā)了一款名為Sohu的專(zhuān)為T(mén)ransformer模型設計的ASIC芯片。Etched聲稱(chēng)，Sohu芯片推理Llama-3 70B的速度比英偉達的H100快20倍，比今年3月推出的頂配芯片B200快上超過(guò)10倍，且功耗卻大大降低。
Sohu芯片減少了用于存儲器的空間，而將更多空間用于計算用途的晶體管，并通過(guò)只有一個(gè)大內核的設計，減少了用來(lái)協(xié)調不同內核的低效計算。
Etched表示，公司聘請了先前曾在賽普拉斯、博通等半導體公司工作過(guò)的人才，芯片則交給臺積電的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微軟、OpenAI、Anthropic等大型科技公司所有的熱門(mén)Transformer。
作為隨著(zhù)Transformer模型不斷推動(dòng)生成式AI突破，Sohu芯片被認為有望在A(yíng)I推理側打破英偉達GPU一家獨大的格局，重塑AI計算的格局。
不過(guò)，據彭博社報道，Etched的Sohu芯片是執行Transformer這類(lèi)AI演算法，一旦未來(lái)有另一種類(lèi)型的演算法取代了Transformer AI，Sohu就會(huì )沒(méi)用了。而英偉的GPU，例如H100是可以適用于任何AI演算法的。正如Gavin Uberti在接受采訪(fǎng)時(shí)表示，“我們正在人工智能領(lǐng)域下最大的賭注”，“如果Transformer消失了，我們就會(huì )死。但如果它們繼續存在，我們就是有史以來(lái)最大的公司?！?/p>
評論