Groq收購Definitive Intelligence公司，或將進(jìn)一步威脅英偉達地位

2016 年，谷歌張量處理單元 TPU 的發(fā)明者喬納森·羅斯（Jonathan Ross），在美國加利福尼亞州山景城創(chuàng )建了一家名為 Groq 的 AI 芯片公司。

經(jīng)過(guò)幾年的發(fā)展，這家致力于生成式 AI 解決方案的企業(yè)，已經(jīng)構建了旨在大規模實(shí)現低延遲、節能和可重復推理性能的 LPU 推理引擎，并希望實(shí)現這樣一個(gè)使命，即創(chuàng )建 AI 經(jīng)濟，以讓任何有絕妙創(chuàng )意的人都能使用并負擔得起。

過(guò)去幾天，這家長(cháng)期以來(lái)一直處于隱身狀態(tài)的公司，在互聯(lián)網(wǎng)上引發(fā)較大的轟動(dòng)。

Groq 基于自研 LPU 推理引擎，讓 Mixtral 8x7B 等開(kāi)源大語(yǔ)言模型能夠以幾乎每秒 500 個(gè) token 的速度運行，并在大多數基準測試中擊敗了以每秒 40 個(gè) token 的速度運行的 GPT-3.5。（編者注：token 指的是 AI 訓練過(guò)程中處理文本的最小單元。）

顯而易見(jiàn)，如果推理速度像 LPU 這樣快的芯片在今后變得越來(lái)越普遍，那么用戶(hù)等待生成式 AI 緩慢輸出內容的日子會(huì )逐漸消失。與此同時(shí)，Groq 的發(fā)展也將不可避免地為 GPU 芯片的霸主英偉達帶來(lái)威脅。

（來(lái)源：Groq 官網(wǎng)）

日前，該公司收購了一家位于美國加利福尼亞州帕洛阿托的初創(chuàng )公司 Definitive Intelligence，收購金額尚未公開(kāi)。

據了解，Definitive Intelligence 由桑尼·馬德拉（Sunny Madra）和加文·雪利（Gavin Sherry）于 2022 年共同創(chuàng )立，前者為該公司的聯(lián)合創(chuàng )始人兼 CEO，后者為聯(lián)合創(chuàng )始人兼 CTO。

Definitive Intelligence 主要推出與生成式 AI 有關(guān)的產(chǎn)品，包括開(kāi)發(fā)大語(yǔ)言模型所需的開(kāi)源庫集合 OpenAssistants，和連接到企業(yè)與公共數據庫的可視化生成器 Advisor。

Pioneer 是該公司的主要工具之一，作為一種“自主數據科學(xué)代理”，能夠實(shí)現對任何數據分析任務(wù)的處理，比如預測建模等。

據悉，在 Groq 收購 Definitive Intelligence 之前，后者籌集的風(fēng)險投資達到 2550 萬(wàn)美元[1]。

在本次收購之后，馬德拉將領(lǐng)導 GroqCloud 業(yè)務(wù)部門(mén)，主要利用他在服務(wù)企業(yè)客戶(hù)方面積累的專(zhuān)業(yè)知識和豐富經(jīng)驗，通過(guò) GroqCloud 來(lái)廣泛地拓展用戶(hù)對 LPU 推理引擎的訪(fǎng)問(wèn)。

對此，羅斯在公司發(fā)布的新聞稿中表示：“我們很歡迎來(lái)自 Definitive Intelligence 的馬德拉和他的團隊幫助我們實(shí)現公司使命。

該團隊擁有 AI 解決方案和進(jìn)入市場(chǎng)策略方面的專(zhuān)業(yè)知識，并且致力于與社區分享知識。他們是領(lǐng)導我們 GroqCloud 業(yè)務(wù)部門(mén)的完美人選?！?/span>

需要說(shuō)明的是，GroqCloud 云平臺是 Groq 圍繞開(kāi)發(fā)人員打造的一個(gè)新平臺，已經(jīng)具有該公司完全集成的文檔、代碼示例和自助服務(wù)訪(fǎng)問(wèn)權限（用戶(hù)能通過(guò)**** https://console.groq.com/ 訪(fǎng)問(wèn)）。

那么，GroqCloud 業(yè)務(wù)部門(mén)的工作重點(diǎn)都有哪些呢？

具體來(lái)說(shuō)，GroqCloud 不僅能夠幫助用戶(hù)通過(guò)自助服務(wù)平臺輕松訪(fǎng)問(wèn) LPU 推理引擎，還能為客戶(hù)部署新的生成式 AI 應用程序，并為這些程序提供只有 Groq 才擁有的超快運行速度。

公開(kāi)資料顯示，GroqCloud 自 2024 年 2 月 19 日試運行以來(lái)，已經(jīng)吸引了大量開(kāi)發(fā)人員，其中數千人對于 Groq API 的使用持非常積極的態(tài)度。

而馬德拉和該平臺的業(yè)務(wù)團隊計劃最初將工作重點(diǎn)集中在擴大容量、提高效率、建立合作伙伴關(guān)系以及構建開(kāi)發(fā)者平臺。

“世界現在才意識到高速推理對生成人工智能的重要性。在 Groq，我們?yōu)殚_(kāi)發(fā)人員提供了實(shí)現生成式 AI 承諾所需的速度、低延遲和效率?！瘪R德拉在一封電子郵件聲明中說(shuō)。

同時(shí)，他也在該聲明中表示：“自從 2016 年第一次見(jiàn)到羅斯以來(lái)，我一直是 Groq 的忠實(shí)粉絲，我很高興能加入他的行列，Groq 團隊力求將最快的推理引擎推向世界?！?/span>

事實(shí)上，除了 GroqCloud 業(yè)務(wù)部門(mén)，Definitive Intelligence 擁有的工程資源還幫助 Groq 正式組建了 Groq Systems 業(yè)務(wù)部門(mén)。

該部門(mén)在聚焦創(chuàng )新的同時(shí)，還會(huì )為需要將 Groq 芯片用于其 AI 計算中心的公共部門(mén)和客戶(hù)提供服務(wù)。

對于 Groq 為何選擇將 GroqCloud 和 Groq Systems 分成兩個(gè)部門(mén)，羅斯解釋說(shuō)：“這將使 Groq 能夠繼續快速創(chuàng )新、加速推理并引領(lǐng) AI 芯片競賽，而傳統提供商和其他 AI 領(lǐng)域的知名企業(yè)仍然在嘗試構建一款可以與我們的 LPU 競爭的芯片?！?/span>

其實(shí)，Definitive Intelligence 并非是 Groq 收購的第一家公司。在此之前，該公司曾于 2022 年完成對高性能計算和 AI 基礎設施解決方案公司 Maxeler Technologies 的收購。

面臨如今定制 AI 芯片市場(chǎng)的競爭如此激烈的當下，這或許不會(huì )是 Groq 的最后一次收購行動(dòng)，畢竟該公司顯然打算先于競爭對手站穩腳跟。