AMD Instinct加速器系列亮相Computex 2024
加入技術(shù)交流群
AMD董事長(cháng)兼首席執行官麗莎Su博士在Computex主題演講中公布了AMD Instinct加速器系列的重大進(jìn)展。該公司宣布了加速器的擴展多年路線(xiàn)圖，承諾每年改進(jìn)AI性能和內存功能。這標志著(zhù)人工智能和數據中心工作負載的創(chuàng )新新時(shí)代。
本文引用地址：http://dyxdggzs.com/article/202406/459558.htm
AMD Instinct MI325X加速器
更新的路線(xiàn)圖以新的AMD Instinct MI325X加速器開(kāi)始，該加速器將于2024年第四季度上市。該加速器具有288GB的HBM3E內存和每秒6 TB的內存帶寬。它采用通用基板服務(wù)器設計，確保與AMD Instinct MI300系列兼容。
MI325X擁有業(yè)界領(lǐng)先的內存容量和帶寬，性能分別是競爭對手的2倍和1.3倍。它提供了比競爭對手高1.3倍的計算性能，使其成為AI工作負載的強大工具。
下一代：MI350和MI400系列
繼MI325X之后，AMD Instinct MI350系列將采用全新的AMD CDNA 4架構，預計將于2025年推出。該系列將在A(yíng)I推理性能方面帶來(lái)實(shí)質(zhì)性飛躍，預計與AMD Instinct MI300系列相比將增加35倍。MI350X加速器將保持通用基板設計，采用先進(jìn)的3nm工藝技術(shù)，支持FP4和FP6 AI數據存儲器，并具有高達288GB的HBM3E內存。
由AMD CDNA“Next”架構驅動(dòng)的AMD Instinct MI400系列將于2026年發(fā)布。
AMD Instinct MI300X加速器的采用和影響
AMD Instinct MI 300 X加速器已被主要合作伙伴和客戶(hù)廣泛采用，包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD數據中心加速計算公司副總裁布拉德·麥克雷迪（Brad McCredie）強調了MI 300 X加速器的卓越性能和價(jià)值主張，并指出了它們在推動(dòng)人工智能創(chuàng )新方面的重要作用。他說(shuō)：“隨著(zhù)我們每年更新產(chǎn)品的節奏，我們堅持不懈地推進(jìn)創(chuàng )新步伐，為人工智能行業(yè)提供領(lǐng)導能力和性能，我們的客戶(hù)希望推動(dòng)數據中心人工智能培訓和推理的下一次發(fā)展。
AMD AI軟件生態(tài)系統的進(jìn)步
AMD ROCm 6開(kāi)放軟件堆棧不斷成熟，使AMD Instinct MI 300 X加速器能夠為流行的大型語(yǔ)言模型（LLM）提供令人印象深刻的性能。在使用八個(gè)AMD Instinct MI 300 X加速器和運行Meta Llama-3 70 B的ROCm 6的服務(wù)器上，客戶(hù)可以實(shí)現比競爭對手高1.3倍的推理性能和令牌生成。
此外，在Mistral-7 B上，一臺配備ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表現可超過(guò)競爭對手1.2倍。
AMD與最大的AI模型庫Hugging Face的合作進(jìn)一步強調了生態(tài)系統的穩健性。Hugging Face每晚測試700，000個(gè)最受歡迎的型號，以確保在A(yíng)MD Instinct MI300X加速器上實(shí)現無(wú)縫功能。AMD還在繼續其與流行的AI框架（如PyTorch、TensorFlow和JAX）的上游工作，以確保廣泛的兼容性和增強的性能。
關(guān)鍵路線(xiàn)圖亮點(diǎn)
在主題演講中，AMD公布了AMD Instinct加速器路線(xiàn)圖的最新年度節奏，以滿(mǎn)足對人工智能計算不斷增長(cháng)的需求。這確保了AMD Instinct加速器將繼續推動(dòng)下一代前沿AI模型的開(kāi)發(fā)。
- AMD Instinct MI325X加速器：將于2024年第四季度推出，該加速器將配備288GB HBM3E內存，每秒6 TB的內存帶寬，以及行業(yè)領(lǐng)先的內存容量和帶寬。與競爭對手相比，它的計算性能提高了1.3倍。
- AMD Instinct MI350系列：預計在2025年，MI350X加速器將基于A(yíng)MD CDNA 4架構，并使用先進(jìn)的3nm工藝技術(shù)。它將支持FP4和FP6 AI數據庫，并包括高達288GB的HBM3E內存。
- AMD Instinct MI400系列：計劃于2026年推出，該系列將利用AMD CDNA“Next”架構，引入新特性和功能，以增強AI訓練和推理性能。
廣泛的行業(yè)采用
對AMD Instinct MI300X加速器的需求持續增長(cháng)，眾多合作伙伴和客戶(hù)利用這些加速器來(lái)處理要求苛刻的人工智能工作負載。
AMD在Computex 2024上推出了擴展的Instinct加速器路線(xiàn)圖，標志著(zhù)該公司在人工智能和數據中心戰略的重要里程碑，展示了其技術(shù)創(chuàng )新和市場(chǎng)競爭力，同時(shí)也為未來(lái)的產(chǎn)品發(fā)展和生態(tài)系統建設奠定了基礎。
評論