谷歌迄今最強芯!第七代TPU發(fā)布:內存容量高達192GB
4月10日消息,據報道,在本周的Cloud Next大會(huì )上,Google發(fā)布了第七代TPU AI加速器芯片——Ironwood。
本文引用地址:http://dyxdggzs.com/article/202504/469257.htmGoogle Cloud副總裁Amin Vahdat表示:Ironwood是我們迄今為止功能最強大、性能最強、最節能的 TPU。它專(zhuān)為大規模支持思考和推理AI模型而設計。
首先在計算性能上,Ironwood實(shí)現4614 TFLOP的峰值算力,配備192GB專(zhuān)用RAM和7.4Tbps超高帶寬,確保數據高速傳輸。
其次,芯片間互連(ICI)帶寬提升至1.2Tbps,較前代提升50%,大幅優(yōu)化分布式訓練效率。
最引人注目的是其可擴展性——支持9216個(gè)液冷芯片集群部署,總功率接近10兆瓦,通過(guò)創(chuàng )新的ICI網(wǎng)絡(luò )實(shí)現超大規模AI工作負載處理。
Google Cloud為客戶(hù)提供256芯片和9216芯片兩種配置選擇,該芯片作為Google AI超級計算機架構的核心組件,通過(guò)軟硬件協(xié)同優(yōu)化,將有力推動(dòng)生成式AI向更復雜場(chǎng)景演進(jìn)。
評論