资讯
欧洲杯体育剿袭了先进的互联架构-开云网页版登录入口 www.kaiyun.com

在最新自研TPU(张量经管单位)芯片的鼓吹下,科技巨头谷歌向AI(东谈主工智能)芯片龙头英伟达发起冲锋。
近日,征询机构SemiAnalysis发布诠释,讲明了谷歌怎样成为英伟达在商用芯片规模最具要挟的竞争敌手。SemiAnalysis的模子数据泄露,从TCO(总体领有成本)的角度来看,谷歌第七代TPU芯片在成本效果上对英伟达组成了碾压上风:客户采购越多谷歌TPU,大概检朴的英伟达GPU成本开支就越多。
SemiAnalysis指出,以OpenAI为例,自从其于2024年5月发布大模子GPT-4o以来,OpenAI还没能完成任何“面向下一代前沿模子”的大规模预践诺部署。尽管OpenAI尚未从英伟达GPU转向谷歌TPU,但在TPU带来的竞争压力下,OpenAI照旧从英伟达处得到了约30%的算力集群报价扣头。
TPU(Tensor Processing Unit)是谷歌于2016年公开的自研AI专用集成芯片(ASIC),主要用于加快机器学习模子的践诺和推理。与英伟达的GPU比较,TPU的通用性较差、功能更专一,但功耗也更低。此前,谷歌并不会径直出售TPU,而是允许其他企业通过谷歌云来进行租用。
SemiAnalysis强调,谷歌的AI基础纪律上风不是在于芯片参数,而是来自其系统级工程才智,也等于说“系统比微架构更蹙迫”:“依靠系统策画、互联、编译器和举座软硬件协同,谷歌大概让TPU在骨子性能和成本效果方面与英伟达额外。”
本年11月,谷歌文书,公司第七代自研TPU芯片Ironwood行将崇拜发布。据先容,Ironwood在践诺和推理方面的性能比上一代芯片擢升了4倍多,剿袭了先进的互联架构,单个POD(AI超等计较机单位)可贯穿多达9216颗Ironwood芯片,并通过每秒9.6 Tb(太比特)的龙套性ICI(芯片间互联收集)贯穿成一个“超等pod”,造访高达1.77 PB的分享高带宽内存(HBM)。
字据SemiAnalysis统计的数据,从本领角度来看,Ironwood芯片在每秒浮点运算(FLOPs)和内存带宽方面险些追上了英伟达的Blackwell GPU系列。如若谷歌私用该芯片,每颗芯片的TCO比同等确立的英伟达GB200系统低约44%。
SemiAnalysis以为,谷歌正在奋力成为“真确互异化的云办事供应商”。本年10月,AI初创公司Anthropic文书与谷歌收场合营,将部署多达100万个谷歌的TPU芯片以践诺旗下AI大模子。在商定部署的100万颗芯片中,首批约40万颗最新TPU芯片将由与谷歌共同策画芯片的博通径直出售给Anthropic,价值约100亿好意思元;剩余的60万颗芯片则通过谷歌云进行租赁。
当今,英伟达也感受到了来自谷歌的压力。当地时候11月25日,有音讯称Meta正在酌量从2027年起在其数据中心部署谷歌的TPU(张量经管单位),价值达到数十亿好意思元,还可能在来岁通过谷歌云租赁TPU,令英伟达本日股价盘中一度跌超7%。
对此欧洲杯体育,英伟达本日公开回答称,公司的GPU“仍跳跃行业一代”:“与专为特定AI框架或功能策画的ASIC(专用集成芯片)比较,英伟达提供更高的性能、更强的通用性以及更好的可替代性。”
