这一战,谷歌准备了十年
吃瓜电子官网最新热点:这一战,谷歌准备了十年
更新时间: 浏览次数:4140
文 | 半导体产业纵横,作者 | 俊熹 文 | 半导体🤯产业纵横,作者 | 俊熹 9月3日,一则消息在科技圈引🔥起了轩然大波:谷歌开始对外出售TPU了。 据报道,谷歌😁近期已在接触那些主要租赁英伟达芯片的小型云服务提供商,敦促他🤔们在其数据中心也托管谷歌自家的AI处理器,也就是TPU。 🌟 谷歌已与至少一家云服务提供商——总部位于伦敦的Fluid😅stack——达成协议,将在纽约的一个数据中心部署其TPU。🤗 谷歌的努力不止于此。据报道,该公司还向其他以英伟达为😀核心的服务商寻求类似的合作,其中包括正在为OpenAI建造数🌟据中心的Crusoe,以及向微软租赁芯片并与OpenAI签有😡供应合同的英伟达“亲儿子”CoreWeave。 9月9🙌日,花旗分析师因TPU竞争加剧将英伟达目标价下调至200美元❤️,预计2026年GPU销售额将因此减少约120亿美元。 😀 明眼人都能看出来的是,谷歌和英伟达之间的大战,已经开始了。😂而它们争夺的,将是AI计算这个真正的万亿美元市场。 然😀而,谷歌对这一战的准备,其实比我们想象的都要久。 TP🤔U,AI计算的最优解? 早在2006年,谷歌的内部就讨🌟论过在自家的数据中心中部署GPU、FPGA或ASIC的可能性😴。不过,当时只有少数应用程序能够在这些特殊硬件上运行,而谷歌🤗大型数据中心的过剩算力也完全够它们使用了。因此,部署特殊硬件⭐的计划被搁置。 然而,到了2013年,谷歌的研究人员发😢现:如果人们每天使用语音搜索并通过深度神经网络进行3分钟的语❤️音识别,那么当时谷歌的数据中心需要双倍的算力才能满足日益增长😁的计算需求。 而如果仅通过扩大数据中心规模来满足算力需💯求,不但耗时,而且成本高昂。于是,在这个背景下,谷歌开始了T🥳PU的设计。 谷歌的TPU是为AI计算而生的ASIC芯😡片,它专注于实现两个核心目标:极高的矩阵乘法吞吐量与卓越的能🤗效。 为了实现高吞吐量,TPU在硬件层面采用了“脉动阵🔥列”(Systolic Array)架构。该架构由大量简单的👏处理单元(PE)构成网格。数据流从阵列的边缘输入,在每个时钟😁周期同步地、一步步地流经相邻的处理单元。每个单元执行一次乘法👍累加运算,并将中间结果直接传递给下一个。 这种设计使得😁数据在阵列内部被高度复用,最大限度地减少了对高延迟、高功耗主😜内存的访问,从而实现了惊人的处理速度。 而其卓越能效的😆秘诀,则在于软硬件协同的“提前编译”(Ahead-of-Ti😉me Compilation)策略。传统的通用芯片需要高能耗😴的缓存来应对多样的、不可预测的数据访问。TPU则不同,它的编🙌译器在程序运行前就完整规划好了所有数据路径,这种确定性使其无⭐需复杂的缓存机制,从而大幅降低了能耗。 展开全文 👏 在TPU的设计上,谷歌主导整体架构与功能定义,博通Broa😊dcom参与了部分芯片的中后端设计工作,目前,Google 🔥TPU主要由台积电代工生产。 随着大语言模型参数的急剧❤️扩张,AI计算任务正在从“训练”走向“推理”。这时,作为通用🤗算力单元的GPU,开始显露出成本以及功耗过高的问题。 🙄而TPU从设计之初就专门瞄准了AI计算,具有很高的性价比优势😴。据报道,谷歌TPU算力成本仅为OpenAI使用GPU成本的😴1/5,性能功耗比更是优于同代GPU。 因此,为了抓住🎉市场,谷歌围绕着自己的TPU架构,打造了一系列产品与生态。 😴 谷歌造芯这十年 谷歌第一代TPU (v1) 于2😁015年推出,通过高度简化的专用设计,实现了超越同期CPU与🤩GPU的能效比,并在AlphaGo等项目中展示了其高效能,从😅而验证了AI ASIC的技术路径。 随着研发深入,训练🥳环节的算力瓶颈日益凸显,促使TPU的设计方向转向系统级解决方🙌案。2017年发布的TPU v2为此引入了BF16数据格式以🤗支持模型训练,并配置了高带宽内存(HBM)。 更为关键👍的是,v2通过定制的高速网络将256个芯片单元互联,首次构建😘了TPU Pod系统。随后的TPU v3通过增加计算单元数量🤯和引入大规模液冷技术,实现了性能的显著提升。 TPU 🤯v4的发布带来了互联技术的重大革新,其核心是采用了光学电路交😂换(OCS)技术,实现了TPU Pod内部网络拓扑的动态重构🤔,从而提升了大规模训练任务的容错能力与执行效率。进入v5与v😅6 (Trillium) 阶段,TPU产品线呈现出分化策略,😜形成了分别侧重于极致性能的'p'系列与能效比的'e'系列,以🌟适应多样化的AI应用场景。 2025年Google T😎PU的全年出货量预计为250万片。v5系列总出货量预计为19😎0万⽚,其中v5e占⽐约120万⽚,v5p占⽐约70万⽚, 🥳v6系列预计总出货量为60万⽚,⽬前仅v6e在市场上销售,⽽😜v6p将在第四季度上市,约10-20万⽚左右。预计到2026😍年,总体TPU销量将超过300万片。 在今年的谷歌云大😡会上,谷歌发布了第七代TPU,代号“Ironwood”。 😂 Ironwood是谷歌迄今为止性能最强、能效最高且最节能😀的TPU芯片,其峰值算力达到4614 TFLOPs,内存容量🤔为192GB,带宽高达7.2 Tbps,每瓦峰值算力为29.😉3 TFLOPs。此外,Ironwood首次支持FP8计算格🤔式,并在张量核和矩阵数学单元中实现这一功能,这使得其在处理大😅规模推理任务时更加高效。 Ironwood最高配集群可⭐拥有9216个液冷芯片,峰值算力可达42.5 ExaFLOP👏S,是世界上最大的超级计算机El Capitan的24倍以上👏。其支持大规模并行处理和高效内存访问,适用于复杂的推理任务如🥳大型语言模型和混合专家模型。 事实上,Ironwood😴的整体性能已经十分接近英伟达B200,甚至在一些方面还有所超😆越。 当然,英伟达的统治力不仅在于其硬件性能,更在于整😎个CUDA生态。谷歌深知这一点,因此,它也构建了JAX这样的😆,能在TPU上运行的高性能计算Python库。 谷歌还⭐发布了其模型流水线解决方案“Pathway”,用于向外部开发🤯者训练大型语言模型(LLM)。将其作为训练模型的必备手册,研😆究人员无需重新设计模型即可开发Gemini等LLM。 😊有了上述的一整个“军火库“,谷歌终于可以和英伟达掰掰手腕了。🤗 谷歌vs英伟达 投资银行D.A. Davids🤗on分析师Gil Luria在最新报告中指出,过去一年以来谷😎歌母公司Alphabet大幅缩小与英伟达的差距,如今已成为“👏最好的英伟达替代方案”。 报告显示,过去半年,围绕Go🙄ogle Cloud TPU的开发者活跃度激增了约96%。 🤯 Gil Luria与前沿AI实验室的研究人员和工程师交😊流后发现,业内普遍看好谷歌TPU。因此Luria认为,若谷歌😆将TPU业务与DeepMind部门合并并将它们分拆上市,估值💯或将高达9000亿美元。 AI独角兽Anthropic🚀此前使用亚马逊的Trainium芯片来训练模型,最近,该公司😊被发现正在招聘TPU内核工程师;马斯克旗下的人工智能公司xA🤩I也对采购TPU表现出兴趣。这一切都说明了业界对于TPU的认😡可。 而谷歌自身也在积极行动。首先,谷歌有意在公司内部🤩进行从英伟达GPU到自研TPU的迭代。Omdia数据显示,2😉024年估计谷歌订购16.9万台Hopper 架构GPU,在👏五大云厂商中排名最后,约为微软的三分之一。同时,谷歌内部已部🥳署了约150万颗TPU。 谷歌的对外战略,就是文章开头😀提到的,对那些使用英伟达芯片的数据中心供应TPU。据报道,为👍了与Floydstack达成合作,谷歌将提供最高32亿美元的🎉备选担保支持,若Fluidstack无力支付纽约新数据中心的🤗租赁费用,谷歌将补足差额。 根据野村证券最新报告,预计😆到2026年,ASIC总出货量很可能会第一次超过GPU。而T👏PU正是目前最成熟的ASIC。 英伟达需要紧张起来了。🙌 结语 市场对谷歌TPU的积极接受,反映出越来越😂多的公司想摆脱英伟达“一卡难求“的困境,寻求更高的性价比和更🤗多元、稳定的供应链。 而借此机会挑战英伟达的,也不只有😆谷歌一家公司。供应链数据显示,Meta将于2025年第四季度😁推出其首款ASIC芯片MTIA T-V1。它由博通设计,具有🥳复杂的主板架构,并采用液冷和风冷混合技术。 到2026😁年年中,MTIA T-V1.5将进行进一步升级,芯片面积将翻😀倍,超过英伟达下一代GPU Rubin的规格,其计算密度将直🚀接接近英伟达的 GB200 系统。2027年的MTIA T-🤯V2可能会带来更大规模的CoWoS封装和高功率机架设计。 ❤️ 报告指出,根据供应链估计,Meta的目标是到2025年底😀至2026年实现100万至150万件ASIC出货量。 👏微软、亚马逊同样有自研的ASIC芯片,正在对这片被GPU霸占😅的市场虎视眈眈。 对此,英伟达也有自己的反击手段。今年😍5月,英伟达正式发布NVLink Fusion。NVLink😘 Fusion允许数据中心将英伟达GPU与第三方CPU或定制🤯化AI加速器混合使用,标志着英伟达正式打破硬件生态壁垒。 😀 近日,英伟达执行副总裁暨首席财务官Colette Kre🙌ss在高盛组织的会议上谈及了对于AISC芯片所带来的竞争看法❤️,称英伟达GPU更具性价比。 一场大戏已经拉开了帷幕。🤔无论是万亿美元的市场规模,还是未来AI时代硬件结构的定义权,😘都值得几大巨头为之疯狂。 这一战,谁都有不能输的理由。🌟返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
两人在屋内坐下后,黄志勇满怀热情地与韩先楚攀谈,然而韩先楚的😘回应却显得冷淡且敷衍。两年后,他加入红军游击队,成为红三军团💯彭德怀将军麾下的一名战士。1955年全国首次授衔时,年仅41😀岁的黄志勇被授予开国中将军衔…
推荐阅读
甘肃省委省政府调查组关于天水市麦积区褐石培心幼儿园幼儿血铅异常问题调查处置情况的通报
7365
#三农快评# 一位拉货父亲给儿子最朴实的暑假课
2203
内地男子穿改装内裤藏16包大麻,飞抵澳门后被抓,警方:其有吸毒恶习,在曼谷购入毒品后,由其妻子协助和掩护偷运
3383
已确认35人死亡4人失踪,越南游船倾覆事故最新通报
3671
热搜第一!高铁不让吃方便面了?
7094
#三农快评# 西昌有了新家,大山有了未来
3048
友友们注意,冬瓜的身份有变化!#农视点#
8363
今年三伏为什么只有30天?接下来还会热多久?三伏天的农业生产需要注意哪些问题?
4232
周末打虎!“内鬼”杨青录官宣被查
5772
丰收集结号 | 丰收季!达人天团带您解锁超炫“丰收打开方式”
9407
来宾市携特色农产品与投资机遇亮相大湾区市场
1506
被骗至缅甸失联近半月的19岁高考生已找到,曾在园区连续4天背诵诈骗话术,近期还有多起学生失联情况
8991
18岁男子无证驾驶并顶撞、拖带二人后逃逸,天津警方通报:已刑拘
1775
14岁女孩被男子疯狂别车,狂追一公里!外卖小哥出手制止获表彰,李某某(男,42岁)被行拘
4744
网传警情通报“水务集团干部接驳下水排污管网后潜逃”?杭州紧急辟谣!
4428
2025年上半年全国4.8万现任或原任村党支部书记、村委会主任被立案!中央纪委国家监委通报
3473
7月18日:“农产品批发价格200指数”比昨天下降0.12个点
2522
男子超市买347瓶五粮液207瓶是假货,超市:入库酒为真品,但被员工周某换成假酒,法院判超市对假酒退款,并赔12万余元
7009
中央巡视组陆续进驻,联络方式公布
5497
三农深镜头|村里第一个大学生为何返乡养牛?用双肩挑起致富重担
3995
这颗中国蛋,竟在美国“玩脱”了!#农视点#
4455