这一战,谷歌准备了十年
吃瓜电子官网最新热点:这一战,谷歌准备了十年
更新时间: 浏览次数:6245
文 | 半导体产业纵横,作者 | 俊熹 文 | 半导体😁产业纵横,作者 | 俊熹 9月3日,一则消息在科技圈引🤯起了轩然大波:谷歌开始对外出售TPU了。 据报道,谷歌😜近期已在接触那些主要租赁英伟达芯片的小型云服务提供商,敦促他😅们在其数据中心也托管谷歌自家的AI处理器,也就是TPU。 😘 谷歌已与至少一家云服务提供商——总部位于伦敦的Fluid🤔stack——达成协议,将在纽约的一个数据中心部署其TPU。🥳 谷歌的努力不止于此。据报道,该公司还向其他以英伟达为😜核心的服务商寻求类似的合作,其中包括正在为OpenAI建造数🙌据中心的Crusoe,以及向微软租赁芯片并与OpenAI签有🤩供应合同的英伟达“亲儿子”CoreWeave。 9月9🚀日,花旗分析师因TPU竞争加剧将英伟达目标价下调至200美元😆,预计2026年GPU销售额将因此减少约120亿美元。 🤔 明眼人都能看出来的是,谷歌和英伟达之间的大战,已经开始了。😉而它们争夺的,将是AI计算这个真正的万亿美元市场。 然😊而,谷歌对这一战的准备,其实比我们想象的都要久。 TP👍U,AI计算的最优解? 早在2006年,谷歌的内部就讨🙄论过在自家的数据中心中部署GPU、FPGA或ASIC的可能性🌟。不过,当时只有少数应用程序能够在这些特殊硬件上运行,而谷歌🔥大型数据中心的过剩算力也完全够它们使用了。因此,部署特殊硬件👏的计划被搁置。 然而,到了2013年,谷歌的研究人员发😢现:如果人们每天使用语音搜索并通过深度神经网络进行3分钟的语😎音识别,那么当时谷歌的数据中心需要双倍的算力才能满足日益增长😅的计算需求。 而如果仅通过扩大数据中心规模来满足算力需🥳求,不但耗时,而且成本高昂。于是,在这个背景下,谷歌开始了T🙌PU的设计。 谷歌的TPU是为AI计算而生的ASIC芯👏片,它专注于实现两个核心目标:极高的矩阵乘法吞吐量与卓越的能🤩效。 为了实现高吞吐量,TPU在硬件层面采用了“脉动阵😅列”(Systolic Array)架构。该架构由大量简单的🌟处理单元(PE)构成网格。数据流从阵列的边缘输入,在每个时钟😍周期同步地、一步步地流经相邻的处理单元。每个单元执行一次乘法😊累加运算,并将中间结果直接传递给下一个。 这种设计使得😴数据在阵列内部被高度复用,最大限度地减少了对高延迟、高功耗主😢内存的访问,从而实现了惊人的处理速度。 而其卓越能效的👍秘诀,则在于软硬件协同的“提前编译”(Ahead-of-Ti🥳me Compilation)策略。传统的通用芯片需要高能耗😅的缓存来应对多样的、不可预测的数据访问。TPU则不同,它的编😉译器在程序运行前就完整规划好了所有数据路径,这种确定性使其无😍需复杂的缓存机制,从而大幅降低了能耗。 展开全文 ⭐ 在TPU的设计上,谷歌主导整体架构与功能定义,博通Broa🌟dcom参与了部分芯片的中后端设计工作,目前,Google 🎉TPU主要由台积电代工生产。 随着大语言模型参数的急剧😡扩张,AI计算任务正在从“训练”走向“推理”。这时,作为通用🙄算力单元的GPU,开始显露出成本以及功耗过高的问题。 ❤️而TPU从设计之初就专门瞄准了AI计算,具有很高的性价比优势😀。据报道,谷歌TPU算力成本仅为OpenAI使用GPU成本的👍1/5,性能功耗比更是优于同代GPU。 因此,为了抓住🤩市场,谷歌围绕着自己的TPU架构,打造了一系列产品与生态。 😅 谷歌造芯这十年 谷歌第一代TPU (v1) 于2🙄015年推出,通过高度简化的专用设计,实现了超越同期CPU与🤗GPU的能效比,并在AlphaGo等项目中展示了其高效能,从🚀而验证了AI ASIC的技术路径。 随着研发深入,训练🎉环节的算力瓶颈日益凸显,促使TPU的设计方向转向系统级解决方😉案。2017年发布的TPU v2为此引入了BF16数据格式以😢支持模型训练,并配置了高带宽内存(HBM)。 更为关键💯的是,v2通过定制的高速网络将256个芯片单元互联,首次构建😘了TPU Pod系统。随后的TPU v3通过增加计算单元数量😜和引入大规模液冷技术,实现了性能的显著提升。 TPU 😴v4的发布带来了互联技术的重大革新,其核心是采用了光学电路交🙄换(OCS)技术,实现了TPU Pod内部网络拓扑的动态重构😅,从而提升了大规模训练任务的容错能力与执行效率。进入v5与v🎉6 (Trillium) 阶段,TPU产品线呈现出分化策略,😉形成了分别侧重于极致性能的'p'系列与能效比的'e'系列,以🎉适应多样化的AI应用场景。 2025年Google T🤔PU的全年出货量预计为250万片。v5系列总出货量预计为19🚀0万⽚,其中v5e占⽐约120万⽚,v5p占⽐约70万⽚, 👍v6系列预计总出货量为60万⽚,⽬前仅v6e在市场上销售,⽽🚀v6p将在第四季度上市,约10-20万⽚左右。预计到2026🤔年,总体TPU销量将超过300万片。 在今年的谷歌云大😘会上,谷歌发布了第七代TPU,代号“Ironwood”。 😡 Ironwood是谷歌迄今为止性能最强、能效最高且最节能🤯的TPU芯片,其峰值算力达到4614 TFLOPs,内存容量👏为192GB,带宽高达7.2 Tbps,每瓦峰值算力为29.😍3 TFLOPs。此外,Ironwood首次支持FP8计算格🙄式,并在张量核和矩阵数学单元中实现这一功能,这使得其在处理大🥳规模推理任务时更加高效。 Ironwood最高配集群可😁拥有9216个液冷芯片,峰值算力可达42.5 ExaFLOP😀S,是世界上最大的超级计算机El Capitan的24倍以上⭐。其支持大规模并行处理和高效内存访问,适用于复杂的推理任务如🤩大型语言模型和混合专家模型。 事实上,Ironwood👍的整体性能已经十分接近英伟达B200,甚至在一些方面还有所超😉越。 当然,英伟达的统治力不仅在于其硬件性能,更在于整🤯个CUDA生态。谷歌深知这一点,因此,它也构建了JAX这样的🤔,能在TPU上运行的高性能计算Python库。 谷歌还😀发布了其模型流水线解决方案“Pathway”,用于向外部开发💯者训练大型语言模型(LLM)。将其作为训练模型的必备手册,研😴究人员无需重新设计模型即可开发Gemini等LLM。 😁有了上述的一整个“军火库“,谷歌终于可以和英伟达掰掰手腕了。🙄 谷歌vs英伟达 投资银行D.A. Davids🙌on分析师Gil Luria在最新报告中指出,过去一年以来谷😆歌母公司Alphabet大幅缩小与英伟达的差距,如今已成为“😡最好的英伟达替代方案”。 报告显示,过去半年,围绕Go😎ogle Cloud TPU的开发者活跃度激增了约96%。 👏 Gil Luria与前沿AI实验室的研究人员和工程师交🙄流后发现,业内普遍看好谷歌TPU。因此Luria认为,若谷歌🤯将TPU业务与DeepMind部门合并并将它们分拆上市,估值🌟或将高达9000亿美元。 AI独角兽Anthropic😁此前使用亚马逊的Trainium芯片来训练模型,最近,该公司😁被发现正在招聘TPU内核工程师;马斯克旗下的人工智能公司xA🤩I也对采购TPU表现出兴趣。这一切都说明了业界对于TPU的认😘可。 而谷歌自身也在积极行动。首先,谷歌有意在公司内部👍进行从英伟达GPU到自研TPU的迭代。Omdia数据显示,2😎024年估计谷歌订购16.9万台Hopper 架构GPU,在😍五大云厂商中排名最后,约为微软的三分之一。同时,谷歌内部已部😘署了约150万颗TPU。 谷歌的对外战略,就是文章开头😡提到的,对那些使用英伟达芯片的数据中心供应TPU。据报道,为🚀了与Floydstack达成合作,谷歌将提供最高32亿美元的😎备选担保支持,若Fluidstack无力支付纽约新数据中心的🌟租赁费用,谷歌将补足差额。 根据野村证券最新报告,预计😘到2026年,ASIC总出货量很可能会第一次超过GPU。而T👏PU正是目前最成熟的ASIC。 英伟达需要紧张起来了。😡 结语 市场对谷歌TPU的积极接受,反映出越来越🤯多的公司想摆脱英伟达“一卡难求“的困境,寻求更高的性价比和更😢多元、稳定的供应链。 而借此机会挑战英伟达的,也不只有😅谷歌一家公司。供应链数据显示,Meta将于2025年第四季度😂推出其首款ASIC芯片MTIA T-V1。它由博通设计,具有🙄复杂的主板架构,并采用液冷和风冷混合技术。 到2026🚀年年中,MTIA T-V1.5将进行进一步升级,芯片面积将翻🚀倍,超过英伟达下一代GPU Rubin的规格,其计算密度将直😊接接近英伟达的 GB200 系统。2027年的MTIA T-🤯V2可能会带来更大规模的CoWoS封装和高功率机架设计。 😀 报告指出,根据供应链估计,Meta的目标是到2025年底🤩至2026年实现100万至150万件ASIC出货量。 😎微软、亚马逊同样有自研的ASIC芯片,正在对这片被GPU霸占😁的市场虎视眈眈。 对此,英伟达也有自己的反击手段。今年🤩5月,英伟达正式发布NVLink Fusion。NVLink😍 Fusion允许数据中心将英伟达GPU与第三方CPU或定制❤️化AI加速器混合使用,标志着英伟达正式打破硬件生态壁垒。 😘 近日,英伟达执行副总裁暨首席财务官Colette Kre😊ss在高盛组织的会议上谈及了对于AISC芯片所带来的竞争看法😎,称英伟达GPU更具性价比。 一场大戏已经拉开了帷幕。🎉无论是万亿美元的市场规模,还是未来AI时代硬件结构的定义权,🤩都值得几大巨头为之疯狂。 这一战,谁都有不能输的理由。🌟返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
汪峰牵手宁静之后,很多网友跑到森林北账号下评论,无非劝森林北⭐和汪峰分手,因为他又移情别恋。汪峰平时很忙,但还是会飞去陪伴😁森林北,其实两人都很忙碌,因为森林北有自己的事业,也是要照顾🤩孩子,汪峰也是大部分时间都被…
推荐阅读
苹果也学会内卷了
3790
顺丰京东菜鸟鏖战东南亚:极兔王座不稳?
5435
餐饮加盟商,不再为“大牌”买单?
2344
预制菜的困局与出路:一场来自业内的真实对话
1476
零食量贩出海避坑指南:我亲历的12个惨痛教训
6515
哪吒汽车陷断网危机,智能汽车的网费到底该由谁来交?
2815
霸王茶姬马来西亚迎200店里程碑,北美市场再落一子
3126
中国茶饮,「占领」华尔街
9735
又一家AI公司,惹怒好莱坞
4019
集团管控,要警惕“平西王”
8395
小核酸的风,继续吹
2410
华为也来凑热闹,杭州的发布会扎堆了
4531
CIO眼中的零售业:术与道并重,接受“卷”是常态 | 2025 ITValue Summit 数字价值年会
7928
【钛晨报】工信部就智能网联汽车组合驾驶辅助相关标准公开征求意见;东风成立新合资公司,无形资产出资物包括猛士商标;香港证监会考虑加强对财经网红的监管
3677
产业资本逆势增持银行股,用真金白银传递信心
1193
储能板块迎来爆发,摩根大通看好的“V型反转”能否成为现实?
9340
三股势力,抢食5万亿餐饮市场
9805
汇源果汁,战端再起
2834
华与华继续发财,罗永浩阻挡不了
6836
用"任务"识人,不万能,但管用
6747
贾国龙错在太老了
8872