这一战,谷歌准备了十年
吃瓜电子官网最新热点:这一战,谷歌准备了十年
更新时间: 浏览次数:9622
文 | 半导体产业纵横,作者 | 俊熹 文 | 半导体💯产业纵横,作者 | 俊熹 9月3日,一则消息在科技圈引😁起了轩然大波:谷歌开始对外出售TPU了。 据报道,谷歌👍近期已在接触那些主要租赁英伟达芯片的小型云服务提供商,敦促他🤔们在其数据中心也托管谷歌自家的AI处理器,也就是TPU。 🔥 谷歌已与至少一家云服务提供商——总部位于伦敦的Fluid😅stack——达成协议,将在纽约的一个数据中心部署其TPU。🙌 谷歌的努力不止于此。据报道,该公司还向其他以英伟达为😊核心的服务商寻求类似的合作,其中包括正在为OpenAI建造数🤔据中心的Crusoe,以及向微软租赁芯片并与OpenAI签有😴供应合同的英伟达“亲儿子”CoreWeave。 9月9🎉日,花旗分析师因TPU竞争加剧将英伟达目标价下调至200美元😆,预计2026年GPU销售额将因此减少约120亿美元。 😀 明眼人都能看出来的是,谷歌和英伟达之间的大战,已经开始了。🚀而它们争夺的,将是AI计算这个真正的万亿美元市场。 然😂而,谷歌对这一战的准备,其实比我们想象的都要久。 TP😎U,AI计算的最优解? 早在2006年,谷歌的内部就讨🤩论过在自家的数据中心中部署GPU、FPGA或ASIC的可能性😊。不过,当时只有少数应用程序能够在这些特殊硬件上运行,而谷歌👏大型数据中心的过剩算力也完全够它们使用了。因此,部署特殊硬件🚀的计划被搁置。 然而,到了2013年,谷歌的研究人员发🙌现:如果人们每天使用语音搜索并通过深度神经网络进行3分钟的语😅音识别,那么当时谷歌的数据中心需要双倍的算力才能满足日益增长😅的计算需求。 而如果仅通过扩大数据中心规模来满足算力需😆求,不但耗时,而且成本高昂。于是,在这个背景下,谷歌开始了T😡PU的设计。 谷歌的TPU是为AI计算而生的ASIC芯🚀片,它专注于实现两个核心目标:极高的矩阵乘法吞吐量与卓越的能🤔效。 为了实现高吞吐量,TPU在硬件层面采用了“脉动阵🌟列”(Systolic Array)架构。该架构由大量简单的🔥处理单元(PE)构成网格。数据流从阵列的边缘输入,在每个时钟😂周期同步地、一步步地流经相邻的处理单元。每个单元执行一次乘法🎉累加运算,并将中间结果直接传递给下一个。 这种设计使得😡数据在阵列内部被高度复用,最大限度地减少了对高延迟、高功耗主😴内存的访问,从而实现了惊人的处理速度。 而其卓越能效的💯秘诀,则在于软硬件协同的“提前编译”(Ahead-of-Ti👍me Compilation)策略。传统的通用芯片需要高能耗😉的缓存来应对多样的、不可预测的数据访问。TPU则不同,它的编😀译器在程序运行前就完整规划好了所有数据路径,这种确定性使其无😀需复杂的缓存机制,从而大幅降低了能耗。 展开全文 😴 在TPU的设计上,谷歌主导整体架构与功能定义,博通Broa👍dcom参与了部分芯片的中后端设计工作,目前,Google 🤔TPU主要由台积电代工生产。 随着大语言模型参数的急剧🤗扩张,AI计算任务正在从“训练”走向“推理”。这时,作为通用🥳算力单元的GPU,开始显露出成本以及功耗过高的问题。 ❤️而TPU从设计之初就专门瞄准了AI计算,具有很高的性价比优势🤗。据报道,谷歌TPU算力成本仅为OpenAI使用GPU成本的🎉1/5,性能功耗比更是优于同代GPU。 因此,为了抓住🙌市场,谷歌围绕着自己的TPU架构,打造了一系列产品与生态。 😡 谷歌造芯这十年 谷歌第一代TPU (v1) 于2😢015年推出,通过高度简化的专用设计,实现了超越同期CPU与😁GPU的能效比,并在AlphaGo等项目中展示了其高效能,从😊而验证了AI ASIC的技术路径。 随着研发深入,训练😢环节的算力瓶颈日益凸显,促使TPU的设计方向转向系统级解决方🤔案。2017年发布的TPU v2为此引入了BF16数据格式以🤯支持模型训练,并配置了高带宽内存(HBM)。 更为关键❤️的是,v2通过定制的高速网络将256个芯片单元互联,首次构建😅了TPU Pod系统。随后的TPU v3通过增加计算单元数量🚀和引入大规模液冷技术,实现了性能的显著提升。 TPU 😂v4的发布带来了互联技术的重大革新,其核心是采用了光学电路交😍换(OCS)技术,实现了TPU Pod内部网络拓扑的动态重构😁,从而提升了大规模训练任务的容错能力与执行效率。进入v5与v🌟6 (Trillium) 阶段,TPU产品线呈现出分化策略,👏形成了分别侧重于极致性能的'p'系列与能效比的'e'系列,以😎适应多样化的AI应用场景。 2025年Google T👏PU的全年出货量预计为250万片。v5系列总出货量预计为19🙌0万⽚,其中v5e占⽐约120万⽚,v5p占⽐约70万⽚, 😴v6系列预计总出货量为60万⽚,⽬前仅v6e在市场上销售,⽽💯v6p将在第四季度上市,约10-20万⽚左右。预计到2026🥳年,总体TPU销量将超过300万片。 在今年的谷歌云大😀会上,谷歌发布了第七代TPU,代号“Ironwood”。 😎 Ironwood是谷歌迄今为止性能最强、能效最高且最节能😢的TPU芯片,其峰值算力达到4614 TFLOPs,内存容量😅为192GB,带宽高达7.2 Tbps,每瓦峰值算力为29.😂3 TFLOPs。此外,Ironwood首次支持FP8计算格😢式,并在张量核和矩阵数学单元中实现这一功能,这使得其在处理大😢规模推理任务时更加高效。 Ironwood最高配集群可💯拥有9216个液冷芯片,峰值算力可达42.5 ExaFLOP🚀S,是世界上最大的超级计算机El Capitan的24倍以上😅。其支持大规模并行处理和高效内存访问,适用于复杂的推理任务如🙄大型语言模型和混合专家模型。 事实上,Ironwood❤️的整体性能已经十分接近英伟达B200,甚至在一些方面还有所超😅越。 当然,英伟达的统治力不仅在于其硬件性能,更在于整😂个CUDA生态。谷歌深知这一点,因此,它也构建了JAX这样的😘,能在TPU上运行的高性能计算Python库。 谷歌还💯发布了其模型流水线解决方案“Pathway”,用于向外部开发🤔者训练大型语言模型(LLM)。将其作为训练模型的必备手册,研👏究人员无需重新设计模型即可开发Gemini等LLM。 😉有了上述的一整个“军火库“,谷歌终于可以和英伟达掰掰手腕了。👍 谷歌vs英伟达 投资银行D.A. Davids😊on分析师Gil Luria在最新报告中指出,过去一年以来谷🤩歌母公司Alphabet大幅缩小与英伟达的差距,如今已成为“😢最好的英伟达替代方案”。 报告显示,过去半年,围绕Go😆ogle Cloud TPU的开发者活跃度激增了约96%。 ⭐ Gil Luria与前沿AI实验室的研究人员和工程师交⭐流后发现,业内普遍看好谷歌TPU。因此Luria认为,若谷歌😘将TPU业务与DeepMind部门合并并将它们分拆上市,估值😀或将高达9000亿美元。 AI独角兽Anthropic😍此前使用亚马逊的Trainium芯片来训练模型,最近,该公司😡被发现正在招聘TPU内核工程师;马斯克旗下的人工智能公司xA🤩I也对采购TPU表现出兴趣。这一切都说明了业界对于TPU的认😉可。 而谷歌自身也在积极行动。首先,谷歌有意在公司内部👏进行从英伟达GPU到自研TPU的迭代。Omdia数据显示,2😊024年估计谷歌订购16.9万台Hopper 架构GPU,在🔥五大云厂商中排名最后,约为微软的三分之一。同时,谷歌内部已部🙌署了约150万颗TPU。 谷歌的对外战略,就是文章开头❤️提到的,对那些使用英伟达芯片的数据中心供应TPU。据报道,为🚀了与Floydstack达成合作,谷歌将提供最高32亿美元的👍备选担保支持,若Fluidstack无力支付纽约新数据中心的🚀租赁费用,谷歌将补足差额。 根据野村证券最新报告,预计🤗到2026年,ASIC总出货量很可能会第一次超过GPU。而T😂PU正是目前最成熟的ASIC。 英伟达需要紧张起来了。😢 结语 市场对谷歌TPU的积极接受,反映出越来越🙌多的公司想摆脱英伟达“一卡难求“的困境,寻求更高的性价比和更🙄多元、稳定的供应链。 而借此机会挑战英伟达的,也不只有🌟谷歌一家公司。供应链数据显示,Meta将于2025年第四季度🚀推出其首款ASIC芯片MTIA T-V1。它由博通设计,具有😘复杂的主板架构,并采用液冷和风冷混合技术。 到2026🥳年年中,MTIA T-V1.5将进行进一步升级,芯片面积将翻😢倍,超过英伟达下一代GPU Rubin的规格,其计算密度将直😆接接近英伟达的 GB200 系统。2027年的MTIA T-👏V2可能会带来更大规模的CoWoS封装和高功率机架设计。 😀 报告指出,根据供应链估计,Meta的目标是到2025年底🥳至2026年实现100万至150万件ASIC出货量。 👏微软、亚马逊同样有自研的ASIC芯片,正在对这片被GPU霸占😆的市场虎视眈眈。 对此,英伟达也有自己的反击手段。今年⭐5月,英伟达正式发布NVLink Fusion。NVLink😜 Fusion允许数据中心将英伟达GPU与第三方CPU或定制🚀化AI加速器混合使用,标志着英伟达正式打破硬件生态壁垒。 🤯 近日,英伟达执行副总裁暨首席财务官Colette Kre🤩ss在高盛组织的会议上谈及了对于AISC芯片所带来的竞争看法🚀,称英伟达GPU更具性价比。 一场大戏已经拉开了帷幕。🤯无论是万亿美元的市场规模,还是未来AI时代硬件结构的定义权,🔥都值得几大巨头为之疯狂。 这一战,谁都有不能输的理由。👍返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
#开心一刻:半夜的“棒槌趣事” 在这个静谧的深夜,本以🌟为能做个甜甜的美梦,却被一场突如其来的闹剧打破了平静。 🙌 半夜,妻子突然坐起,那动作犹如听到了冲锋号一般迅猛。她用力🤩推醒还在梦乡中悠哉游哉的丈夫,神色紧张地说道:“水来了,借棒❤️槌一用。”丈夫被这突如其来的状况弄得丈二和尚摸不着头脑,迷糊🤩中瞪大双眼,一头雾水地问道:“啥水来了?哪来的棒槌?”妻子一🤩看丈夫这副懵懂的样子,急得直跺脚,大声说:“你忘啦,咱家洗衣👍机里还泡着衣服呢,我刚才做梦梦见洪水把衣服都冲走啦,得赶紧用🎉棒槌把衣服敲定在洗衣机里,不然全被水冲跑啦!” 丈夫听💯了哭笑不得,无奈地指了指旁边安静运行的洗衣机说:“老婆,你看👍,洗衣机好好的,哪有洪水啊,你在做梦吧。”妻子这才如梦初醒,🔥不好意思地挠挠头,然后捂着嘴偷偷笑了,一边笑着一边嘟囔:“哎👏呀,看来这梦做得太逼真啦,害我虚惊一场。”丈夫也跟着笑起来,🙄轻轻拍了拍妻子说:“你这脑洞,真是服了,大半夜演这么一出,我🙄差点以为是家里闹鬼了呢。” 这件小事就像一颗小石子投入❤️平静的湖面,在这寂静的夜里泛起了层层欢乐的涟漪,让原本平淡的🤩夜晚多了一丝别样的趣味,也为夫妻间的生活增添了一段令人捧腹的🥳回忆,说不定以后每次看到棒槌,两人都会想起这个搞笑的深夜插曲🙄,然后相视一笑,再次感受到生活中这些小意外带来的无限欢乐。 😍 返回搜狐,查看更多
推荐阅读
无脑反对预制菜就是在与工业文明作对 | 马上评
3478
H&M中国首个品牌体验中心落地上海;鸣鸣很忙门店数破2万;usmile笑容加官宣品牌代言人樊振东|消研所周报
1847
西贝VS罗永浩:一场赢了法理却输了人心的品牌危机公关
3515
八马茶业,不卖茶叶
4821
京东为什么要自营一切
1892
网易搞了个“副业”
7733
消费贷贴息满月调查:谁在享受3000元贴息红利? | 巴伦精选
1295
重回线下重回线下重回线下!零售行业再次站在了1999年 | 巴伦精选
7071
人形机器人+固态电池,能打开多少想象空间? | 巴伦精选
1258
美国“小包免税”终结,卖家营收腰斩转战新市场
7040
扫地机器人,困在围城里
8280
【钛晨报】中国、印尼两国央行共同启动双边交易本币结算框架和二维码互联互通合作项目;上汽赛可智能前CTO于乾坤加入哈啰自动驾驶,任联合创始人|独家;交易员完全定价美联储2025年底前将降息三次
4591
汇源果汁,战端再起
7443
华与华继续发财,罗永浩阻挡不了
3678
甲骨文“一树梨花压海棠”
2079
用"任务"识人,不万能,但管用
9938
贾国龙错在太老了
9760
方建华:SOFC何以成为破解AI能源困局的"六边形战士"?
1116
【钛晨报】服务消费迎政策利好,入境游、赛事经济、中高端医疗站上风口;传阿里腾讯再“拆墙”,淘宝拟入驻微信小程序;小鹏汇天回应长春航展eVTOL事故
2481
汽车行业如此卷,为什么还有新人要进来?
1360
我国的“亚洲锂腰带”,会是下一个稀土级王牌吗?
7239