这一战,谷歌准备了十年
吃瓜电子官网最新热点:这一战,谷歌准备了十年
更新时间: 浏览次数:6448
文 | 半导体产业纵横,作者 | 俊熹 文 | 半导体🚀产业纵横,作者 | 俊熹 9月3日,一则消息在科技圈引😉起了轩然大波:谷歌开始对外出售TPU了。 据报道,谷歌👍近期已在接触那些主要租赁英伟达芯片的小型云服务提供商,敦促他❤️们在其数据中心也托管谷歌自家的AI处理器,也就是TPU。 🔥 谷歌已与至少一家云服务提供商——总部位于伦敦的Fluid😊stack——达成协议,将在纽约的一个数据中心部署其TPU。👏 谷歌的努力不止于此。据报道,该公司还向其他以英伟达为🥳核心的服务商寻求类似的合作,其中包括正在为OpenAI建造数😎据中心的Crusoe,以及向微软租赁芯片并与OpenAI签有🌟供应合同的英伟达“亲儿子”CoreWeave。 9月9🤔日,花旗分析师因TPU竞争加剧将英伟达目标价下调至200美元😍,预计2026年GPU销售额将因此减少约120亿美元。 😜 明眼人都能看出来的是,谷歌和英伟达之间的大战,已经开始了。👍而它们争夺的,将是AI计算这个真正的万亿美元市场。 然😍而,谷歌对这一战的准备,其实比我们想象的都要久。 TP😆U,AI计算的最优解? 早在2006年,谷歌的内部就讨🚀论过在自家的数据中心中部署GPU、FPGA或ASIC的可能性🤩。不过,当时只有少数应用程序能够在这些特殊硬件上运行,而谷歌😊大型数据中心的过剩算力也完全够它们使用了。因此,部署特殊硬件😎的计划被搁置。 然而,到了2013年,谷歌的研究人员发❤️现:如果人们每天使用语音搜索并通过深度神经网络进行3分钟的语😘音识别,那么当时谷歌的数据中心需要双倍的算力才能满足日益增长😴的计算需求。 而如果仅通过扩大数据中心规模来满足算力需😆求,不但耗时,而且成本高昂。于是,在这个背景下,谷歌开始了T😂PU的设计。 谷歌的TPU是为AI计算而生的ASIC芯💯片,它专注于实现两个核心目标:极高的矩阵乘法吞吐量与卓越的能😡效。 为了实现高吞吐量,TPU在硬件层面采用了“脉动阵😜列”(Systolic Array)架构。该架构由大量简单的🔥处理单元(PE)构成网格。数据流从阵列的边缘输入,在每个时钟🙌周期同步地、一步步地流经相邻的处理单元。每个单元执行一次乘法😜累加运算,并将中间结果直接传递给下一个。 这种设计使得🥳数据在阵列内部被高度复用,最大限度地减少了对高延迟、高功耗主😜内存的访问,从而实现了惊人的处理速度。 而其卓越能效的😀秘诀,则在于软硬件协同的“提前编译”(Ahead-of-Ti👏me Compilation)策略。传统的通用芯片需要高能耗😢的缓存来应对多样的、不可预测的数据访问。TPU则不同,它的编💯译器在程序运行前就完整规划好了所有数据路径,这种确定性使其无😘需复杂的缓存机制,从而大幅降低了能耗。 展开全文 🥳 在TPU的设计上,谷歌主导整体架构与功能定义,博通Broa😉dcom参与了部分芯片的中后端设计工作,目前,Google 😁TPU主要由台积电代工生产。 随着大语言模型参数的急剧🤩扩张,AI计算任务正在从“训练”走向“推理”。这时,作为通用😴算力单元的GPU,开始显露出成本以及功耗过高的问题。 🤔而TPU从设计之初就专门瞄准了AI计算,具有很高的性价比优势😴。据报道,谷歌TPU算力成本仅为OpenAI使用GPU成本的😅1/5,性能功耗比更是优于同代GPU。 因此,为了抓住😀市场,谷歌围绕着自己的TPU架构,打造了一系列产品与生态。 😁 谷歌造芯这十年 谷歌第一代TPU (v1) 于2👍015年推出,通过高度简化的专用设计,实现了超越同期CPU与👍GPU的能效比,并在AlphaGo等项目中展示了其高效能,从🙄而验证了AI ASIC的技术路径。 随着研发深入,训练👏环节的算力瓶颈日益凸显,促使TPU的设计方向转向系统级解决方💯案。2017年发布的TPU v2为此引入了BF16数据格式以🌟支持模型训练,并配置了高带宽内存(HBM)。 更为关键😉的是,v2通过定制的高速网络将256个芯片单元互联,首次构建😢了TPU Pod系统。随后的TPU v3通过增加计算单元数量😘和引入大规模液冷技术,实现了性能的显著提升。 TPU 🤯v4的发布带来了互联技术的重大革新,其核心是采用了光学电路交😘换(OCS)技术,实现了TPU Pod内部网络拓扑的动态重构😆,从而提升了大规模训练任务的容错能力与执行效率。进入v5与v😆6 (Trillium) 阶段,TPU产品线呈现出分化策略,👍形成了分别侧重于极致性能的'p'系列与能效比的'e'系列,以😉适应多样化的AI应用场景。 2025年Google T😊PU的全年出货量预计为250万片。v5系列总出货量预计为19🤔0万⽚,其中v5e占⽐约120万⽚,v5p占⽐约70万⽚, ❤️v6系列预计总出货量为60万⽚,⽬前仅v6e在市场上销售,⽽🤩v6p将在第四季度上市,约10-20万⽚左右。预计到2026👍年,总体TPU销量将超过300万片。 在今年的谷歌云大🌟会上,谷歌发布了第七代TPU,代号“Ironwood”。 🔥 Ironwood是谷歌迄今为止性能最强、能效最高且最节能😂的TPU芯片,其峰值算力达到4614 TFLOPs,内存容量🎉为192GB,带宽高达7.2 Tbps,每瓦峰值算力为29.🙄3 TFLOPs。此外,Ironwood首次支持FP8计算格😢式,并在张量核和矩阵数学单元中实现这一功能,这使得其在处理大😅规模推理任务时更加高效。 Ironwood最高配集群可😜拥有9216个液冷芯片,峰值算力可达42.5 ExaFLOP😅S,是世界上最大的超级计算机El Capitan的24倍以上😜。其支持大规模并行处理和高效内存访问,适用于复杂的推理任务如🤯大型语言模型和混合专家模型。 事实上,Ironwood😘的整体性能已经十分接近英伟达B200,甚至在一些方面还有所超🥳越。 当然,英伟达的统治力不仅在于其硬件性能,更在于整🤯个CUDA生态。谷歌深知这一点,因此,它也构建了JAX这样的🤔,能在TPU上运行的高性能计算Python库。 谷歌还😉发布了其模型流水线解决方案“Pathway”,用于向外部开发🤗者训练大型语言模型(LLM)。将其作为训练模型的必备手册,研😡究人员无需重新设计模型即可开发Gemini等LLM。 😂有了上述的一整个“军火库“,谷歌终于可以和英伟达掰掰手腕了。😊 谷歌vs英伟达 投资银行D.A. Davids🎉on分析师Gil Luria在最新报告中指出,过去一年以来谷😆歌母公司Alphabet大幅缩小与英伟达的差距,如今已成为“🤩最好的英伟达替代方案”。 报告显示,过去半年,围绕Go🤯ogle Cloud TPU的开发者活跃度激增了约96%。 👍 Gil Luria与前沿AI实验室的研究人员和工程师交🤗流后发现,业内普遍看好谷歌TPU。因此Luria认为,若谷歌😢将TPU业务与DeepMind部门合并并将它们分拆上市,估值🤩或将高达9000亿美元。 AI独角兽Anthropic😢此前使用亚马逊的Trainium芯片来训练模型,最近,该公司🤩被发现正在招聘TPU内核工程师;马斯克旗下的人工智能公司xA😢I也对采购TPU表现出兴趣。这一切都说明了业界对于TPU的认🥳可。 而谷歌自身也在积极行动。首先,谷歌有意在公司内部🤗进行从英伟达GPU到自研TPU的迭代。Omdia数据显示,2😁024年估计谷歌订购16.9万台Hopper 架构GPU,在🔥五大云厂商中排名最后,约为微软的三分之一。同时,谷歌内部已部😆署了约150万颗TPU。 谷歌的对外战略,就是文章开头⭐提到的,对那些使用英伟达芯片的数据中心供应TPU。据报道,为🙌了与Floydstack达成合作,谷歌将提供最高32亿美元的⭐备选担保支持,若Fluidstack无力支付纽约新数据中心的😎租赁费用,谷歌将补足差额。 根据野村证券最新报告,预计😆到2026年,ASIC总出货量很可能会第一次超过GPU。而T😊PU正是目前最成熟的ASIC。 英伟达需要紧张起来了。😜 结语 市场对谷歌TPU的积极接受,反映出越来越🤔多的公司想摆脱英伟达“一卡难求“的困境,寻求更高的性价比和更😎多元、稳定的供应链。 而借此机会挑战英伟达的,也不只有😡谷歌一家公司。供应链数据显示,Meta将于2025年第四季度😊推出其首款ASIC芯片MTIA T-V1。它由博通设计,具有👏复杂的主板架构,并采用液冷和风冷混合技术。 到2026😅年年中,MTIA T-V1.5将进行进一步升级,芯片面积将翻❤️倍,超过英伟达下一代GPU Rubin的规格,其计算密度将直🎉接接近英伟达的 GB200 系统。2027年的MTIA T-⭐V2可能会带来更大规模的CoWoS封装和高功率机架设计。 🙄 报告指出,根据供应链估计,Meta的目标是到2025年底😢至2026年实现100万至150万件ASIC出货量。 🚀微软、亚马逊同样有自研的ASIC芯片,正在对这片被GPU霸占🤔的市场虎视眈眈。 对此,英伟达也有自己的反击手段。今年😡5月,英伟达正式发布NVLink Fusion。NVLink⭐ Fusion允许数据中心将英伟达GPU与第三方CPU或定制🤩化AI加速器混合使用,标志着英伟达正式打破硬件生态壁垒。 🥳 近日,英伟达执行副总裁暨首席财务官Colette Kre😅ss在高盛组织的会议上谈及了对于AISC芯片所带来的竞争看法🤩,称英伟达GPU更具性价比。 一场大戏已经拉开了帷幕。🔥无论是万亿美元的市场规模,还是未来AI时代硬件结构的定义权,😆都值得几大巨头为之疯狂。 这一战,谁都有不能输的理由。😎返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
9月17日,知情人士称,奇瑞汽车香港首次公开募股 (IPO)😎中的投资者认购规模已达到发售规模。 他们表示,奇瑞汽车😍周三启动公开招股后不久即获得足额认购。上市文件显示,奇瑞汽车😆寻求募集至多91.4亿港元。(新浪财经)返回搜狐,查看更多
推荐阅读
“京美淘”正在成为山姆平替
1848
数据信任危机正在华尔街上演!“新债王”也信不过美国政府?
7562
又要背锅?欧洲谨慎对待特朗普对乌言论,怀疑是一个“局”
9353
特朗普做出“重大承诺”:不会允许以色列吞并约旦河西岸!
2630
马克龙“拿捏”特朗普:只有他能向以施压,只有停战才能拿和平奖
5578
北欧两大机场因不明无人机停摆,丹麦首相:不排除俄罗斯的参与
7700
美联储官员隔空激辩:鲍曼要加快降息,古尔斯比呼吁谨慎
9731
特朗普前经济顾问警告:关税或是就业市场恶化的推手!
9521
最后的“摊牌”!民主党人计划本周四与特朗普当面对决
7552
全世界都在等他“划重点”!鲍威尔会给出市场想要的鸽派信号吗?
3956
美联储面临“最危险”的数周!112年的独立性会否就此打破?
4046
又一位美联储鹰派官员发声:进一步降息的空间有限
2812
金银比翼齐飞,花旗再度上调金价预期,看好铜铝接棒大涨!
3985
法沙牵头“两国方案”,美以抵制!中东火药桶再燃?
6771
日本首相候选人林芳正明确立场:支持央行加息政策
6878
前美联储“三把手”:鲍威尔依旧牢牢掌握美联储!
4449
初请数据上演“魔幻秀”:从近四年最高,瞬间变为近四年最大降幅!
8433
哈塞特“点赞”美联储:降息25个基点是“审慎之举”!
7525
美国政府关门风险升级!民主党抛出重磅反提案,不谈判就关门
5095
回旋镖来了?外媒爆料:库克干过的事,美财长也干了!
9638
美联储降息前夕,民主党急提法案剑指米兰双重任职争议!
7044