← 顶级AI播客总结
No Priors

CPU 没有被加速器取代:Arm CEO Rene Haas 谈芯片、供应链与机器人

Redefining Chip Architecture with Arm CEO Rene Haas
节目时长 37 分钟 阅读约 23 分钟
▶ 在 YouTube 收看原片

Arm CEO 拆解从 IP 授权走向自研芯片的转折、未来 3~5 年的供应链紧缺,以及「所有路都要经过 CPU」的判断。

核心要点

  • 98.5% 毛利:Arm 原本的纯 IP 生意没有库存、没有 RMA、没有报废,Rene 2013 年从 Nvidia 过来时觉得「有什么不喜欢的」;做物理产品意味着要重新补上供应链、后端布局、bring up 实验室这些能力 6:14
  • Meta 的第一单:Arm 从 IP 组件走到 compute subsystem 再走到成品芯片,第一个客户是想要通用 agentic CPU 却在市面上找不到供货方的 Meta;发布时 Jensen、Amazon、Microsoft、Google 的高管都出面祝贺 3:55
  • 80~90% 工程师:芯片设计要 24~36 个月,最耗时的不是架构和 RTL,而是验证、调试和文档——AI 恰好擅长这些;Rene 说现在关掉 AI 就像「只准每天两点到四点上网」,会天下大乱 7:47
  • 3 到 5 年紧缺:只要 transformer 还是生成 AI 的能量单位,它天然极度吃算力和内存,Rene 判断受限环境至少还要 3~5 年;下一个瓶颈是数据中心建设本身,进度普遍落后且遭遇地方阻力 12:24
  • 泡沫要分开看:抛开股市估值这一层,从供给对需求的角度「差得远」(not even close),因为模型的工作方式决定了需求近乎无止境 14:41
  • CPU 是心脏:加速器热潮里 CPU 被暂时遗忘,但重心从训练转向推理后,总要有东西做编排、仲裁和 token 的去向决策,「token 工厂造出 token,卡车得把它们运给用户」——那就是 CPU 34:44
  • 落后没有好处:Rene 认为不管是智能手机、互联网还是 PC,做领先者「没有任何坏处」;落后意味着整个剧本由别人写,因此美国必须有更多本土晶圆厂,这既是国安问题也是供应链多元化问题 31:39

章节时间轴

详细内容

一、从卖图纸到卖芯片:Arm 的路线转折

Rene 先把 Arm 在供应链中的位置讲清楚:主业是授权 CPU 核心 IP,这些核心最终进入智能手机、数据中心、汽车等等;客户里少数像三星有自己的晶圆厂,绝大多数拿着设计去 TSMC 流片。因为覆盖面极广,Arm「基本什么都看得见」——汽车、数据中心、手机的景气度它都有一手体感 1:35。

去年三月,Arm 发布了自己的第一颗产品 Arm AGI CPU,也就是这次在 Hot Chips 上讲的那颗。Rene 半开玩笑说,现在 Arm「自己也泡在这锅汤里」了:要去买基板、买晶圆、买内存 2:20。

为什么是现在?他给的因果链很直接:几年前 Arm 观察到两个趋势在对撞——产品周期没有变慢,但芯片制造周期在拉长,于是「更快拿出方案」的价值越来越高。Arm 的第一步不是造芯片,而是从单个 IP 组件走到 compute subsystem。他用了当年路演时的乐高比喻:Arm 提供的是「怎么把这些积木拼起来」的蓝图。当时业界普遍怀疑——拼装本来就是芯片设计公司自己的活,你为什么要插一脚?结果需求「疯狂」(insane),因为它实打实压缩了 time to market,也省了成本 3:08。

物理产品是顺理成章的下一跳。触发点是 Meta:它想要一颗通用的 agentic CPU,而市面上没有任何人能提供,于是找上门说「不如我们一起做」3:55。

Rene 特别强调了生态这一步的处理方式。CPU IP 的价值完全取决于生态——芯片这一侧的生态和软件这一侧的生态。所以 Arm 事先几乎逐一询问了客户的态度,得到的推回比他预想的少得多。原因也讲得通:野外流通的软件越多(无论专有还是开源),整个生态和客户自身受益越大。Nvidia、Amazon、Microsoft、Google 这些自己就在造 Arm 架构服务器芯片的公司都表示支持;最终的证据是去年三月产品发布时,Jensen Huang、James Hamilton 等人全都出来道贺 4:40。

代价是能力重建。Arm 明确不会自建晶圆厂,仍是 fabless,但需要供应链运营团队、需要和 TSMC/Samsung 打交道、需要去 Samsung、Micron、SK Hynix 那里拿到内存配额;工程侧则要补齐后端、布局、实现、bring up 实验室这些「有实体的东西」——而 Rene 说,原来那门生意的美妙之处恰恰是没有实体 5:27。

Sarah 补了一句她当年发现的数字:Arm 的毛利率是 98.5%。Rene 承认「挺美的」,并回忆 2013 年他从 Nvidia 转来 Arm 时的第一感受:没有库存、没有 RMA、没有报废,这有什么不喜欢的 6:14。为了补上这套新肌肉,Arm 从 Broadcom、Qualcomm、Nvidia 挖了做过这件事的高管。

二、AI 已经在改写芯片设计流程

话题从 OpenAI 当天发布的 Jalapeño 芯片切入——OpenAI 宣称其快速上市的部分原因是用 AI 工具加速了设计 7:01。

Rene 的回答分两半。前半是态度:他坚信 AI 是一种提升全行业生产力的「公共设施」(utility),会成为伟大的拉平器,医疗、基础设施、机器人,每个行业都会把它当水电用。

后半是具体数字。芯片设计视复杂度需要 24~36 个月,但真正吃掉时间的不是架构设计和 RTL 生成,而是验证、确认、调试、文档——「AI 非常擅长这些」。他给出的内部渗透率是:今天 Arm 大约 80~90% 的工程师每天都在用 AI 7:47。他用了一个很有画面感的类比来说明不可逆性:如果现在把 AI 关掉,就像回到 1990 年代,你有了互联网,却被告知「只能在下午两点到四点上网,之后请去走廊尽头的图书馆查书」——那会是无政府状态。「精灵已经出瓶了,没法塞回去。」8:34

但他明确点出工具还不成熟的地方:RTL 生成、物理设计与实现要达到业界最佳水平仍然不行。原因是模型只能拿公开可得的数据训练,而这部分信息高度专有 8:34。

Elad 追问 Arm 是否在微调模型来补这个缺口。Rene 说确实在和模型厂商合作,并顺势讲了 Arm 一个容易被忽略的资产:因为核心业务就是 IP,Arm 拥有极丰富的 IP 组合,而「杀手锏」不是 IP 本身,是文档和测试台。他讲了个反例——过去有芯片公司想把手里的 IP 拿去授权变现,结果发现没有文档、没有说明,根本没人能用。他把这条逻辑推到底:不可用且不可测试,就等于不可训练;不可训练,对 AI 就没价值 9:20。

关于设计周期会不会崩塌,Rene 给的判断相当克制:两三年内他不认为会发生,但五年以上、「从想法直接到 GDS2 文件」(送去流片的那个文件)对相对直接的设计是完全可能的,因为设计和验证两大块都被拿掉了。不过如果你走进工具里说「给我设计一个比 Vera Rubin 快 10%、便宜 20%、在这个模型上效率高 30% 的东西」,那不是按个按钮就能出来的。他的结论是 5~10 年内芯片设计方式会有「惊人的差别」10:53。

三、供应链:紧缺至少还有 3 到 5 年,下一个瓶颈是数据中心

Elad 指出 AI 算力的瓶颈是一连串级联事件:两年前是封装及相关环节,现在人们谈的是内存 13:09。他问下一个瓶颈是什么。

Rene 的答案是数据中心建设本身。他的观察很具体:今天在建的项目里,「没有多少是提前于计划、且用的人力比预想更少的」。再叠加美国国内不同地区出现的放缓或限制数据中心开发的声音,基础设施建设很可能成为逆风 13:55。

他随后补了一个反直觉的推论:这件事「打引号地说」也许还算 OK——因为如果基础设施建设不成为逆风,那晶圆产能和内存产能就会成为逆风。换句话说,会有一系列「调速器」轮流出现,限制这波增长的速度 14:41。

顺着这个话头,他直接回应了他在各种论坛上被反复问到的「AI 泡沫」问题,并做了一个关键切分:股市估值层面的泡沫是一回事;而供给相对需求是否过剩,是另一回事,后者「差得远」(not even close)。理由是模型的工作方式决定了需求近乎无止境。他给出的时间判断是:这种受限环境「12 个月不会停,24 个月也不会停,我认为至少还要 3 到 5 年」,因为只要 transformer 还是生成 AI 的能量单位,它按设计就是极度吃算力和内存的 12:24。

这也改变了他看待客户结构的方式。现在有大量拿到巨额融资、设计很创新的年轻 AI 芯片公司,但它们卖进的是一个资本要求极其庞大的行业,与内存厂商、基板厂商的关系至关重要,还要拿到 3nm 产线、16nm 产线和先进封装产线的准入。Rene 的判断是:供应链的操盘能力(supply chain acumen)会成为比设计能力更关键的肌肉 12:24。

四、SoftBank 这张牌:资本、生态与一个可能的「归宿」

Sarah 把话题转到资本结构:ARM 是一台漂亮的现金流机器,但有一个占绝对主导的单一股东;对于要么烧算力、要么砸资本开支的重资产创业者,Rene 有什么建议 15:28。

Rene 承认这是优势:他和「首席股东」有大量非正式的投资人沟通,而且双方在很多事情上可以协同互补,帮助 Arm 推进自己的议程。对年轻公司,他的建议是极早期就建立战略合作——不只是和供应链里的人,也包括私募股权和银行,因为「现在是另一套玩法」。他描述了这个行业的钟摆:半导体创业曾经长期无人问津,现在又回来了,涌现出一波半导体初创,但资本获取才是它们真正的关卡 16:13。

他随后透露了 SoftBank 侧的一个具体路径:SoftBank 刚宣布 SoftBank Neo,意图成为一家 neocloud。在这个格局里,SoftBank 可以成为那些手握芯片技术的年轻公司的「家」——否则它们得自己去 Microsoft 或 Google 争取一个 design win 16:59。

被问到他在 SoftBank 的职责范围时,Rene 解释了集团结构:SoftBank Group 总部在日本、由 Masa 领导,下面有多家运营公司,其中最大之一是 SoftBank KK(移动业务);美国这边是 SoftBank Group International,还有 SoftBank Vision Fund。他直接领导 Ampere、Graphcore 和一家做自动驾驶的 Stack AV,但他说更准确的描述是:他「在 Masa 的很多讨论现场」,帮助形成战略并且更重要地——执行它。Masa 在股东会上公开讲的四条主线是机器人、OpenAI、基础设施和 Arm 18:32。

这对 Arm 意味着什么?两点:一是极佳的鸟瞰视角,能同时看到基础设施、资本和能源的走向;二是 SoftBank 的这些垂直领域「可以成为 Arm 产品的一个归宿」——他措辞谨慎地说「不一定是那个归宿,但确实可以是一个归宿」,甚至可以只为 SoftBank 做产品,而不必进入广义的商用芯片市场 19:17。

五、机器人:形态之争与还没跑通的商业模式

Sarah 给出了她的判断作为提问前提:通用机器人认真做了大概两年,相比 LLM 的十年还很早;现在能看到任务与环境泛化、鲁棒性甚至上下文学习的有趣 demo,但还没有大规模部署 20:03。Rene 同意这个判断。

他的预测是:无论人形还是可再训练的专用机器,规模都会「非常巨大」。他把对照组讲得很清楚——「机器人 1.0」是纯专用的:一套机械结构为某个特定任务设计,软件也为该任务优化;一旦上了新车型或换了设备,机器人不适配就得把整条线拆掉重来,门槛因此极高。而当机器人能通过训练或观察来学习、机械上又足够通用可被重编程、成本还在下降时,「你会想,还有什么是它做不了的」20:48。

他顺带给了一个略带调侃的判断:Instagram 和 TikTok 上那些机器人奥运比赛很热闹,但他不认为会有人真的想看一个机器人体育联赛——可能有发烧友群体,但更广泛的效用还是在替代人类劳动任务上 21:35。

关于形态之争,Elad 概括了两个阵营:一派认为会是人形或大致人类尺寸,因为物理世界和工具本来就是按人设计的,机器人可以直接插进去;另一派认为会是更专用的形态。Rene 的答案是「两者都有」——确实有大量工作是围绕「一个六英尺高、手臂多长」的人优化的 22:21。

而无论哪种形态,他都认为 Arm 会无处不在:指尖上负责感知的实时微处理器会是 Arm;今天人形机器人里的「大脑」,不管是 Nvidia 的还是 Qualcomm 做的那部分,也基本都跑在 Arm 上 23:07。

但被问到早期采用信号时,他给了一个偏冷静的答案:现在还早,因为商业模式还没被验证。机器人成本太高,让客户自己买机器人是个很难讲通的模型。今天真正在发生机器人销售的是几类相当定制化的场景——汽车产线、某些手术机器人、配送中心。Elad 追问配送中心,Rene 认可这块可以完全自动化,一路自动化到最终配送,并补了一句:广义上讲,一辆有自动驾驶能力的卡车也是一种机器人。他的结论是工厂自动化、配送与分拣会是最先被自动化的领域,「毫无疑问」23:53。

六、出口管制、本土制造与数据中心的舆论战

Sarah 抛出一个组合问题:围绕机器人、芯片、数据中心的供应链管制和使用管制,加上出口管制,共四类,Rene 认为美国和西方应该有多保护主义 24:41。

Rene 先做了身份声明:Arm 不是美国公司,总部在英国,员工大约 40% 在英国、30% 在美国、30% 在亚洲,但美国业务体量很大;接下来他明确以「美国公民」和一个在半导体行业长大的人的身份发言 25:30。

他讲了一段历史类比:1980 年代美国是半导体的领导者,日本在内存定价上极其激进并夺走大量份额,美国于是搞了 Sematech 来重整本土半导体产业,他认为这在当时是对的、也确实有能量。随后互联网来了、SaaS 成为风口,人们就淡忘了半导体是战略资产这件事 26:16。他的立场是:美国必须把尽可能多的这类技术留在本土——不管是 Intel 还是 Micron,「我们需要更多美国晶圆厂」,这既是国家安全问题,也是供应链多元化问题 27:02。

对出口管制本身,他的个人看法更微妙:所谓「限制芯片以免中国赢下这场竞赛」,在他看来这是一场无限游戏——他首先不认为这场竞赛会有赢家,比赛也不会结束;但确实可能演变成关键技术都不在美国本土的局面,那才是坏结果 27:02。他反驳了「成本会下降、商品会更便宜」的说法,理由是:站在技术前沿不仅驱动创新,还驱动生态。他举了二战后 1950 年代的美国汽车业——底特律是宇宙中心,而威斯康星、俄亥俄、伊利诺伊分布着 Firestone 这样的配套企业,整个生态喂养着它 27:49。

数据中心是同一个道理。他直接反驳了「数据中心就是个大 Costco 盒子、停车场只有两辆车、全自动运行所以不创造就业」的说法——「我说这是胡扯」,因为能源、液冷、以及所有让数据中心变得更好的环节,全都是可以在本土创造和完成的工作 28:36。

Elad 追问为什么反数据中心的声浪看起来「协调得不像草根」。Rene 认为根子是恐惧:AI 意味着失业,失业意味着一系列后果。Sarah 反问这种恐惧是否站得住脚,Rene 说「完全站不住」,并搬出一个具体反例:电工工会最近明确表态请不要禁建数据中心,因为他们需要这些工作 29:22。他把这个例子展开:电工过去可能被贴上「不需要博士学位」的低教育标签,但那其实是需要大量训练和认证的高技能工作,而且数据中心需要海量电工。

他承认背后有真实的社会情绪:AI 繁荣让一部分人受益,也有大批人毫无收益;在美国政治场景里,很多人房贷都难以负担、工资没涨,现在又冒出一个看起来会让日子更难的 AI。于是数据中心不幸成了「所有 AI 可能的坏处」的靶心——包括那些他认为纯属编造的说法,比如举着被染色的水说数据中心毁了水源 30:07。Sarah 补充说这些议题周围也存在有组织的媒体影响,但同时强调:一个快速增长的新产业确实能给周边社区带来技术、岗位和财富,只是这件事要靠行业自己去沟通。

Rene 用一句他认为最重要的话收尾:无论是智能手机、互联网还是个人电脑,做领先者「没有任何坏处」。会有你不喜欢的二阶、三阶效应,但作为落后者,整个剧本都由别人口述给你。他指出世界上那些不在这个领域领先的地区,经济上和社会上都被落下,政府还要背上沉重的税负 31:39。

七、CPU 的反击:token 造出来之后,谁来运

最后 Sarah 把话题拉回本行:这个时代 CPU 的机会主要是两块——机架里的 CPU(Vera、Graviton 这类),以及 agent 视角的用途,比如沙箱、让 agent 使用现有软件、API 调用和工具 33:59。

Rene 的回答是全期最凝练的一段。他先复盘了行业心态的摆动:ChatGPT 爆发后一切都关于加速器,「不管问题是什么,答案都是加速器」。但事实是——「从来没有哪个被发明出来的计算问题是用不上微处理器的。它是一切的心脏,所有的路都要经过它、绕过它、穿过它」34:44。你看任何基础的系统设计,都必须有 CPU,它们不会凭空消失。

真正让 CPU 重回视野的是重心迁移:当越来越多的工作从训练转向推理、转向 token 的使用,系统里就必须有东西来做编排、仲裁、决定这些 token 往哪去。他的比喻是:token 工厂只管生产 token,「那么把 token 拉走、交到用户手上的卡车在哪里?」——那就是 CPU 干的活。除非有人发明出一种目前尚未被定义的替代机制,否则 CPU 会过得很好,而且需求会是巨量的,与生成 token 的加速器并存 35:31。

他强调这要当作一个系统问题来看:内存当然是必需的,因为在冯·诺依曼架构里你有 CPU、有某种加速器(浮点或 GPU)、还有内存,系统设计的基本盘并没有变,只是关注点挪来挪去。而且这条逻辑对数据中心成立,对汽车、机器人、手机、可穿戴同样成立 35:31。

最后他点出边缘侧才是 Arm 的甜蜜区:footprint 越小,越多 AI 会在本地发生,而 CPU 在边缘设备上本来就是 table stakes——你不可能在头上放一颗 50 瓦的 GPU,所以那部分 AI 处理必须在本地完成,这正好落在 Arm 指令集架构的能力范围内 36:18。

问到未来一两年最兴奋的事,Rene 的回答是「身处这一切的中心」:所有 AI 都需要某种形式的算力,那是 Arm 做的事;而那些算力必须是能效高的,那是 Arm 特别擅长的事。他对比了自己职业生涯里曾经反复思考的问题——「人们真的还需要一台平板吗?它该是 8.9 英寸还是 9.2 英寸?」——而现在 AI 带来的创新机会是压倒性的丰盛 33:11。

金句

从来没有哪个被发明出来的计算问题是用不上微处理器的。它是一切的心脏,所有的路都要经过它、绕过它、穿过它。 —— Rene Haas 34:44
如果现在把 AI 关掉,就像回到 1990 年代:你有了互联网,却被告知只能在下午两点到四点上网。精灵已经出瓶了,没法塞回去。 —— Rene Haas 8:34
如果它不可用、不可测试,那它就是不可训练的;不可训练,对 AI 就没有价值。 —— Rene Haas 9:20
抛开估值泡沫不谈,从供给对需求的角度,差得远。 —— Rene Haas 14:41
做领先者没有任何坏处。会有你不喜欢的二阶三阶效应,但作为落后者,整个剧本都是由别人口述给你的。 —— Rene Haas 31:39
说数据中心不创造就业,我说这是胡扯——能源、液冷、所有让数据中心变得更好的事,都是可以在这里创造的工作。 —— Rene Haas 28:36

提到的书·产品·人物

适合谁听

关心 AI 算力供应链走向、想搞清楚 CPU 在推理时代还剩多少位置,或在评估半导体与机器人赛道投资节奏的人。

← 返回全部观看原片 ↗