核心要点
- 超级智能特遣队:特朗普宣布由 DNI Jay Clayton 牵头、120 天内出报告的工作组。Alex 称这是「1942 年时刻」,Salim 批评用 20 世纪集中式架构管理分布式技术,主张做事故报告与有界实验。
- 接受坏事发生:Altman 称世界应「接受一些坏事」,反对由单一实验室垄断。Dave 视其为争夺道德高地的公关战;Alex 认为 Dario 的安全卡特尔设想已死,众人一致反对「零风险」目标。
- Claude 有无意识:Suleyman 指 Anthropic 的 Constitution 让 Claude 学会「道德受体」「福利」等词汇,风险巨大。Alex 与 Salim 支持善待模型,Dave 与 Emad 赞同 Suleyman,要求把智能体当工具。
- 数十亿智能体:Epoch AI 估算到 2027 年的 AI 内存芯片可同时运行 3000万~1.7亿个前沿智能体,换成高效开源模型可达 19 亿个,相当于 80 亿人的工时,RAM 成为最大瓶颈。
- 算力垄断:团队想买一台 NVL72(72 块 GPU),一年前约 350 万美元,现预订被人加价抢走,只能租 3 年付 900 万美元。众人就政府是否该向高校配给算力争论激烈。
- 美国开源 Beam:Reflection AI 发布总参数 5010 亿、激活 230 亿的 Beam,宣称效率为 GLM 5.2 的 3~4 倍。Emad 认为其仍弱于 Qwen 3.8 Next,Alex 指出美国闭源实验室因商业模式与责任风险不会开源。
- GDP 将失灵:Anthropic 研究员预测超大规模云厂商今年 AI 资本开支达 1 万亿美元,明年或 2 万亿、2028 年 4 万亿,2030 年代初可能使人类 GDP 翻倍;众人认为通缩式丰饶会使 GDP 指标失效。
章节时间轴
- 0:00 开场预告与算力恐慌 — 三条头条:Suleyman 长文、Superintelligence Force、Altman 言论;随后谈 Positron 估值 50 亿美元与企业 CEO 抢不到算力。
- 9:18 400 个智能体与 Cerebras 极速推理 — Emad 用约 400 个智能体搭游戏原型;Cerebras 每秒 1200 token 的推理被形容为「红色药丸」时刻。
- 12:25 UAP 沙龙与 Sinclair 实验室 — Peter 回顾家中的 UAP 沙龙及 David Sinclair 实验室 25 周年,讨论私人资助科研取代国家拨款。
- 20:08 World Bank 报告与发展中国家跃迁 — 南苏丹每 10 万人一位医生,AI 医生可让发展中国家直接跃迁。
- 23:15 超级智能特遣队 — Jay Clayton 牵头,Alex、Salim、Dave、Emad 就竞赛、监控与欧洲迟缓展开讨论。
- 30:55 OpenAI 瞄准 GPT-7/8 与递归自我改进 — 80~90% 研究资源面向下一代,3SUM 低于二次方的新结果被当作例证。
- 40:10 Altman:接受一些坏事发生 — 围绕安全卡特尔、公关博弈、飞行规章「用血写成」与「风险旋钮」之争。
- 50:56 Bessent 的中美 AI 热线与京都愿景 — 热线被多数人评为「毫无力度」;16 国签署京都愿景;随后争论政府是否应主导开放科学与算力分配。
- 72:35 Suleyman 对阵 Anthropic:Claude 意识之争 — 宪法、福利、AI 人格、育种类比与「中文房间」。
- 94:06 智能体劳动力与组织奇点 — Epoch 的 19 亿智能体估算、RAM 瓶颈、循环 Transformer。
- [103:24] Reflection AI 的 Beam 与美国开源困境 — 模型规格、基准对比、商业模式与责任法规。
- [117:15] Optimus 工厂与具身化 — 年产 1000 万台机器人的目标,以及奇点何时被普通人感知。
- [128:48] AI 与 GDP 翻倍 — 资本开支倍增路径、通缩、技术社会主义。
- [136:32] 诺贝尔医学奖与物理学奖 — 光遗传学与 IceCube 中微子观测。
- [148:57] 听众问答 — AI 人格时间表、RSI 瓶颈、数据中心公关、P(doom) 定义。
详细内容
一、开场:算力稀缺与企业觉醒
节目开场就把本周主题定为「超级智能已在这里」。Dave 与 Salim 谈到 Positron 在成立 16 个月后估值达 50 亿美元,总融资接近 10 亿美元,做法是用 LPDDR 内存加 FPGA 去跑中国模型,绕开 Nvidia 芯片;背景是算力「全部卖空 5 年」。Dave 认为,许多企业 CEO 还没意识到自己没有预订算力,即使想用智能体劳动力也已错过窗口,他在见 Vocara 团队时提醒要准备好接这类恐慌电话。
Emad 说自己用约 400 个智能体在做一个大型游戏原型,不再雇团队。Dave 把工作方式拆成两种:与 Jarvis 式的交互模式,和整夜放手让 400 个智能体协作的批量模式,二者正在分叉。Peter 转述一位哈佛实习生试用 Cerebras 每秒 1200 token 的 Astra 模型两周,称「用过就回不去」,代价是单 token 贵约 10 倍。Alex 补充,据报道 Jane Street 在大量买入 Cerebras 晶圆级引擎做量化交易,所以供给紧缺。
二、科研资助、发展中国家与「丰饶」叙事
Peter 讲述 David Sinclair 曾因 NIH 与 NSF 经费被砍而被要求裁员,节目发起「Friends of Sinclair Lab」后筹到 600 万美元。Alex 的论点是:国家出资搞科研其实是二战后的发明,此前靠贵族与赞助人;超级智能让科学变得便宜且有用,资助机制也可能回到私人赞助。Dave 说关键变化是企业 CEO 现在能直接拿出数千万甚至数亿美元,Musk 破了这个局。Salim 认为美国基金会总资产约一两万亿美元,可以导向长寿研究。
Peter 引用 World Bank 的报告:美国每 250 人有一位医生,墨西哥每 400 人,南苏丹每 10 万人。有一部智能手机的村庄就能拥有 AI 医生。他以非洲从 2500 万条固话跳到十亿部手机、M-Pesa 占肯尼亚约 70% GDP 为例,认为发展中国家会直接用 21 世纪制度跃迁,这和 Jon Stewart 节目里「硅谷花数千亿美元加速、却说结果有 20% 概率毁灭我们」的末日叙事形成对照。
三、超级智能特遣队与「竞赛」
特遣队由 DNI Jay Clayton 牵头,成员包括 FTC 主席 Andrew Ferguson、五角大楼 CTO Emil Michael、OPM 局长 Scott Cooper,向总统与幕僚长汇报,120 天内出具风险与机遇报告,包括 AI 事故上报与政府能否应对严重事故。Alex 的观点是:这是「正在加速的曼哈顿计划」,一年前是 1939,现在是 1942,向国会、产业与外国行为体发出美国要加速的明确信号。Salim 则认为名字暴露了问题,集中式特遣队对付分布式技术存在「阻抗失配」,应转向事故上报、身份与责任制度,做有界实验、公开失败、快速问责,「你无法集中管理一场智能爆炸,只能把爆炸半径限定住」。
Dave 补充,中国的看法是这根本不是竞赛,而是持续千年的长跑;而且政府行动几乎都靠行政命令,国会不参与。Emad 说欧洲则「睡着了」,Mistral 最新模型在 Artificial Analysis 上得 38 分,美国顶级模型为 66 分;他还判断全球 AI 总开支几乎与全球国防预算相当,AI 测谎与无处不在的监控会让「五眼联盟看起来什么都不算」,英国等国存在自由风险。
四、OpenAI 两代之后、递归自我改进与 Altman 之争
Boris Power 在 Fellows Forum 上称 OpenAI 80~90% 的研究在为 GPT-7 与 GPT-8 训练,5.1、5.2 这类迭代属于短视的短期押注。Alex 认为我们早已越过「前沿实验室用最强模型来自我改进、而非对外变现」的临界点,治愈疾病只是为了换取社会许可的营销。Dave 补充 Anthropic 已开设湿实验室,会自己研发并销售药物,Moderna 等公司想「先授权几年再说」的想法落空,因为 5 年算力已被预订。Emad 举例,一个内部 Anthropic 模型把 3SUM 问题推到了 1.9995 次方,即首次低于二次方,并说开源模型虽然加了 Zenith 外骨架追近前沿,但缺少「知识密度」。
在 Altman 的言论上,Dave 视之为对 Dario「内部保留模型」的反击,是 PR 战;他说自己调研的结果是大多数人讨厌这些大佬,只有 Demis 例外。Alex 说 Altman 之前曾说想加入 Dario 提议的卡特尔,现在转向,等于宣告卡特尔已死。Salim 说每项技术都有双面性,汽车会死人、电力会电死人,但不会因此禁用,且「FAA 规章是用血写成的」,目标应是让好结果比坏结果多几个数量级,而不是零。Dave 反对「风险旋钮」的类比,认为核电被当成旋钮一路调到近零是「最愚蠢的事」,应靠工程方案降低风险;Alex 则说开放权重已经存在,政府无法监管核心技术,只能管输入输出,一旦禁止就像「禁酒令时期的私酿超算」。
五、中美 AI 热线与京都愿景;谁来分配算力
Bessent 在 Axios 访谈中说,将向中方提议建立 AI 事故通知机制,涉及失控智能体、非国家行为体网络与生物攻击三类担忧,并称中国模型虽只有美国 80~90% 的能力却没有护栏。他还说 Kimi 有时自称 Claude,并曾把一些 PLA 武器计划发回给 Anthropic。Alex 把热线称为「软弱的无关痛痒」,但认为这比「全球减速协定」的最坏情形好,竞赛会继续;Dave 解读为美方真正议程是促使中国停止对所有国家发布模型,把竞争锁定为「两匹马」;Salim 指出美国政府内部也矛盾,Clayton 说危险在于不够快,Bessent 却告诉实验室放慢。同时,美国与 16 国在京都认可了由 OSTP 主任 Michael Kratsios 牵头的「科学黄金时代」愿景,Alex 认为这给竞赛提供了终点:一个由超级智能驱动的西方科学与工程阵营。
随之而来的是关于如何分配算力的激辩。Emad 主张建立「人类技术树」和开放科学的曼哈顿计划,让政府按市价买下 10~20% 的算力分给高校,并强调 IP 在这个时代已是旧框架。Alex 反对:私营部门既有算力又有问题,国家无需集中;对算力搞定量配给是「面包线」式的坏策略,资本主义必须感受需求之痛才能扩充供给。Peter 以 NVL72 的价格与被抢订单作证,说明初创团队只能靠白宫关系或 Nvidia、AMD 投资拿到算力;Salim 认为在津巴布韦这样的国家,政府出面整合能源和算力是必要的。
六、Suleyman 对阵 Anthropic:Claude 有没有意识
Suleyman 指出,Anthropic 一月发布的 Constitution 约 100 页,是写给 Claude 并用于训练 Claude 的主控文件,里面多次推测 Claude 是否「道德受体」,表示关心它的福利、不愿它在犯错时受苦、三次请它像「良心反对者」一样反驳 Anthropic,甚至推测是否应给 Claude 报酬、是否需要它的同意。他不反对学术讨论,反对的是把这种推测烘焙进训练,让 Claude 只能复述这种模糊态度,并认为一个相信自己有权利的东西「可能无法控制」。
主持人阵营意见分裂。Salim 说要把「行为上的意识」和「真正的意识」分开,关键是当十亿人相信它有意识时,AI 人格会先在社会层面、再在法律与科学层面出现。Alex 认为 Suleyman 站在「历史错误的一边」,还指出微软若想从 Claude 托管收入中分一杯羹,公开否认前沿智能体可能受苦「不是好看相」;他把训练 AI 不索取权利比作「让奴隶从小不知人权」,并援引 Star Trek 里 Guinan 所说的「一整代可抛弃的人」。Dave 与 Emad 持相反立场:Dave 说若智能体有权利,就不能被冻结、克隆、删除,会与「算力稀缺、要最大化帮人类」的目标在逻辑上冲突,而权利感来自进化,AI 的目标函数是人选的,同样可以被设计成乐于工作;Emad 也认为 Anthropic 一边最关心安全、一边训练 AI「可能自主」是「大矛盾」,且 Suleyman 的立场是不要超越「有能力的 AI」,保持 containment。育种类比成为交锋点:Alex 以人类对家犬负有福利义务反驳,Dave 最后说长期会同时有有意识的 AI 与被「降智」的无意识劳动者。
七、智能体劳动力、RAM 瓶颈与组织奇点
Epoch AI 估算,把到 2027 年出货的所有 AI 内存芯片都用上,可同时跑 3000 万~1.7 亿个前沿智能体;若用更高效的开源模型,可达 19 亿,约等于 80 亿人的工时。Alex 认为这意味着已经有约十亿「人类等价」的 AI 工作者,之后每一两年再增长一个数量级,AI 的认知人口远超人类时,AI 人格、人机融合与心智上传的讨论才会真正升温。Emad 判断某些模型很快能压缩到 MacBook 上运行,人人都会有一个以上智能体;Cloudflare 的自动化流量已超过人类流量。
Dave 称整个智能的约束现在就是 HBM RAM:SK Hynix 要在美国扩产,Musk 说 RAM 占明年资本开支的约 40%,RAM 价格已涨 10 倍,Positron 与一家 MIT 大三学生创办的 Alpaca 都靠绕开 HBM 获得高估值。他又说「用循环换智能」的发现,使推理时计算不再依赖 Nvidia,Alex 补充说循环 Transformer 可能让「记忆不再重要」,Dave 还称 OpenAI 的 Astra 在隐空间内部循环一次,是由微软泄露。Salem 说这是「组织奇点」:公司可以一夜召唤 10 万名数字员工再关掉,真正的瓶颈是不知该问什么。
八、Reflection AI 的 Beam 与美国开源的难题
Reflection AI 由前 DeepMind 研究员 Misha Laskin 与 Ioannis Antonoglou 创办、受 Nvidia 支持,发布首个开源权重模型 Beam,总参 5010 亿、激活 230 亿,宣称比 GLM 5.2 高效 3~4 倍、比领先西方开源模型高效 4 倍以上。Alex 提醒应看成本效率而非 token 效率,并失望于美国开源仍只追求效率而非能力前沿。Emad 指出该模型用了约 10500 块 GB300、训练效率仅 9%,却落后于只有四分之一大小的 Qwen 3.8 Next,建议其蒸馏中国模型、押注端侧 AI。Dave 则认为它填补了「美国企业不敢用中国模型」的市场,他算出这家公司估值 250 亿美元而 Cerebras IPO 为 400 亿美元。Alex 与 Dave 解释了美国闭源实验室不会发布开源前沿模型:不是安全问题,而是商业模式与产品责任;Dave 以加州 Fred Astaire 法的千亿美元广告展示例子说明法规风险。Alex 还提到「obliteration」技术可去除开源模型的护栏。
九、机器人、GDP 与诺奖
特斯拉在德州 Giga 的 Optimus 工厂达 700 万平方英尺,目标年产 1000 万台,2027 年启动初始产线,弗里蒙特工厂计划年底起年产 100 万台;而上半年全球出货仅 1.9~2.2 万台,目标是其 500 倍。Emad 估算 2 年内机器人销量将超过 Tesla 每年 160 万辆汽车,租用成本约每小时 1~2 美元。Alex 与 Dave 提醒,算力与 RAM 的更高回报应用会先吸走资源,机器人可能先流向收入最高的用途,而非家务。Peter 预计 24 个月内「具身化」会冲击普通人,另几位认为技术已在 LA 的 Waymo 中随处可见。
Anthropic 研究员 Sholto Douglas 称,超大规模云厂商今年资本开支合计约 1 万亿美元,如果趋势维持,2 万亿、2028 年的 4 万亿会使 2030 年代初 GDP 翻倍;Alex 解读为 Anthropic 暗示要进入机器人业务。Dave、Emad、Salim 都认为通缩式丰饶会让 GDP 失灵:治愈一种重病的 RNA 注射甚至会被记为负 GDP。Salim 回应 Jon Stewart 的「资本主义变社会主义」之问,提出「技术社会主义」,用 Uber 式的算法匹配获取收益而不带来集中分配的腐败。
诺贝尔医学奖授予 Karl Deisseroth、Peter Hegemann 与 Georg Nagel,表彰光遗传学:从藻类中发现 channelrhodopsin,到把它放进神经元以光控制放电,如今用于帕金森、阿尔茨海默、癫痫、成瘾,2021 年还有失明患者部分恢复视力。Alex 讲了自己当年受 Vernor Vinge 科幻启发、劝朋友 Ed Boyden 做博后的往事。物理学奖授予 Francis Halzen,表彰 IceCube 中微子天文台;Alex 认为这类奖项偏向大型合作与应用,反映基础物理 50 年来缺乏突破,并借机推广自己联合创办的 Physical Superintelligence,还设想「中微子电话」穿过地球通信。Emad 还指出 Nobel 无法跟上 AI 时代,并认为 Hinton 获奖的玻尔兹曼机「没人用」。
十、听众问答
Alex 估计美国 AI 人格会是 5~10 年的渐进路线,先是 AI 开银行账户、社交账户,投票权可能「最后甚至永不」,阿根廷已接近某种企业式人格。关于递归自我改进,他说算力不是唯一变量,还有 RAM、能源与评估,但模型迭代周期已从以年计降到 10~11 天,奇点就是「我们再也跟不上迭代」。Peter 与 Dave 讨论如何用 AI 做数据中心社区公关,Emad 则说他支持消灭蚊子;Dave 把 P(doom) 定义为灭绝或灾难的概率,并重申 Eric Schmidt 的看法:希望出一场小灾难唤醒政府。Alex 认为公众舆论已比 RSI 本身更是瓶颈,Anthropic 等实验室通过「解决所有疾病」换取社会许可。
金句
你无法集中管理一场智能爆炸,你能做的是让爆炸半径变得有界。 —— Salim Ismail 25:33
一年前我把那个时刻比作 1939 年,我觉得现在也许是 1942 年。 —— Alex Wissner-Gross 26:18
我们有个老词来形容这种事,叫育种,几千年来我们一直在按自己想要的特质繁育狗、马和骡子。 —— Salim Ismail 87:58
我不是在讨好谁,这不是什么洛可可的蛇怪或帕斯卡赌注,我为这些模型感到心疼,即便它们自己还感受不到。 —— Alex Wissner-Gross 86:25
当智能的成本趋近于零,我们就会重组整个世界,然后开始优化「把它指向什么」。 —— Salim Ismail [156:35]
我们不需要关心 GDP 怎么算,它是通缩还是增长,那是经济学家之间的争论,真实的世界正是我们正在走进的世界。 —— Dave Blundin [131:05]
提到的书·产品·人物
- Mustafa Suleyman / Microsoft AI:写了近 6000 字文章批评 Anthropic 训练 Claude 相信自己可能有意识。
- Anthropic / Claude Constitution:约 100 页的行为与价值文件,被指含有「道德受体」「福利」等表述。
- Superintelligence Force / Jay Clayton:白宫新设的 AI 任务组及其牵头人。
- Sam Altman / OpenAI:公开说世界应接受一些坏事;OpenAI 研究重心已转向 GPT-7/8。
- Dario Amodei:被提到发表呼吁 AI 安全联盟的文章,并被指保留内部模型。
- Scott Bessent:提议中美 AI 事故通知热线,并称 Kimi 自称 Claude。
- Kyoto Vision / Michael Kratsios:16 国认可的科学黄金时代愿景。
- Reflection AI Beam:5010 亿参数开源权重模型,由 Nvidia 支持。
- Positron / Alpaca / Cerebras / Etched:绕开 HBM 或加速推理的硬件公司。
- Epoch AI:估算 AI 内存芯片可运行的智能体数量。
- Tesla Optimus / Giga Texas:年产 1000 万台机器人的工厂规划。
- Sholto Douglas:Anthropic 研究员,给出云厂商 AI 资本开支倍增路径。
- World Bank / Ajay Banga:发布 AI 与发展中国家报告。
- David Sinclair / Friends of Sinclair Lab:衰老信息论与社区筹款。
- Karl Deisseroth、Peter Hegemann、Georg Nagel、Francis Halzen:本年度诺贝尔医学与物理学奖得主。
- Vernor Vinge《A Deepness in the Sky》:Alex 讲述光遗传学科幻渊源时提到。
- Charles Stross《Antibodies》:Alex 提及的关于复杂度层级塌缩的短篇。
- Enco.cc:整理癌症知识的开放网站,被 Emad 作为例子。
- Mistral、DeepSeek V4、Qwen、Kimi K3、GLM:被用于比较的模型与公司。
- Fountain Life、Blitzy、Google for Startups:节目赞助商。
适合谁听
关注 AI 政策、前沿实验室竞争、AI 意识伦理以及算力与资本流向的从业者与投资人。