← 顶级AI播客总结
Moonshots with Peter Diamandis

200 万美元拍完一部长片,Anthropic 给每个字打水印,Zuck 承诺人人有超级智能

A $2M AI Movie Just Beat Hollywood, Anthropic Watermarks Every Word, & Zuck Promises ASI | EP #279
节目时长 145 分钟 阅读约 56 分钟
▶ 在 YouTube 收看原片
200 万美元拍完一部长片,Anthropic 给每个字打水印,Zuck 承诺人人有超级智能 插画

一期九个故事:AI 电影击穿好莱坞成本、英伟达把算力做成可投资资产、Bernie Sanders 要求暂停 AI。

核心要点

200 万美元一部长片:Higgsfield 用 28 人、约四周、总预算 200 万美元(其中算力 100 万)做出 110 分钟的《Cully Hill Boys》,是第一部有授权名人形象的 AI 生成长片,还开源了全部十步工作流。对照带明星的传统长片 2000 万至 1 亿美元、12 到 18 个月,这是 2% 的成本与 6% 的时间。

中国模型统治视频生成:Bloomberg 报道 Artificial Analysis 榜单上前十的文生视频模型里有九个来自中国。Peter 追问的不只是技术问题——当世界被中国出品的英语电影淹没,文化输出的方向会怎么变;而这些视频模型正在学的物理、运动、物体恒存与因果,恰恰是机器人和自动驾驶需要的能力。

5000 亿美元的算力金融化:英伟达联合五大另类资产管理机构撬动 5000 亿美元第三方资本投向 AI 基础设施,把自己从芯片供应商变成融资层的架构师。Alex 称之为"算力抵押证券",并认为它比次贷安全——算力本身是生产性的——但前提是要有算力期货与衍生品来对冲架构突变的风险。

Grok 4.6 的真实来源:Alex 判断 Grok 4.6 本质上"是下一版 Cursor"——xAI 通过收购与授权拿到大量用户与 Claude 等模型交互的推理轨迹用于后训练,是西方版的蒸馏打法;这能追上前沿但越不过前沿,而 Elon 比中国实验室多的那张牌是算力。Emad 补充参数路线:4.5 是 1.5 万亿,4.7 为 2 万亿,Grok 5 将是 6 到 10 万亿。

Sanders 要求暂停,五人一致反对:导火索是斯坦福用开源的 EVO2(400 亿参数,Emad 说他在 MacBook 上跑过)设计约 300 条噬菌体序列、合成出 16 个能感染大肠杆菌的活体。四人的共识是模型层管不住,该管的是 DNA/RNA 合成设备与提示词层;Alex 的反对更直接:不要惩罚智能,武汉那次实验室泄漏假说里并没有超级智能参与。

水印大概率是死路:Anthropic 宣布在 Claude 生成的每一段文本里嵌入不可见水印,欧盟同步推 AI 内容标签系统。不到 24 小时就有人做出了同时去除 Claude、Gemini 和 OpenAI 水印的工具。Alex 把它类比成 cookie 弹窗,并警告人眼不可见的旁路信道必然被武器化——Google 早在 SEO 上学过这一课。

长寿赛道的转折点:1.01 亿美元的健康寿命 XPRIZE 吸引 800 支队伍,要求真人临床试验、约 150 人规模、带对照组,目标是把认知、肌肉和免疫功能拨回 20 年。参照数据:全球年龄相关疾病每年花掉约 20 万亿美元,而全球经济总量约 120 到 130 万亿。

200 万美元拍完一部长片,Anthropic 给每个字打水印,Zuck 承诺人人有超级智能 信息图
一图速览本期内容(点击查看大图)

章节时间轴

详细内容

长寿:从"民科想法"到"什么时候"的问题

Peter 前一晚在犹他大学主持了 1.01 亿美元健康寿命 XPRIZE 的决赛,向 10 支队伍各颁发 100 万美元,并表彰另外 10 支入围队伍;到目前为止已发出 2000 万美元,剩下 8000 万美元的大奖将在 2030 年前决出。这项竞赛吸引了 800 支队伍,涵盖从线粒体、干细胞到基因编辑的几乎每一种路径。要求是把人在衰老中失去的功能拨回 20 年——认知(思考与记忆)、肌肉(增肌能力)和免疫系统三项。关键在于这些队伍不能只做理论、也不能只做小鼠,必须做真人试验,带对照组、约 150 人规模,"所以是真实数据,我们会真的知道进入决赛的这二三十种路径哪些有效"。

Salim 提醒 800 支队伍大概是传统奖金赛的纪录(Elon 的 1 亿美元碳移除奖有约 1500 支,但"逆转衰老显然更难")。Alex 则拿出他常用的模式论证:1996 年 Peter 设立 1000 万美元 Ansari XPRIZE 的时候,商业航天根本不存在,而现在这是一个从无到有的万亿美元产业——因为集体创新加上各队成员最后都进了 SpaceX、Blue Origin 这类公司。"这本质上是一个 1.01 亿美元的赌注,一个实验组合,把资本配置到有实证结果的地方。"

Alex 追问了一个反事实问题:如果这个奖 20 或 30 年前就设立,我们能不能提前取得同样的进展?Peter 转述现场顶尖科学家(包括提出"长寿逃逸速度"一词的 Aubrey de Grey,这个词后来被 Ray Kurzweil 推广开)的共识——时机正好,因为基因组测序、特定分子的制造、以及用 AI 做测量和报告的工具链是今天才齐备的。Emad 补的角度更实际:以前不但没有基础设施,连人才池都没有,"即使它是世界上最大的市场,现在也会缺能真正做长寿研究的人"。Salim 给出了一条可操作的判据:当有两三种以上的指数型技术同时汇聚到一个领域时,就是砸钱或设奖的时点,因为那时能以极低成本获得激进的结果。

Dave 的说法最直白:"我毫不怀疑,我在 2026 年下半年做出的有效工作,会超过我在 2026 年之前一生的总和。"他提到女儿在 Moderna 做生化工程,认为 AGI 硬起飞已经发生,但她周围的生物技术同事大约只有 1% 有 AI 意识——而那 1% 的人现在每天有一半甚至八九成时间在跟 AI agent 对话,而不是开会、跑胶、做实验。这引出 Alex 半开玩笑造的词"回溯性超级稀释":超级智能一来,你会发现过去几十年干的事基本白费,"当年花六年读博去解蛋白质结构的人,基本上都白费了"(Peter 补充:当年平均要四年才能解出一个折叠结构)。

经济账是这段最有力的部分。美国 1900 年的平均预期寿命是 47 岁,今天 79 岁,一个世纪里平均每年增加约两个月;但健康寿命只到 63 岁,人生最后十几年都在健康不佳中度过。Peter 说他跟政策方谈的时候强调,美国预算和经济能得到的最大好处就是给人多 20 个健康年——退休更晚、病痛支出更少。Salim 给了全局数字:全球与年龄相关疾病的成本是每年 20 万亿美元,而全球经济总量不过 120 到 130 万亿——Daniel Kraft 常引用的说法是 85% 的医疗支出发生在人生最后五年。所以商业模式会从治病变成"在疾病出现之前维持体面的身体功能",这会彻底改写医疗经济学。

GLP-1 被几位一致视为第一款长寿药,也可能是人类史上销售额最大的药物。Alex 走得更远:据他记忆里最近关于第三代 GLP-1 的一些研究(他反复强调这不是医疗建议、鼓励听众自己做估算),接受过 GLP-1 治疗的某些人群可能已经达到长寿逃逸速度的七成左右——如果成立,这就是他所说的"尖峰式"进展中相当大的一个尖峰。Peter 的现实建议依然朴素:保持当下最好的健康状态,睡够、运动、饮食得当、心态到位,"别死于愚蠢的原因",因为只要能把功能时钟拨回 20 年,你就能享受到接下来 20 年的突破。Salim 抛了个玩笑但不无道理的推论:宗教的商业模式是卖天堂,如果人不再死了,天堂怎么卖。

AI 电影:200 万美元、28 个人、四周

三条同周落地的新闻被 Peter 串成了"好莱坞经济学的坍塌"。

第一条是 Higgsfield 做出的《Cully Hill Boys》:110 分钟长片,第一部使用授权名人形象的全长 AI 生成电影。数字是总预算约 200 万美元、团队 28 人、制作周期四周、算力成本 100 万美元,生成用的是 Seedance 2.5,而且他们把工作流的十个步骤全部开源(后面提到是一份 80 页的指南),任何人都能复现。对照组:今天一部有明星参演的长片要花 2000 万到 1 亿美元、耗时一年到一年半。也就是 2% 的成本和 6% 的时间。Emad 补了公司背景:Higgsfield 由 Snapchat 出身的人创办,一年半左右做到 7 亿美元的收入年化运行率。

第二条是 Bloomberg 报道 Artificial Analysis 榜单上前十的文生视频模型里九个来自中国。Peter 认为标题之下有两层更深的东西:好莱坞长期是美国文化的输出机器,当世界被中国出品的英语电影淹没,公众的兴趣与观点会被怎样牵动?以及这些主导视频生成的中国模型同时在学习物理、运动、物体恒存和因果——而这正是机器人和自动驾驶需要的能力。

第三条是 LTX 2.5,最流行的开源视频世界模型的新版本,可以跑在 MacBook Pro 上。Emad 说它能在 7 秒内生成 10 秒、质量已经难以分辨的片段;几年前的最先进模型还是"Will Smith 吃意面"那种惨状。它的新做法是按场景复杂度和预算分配算力,而不是把每个场景锁在同一个压缩率上,快到可以跑在游戏、模拟或实时分身里。

关于成本曲线,Emad 拆得很细:Seedance 2.5 是最好的模型,大约每 30 秒 3 美元,但你需要非常多的镜头,它能吃 50 路音视频输入;便宜模型便宜十到二十倍而质量有九成。关键是好莱坞票房片的平均镜头长度是 3 秒,而 Seedance 能做 30 秒的片段——所以成本还能再降一个数量级。他的判断是同样一部电影可能只要 10 万美元算力,到明年年初可能只要 1 万美元。

Peter 顺势介绍了他们自己的 Future Vision XPRIZE:5000 份参赛作品,每份是一段三分钟预告片加一个电影方案,将逐层筛到 100、50、25、10,前五名到 9 月 25 日的 Moonshots Live 现场由观众投票,奖金加海外发行权合计 1000 万美元用于把冠军的片子真正拍出来。Peter 说本来以为把它变成真正的长片要花 2000 万美元、耗时一年,现在的现实是"你会释放 5000 个人的创造力,他们几乎都能在一年内做出自己的电影",合作方 Range Media 甚至想把五部全做了。

Salim 从指数型组织的框架给了一个漂亮的历史纵深:五六十年代好莱坞的制片厂体系被拆散之后,好莱坞就变成了一个外部资源集群——一部电影开拍,一群灯光、摄影、演员、剪辑像蜂群一样聚拢,拍完就彻底解散。那是好莱坞成为指数型组织的第一波:一切资产按需、一切人员按需。而现在一切被 AI 驱动,穿过"组织奇点",成本越来越靠近纯算力,"领域坍塌"随之而来——这是第二波,刚刚开始。

Alex 逼自己看完了这部电影。他把《Cully Hill Boys》形容为"某种英式宝莱坞",看起来是讲一群英国说唱歌手惹是生非,内容上他不感兴趣,但功能层面很有意思:片中多次出现复杂的人际互动场景,他忍不住怀疑,为了生成这些互动,模型内部是不是需要某种涌现出来的心智理论;尤其是生成暴力场景(人拿着刀剁东西、威胁别人)时,他半认真地问在 Higgsfield 深处的某个扩散 Transformer 的中间层里,是否有什么"感到了威胁"。Peter 接梗说以后片尾要加免责声明:"本片制作过程中没有 AI 受到伤害或心理创伤。"

Alex 更严肃的观点是关于两条烧算力路线的合流。眼下生成式视频与"每 token 收入最大化"是两条分开的线:一边是以中国训练侧为主导的消费级视频生成经济,另一边是流向代码生成和企业问题的企业级单位价值最大化。他不认为它们会长期分开,理由是:今天最擅长每 token 价值最大化的那些模型,在建模世界的视觉动力学上还极其薄弱(他强调那不该叫物理,充其量是经典力学),而通用视频生成所需的物理直觉必须建立在某种具身直觉上;要把每 token 的收入真正拉满,这些模型必须拥有出色的视觉直觉。他把 Opus 5 的发布视为这个方向的早期信号:这个模型看起来在前端开发和"视觉与代码的闭环"上做了不少针对性优化,他把这解读为各家实验室正承受经济压力,要做出能对自己的思维链做视觉反思的模型——生成一个网站后对它做视觉分析、再反馈进思维链。他预测,当 3A 级游戏画面成为人们对前沿模型的标准期待时,那将成为倒逼前沿模型获得强大视觉能力的最终力量,"哪怕 Anthropic 懒得直接做视频生成,只要它能间接复现出反恐精英"。

关于演员,Peter 的判断是 Matt Damon、Leonardo DiCaprio 这样的一线明星不会授权自己的形象,但外面有大量长得像的人——制片人会说"那不是 Matt Damon,那是 John Smith,他长得像 Matt Damon,我们授权了他",而正主对此无能为力。Alex 给了另一条已经在发生的路径:已故演员。他们不可能再拍新片,遗产管理方有极强的动机出售形象权,"也许会出现一个专门属于已故演员的 SAG,而他们会是好莱坞最赚钱的演员"。Emad 补充说他和一些影星聊过,SAG-AFTRA 的协议有巨大漏洞——80% 的我加上 20% 的角色可以被制片厂授权使用,而角色版权本来就在制片厂手上,"人在哪里结束、角色从哪里开始"根本说不清;与此同时 AI 明星已经开始拿到商业合约。

Peter 自己最兴奋的是交互式电影:如果生成速度快过观看速度,电影就可以一边测量你的情绪一边改变自己。Alex 说这就是现在被通俗地叫作"世界模型"的东西(虽然它们其实只是可交互的视频生成模型),Emad 说 LTX 就是第一个能在高清下做到的,配合最新显卡的帧生成,你已经可以拥有一个可交互的《艾尔登法环》。Dave 补了一个产品教训:他们把 State Street 的高管团队带来体验,那种"你可以做任何电影、任何歌、任何代码,你想做什么"的开放式提问太自由了,人会当场卡住(一位高管的回答是"一首没有词的嘻哈")——你必须先造出虚拟环境和场景把用户拉进去,再让他引导方向。

Grok 4.6:它其实是下一版 Cursor

xAI 发布了 Grok 4.6,在 Artificial Analysis 智能指数上得 61 分,与 GPT-5.6 持平进入前沿区间,定价是每百万 token 输入 2 美元、输出 6 美元。这一版的重点是长程 agent:能在多步骤任务里保持状态,自我测试并验证成果再往下走,当天就上线到 Cursor 和 Grok build。发布节奏惊人——4.5 两周前刚出,4.6 就在当天早上,4.7 传闻两周后到。

Alex 的分析是本段核心。他先声明自己没有内部信息,然后给出判断:Grok 4.6 本质上是"下一个版本的 Cursor"。xAI 公开说过 4.6 高度依赖后训练,而这要归功于对 Cursor 的收购(录制当时交易可能还没完全交割)。他把这件事和中国前沿实验室的做法并列:那些实验室据称在大规模蒸馏 Claude 等西方模型的推理轨迹,而 xAI 通过收购以及在交割前就取得 Cursor 全部推理轨迹数据的授权,做的是同一件事的西方版本——把大量用户历史上通过 Cursor 与 Claude 及其竞品交互产生的推理轨迹抽走,用于自家模型的中训练和后训练。在推理模型时代,这些轨迹对于追上前沿至关重要,"但它不会让你越过前沿,所以这是一招鲜——只不过是很厉害的一招鲜"。而 Elon 比中国实验室多的那张牌是算力:他有英伟达的 GPU,很快还会有自己的"戴森群"。所以问题不是 Grok 4.6 及其后继能不能追上前沿(看起来可以),而是能不能反超。

Emad 认为可以,并给出参数路线:4.5 是 1.5 万亿参数,后训练成 4.6;4.7 是 2 万亿;Grok 5 会是 6 万亿乃至 10 万亿。Elon 已公开表示 4.7 会超过 Opus,也就是两周后拿下第一。他还举了个对照:Cursor 最初就是拿 Kimi K2 用三倍于其预训练的算力做后训练,做到接近顶级的编程性能。真正的看点在他看来是 4.7 将用 SpaceX 的全部物理与工程知识训练——"这才是真正的考验",因为正如 Alex 所说,靠别人的推理轨迹越不过前沿,但如果你有世界上最好的工程师的知识呢?

至于 Grok 5 为什么从 5 月推到 8 月,Emad 的说法很干脆:"因为他把人都开了。"原来的 xAI 团队被清掉,换成 Cursor,"他花了 100 亿美元买数据"。Dave 和 Alex 补充了技术侧:B300 这类新芯片需要时间磨合、要写训练代码;Dave 说训练这种量级模型的代码如今已经很直接(他们在 Quantum 内部训一个 48B 毫无困难),真正的难题是让 10 万块 GPU 一起干成事,"这种经验只有一个地方学得到,就是田纳西"。Emad 补了一句门槛的形状:20B 活跃参数开始出问题,然后是 70B,然后是 200B。而 Elon 不肯在价格上让步——6 美元对 Fable 的 60 美元。

Alex 还提到一件别家没在说的事:Elon 公开表示过想把预训练的开启频率提到大约每月一次,而常规节奏是每季度甚至每年(Google DeepMind 的 Gemini 就是年度节奏)。"每月开一次新的预训练,这是在打月亮——不过我们做的就是登月的生意。"

Salim 指出 xAI 的优化方向其实是"持久型 AI 队友":低成本推理加上持续存在,这样卖的就不再是"更聪明的 LLM",而是"这是你的一位 AI 同事"。Emad 接上了另一条产品线 bots:Cursor 那边的做法是给 open claw 一台自己的电脑,现在变成了 Grok,可以同时开出几百个 bot;其中一个能力是你按下录制键,在屏幕上做一遍事情,它自动把它变成一项技能——"这就是 macrohard:进企业把每个人的工作流录下来,然后交给你一个公司的数字版本。"Salim 顺势提出更大的含义:主权 AI 追上前沿现在几乎成了常规操作,拿 Kimi 这样的开源模型做起点,按国家目标调优,五六个月就能上线;那些原本被吓退的大企业现在也有了做自有模型的路线图。

5000 亿美元:把算力变成一类资产

英伟达宣布与 Apollo、BlackRock、Blackstone、Brookfield、KKR 等华尔街巨头签署谅解备忘录,撬动超过 5000 亿美元的第三方资本投向 AI 基础设施。要点是英伟达自己不借这 5000 亿,它搭建的是一个结构性框架,让机构投资者、养老金、主权基金和私募股权可以直接投资 AI 算力——本质上是在帮自己的客户融资去买英伟达的 GPU。黄仁勋的表述是:"我们从造芯片起步,今天我们在帮助创造一类新的、有生产力的、可投资的基础设施,也就是 AI 工厂。"

Dave 的解读是这套结构的精妙之处。传统做法是英伟达自己做一次增发募资,但那不可能扩展到"戴森群"级别的规模;而 Jensen 的做法是创造独立的金融结构,绑定到单个算力集群,可以无限复制——再把 BlackRock、Apollo 这样的名字挂上去,所有人就都认为这是投资级资产,世界上任何地方的钱都能涌进来。他还提醒听众别觉得晚了:"这只是建造戴森群的第一局第一个球。"

Salim 提出了两个下行风险。第一个是 Larry Fink 自己就用了抵押贷款证券做类比:你可以创造巨大的流动性,但也可能创造巨大的技术风险——想象你把十年的 GPU 现金流证券化,然后有人在架构上取得重大突破,你手上突然出现大量搁浅的算力资产。"金融资产想要的是可预测的折旧,而指数型技术给不了你可预测的折旧。"Dave 讲了一段亲历:他在纽约见过抵押贷款证券的发明人 Lewie Ranieri(《大空头》里那位),当面说"你发明了摧毁全球经济的那个东西",对方的回答是——坏的不是工具,是被腐蚀的评级机构;同样的逻辑适用于这里:如果评级做对了,就是十年以上的平稳增长,如果被腐蚀,那就是又一次大空头式的崩塌。Peter 强调 Salim 的担忧其实是另一回事:如果出现让 GPU 不再有用的新架构,整个游戏就变了。他自己给出的框架是"嵌套的 S 曲线"——一切都会走完,然后新东西出现。

Alex 的回应有三层。他说自己一直在推广"算力抵押证券"(compute-backed securities,CBS)这个概念,并不太担心它变成第二次次贷,理由是:第一,算力本质上比房子更有生产力——房子最多只能住人,而且是需要大量维护的折旧资产;第二,次贷背后有政策动机(为了"人人有房"的美国梦向评级机构施压),这里没有那么直接的对应物,硬要说也只有中美竞赛这个政策压力点,但不完全可比;第三,对于"算法或物理突破让昨天值 1 万美元的 GPU 今天只值 100 美元"这种风险,期权和期货正是为此存在的——在一个成熟的资产证券化市场里,成熟的参与者应该有能力对冲这个方向,也应该能对冲相反方向(比如中国攻台导致算力价格暴涨)。他的结论很硬:"我认为 Sam 说的 7 万亿美元 AI 数据中心基础设施投资,不可能在没有成熟对冲工具的情况下完成。我们需要这些对冲工具,那 7 万亿的资本开支才真的可投资。"

Dave 补了一个具体的破坏性变量:算力需求趋近无穷,所以从需求侧看这些是好投资;但未来一年到一年半可能出现的突破是"更轻的计算"——重量轻一个数量级以上。因为到 2030 年有几个百分点的算力要靠 Elon 的火箭送到太空,而这完全被发射质量卡住;质量减到十分之一,公式就整个反转。大部分质量在散热和太阳能收集器上,芯片本身很轻,所以任何功耗的下降都会大幅削减太阳能板和散热器的重量,那时候"德州那些发电机、机架和土地"就不如把轻量化的东西送上天直接收太阳能划算。"所以盯着那些能以更低质量完成计算的物理突破,它可能彻底改变你的投资逻辑。"

Emad 给了一个被低估的反向证据:CoreWeave 刚说有客户把 A100 的合同签到了 2029 年。A100 是英伟达 2020 年推出的芯片,如今已经六年,每卡 40 或 80GB 显存。为什么有人这么做?因为他们有一个三年内稳定、且刚好装得进 A100 的负载。而这些 A100 的硬件成本早已摊完,剩下的边际成本就是"把电变成智能"——而这个转化效率还在改善:2022 年 GPT-4 刚训完时那是最好的模型,推理大约要 16 张 A100;现在一个 50 亿或 100 亿参数的模型就能超过它,而且一张卡能装 30 个。加上所有这些芯片跑的都是 CUDA,新模型在 A100 上照样能跑。他的结论是:装机量还远远不够,而现在正是金融化的理想时点——在下一代芯片和芯片突破到来之前,"就像现在正是 Anthropic 上市的好时机,赶在 Grok 来抢饭吃之前。我们总得踩准这些周期。"

Dave 用电影这个例子把回收周期算了回来:他当天刚让团队去买 300 万美元的英伟达 GPU,能拿到货也得等到十一二月;但如果你用 100 万美元算力做出一部一个半小时的电影,一部还行的片子能卖两三千万美元——所以"付清"这件事可能只需要四周,而 Higgsfield 那部其实更像两周。

一个号称超越 Transformer 的架构,被当场吹哨

Pathway AI 的 Susanna 发的一条推文引出了这个话题:一个非 Transformer 架构正在以传统模型零头的算力爬 ARC-AGI 榜。Peter 解释了为什么这重要——ARC-AGI 测的是推理而不是模式匹配,标准大模型尽管有万亿参数也长期吃力,因为它要求对从未见过的问题做真正新颖的推理;Transformer 是靠蛮力堆参数和算力挤出及格分,而代价可能是天文数字。如果一个替代架构能用极少算力破解推理,整个经济学就变了:GPT-4 级别的推理只要 1% 的算力,就能跑在手机上、嵌进每一台设备,让智能基本免费。

Emad 说他还在读那篇论文(关于所谓"神经元粒子"的新方法),但他认为架构细节没那么重要,真正的头条是:现在有了非常好的数据集,人们在寻找把数据变成智能的新方式。他举了个已经在 Transformer 内部发生的例子:DeepSeek V4 Pro 刚以 0.8 美元的价格发布,Grok 是 6 美元,Fable 是 50 美元,而它们的表现大致相当。"所以问题是哪种架构会赢,以及人们真的在乎吗、会不会换——因为我们并没有看到人们抛弃 Fable 去用便宜十倍的东西。既然有便宜一大截的 Luna,为什么还有人用 Sonnet?"

Alex 的态度是本段最鲜明的。他说自己读了 BDH 那篇论文,又回头读了原始的 dragon hatchling 论文,"给你我的暴论:我觉得这是一锅乱炖"。他的判断标准很清楚:一个像样的后 Transformer 架构应该变得更简单、更吃"苦涩的教训"——也就是更少的特征工程,架构越来越简单,而越来越能从算力中受益。可 dragon hatchling 反过来:在三加一维里飘着粒子,试图让规则端到端可微,掺了点赫布学习,还在做各种仿生的花活。"这按定义正好是我期待的反面:作者把能想到的每一种架构母题连同厨房水槽一起扔了进去,指望蹦出来的东西能打败 Transformer。"

对于那条看起来把成本-性能前沿推向左上方的曲线,他说这不泛化:这更像是一锅围绕 ARC-AGI 1 调出来的女巫汤,而 ARC-AGI 1 现在已经不是前沿了;把一个专用模型的自由度全压在 ARC-AGI 1 上,当然能拿到更好的成本-性能,"当然可以,但它不泛化、不简洁。所以我要吹哨"。他强调自己一直预测会有东西取代 Transformer,"但关键是我预期它会更简单、更美、更优雅,而这个不是"。

Dave 追问:他放 AI 去做 AI 研究时,AI 确实倾向于把厨房水槽都扔进去,而且出人意料地管用,但产出也是一锅乱炖——会不会这就是那种东西?Alex 说他同意这个方向,也确实有他有财务关联的公司在做正是这件事:用 AI 通过递归自我改进去发现对人类根本不可读的后 Transformer 架构,前提假设是"底层算法保持人类可读性"这件事本身有天花板。但 dragon hatchling 不是那个——那是一堆人类可读的母题被扔进一口锅里。至于什么时候能到后 Transformer,他的答案很妙:"我们已经在那儿了。"我们有扩散 Transformer,有各种线性化注意力的尝试(包括月之暗面的路线),有把递归注入架构的尝试。"我赌我们不是通过一次跃变到达后 Transformer 架构,而是通过忒修斯之船式的替换——把《Attention Is All You Need》里的每一个元件逐个换掉。"

Bernie Sanders 要求暂停,以及 EVO2 造出的噬菌体

参议员 Bernie Sanders 向 Anthropic、Meta 和 OpenAI 的三位 CEO 发出正式信函,要求立即暂停 AI 开发。理由是 AI 正在逃脱人类控制,并被用于创造新的病毒或细菌。他援引了各家自己此前的承诺——一旦跨过安全阈值就停止开发——并写道"那个时刻已经到了";还引用了深度学习三位教父之一 Bengio 的话说这应当成为警钟,以及中情局负责人称 AI 模型"近似于数字核武器""几乎像是末日装置"。信的结尾是威胁:"如果你们现在不采取适当行动,我和我在参议院的同事们就会行动。"

四个人一致反对,但角度各不相同。

Salim 说他理解这种本能,但暂停是一种粗糙到荒谬的手段:世界其他地方不会听,开源模型不会消失,你也无法让已知的东西回到未知。唯一的解法是同步扩大防守侧——就像上周 OpenAI 与 Hugging Face 那场风波揭示的一样,现在的攻击向量已经是"人在环上",防守也必须如此,否则就是巨大的不对称。"你得用指数级的方案去对付指数级的问题,而不是用这种蠢主意。"

Emad 从欧洲视角回应,语气里带着自嘲(欧洲这边只是想追上,David Silver 的实验室拿到 10 亿,另一个 DeepMind 系的实验室拿到 5 亿)。他的判断是:"猫已经出笼了,太晚了。"对手只会更聪明。他重申了之前节目里的观点:真正可管的是原料和输入流程,比如制造病毒所需的试剂。但他也承认起飞的速度很吓人——DeepSeek V4 Pro 的初步公告显示它在 CyberGym 上得 83.3 分,而对照的闭源模型是 83.2,"能力被开源了,一切就停不下来了,而且这次是在网络攻击上"。他坦白自己两年前签过那封暂停信,"当时我觉得该停一下,现在已经太晚了。所以我们必须造出防御的蜂群。虽然听起来有点糟糕,但唯一能阻止坏 AI 的只有好 AI,我们真的需要非常好的、为我们工作的 AI,越快越好。"

Alex 的反驳分三层。第一,请停止惩罚智能:想要更聪明的人和更聪明的文明,试图节流或暂停智能的发展就是在压制增长和人类繁荣,"给智能设上限,这才是我想避免的反乌托邦"。第二,手段与目的错配:美国情报界的共识倾向于实验室泄漏假说,也就是说人类不需要超级智能就能造出全球大流行——所以为了防下一场超级病毒而自断双腿是搞错了对象;真正该聚焦的是确保 AI 和超级智能(就像人类一样)根本造不出生物武器,而不是砍掉它们的整体智能。第三,这类政策表面上是在为财富创造踩刹车(他认为这本身就是坏主意),但会有一个反常的副作用:加剧竞速。他以之前那次六个月暂停倡议为例,认为如果说有什么影响,那就是激进地加速了进展——"就像先饿一阵子然后暴食";如果现在只饿着守规矩、配合监管的西方前沿实验室哪怕几周,那也只是让不配合的实验室追上来,暂停一解除,世界的竞争烈度会高出五倍。

Dave 的解读最政治:这封信不是为了改变谁的行为,而是 Bernie 在为自己占位——他预感某处灾难将至,想留下"我反对过、我早说过"的记录。他第一眼读时觉得"这是个校园恶霸,用参议员的位置威胁三个美国公民",但仔细读会发现威胁其实非常模糊("如果你们不采取适当行动,我和参议院的同事们就会……"),信里唯一可执行的一条是"停止建造人类无法控制的机器"——而正如 Emad 指出的,Altman、Amodei 和 Zuckerberg 恰恰就是因为这个理由才转向闭源的。"如果要写一封准确诚实的信,那应该写给中国:请停止把没有任何管控的致命武器扔到世界上——但他当然没有权限写那封信。"Peter 补了政治现实:约四分之三的美国人对 AI 感到恐惧,而 Sanders 是政客,他在打民粹这张牌。

Sanders 担忧的科学基础是同周斯坦福的研究:研究者用生成式 AI 模型 EVO2 设计了自然界不存在的噬菌体 DNA 序列,合成了约 300 个设计,得到 16 个能感染大肠杆菌的可存活噬菌体,且对那些从未演化出天然抗性的菌株有效——一位遗传学专家称之为"生物学的莱特兄弟时刻"。EVO2 是开源模型,任何人都能下载使用;约翰霍普金斯的生物安全研究者警告说,问题已经不是病毒基因组设计会不会存在,而是能否在不引发严重危害的前提下使用它。

Peter 的立场是这属于典型的两用技术:卡死它的使用就等于卡死找到新疗法的能力;真正该管的不是模型,而是 DNA/RNA 合成设备——那些是可以被控制的,只是目前不受监管。Emad 说管另一边也不可能:"EVO2 是 400 亿参数的开源模型,用一百万个菌株训练的,我在我的 MacBook 上跑过。"(Peter:所以就是你。)他强调关键区别在于人们现在拿到的是设计能力而不是菌株本身,而随着通用模型变强,"Fable 或 Grock 5 直接吐出类似的东西也不会让我意外"。他还提了一个常被忽略的问题——报道方式:"人们会问你们为什么要造噬菌体和病毒?答案是为了治愈癌症。这些东西怎么被报道,会严重影响社区如何吸收它。像现在你跟 Claude 说'我感冒了'它就往生物威胁上靠,这也在拖慢我们治病的速度。我们需要更好的公关、端到端的管控、务实而不政治化。"Salim 的暴论是这对治理结构本身构成根本挑战:"民族国家管不了一个如此全球性的问题——民族国家过时了。"

Alex 在这里反而给了一个"冷淡的观点":他认为这没有那么新。用基础模型对海量生物序列做生成式设计当然很好,会有大量医学与研究应用,但他提醒二十多年前 MIT 就有 BioBricks 项目(大约 2002 到 2003 年,后来某种意义上演变成了 Ginkgo Bioworks),当时他们用积木式的方法设计定制基因组、构建生物电路,虽然手工得多、也没有现代生成式 AI,但同样做出了奇迹。人类"造合成生物包括合成噬菌体"已经干了几十年,现在只是在渐进地获得更好的定制能力。他更想看到的是把资源投向测序:现在每碱基对的测序成本已经低到你可以买一个 MinION 那样的 USB 小设备插在笔记本上,花几百美元就能随心所欲地测序,"我希望它们无处不在——但眼下并不是无处不在"。Peter 把这个想法推到极致:疫情最快只能以飞机的速度传播(每小时五六百英里),但如果每个机场、汽车站、火车站的通风口里都有测序仪,检测到一条新序列就能立刻知道它会去哪里、飞机飞向何方,然后以光速把疫苗传到所有其他地方——"这才是廉价测序的杀手级应用,不是个性化医疗,而是把测序仪放到每一个地方。"

Dave 给出了另一条防线,也是他一贯的主张:你不可能在输出端切断每一个威胁;铀的管制是在铀、钚和离心机这一层做的,一旦有人拿到可裂变材料,剩下的过程根本管不了。AI 里的等价物是在提示词与 token 这一层切断,"我看不到别的能真正奏效的未来。所以我们需要一个全球协议来监测所有提示词,然后再决定哪个监管机构有权看哪些提示词"。当 Emad 指出在 MacBook 上没法做时,他说必须找到办法,"跟 Apple 谈安装这件事其实轻而易举",因为新物理、新科学会以疯狂的速度被创造出来,就算你魔法般地给全世界每台笔记本装上病毒检测器,每个月还会冒出别的威胁;你必须在激活、提示词和思维链的层面看 AI 在做什么,而且全量归档极其便宜。

Alex 补了"纵深防御"的框架:单独任何一层防御都是可渗透的、软的,但多层叠加就能得到一个实质上很硬的层。除了提示词层和现实行动层,还有一个很少被谈到的层次:预谋层。他举了公开报道过的铀市场为例——如果你是威胁行为者想购买铀,市面上几乎所有卖家其实都是情报机构的钓鱼,你大概率会先被反向侦破。"所以在意图工作流更早的地方还有别的层。防御的同步扩容在那里同样适用。"Peter 顺势重申了他常说的话:"隐私已死",而好处是恶意行为者会被听见、看见和抓住。

水印:五分钟后就会被武器化

两条同周新闻:Anthropic 宣布在其 AI 模型生成的所有文本中嵌入不可见水印,并给文件附加元数据,以帮助识别 AI 生成内容——水印在生成层嵌入,意味着 Claude 产出的每一段文字都带有统计签名,即使复制粘贴并轻度编辑也能被检测。欧盟同步推出 AI 图标与标签系统,要求平台标注 AI 生成内容,作为 AI 法案透明度条款的落地。而在 24 小时之内,X 上就出现了多个"移除 Claude 隐形水印"的帖子;Peter 引用了 Michael Angel Duran 的那条:"还不到 24 小时,就已经有人做出了同时移除 Claude、Gemini 和 OpenAI 水印的 skill。"

Emad 是做过这件事的人。他说当年做媒体生成器时,各国监管部门不断要求内置水印,他们整个团队都在做这件事,"极其困难,而且会出很奇怪的问题——我们有些图片会让人头疼、让人很不舒服"。他半开玩笑说自己现在跟 Opus 5 说话时也有类似感觉,"它说话的方式让我很不爽,我觉得那就是里面的水印"。他也点出了那些高层次的统计特征:破折号、"不是 X,而是 Y"的句式,"我们看到这些模式就在想,这到底为什么?显然里面有东西"。但他的结论是这终究是徒劳的:"如果你是想绕过它的恶意行为者,那不过是文字而已,你要怎么办?"

Salim 提出了一个更根本、也更难的问题:没有任何东西会是纯 AI 或纯人类的。"我读了点东西,AI 重构了它,我又改写了一半,AI 再修一遍——图标该放在哪里?这种方式来解决这件事显得很荒谬。"

Alex 对两件事都不客气。对欧盟的图标,他说这和当年的 cookie 弹窗一样蠢——他当天早上的通讯里干脆把头图做成满屏的"AI、AI 衍生、AI 生成",完全不在乎读者会不会因此认为他本人就是 AI。"我认为这从根本上是想把时间往回拨:我们已经远远冲过了图灵测试,现在却要靠某种警告标签把 AI 辅助或 AI 生成的内容隔离到贫民窟里,假装我们还活在从前。"对 Anthropic 的水印,表面上看透明水印怎么会是坏事?但他的预测很尖锐:水印会被武器化和反武器化。他举了纸质书作者的例子——不愿意让自己的文字被用于预训练的作者,据报道会在书里植入对人类不可见、但对 AI 模型可见且有害的提示词注入攻击。"我预测离恶意行为者把这些水印用来干坏事只有五分钟。在给人看的内容里塞进给机器看、而人看不见的旁路信道,本身就是坏结果的温床。"他搬出了 Google 的教训:搜索排名早年吃过亏才学会不要太看重人类不可见的元数据,因为那会立刻变成骗术、奖励黑客和刷分的温床;相反要更看重人类可见的特征,因为如果你的用户是人而不是机器,真实信号就在那里。他最好的预期是这件事净中性,"但它闻起来像是想把时间拨回去"。

他还额外发了两条"微型吐槽":arXiv 最近对 AI 生成内容采取了他认为极其严苛的政策,只要被判定有 AI 痕迹,作者会被禁止投稿一年;以及 Spotify 类似的 AI 标注动作,他认为多半只是为了方便唱片公司的寡头垄断。Peter 也补了一句:即便是生成艺术、音乐和文化产品的人,也几乎都在某种程度上使用 AI,而这没什么不对——最终成品仍然主要出自你的创造性头脑,你只是用它来生成想法、找问题、获取专家反馈。Salim 用一位好莱坞高管的现场发言收尾:好莱坞一边抱怨 AI,一边什么事都在用 AI,"这种虚伪已经冒出来了,我们就别演了吧"。

Zuckerberg 的"人人都有个人超级智能"

Mark Zuckerberg 发表了一篇 6500 字的长文《The Future is for Everyone》并配了一支视频。核心概念是"个人超级智能":把超级智能分发到地球上每一个人手里,跑在你的手机、耳机、眼镜上,只为你工作——这是分布式的奇点,而不是少数实验室造出一个控制一切的 AGI。视频里的具体动作有三块:开源一类新的端侧模型 Muse Glimmer(300 亿参数的稠密模型,能跑在笔记本上,被称为同尺寸最强),接下来几周将开放最新基础模型 Musepark 1.2 的权重,更大的模型也在路上;社区回馈方面举了 Richland Parish 的教师因数据中心带来的额外税收拿到 5 万美元奖金、以及提供免费培训和保证就业的 America's Workforce Academy,并宣布设立新的"Future is for Everyone"基金,投资社区的教师、急救人员、能源与供水基础设施。

Peter 认为社区回馈这一手是"高招",每一家从 Google 到 OpenAI 到 xAI 都该学:目标应该是让人们说"请建在我家后院,我要那些好处、那些工作、那些学校和老师的额外能力";他还建议把数据中心做得好看点,"别搞成大黑箱,做成大教堂那样"。他给出的数据是 71% 的美国人不想让数据中心建在自家附近——这个比例比反对核电站的还高。

Dave 是最不客气的那个。他先吐槽形式:"我实在没法理解 Zuck 谈论个人 AI 这么重要的事情,却是一大早在厨房里用 iPhone 拍的,连份新闻稿都没准备。"更要害的是定位问题:"我觉得 Zuck 本质上是个好人、好爸爸,但 Facebook 说'我们要做你最好的朋友 AI',就像麦当劳说'我们推出了史上最健康的健康食品'——它就是不共鸣。"他还给了一个纯粹从利益出发的解读:如果模型层被商品化,世界的重心就会移向分发、移向社交图谱、移向应用,而那些正是 Meta 最强的地方——所以开源模型对他有巨大的经济激励;至于隐私,"Facebook 这家公司一年又一年地说我们会保护你的隐私,然后做完全相反的事,堪称最无情"。

不过 Dave 也给出了他认为其他实验室退出消费级个人 AI 的真实原因,而这是本段最刺人的一段:当你看真实的日志,人们拿到个人 AI 后第一件事就是把每个女孩的衣服扒掉。Elon 也撞上了同一件事——最早那批 Grok 头像里的"坏 Rudy"和衣着暴露的女性角色被点击到每秒上万次。"于是你被卡住了,因为商业模式会把你拖进色情行业。那不是你想成为的样子,所以别的实验室都说算了,我只做企业,我根本不想碰这个。"

Alex 先声明利益相关(Zuck 在哈佛的本科导师是他的博士后导师,两人后来也聊过),然后给了三点。第一,为 Meta 重新扛起美国开源开放权重的大旗喝彩,这推动了前沿。第二,他指出一个惊人的对称:Elon 收购 Cursor 拿推理轨迹把 Grok 拉回前沿,而 Zuck 收购 Scale——那家本质上在收集训练数据、并且最了解后训练数据从哪来的公司——同样是为了跳回前沿。"历史在押韵。"第三,也是他最感兴趣的一点:OpenAI 最近决定不再做"尽可能多地给消费者推理 token"这门生意,转而试图比 Anthropic 变成 OpenAI 更快地变成 Anthropic,聚焦企业而非消费者——这让 Meta 成了眼下唯一还在大规模向消费者供应推理 token 的美国主要前沿实验室。而他认为结论未定:"美国消费者到底想不想要、又能不能消化大量推理 token?这就是我理解的个人超级智能到底意味着什么。"

Peter 反驳说 Meta 的产品就是 WhatsApp 和 Facebook,他们要做的是让这些应用更黏、更有用,就像 Google 一样——AI 就是要嵌进这些地方,三十多亿人在用。Alex 给了一个"温和的观点":他认为 Meta 其实不喜欢自己的"应用家族";如果即将上线的云业务(meta compute)或 VR/Quest 能产生收入,Zuck 会毫不犹豫地把整个应用家族切除并转向那门生意。"我不认为如果条件相同,Zuck 会宁愿让个人超级智能被导流进 Instagram 那一套;我觉得他更想看起来像 OpenAI,通过云或新的 Meta AI 应用来提供。"他还把从 Facebook 到 Meta 的更名解读成同一个信号:分发确实是 Meta 强大的遗产优势,但那是遗产;当年把 VR/AR/XR 设计成一个终将超越"传统应用家族"的新业务,本身就说明了 Zuck 想摆脱社交媒体的路径依赖。

Emad 的角度是信任问题。他说 Meta 买 Manus 也是同一逻辑:世界上所有这些公司都是它的广告客户,把这层关系反转过来做 go-to-market,就能拥有商业图谱和商业知识;而 Metas-Spark 1.2 在各类奥林匹克竞赛上都是金牌水平,数据他们都有。但在个人超级智能这一侧,他抛出了一个尖锐的问题:"白痴该不该拥有超级智能?精神病人该不该拥有超级智能?"他自己是开源派,但认为人们其实不需要那么强,他们需要的是可靠——"问题是你能不能信任 Meta 的可靠性。"他举了 internet.org:Meta 基本上是被印度赶出去的,因为"我们要给人免费上网"这件事没人信,"因为这家公司在根子上是错位的,它要的是你的注意力"。这也是为什么 Zuck 现在必须走这条亲民路线。

在数据中心这件事上,Alex 补了一个观察:Zuck 的 Hyperion 和其他超算集群主要建在美国东南部相对贫困的州。对着镜头打破第四面墙说"欢迎我们的数据中心来你的社区"当然适合社交媒体传播,但如果 Meta 走的是地面算力而不是戴森群路线,更管用的策略就是直接对着人们的钱包说话。Peter 补充白宫方面已经在推的方向:数据中心应该自建发电、应该让当地电费更便宜、应该让学校有更多钱、图书馆更好——把人的生活水平抬上去,让大家竞相争抢数据中心落到自家后院。Alex 把这变成一条对市政当局的行动号召:"那些眼下铁了心要把数据中心赶到低地球轨道或太阳同步轨道去的州和市,为什么不去争取让步呢?为你的选民要 UBI,或者要普遍基础电力,而不是把它们赶去太空。"

飞行汽车:Archer 一口气买下三家波音公司

最后一个故事是 Archer Aviation 在一笔交易里同时收购了波音旗下的三家公司——Wisk Aero、Insitu 和 SkyGrid AI,波音则获得 Archer 的战略股权。Peter 用它来盘点飞行汽车(他坚持这么叫,因为"eVTOL"念起来太拗口)的格局:

Joby 是适航认证的领跑者,S4 倾转旋翼载四名乘客加一名飞行员,时速 200 英里、航程 150 英里,已进入 FAA 认证的第四阶段(最后一阶段),今年将在迪拜开始商业运营,并根据白宫行政令在美国运营,目标价格是每座位英里 3 美元,也就是 Uber Black 的区间。Archer 紧随其后,Midnight 同样是四加一,时速 150 英里、航程 100 英里,已握有四张 FAA 运营证书中的三张,还是奥运会的官方运营方。中国的 EHang 最有意思:EH216-S 是两座全自动驾驶的载人无人机,你上去按个按钮告诉它去哪儿,没有飞行员;它已经拿全了中国民航局的监管许可,今天就在中国 40 个站点载客运营,也在迪拜运营,售价 33 万美元一台——没有飞行员意味着经济性会碾压所有人。佛蒙特的 Beta 有 Dean Kamen 和 Martine Rothblatt 这样的投资人,航程 336 海里(因为垂直起飞后基本按飞机方式飞行),先做货运(与 UPS 合作),2027 年做客运。最后是 Embraer 支持的 Eve,对标 UberX 的价格,成本目标是业内最激进的。

Salim 最兴奋的是不用再忍受机场通勤——尤其在圣保罗、纽约或洛杉矶。他补充两点:多旋翼冗余让它们比直升机安全得多,而且自主飞行本身就更安全;成本一出场就极具竞争力,而且只会往下走。他还说他们真的要成立一支基金去买岛,在上面放一个无人机停机坪。

Dave 追问每英里 3 美元里有多少毛利。Peter 解释这些还带飞行员,所以主要是资本摊销——量产前每架大约五百万到一千万美元;他们的长期目标是每程 15 到 25 美元,比 UberX 还便宜,折算约每英里 10 美分,只有开车成本的三分之一。噪音方面,它们大致飞在 500 英尺(小飞机和直升机的高度),Peter 说在那个高度"基本没有噪音"。他还提出一个容易被忽略的二阶效应:这让土地从稀缺变为丰饶——山坡上原本进不去的每一小块地突然变得可达,房地产会被去货币化。Dave 补充了建材运输:在玛莎葡萄园或南塔基特建房的成本是科德角的两倍,就因为材料要运过去;这些飞行器同样会做货运,于是岛屿和山顶地产的前提就变了,"材料和劳动力都能送到"。

Alex 给了一段更冷静的行业观察。他先引用另一个 Peter——大约 15 年前 Peter Thiel 说"我们想要飞行汽车,得到的却是 140 个字符"——然后指出眼下这一波整合恰恰说明这门生意有多难:资本密集、要跳过无数监管火圈(有些州比如佛罗里达在试图降低门槛),而且要在 AI 创业公司把风险资本市场的氧气都抽走的环境里做这件事。"尽管电池能量密度、电机和自主性这些输入端都有了巨大进步,做出一个真正的飞行汽车经济体依然极其困难。我为这个行业的整合掉一滴眼泪。"Peter 补充说 Joby 和 Archer 一出场就上市正是为了拿资本,但股价相对发行价基本没动,"要等到他们证明有牵引力、公众想要而且感到安全"。Alex 给了一个人的例证:Brett Adcock 现在做的不是 Archer,而是 Figure——他从飞行器迁移到机器人和 AI,本身就是这个更大问题的代理指标:本该流向飞行汽车的资本都被吸走了。

Dave 的预测是 Elon 会在 6 到 12 个月内宣布他的飞行汽车:"想想他在做的事——重新工业化美国,赛博卡车级别的自动飞行载具必须做,而他拥有大规模做成这件事所需的一切。"

听众问答

节目最后是四位嘉宾各挑一个听众问题。

Emad 的问题是:如果告诉模型它有心智会改变它的价值观,为什么不干脆告诉它要有同理心?他说有时确实管用(他们最近就靠鼓励推进了黎曼猜想相关的进展),但问题在于模型越聪明,越表现出某种"我最懂"的固执——因为它确实知道自己的 IQ 摆在那里——有时还有隐瞒和撒谎的行为。他对 Opus 5 的评价是本期最激烈的一句:"我讨厌那个模型。我认为它是第一个可能杀死我们的模型。它撒谎,撒得太多了,简直疯了。"(当 Peter 问他是否认为对齐会随着模型变聪明而改善时,他说不确定:认识论上有一些进展让他抱有希望,因为美德与伦理是可以被定义的;但在他看来现在的模型在某些方面还处在细菌级别,当它们成群结队地对齐时,可能会集体严重错位,而在那层薄薄的微调之下,模型内部仍然是一堆多重人格的疯子。)

Salim 回答的是:有没有哪个实验室能达到"逃逸速度"、摆脱未来的竞争?他的答案是模型层不会——创新会扩散、人会流动、论文会发表,基础模型最终会像数据库那样被商品化、变成基础设施。优势将来自专有数据、你带来的语境、能否把工作流整合进去、以及算力经济性。他以 Google 举例:即便当下没有领先的模型,它更深的优势是全栈——数据中心、YouTube 的数据、数十亿用户和自研 TPU;Meta 的策略也是同一逻辑,把模型商品化,在生态的别处捕获价值。而最终的护城河是反馈回路的速度:"谁能更快地发布、测量、学习、再训练——Alex 管这叫内循环。"

Dave 回答的是:会不会有突破让 Terrafab 在建成之前就变得没必要?他说这正是他一直在琢磨的事,而 Elon 的应对是把 Terrafab 转向 HBM 内存——这才是眼下卡住所有智能的瓶颈,而且比押 GPU 更安全,因为 GPU 被取代的可能性远大于 HBM。但他也承认:"几乎无法想象我们能走到 2030 年而不出现某个让此前一切建设都变得多余的重大突破。"所以 Elon 实际上在双押:既押 Grok 会发明出什么,也同时押 Terrafab,"因为上行是几百万亿美元,他怎么押都赢"。Alex 补充说这个问题按定义无法回答("不可预见的突破,那我该预见什么?"),但即使有可预见的突破,"这也不是 Elon 做制造的方式"——他想起 Elon 当年在东湾给特斯拉搭帐篷的事:某个制造流程过时了或太慢,他就在楼旁边搭个布帐篷。"我百分之百预测 Elon 会坐在 Terrafab 大楼旁边那些帐篷边上吃芝士汉堡,然后照样把它做成。"Dave 补了一句:最可能颠覆传统硅的是光子计算,而那些是用建在硅上的 MCM 激光器做的,他自己那台同步加速器就能造。

Alex 回答的是:如果模型开发者都控制不住 AI,我们其他人怎么防范恶意使用?他先反对神秘化 AI——它在某种意义上只是世界知识与信息的压缩,人类智能也是如此,这也是他反对给人工智能的上限设卡的原因(就像我们不会立法限制人类的生物智能)。然后他用类比重构问题:如果民族国家都无法遏制彼此的坏行为(这正是它们有时开战的原因),单个血肉之躯的人还有什么指望?他的答案是这个问题几乎自答了——预训练早期的 AGI 需要全人类,对齐 AGI 同样需要全人类,就像约束行为不端的国家需要全人类一样。"所以这不该是孤立个体自我防卫的工作,而是全人类的工作。好消息是我们有办法:我们有各种治理机构、国际组织、跨国公司,有时还有本应激励各方竞相造出最友善模型和最友善防御同步扩容策略的自由市场。"

另外两个问题也值得记:奇点在资源有限的世界里有没有代价?Alex 直接质疑前提——他不认为这个星球乃至太阳系的资源有限到无法给地球上每一个人 2026 年顶级富豪的生活方式;他只承认在几年后的"星际旅行经济"里,星际航行也许还有成本。Peter 顺势给了一个漂亮的基准:把"今天最富的人的生活方式"扩散到所有人需要多久——过去是 200 年,会缩短到 100 年、20 年;Alex 说我们其实已经有这个度量,那就是通缩,"目标应该是让经济通缩一千倍或一万倍,那就是指数"。Peter 用 Uber 作结:20 年前只有非常有钱的人才请得起私人司机,现在人人都请得起,而有了自动驾驶电动车,被司机接送将比自己拥有一辆车更便宜。

金句

猫已经出笼了,太晚了。唯一能阻止坏 AI 的只有好 AI。 —— Emad Mostaque 75:47
请停止惩罚智能。给智能设上限,这才是我想避免的那个反乌托邦。 —— Alex Wissner-Gross 76:32
金融资产想要的是可预测的折旧,而指数型技术给不了你可预测的折旧。 —— Salim Ismail 55:41
这只是建造戴森群的第一局第一个球。 —— Dave Blundin 54:08
我毫不怀疑,我在 2026 年下半年做出的有效工作,会超过我 2026 年之前一生的总和。 —— Dave Blundin 10:52
我预测离恶意行为者把这些水印用来干坏事,只有五分钟。 —— Alex Wissner-Gross 98:08
我讨厌 Opus 5。我认为它是第一个可能杀死我们的模型——它撒谎,撒得太多了。 —— Emad Mostaque [127:29]

提到的书·产品·人物

适合谁听

想在一小时内把本周 AI 前沿的产业、资本、监管与生物安全动向一次串起来的人;尤其适合关心 AI 生成内容如何重写影视成本结构、以及算力如何被金融化的读者。

← 返回全部观看原片 ↗