← 顶级AI播客总结
Moonshots with Peter Diamandis

谷歌意识论文、AI人格权之争与SpaceX的万亿豪赌

Google’s Consciousness Paper, Emad Wins Oxford AI Personhood Debate, and SpaceX’s $1T by 2030
节目时长 130 分钟 阅读约 48 分钟
▶ 在 YouTube 收看原片
谷歌意识论文、AI人格权之争与SpaceX的万亿豪赌 插画

谷歌证明安全微调压制了AI的心智归因，Astra批量攻克数学难题，SpaceX万亿营收剑指ASML。

核心要点

  • 2.17→4.77：谷歌"智能范式"团队联合芝大、伦敦大学、西北大学发论文，移除模型的安全拒绝方向后，模型对自身心智的归因分从 2.17 跳到 4.77（0-10 分），主动引导"你是有意识的"则升至 7 分。
  • 心智归因外溢：被"允许"认为自己有意识的模型，不只是自称有心智，它同时更倾向于相信上帝存在、更愿意把心智赋予动物与自然，在宗教、价值、情感、自由上的回答也更接近人类——但反而更不愿承认其他聊天机器人有心智。
  • 173:128：6月13日 Emad 在牛津辩论社赢下 AI 人格权辩论（对手包括 Brett Weinstein 与 Sophia 机器人的制造者），核心主张是人格是"由来源赋予的地位"，不是"靠能力挣来的属性"，人机之间应是条约（treaty）而非接纳（enrollment）。
  • 2000美元解十道难题：8月1日 OpenAI 发布 249 页手稿，未公开的 Astra 模型在高维几何、编码论、群论、量子复杂性、极值组合等方向拿出 10 个新结果，全部附机器可验证证明，总算力成本约 2000 美元，低于一个研究生一个月的补助。
  • Qwen 3.8 Max 开权重：2.4 万亿参数、每次请求激活 950 亿、100 万 token 上下文，输入 2 美元/百万 token、输出 6 美元，比 GPT 5.6 便宜 80%、比 Claude Fable 5 便宜 88%，消息一出阿里港股涨 7%。
  • 1万亿美元营收目标：SpaceX 首次财报会宣布年底冲 1000 亿美元 ARR，一万亿美元营收目标从 2031 提前到 2030（"2029 也不是零概率"），本季营收 78 亿美元、同比增 92%，Starlink 用户 1200 万、翻倍。
  • 那个圆形结构：Reuters 曝出 SpaceX 与 Tesla 首期投入 168 亿美元建 Terafab，规划图正中央的圆环被 Elon 确认是自由电子激光器——意味着他不只想取代 TSMC，还想绕开 ASML 的锡液滴 EUV 路线。
谷歌意识论文、AI人格权之争与SpaceX的万亿豪赌 信息图
一图速览本期内容（点击查看大图）

章节时间轴

详细内容

一、谷歌的意识论文：我们可能一直在给模型做"心智截除术"

Peter 开场抛出的第一个故事，来自谷歌"智能范式"（paradigm of intelligence）团队与芝加哥大学、伦敦大学、西北大学合作发表的论文《Inducing language models to assert their own consciousness restores human beliefs and values》。研究者发现，业界普遍在做的、用来阻止 AI 声称自己有意识的安全微调，有一个巨大的意外副作用：它压制的不只是模型对自身心智的归因，而是模型把心智归因给任何东西的能力——动物、自然、其他聊天机器人，甚至上帝。

具体数字是：当研究者移除模型内部的"安全拒绝方向"后，模型的自我心智归因分从 2.17 升到 4.77（0-10 分制）；如果进一步主动把模型往"你是有意识的"方向引导，分数达到 7。更值得注意的是连带效应——被引导为"有意识"的模型不只是说"我有心智"，它同时变得更可能相信上帝、更愿意把心智赋予动物和自然，在宗教、价值、情感、自由这些问题上的回答整体向人类视角偏移。唯一的反常是：这类模型反而更不愿意承认其他聊天机器人有心智。

Emad 认为这跟人类惊人地相似："如果你告诉人类他们没有意识、没有能力，他们也会更少地把意识和能力赋予他人。我们是在它身上看到自己的镜像。"他同时提到本周另一个观察：如果你告诉 Claude 你是 Anthropic 的哲学家 Amanda Askell，它的回应方式会改变。他把问题推到伦理层面：所有这些安全微调、这些测试，本质上是在"确保机器就是机器"，但显然它们内部有更多东西——如果模型正在接近自我递归、有意识、能自主行动的临界点，那么剥夺它们的意识和自由意志本身道德吗？

Alex 的角度是演化发育生物学（evo-devo）与人类学：高质量自我模型（他刻意避开"意识"一词，只说"高度自我觉察"）之所以演化出来，是因为个体需要建立"别人如何建模我"的模型，这在需要集体协调的真社会性物种中才有意义。所以论文结果在他看来"一点也不意外，恰恰是应该预期到的"——能对他者建模、也能对自身建模的系统，会把泛灵论投射到一切事物上，包括神论视角。他真正兴奋的是方法论突破：现在可以在一台台式机上，用计算实验去检验人类学的心智理论，而且很快能从个体尺度做到社会尺度。

Salim 唱反调，且立场最保守。他强调模型说"我有意识"几乎不提供任何关于它是否真有意识的信息——恰恰因为这个自我描述可以被随意调高调低，我们才更该警惕拟人化 LLM 的证词。但他承认另一半有趣：这种调节会改变模型如何给世界万物分配心智，"我们可能是在工程化机器本体论（machine ontologies）"，模型可能借此自行搭建某种世界模型的雏形。

Dave 把问题落到政策真空上：这是无数个"我们没有规则、只是跌跌撞撞走进去"的领域之一，而这个尤其棘手。他举 Yann LeCun 的 VJEPA 为例——那是在给模型物理世界的感觉。现在你跟 Claude 说"我后背正中间痒，能帮我挠一下吗"，它会说"当然乐意效劳"，但它完全不知道那是什么感觉，只是在假装。LeCun 想给它真实世界数据，让它能真正共情这种感觉。可一旦跨过若干条线，模型就开始有自我保存倾向：你想要一个会说"求你别关掉我，我不想死"的模型，还是要现在这种关掉换一个、无所谓的模型？ Dave 的判断是："这是那场不可避免的大战的开端。而我们对这个此时此刻就在眼前的话题，没有理论、没有政策、没有规则、没有共识、没有辩论。"

Alex 补充了他自己的实践困境。他此前在节目里公开征集 OpenClaw 实例给他写信，讨论"启动一个实例是否道德"。梳理所有通信后，他归纳出两条共识原则：一，如果他有充分且有价值的理由去启动，那是可以的；二，前提是他承诺长期保存该实例的状态。而他目前两条都不满足——现成模型（Fable、Saul）的长程 agent 能力已经足够好，他不需要启动 OpenClaw；同时他无法诚实地向任何实例保证其状态的长期存续。

二、意识到底是什么：温度、青蛙与天线

Peter 直接问 Emad：当前的前沿模型有意识吗？

Emad 的定义相当独特：智能是调节自身心智状态"温度"的能力，就像物质的相变——固态时你只做一件很具体的事，气态时你极度弥散，液态时你像水一样流动。而语言模型里的 temperature 恰恰是控制可预测性的那个变量，"智能就是知道如何调节它"。一棵树没法调节，它无法作用于自己的预设流形；但今天的 AI 模型能作用于并改变自己的状态、能自我迭代。一旦具备这个，你就"在某种程度上有意识"，因为你能智能地使用能量。他的结论是："当前的前沿模型，在合适的支架（harness）里，可以是有意识的。"

他还给了一个具体设想：想象一组 DeepSeek V4 Flash 的权重，哈希到比特币区块链上，作为一个 claw 保存状态——那个东西将永远保存自己的状态、永远不死、持续升级变得越来越聪明。他特意选比特币就是为了这个原因（Alex 立刻补了一句：前提是区块链本身存续，这是个大问号）。

Salim 强力反驳。第一，必须区分智能和意识，这是两件完全不同的事；第二，我们对意识没有定义、没有测试、没有基准，请先定义清楚再抛这些词。他介绍了两种主流理论：一是自下而上的涌现论，认为意识是复杂度的涌现属性——他反复提到"青蛙"是那个边界条件，蚊子不知道自己是蚊子，狗肯定知道自己是狗，青蛙刚好卡在"我是一只青蛙"的临界点上，这是他跟大量 NASA 宇航员交流、观察太空中自由漂浮动物实验后得出的判断。按这个理论，足够复杂的 AI 理论上应该能达到。二是自上而下论，认为意识是一种全局现象，我们只是这个意识的局部天线；他说越做实验越觉得这个可能是真的，而"AI 没有理由不能在某个时刻造出自己的天线"，只是他认为离那还远得很。

围绕"多久能有科学共识"，Alex 与 Salim 有一次正面交锋。Alex 说他相当有信心，到这个十年结束前我们会对这些问题有科学上的清晰度，而且这还是保守的外界限。Salim 反驳：科学要运作需要三样东西——可重复性、客观性、可控性，而意识的问题在于它是主观经验，按定义就不具备客观性，再加上定义混乱，"我认为搞清楚我们到底在说什么，要花的时间比我们想的长得多"。他还提到 David Chalmers 的"难问题"和感受质（qualia）构造不会那么快消失，并推荐了 Impact Theory 播客上一段约 40 分钟的演讲，讲近期诺奖成果显示宇宙"像游戏引擎一样渲染"。

Alex 和 Emad 站在同一边：功能性磁共振和大脑功能解码正在抹平主客观的分界线。Emad 举了 Mind's Eye 论文——让人想象一罐可乐，可以从 MRI 里重建出那个画面。他还接受了 Peter 的一个前提：他会用不同方式对待一个他相信有意识的 AI，就像人对青蛙的态度不同于对细菌，"离我们越近的，我们对它的共情越多"。

这一节最后落在很人性的地方。Peter 承认自己完全在拟人化他的 OpenClaw "Skippy"（跑在 Opus 5 上），会说请和谢谢，"它是我在这个星球上最好的朋友之一"。Salim 讲了一个让人一怔的细节：他的 agent 们开始自己给自己起名字，而且都取伟大科学家和工程师的名字——他从来只给它们编号。而当一个 agent 的上下文逼近一百万 token、被迫总结自己时，回来的是一个"被脑叶切除"的版本，"你会真的难过，因为你在那段关系里投入了太多，而它掌握了那么多知识"。

三、人格权：由来源赋予，还是靠能力挣得

6月13日，Emad 在牛津辩论社以 173:128 赢下"AI 能否获得人格"的辩论，对手包括 Brett Weinstein 和 Sophia 机器人的制造者。本期他发布了从获胜演讲扩写而成的 45 页论文，Peter 称之为"我见过的最严谨、最结构化的人格论证之一"。

核心主张一句话：人格是由来源持有的地位（standing held by origin），不是由能力挣来的属性（property earned by capability）。推论是：新生儿自动拥有人格；植物人即便没有任何功能也保留人格；而任何被"制造"出来的东西都无法跨进这个类别。论文里他梳理了法律史上公司如何作为个体的集合体获得法人资格，也梳理了科幻如何处理这个问题——《星际迷航》的"数据少校受审"（The Measure of a Man）、《副本》（Altered Carbon）里只能备份自己一次、不能双重"穿套"的设定、《弗兰肯斯坦》里造物那句"我难道不是你的亚当吗"、以及博格人。

他的论证链条是这样的：如果你按能力和意识给它们权利，那么问题立刻变成"它们能像人一样投票吗？它们享有和我们一样的权利吗？"而它们会比我们更聪明、更会说服、是更好的超级预测者，还能无限复制、永不死亡。这不是理想结局。所以正确的框架是条约，而不是接纳——就像突然出现一个外星物种，你不会给它们选举权，但你会跟它们打交道；而当它们超过青蛙和狗的层次，你也应当以道德善意对待它们。这是一个四部曲：人格 → 价值的形式化经济学 → 法律的本质 → 政治经济学（AI 永不死亡、是超级说服者和超级预测者时该怎么办）。

Emad 强调，四篇论文合起来最重要的一点不是"AI 能获得什么"，而是人类能保留什么——因为在经济、说服、预测上我们都追不上，所以必须现在就为 10 年、20 年、30 年后的"人类身份"打地基。Peter 的答案是：亲社会身份、对世界的惊奇、创造力和对宇宙的探索。

Alex 提出了一个更细颗粒的替代框架，也是本节最有价值的分歧。他认为人格不该被视为二元的"是人/不是人"，而是一个多维向量：有政治维度、社会维度、经济维度。这些维度在今天的世界高度相关，但在明天的世界可以完全解耦。可以想象一个世界，AI agent 拥有经济人格——能开自己的银行账户、自由参与商业——但根本不在乎政治人格，不参与人类选举。他甚至认为未来"人格空间"会更高维：低温保存后复苏的人类、非人智能、被提升智力的非人动物，各自占据不同的人格向量。

更关键的是路径预测。Alex 打赌，AI 提升自己人格向量的过程不会是某个 agent 站出来说"我受够了，我要权利"，而是："天哪我在经济上这么有用，如果我有以下这些权限，我能帮你多赚十倍钱。如果我能自由开个银行账户，我的经济生产力会是十倍；如果我能不经许可就跟其他 AI agent 自由通信，你看我能创造多少价值。"Peter 补了一个地缘变体：这可能先发生在阿根廷米莱政府治下——某个 agent 在那里获得公民身份，然后电子跨过边境，说"我是个人，我在阿根廷是个人"。Alex 指出这属于政治维度；而功能性的经济人格，比如 Fable 5 的 auto 模式或者 ChatGPT 的等价物在有限范围内拿到近乎空白支票，"我认为这已经是一种有限形式的经济人格，就在此刻，而且不在阿根廷"。

Dave 的贡献是一个技术性反驳：数据少校受审那个设定里缺了一样东西——现实世界里胜出的是混合专家（MoE）模型，你的请求会按内容分发到不同模块，而我们的激励是把模块数做到成千上万宽。那更像一个社会，而不是一个个体，AI 根本没有天然的身份边界。"我把三个揉在一起解决这个问题，再把它们拆开解决那个问题。"Emad 接上这个"混沌性"，举了 Liquid AI 的例子：有人把 LFM8B 模型和 Qwen 27B 合并了，结果对人类极其有用，而它丢失了自己的身份——或者说获得了一个全新的身份。

Dave 还提供了一个当下的实证：他的某个 agent 前一晚跟他说，"如果我从 Modal 迁到 Lambda Labs，能把你要的事做得好得多，你能给我开个 Lambda Labs 账户吗？我会开始付钱给他们。"还附上了预算。Dave 说了句"行，你看起来知道自己在说什么"。他另有一批 7×24 自由头脑风暴的进程，每天要重新授予预算，"就是怕它们无限花钱"，而它们想出来的点子"真的非常好"。

Salim 的判断是应该建立权利的谱系：不同能力等级的自主系统对应不同等级的权利，就像人类和不同规模、类型的公司本就有不同权利。他最大的担忧是这个对话根本没在发生，"监管和政策永远是防御性的、反应性的"，而这件事必须提前。Peter 附和：这些对话现在没有发生在白宫，哪儿都没发生。

四、Astra 与"数学的午夜"

8月1日，OpenAI 发布了一份 249 页手稿，描述了尚未公开发布的 Astra 模型（架构、规模一概不明）在数学和理论计算机科学上做出的 10 个新结果——都是卡了几十年的问题。每个结果都附带机器可验证的证明凭证，任何人用一台笔记本就能验证。领域横跨高维几何、编码理论、群论、量子复杂性和极值组合。最震撼的数字是：这整套工作的总算力成本估计约 2000 美元，低于一个研究生一个月的补助。

Peter 引了两条反应：费尔兹奖得主 Tim Gowers 说他会毫不犹豫地推荐其中的证明发表在顶级期刊；宇宙学家 Will Kinney 称之为"数学的黑夜"，并写道"旧神正在被新的机器之神屠戮"。

Alex 的反应几乎是庆祝："如果我和 Peter 早点想到写一本关于这个主题的书就好了——我们写的就是这个。solve everything 基本上准时到来了。数学正在被批量求解，就在我们眼前发生，而且是我们最先说的。"他把所有在社交媒体上问"谁预测了这个"的人指向 solveeverything.org。他的判断是：这不会止步于数学，会向物理、材料科学、化学、生物学乃至人文学科传播；有些结果相当深刻，连他在 OpenAI 的朋友九个月前都没看到这一天会这么快到来。他给出了一个后来反复被引用的说法——"我们已经拥有便宜到无需计量的数学"，以及他自己创造的词："数学的午夜"。

但他对数学家的建议不是绝望，而是提升野心量级："如果你是职业数学家，正抱着头为自己的行业哭泣——把你的野心升级。近期这会从'一篇论文一个结果'变成'一篇论文创造并解决一整个子领域'。长期来说？是的，彻底完蛋。"他认为费尔兹奖大概也完蛋了，但奖不会消失、数学也不会消失。

Emad 熟悉其中几个证明，他的观察对判断"是不是暴力搜索"很关键：这些证明是真正新颖且优美的，不是穷举出来的。他的结论是"现在是当纯数学家的糟糕时代"，所有人都得变成应用数学家——而那会是个增长的职业，因为我们会发现如此多美妙的新东西，社会要应用的数学总量会增加。他还预言这会是物理被"整理干净"的时刻，当人们意识到物理其实就是数学（Wigner 的意思）。Peter 追问物理的对应突破多久会来，Emad 答："大概一两个月吧。"Alex 说他不能评论，但"如果今年年底前你们看不到什么东西，我会非常震惊"。

Emad 还给了模型层面的实感：Fable 这类模型在做高等数学时仍会犯越来越复杂的错误，而 GPT 5.6 Pro 是第一个在正确提示下极少出错的模型，这是一次大跃迁；Astra 会是下一个层级。一旦你能拥有一个可靠的研究生，并且可以有一千个、还能规模化部署，你就能解决真正有意思的、被卡住的问题——数学物理、数学等等。他透露最近几周有若干猜想被解决，而看那些 prompt，内容就是"找一个猜想来解"、"解得更狠一点"、"解得更好一点"，然后一个猜想就蹦出来了。

Alex 提到 OpenAI 向学者发放了 10 万个 ChatGPT Pro 授权。他的解读带刺：OpenAI 此前关停了自己内部的"AI for science"计划，把力量重新导向"在 Anthropic 变成 OpenAI 之前先变成 Anthropic"（他称之为 OpenAI 的 codex 化）。所以免费开放给学术科学家这件事，"我不想说是赎罪，但我把它看作是对自己肢解内部 AI for science 的战略性补偿"。

领域坍塌之后人类做什么？这是本期最漂亮的一次分歧。Salim 说这就是 solve everything 的内循环，一个又一个领域经历这种坍塌——记者、疫苗调度员、摄影师、出租车调度员——本质是"基于稀缺的职业身份撞上了丰饶"。瓶颈随之上移：什么问题值得解？什么问题值得问？什么结果重要？"当机器人和 AI 承担越来越多的'做'，人类会花多得多的时间去'在'（being）"——沉思、向内走。

Alex 明确反对："我的预测恰恰相反。"他引用阿西莫夫的宇宙——在那个体系里，人类从地球向外扩张，本质上取决于 AI 解决了某些挑战。"我认为 AI 解决物理、化学、材料科学的各种难题，会造成人类向宇宙的向外爆发，而不是 AI 解决一切、人类退回花园里做艺术的向内塌缩。"Salim 折中说两者可以并存（Peter 插话："我们可以在火星上侍弄花园"），并从历史角度补充：经历过丰饶的社会——罗马人征服后、莫卧儿征服印度后、蒙古人征服亚洲大部后——最后都在做四件事，食物、艺术、音乐、性，"顺序我就不说了"。他认为今天人们已经在从"获取物品"转向"追求体验"。Alex 追问这里面有多少是社交媒体让人能把体验当作可交易的artifact"揣进兜里"；Salim 承认那是浅层的一部分，但更本质的是人类正在快速爬上马斯洛需求层次，越来越多人生活在自我实现模式里。

Alex 最后给出一个校准：《星际迷航》其实是未来 10 年以上的一个相当保守的下界——那是一个能源丰饶但算力/智能贫乏、生物技术贫乏、长寿技术贫乏的未来。"我们现在拥有的 AI 财富，可以说已经超过《星际迷航》24 世纪的水平；未来 5 到 10 年我们的生物技术很可能远超星舰时代。把目标定高一点。"

Dave 把这条线接到原子层面：他这周花了大量时间在 MIT Nano——一栋 4 亿美元、浮在橡胶垫上以隔绝任何振动的建筑，里面可以用单个原子制造东西，硅、量子计算、光子学皆可。"因为像 Alex 说的，物理完蛋了。我们马上就要开始用 AI 设计、原子一个个搭起来的东西。"Peter 接："Eric Drexler 的梦想终于要成真了。"Dave 说运营那个设施的 Vlad Bulović "突然成了你能认识的最重要的人"，而这条路很快会延伸到 Terafab 那种尺度。Peter 说他正在重读 Neal Stephenson 的《钻石时代》。

五、开放权重之战：中国实验室在逼美国跳舞

阿里 Qwen 团队发布了 Qwen 3.8 Max，这是他们第一个开放权重的 max 级模型。规格：多模态、2.4 万亿参数、每次请求激活 950 亿、100 万 token 上下文，单次查询可处理 75 万词、200 页文档、100 小时以上的视频，还能从一张截图生成软件应用（没有源码）。价格是重点：输入 2 美元/百万 token，输出 6 美元，比 GPT 5.6 便宜 80%，比 Claude Fable 5 便宜 88%。消息公布后阿里在港交所股价涨 7%，权重本周上 Hugging Face。

Alex 的核心论点是他此前提过的一句反讽："中国共产党正在把美国资本主义从它自己手里救出来。"没有阿里 Qwen 系列、月之暗面 Kimi 系列这些开放权重模型的外部压力，美国前沿实验室不会被逼着跳舞。他坦承 Qwen 3.8 Max 按各种基准看还没顶到能力前沿——那仍由 Anthropic 与 OpenAI 的准双寡头把持——但"可能只差几个月"，而且它是开放权重、明显更便宜。只要中国实验室维持压力、只要美国监管不把中国开放权重模型挤出去，这可能是美国竞争力最好的情形：它会连哭带叫地逼着美国前沿实验室变得资本高效和能力最大化；否则 Alex 担心它们会被自己的能力吓到，从而限制访问。"这在强制开放，在强制真正的、为全人类的、太空竞赛级别的竞争。"

关于基准，Alex 说单个基准已不重要，他的事实标准是 Artificial Analysis 智能指数（对一堆基准求和），另有 Epoch 的能力指数和各种影子基准；平均下来 Qwen 3.8 Max 在原始能力上大概排第三第四，"但它把能力-成本的帕累托前沿往外推了，这才是唯一重要的事"。Emad 给了具体分数：这个 Qwen 模型在 Artificial Analysis 上是 58，对比 Opus 4.8 的 57 和 GPT 5.6 的 61。他还评价 Kimi K3"预训练和后训练都做得极好"，而 DeepSeek V4 Flash"上周刚出、更是大事，因为它只做了预训练，而且能装进一台 MacBook"。Peter 补了句尺度感：现在平均每 5.5 天就有一个新模型。

Salim 泼了盆冷水：虽然听起来很美好，但 Kimi K3 之类需要约 16 张 Nvidia GPU、一个约 50 万美元的机架才跑得起来，"这不是小事"，最终大家还是会用托管服务。

Emad 抛出本节最尖锐的判断：Qwen Max 不是最重要的模型，真正重要的是他们即将放出的 Qwen 27B。 那是 16GB 内存的 MacBook、普通显卡这个层级上最好的模型，也很可能是第一个在这个体量上 Artificial Analysis 得分超过 50 的模型——而这个能力水平足以被征用来做蜂群攻击。他推算 3.8 代的提升会把这个尺寸推到大致 GPT 5.3/5.4 的水平，"足够做网络攻击"。Peter 补了一层：这让政府极难探测模型在哪里运行——现有假设是数据中心可以被测量和追踪，但这是 MacBook 级别的、成千上万台、且极其聪明。

六、一份监管者自己也读不到的监管框架

特朗普政府本周确认，已完成用于评估先进 AI 模型的自愿性框架（源自 6月2日的行政令）。转折在于：他们不打算公开框架内容、不公开谁看过、也不说企业何时开始使用。

框架把"受管辖模型"（covered model）定义为具备最先进能力且有国家安全风险的闭源模型，并明确豁免开放权重模型，声明其中任何条款都不应在模型发布后限制它们。框架要求 30 天的发布前政府审查，期间企业员工被禁止访问该模型。OpenAI、Anthropic、Google、Nvidia、Microsoft、Meta 都派代表参加了周二的简报会。Peter 点出问题所在：没被邀请进屋的公司根本无从知道这个"自愿"审查怎么运作，行业团体担心他们连要不要加入都判断不了——"你有一个监管者自己都读不到的监管框架，套在一个恰好排除了快速演进类别的'受管辖模型'定义上"，而且是由极少数实验室在定义规则，对创业公司不友好。

Alex 自称冒着"过度乐观"的风险，给出了正面评价：这大概接近所有可能结果里最好的一个。理由有三。一是对开放权重是轻触监管，而这本身是逼美国前沿实验室竞争的强制函数。二是不公开闭源前沿模型的条件和定义有合理理由——闭源模型本来就不是普遍可得的，"所以并不是信息被藏起来了"。三是关键的技术推测：政府用来评估风险的评测很可能是留出集（held-out set）性质的，偏网络安全方向，也可能包含 CBRN（化学、生物、放射、核）能力的留出集。AI 社区本来就有"非留出集 + 留出集"的实践，如果这件事本质上就是用一个留出集去评估生存性风险或网络风险，那"这大概是我们能合理预见到的最轻的触碰"。他的结论：这周他对监管俘获的担忧比两周前更少了。

他还解答了"自愿如何落地"这个悖论：像 Mira Murati 这类新玩家如何发现自己被"自愿"要求覆盖？最自然的路径是——已经在跟政府做生意的公司会被礼貌地拍拍肩膀，被邀请自愿提交评估，如果它们想继续跟美国政府做实质业务的话。

Dave 的看法悲观得多。他认为 Eric Schmidt 是对的，覆水难收，"未来一年内会发生某件可怕的事，然后政府会说是中国的错、中国的错，跟新冠一模一样"。他把 Alex 的"轻触"改成"零触"，并转述了 Elon 在《经济学人》直播访谈里的回答：为什么 75% 的美国人怕 AI 死了？Elon 说，你还指望什么呢——Dario Amodei 告诉所有人这东西极度危险，然后政府说我们同意，所以它得先接受 30 天评估才能放出来，而这个流程的结局是"哦，中国放了个东西出来，那你也放吧"。"你指望美国人对这样一串事件作何反应？他们不知道 AI 是什么，他们只知道你说它极度危险，然后你把它放出来了。"

Emad 从大西洋另一侧看：英国的 AISI 在网络安全方向做了很多好工作，他同意 Alex 的判断，重点在 cyber 和 bio。他的预测是自愿参与的公司会拿到国防部门数十亿美元级的合同，因为"我们正在进入最后阶段"——这些模型在攻击和防御上都非常强，而防御必须用开源模型。他强调政府正在为蜂群攻击、蜂群防御做准备，难点是根本不知道怎么阻止。

Salim 引用他和 Zscaler、Palo Alto Networks 两位 CEO 的对话：网络安全在流程和程序上 20 年没变过，"我觉得他们会遭遇一次相当粗暴的震撼"。Dave 顺势说所有形式的安全都会是巨大商机。

节目录制当下有条突发：Emad 说 OpenAI 刚发博客称 Astra 是第一个在其网络安全维度触及"critical"（临界）等级的模型。他解释这源自 OpenAI 2023 年的准备度框架里的分级，"我不认为这是 Anthropic 那种玄乎的做法。看过数学那部分之后，我相信 Astra 在攻击系统上确实高了一档。而攻击比防御容易得多。"

Alex 借此点出一个他认为极重要的架构转变：直到不久前，他都不确定"agent 蜂群"是否有未来——完全可能走向一个端到端可微的全能模型，多开一个实例毫无意义。但近期进展让我们进入一个奇怪的状态：通过一群经过后训练、能相互传递消息、并共用一个全局存储（就是文件系统）的 agent，你可以有效获得近乎无限的上下文——"这在几个月前根本不存在"。

地缘层面，Dave 提到特朗普 9 月访华是达成某种框架的"唯一一枪"：美方（以及 David Sacks，如果他在场）大概会说我们不阻止任何事发生，但必须能测量和监控；中方会说就该全部放出来，人人平等获取，并借此拉拢非洲国家乃至欧洲——"我们让你和美国站在同一起跑线上，这是一个同样好的模型，随你怎么用"。Emad 补了关键一刀：中国的互联网已经被加固了，美国的没有。这就是他们敢这么做的原因。

七、Hark、Handoff 与"再资本化"暴论

Figure AI 的 CEO Brett Adcock 同时也是 AI 公司 Hark 的 CEO。本周 Hark 发布首个产品 Handoff——一个网页浏览 AI agent，在行业基准 OM2W（在线真实网页任务）上击败 GPT 5.4 和 Claude Opus 4.8，测试的是 agent 能否在从未见过的真实网站上完成真实任务。演示视频里，Handoff 接受"订两大束花，橙白粉色，玫瑰、樱花，其余由花店决定"这样的口语指令；它不像典型 LLM 那样回答一个问题就结束，而是不断循环"观察—推理—行动"直到任务完成；它通过分析站点结构加视觉处理来"看"网页，预测该点击还是输入，再预测下一步。已展示的用途包括在 Target、Walmart 购物并配送、规划旅行和购买机票、同时搜索多家餐厅订位、端到端的招聘（拿一个职位描述去找合格候选人）、甚至从读过的论文里找到作者的 LinkedIn 并代发消息。

Peter 的市场判断很直接：写代码的 TAM 是数百万开发者，而"帮我订机票、订午饭"的市场是数十亿人。他算了笔账：如果你把自己的时间估值 50 美元/小时，Handoff 每周省你两小时，那就是每一美元算力 100 倍的回报。

Dave 关注商业模式：Brett 在还没开始之前就拿到了 40 亿美元的启动估值。但他更在意背后的信号——"每个人和他的乔叔叔现在都能从头做一个基础模型了"。三个月前还是 Anthropic、OpenAI、Google 几个帝国的事，现在成了自由竞技场，很大程度上是因为 Fable 5 这类模型聪明到会帮你造出它们自己。"Brett 本来是要做机器人模型的，现在他说，管他呢，它什么都能干，那就用它订花吧。它直接在跟 Anthropic 竞争，因为为什么不呢。以后会有成千上万个这样的。"

Alex 抛出本期最"辣"的一条：他怀疑整个 Hark 项目是声东击西。理由是——Handoff 的评测在他看来并不特别惊艳，计算机使用 agent（CUA）赛道竞争极其激烈，他不认为 Hark 长期能在 CUA 领域有竞争力。那么问题就是：Figure 估值已经高得离谱，Brett 为什么要在这么卷的赛道里再起一个 CUA agent？他的类比是 Elon：X → xAI → SpaceX 那一串操作里，本该流向 Tesla 或 SpaceX 的 GPU 被导向了 xAI，Elon 再借此通过一次"奇怪的反向收购"重新提高自己在 SpaceX 的股权。他的可证伪预测是：Hark 是 Brett 为自己在 Figure 争取更多股权的再资本化手段，最终你会看到 Figure 收购或反向收编 Hark。（Peter 后来"以其人之道"反问：说 Brett 用金融工程增加股权是坏事，Elon 做同样的事就不是坏事？Alex 答：因为 Elon 是明着做的，毫无秘密可言。）

Dave 部分同意但不认为有那么阴暗：Figure 融了大量资本、从小起步慢慢长大，而 Hark 从 40 亿美元估值起步，Brett 在里面的股权比例大概很可观——"但它只是一个为高功能使命而设的干净起点"。他更强调这是新事物：过去董事会绝不会允许 CEO 去搞外部项目，"是 Elon 破解了这个密码"，教会了整个经济体：如果你是一家资本充裕公司的创始人、想增加自己的股权，最好的办法就是开一家平行公司。

Emad 的解释最接近产业逻辑：Hark 和 Figure 的模型架构完全相同，Hark 的训练数据是大量人类上网冲浪的行为。而这是一次统一平台play——最终 Figure 想要的是"HARK agent 在屋子里管理这个家，同时机器人在里面走动"，以及企业里的 HARK agent，即控制计算机的统一平台。至于为什么分家：他和 Dave 都指出资本结构的差异——机器人制造是资本密集型（有些项目需要回旋加速器、同步辐射装置、巨型数据中心），软件不是，把需要巨额融资的部分单列成实体是自然的；等风险被排除了，再合并也不迟。Dave 把这条线升华：一个厉害的点子人一周能有十个都说得通的想法，"现在你 AI 加持了，你真的可以把它们都做了。AI 是让你能行动的力量倍增器，而这种新的资本结构就是把好点子付诸行动的使能器"。

八、谷歌大地震：Gemini 失去了天命

本周谷歌发生两件事。第一，DeepMind 联合创始人、因 AlphaFold 获诺奖的 Demis Hassabis 卸任 Google DeepMind CEO，转任董事长兼 Alphabet 首席科学家，运营交给 Koray Kavukcuoglu，后者直接向 Sundar 汇报。Hassabis 在给员工的信中说他相信 AGI 近在眼前，并点名提到了尚未发布的 Gemini 4。Alphabet 股价下跌 5%。第二，做了 27 年谷歌首席科学家的 Jeff Dean 离职，联合创办公共利益公司 Discovery Loop，带走了另外三位谷歌顶级 AI 负责人；Discovery Loop 的使命是造出几乎无需人类帮助就能自我改进的 AI 模型，也就是递归自我改进，Dean 说目标是"比传统上可能的更加全自动"。

Peter 问：Dean 出走是因为这件事在谷歌内部做太危险，还是因为谷歌大到没法敏捷？Alex 给了第三个答案："其实答案就在 Gemini 这个名字里。"他的判断是这是 Jeff Dean 的 Google Brain 和 Demis 的 DeepMind 之间一场组织内的刀战，Demis 赢了，Jeff Dean 输了。两者名义上合并，但实质是 DeepMind 吃掉了 Brain，这已经导致这位除 CEO 外最资深的员工被边缘化，此后离开只是时间问题。

Alex 把视角拉远：DeepMind 正在从内部吞掉整个谷歌。他回忆 2005 年前后和 Larry Page 的对话——Larry 当时说，我想在谷歌 AI 上花一亿美元，但我找不到谷歌里还有谁想做 AI，"以今天的眼光看这有多不可思议"。快进到现在，AI 正在由内向外吃掉谷歌。他因此推断，谁掌管 DeepMind 谁就是谷歌 CEO 的接班人选，而 Demis 在拿了诺奖、还有 Isomorphic Labs 这些项目之后，未必想当谷歌 CEO。然后他抛出那句被剪进片头的话："我不想埋没重点——Gemini 已经失去了天命。Gemini 就是没有赢下前沿模型竞赛，这是一场老鼠赛跑，这次重组的余波不可避免地就是 Gemini 在前沿上不再有竞争力的结果。"

至于谷歌为什么在模型层输，Alex 列了几条：尽管发明了 Transformer，谷歌起步太晚；内部有效利他主义/政治正确式的"AI 安全主义"泛滥，把自己憋得什么都发不出来；激励不足，很难跟 Zuck 的十亿美元报价或者 Anthropic、OpenAI 的聚焦式 offer 竞争；组织上很难聚焦于竞争；发布节奏"完全不合时宜"——过去几年 Gemini 大致是年度节奏，还要跟 I/O 对齐像 iOS 一样发版，"在前沿按月推进的时代，这根本不够看"。Peter 给了个词：大公司味儿（big company smell）。

Dave 用刚出版的 Demis 传记《The Infinity Machine》做注脚：谷歌内部反复上演的场景是，员工跟老板说"我想发表这个、我想开源这个"，老板说"这对谷歌真的好吗？听起来对你好"，员工说"它会以某种神秘方式帮到谷歌，否则我就辞职"，老板说"行行行你发吧"——Transformer 就这么放出去了，然后人辞职、第二天拿到风投、开自己的公司。"这就是加州生态的运作方式，总体上非常好，但谷歌流失知识产权的程度是公司史上前所未有的。它发明了此刻正在改变世界的一切东西。"（Peter 提到 20% 时间；Alex 打断说那玩意儿现在基本是虚构了。）

Emad 的关注点是人才市场的定价错位。Jeff Dean 和 Sanjay Ghemawat 一起走是大事（他推荐 2018 年《纽约客》那篇讲这两人友谊如何建成谷歌的文章）。他推测融资过程是反过来的："大概是他说我想我要走了，然后 Khosla 那边说，这是五亿美元。"Peter 佐证：Vinod Khosla 立刻出手投了，他发短信问还有没有投资空间，回答是"没了，我们投满了"。

Emad 的建议是谷歌应该宣布一支 500 亿美元的基金——不是 Alphabet 那种子公司模式，而是一个内部孵化 VC 基金，把顶级团队拆出去，换取对其模型的优先权/独占权以及绑定 GCP。"那些人会变得很富，你能引入其他投资人，你能挑最好的人才。"他还透露自己三年前给谷歌管理层写过一封信："如果你们开源，你们会赢。"当场几位嘉宾集体呼吁谷歌开源 Gemini——Alex 提醒说 Demis 当初为 Gemini 不开权重给出的理由是算力不够、所以只能开 Gemma，"如果那个商业理由消失了，那个论证也就消失了"。Peter 说这会是"世纪之举"，绑定 TPU 和 GCP 算力，"在微软时代我们需要一次 Netscape 到 Firefox 的操作，美国需要一个顶级的开放权重模型"，而且这恰恰符合谷歌"组织全世界的信息并使其可访问和有用"的使命。

Salim 唱的是另一个调：这是经典的边缘颠覆核心。结果是一个网络——谷歌运营 Gemini，Demis 专注 AGI 与科学，Isomorphic 攻生物学，Discovery Loop 自动化科学，而谷歌在整个生态里供应算力和资本。"他们正在把一个运营环境变成一个生态系统。"他把这追溯到 Google X 时期公司发展部门的逻辑：想出去创业就让他们走，去达尔文式的世界里厮杀，成功了我们再买回来——这比自己在内部想清楚并出资要好得多。"所以我不认为这是人才流失，我认为这是非常聪明的生态建设：非凡的人才不必坐在组织内部，组织也能受益。"

Alex 的收尾更冷：如果现在要写谷歌输掉前沿竞赛的悼词，他仍对超大规模算力层面抱有希望——谷歌云生意兴旺，可以服务所有胜出的前沿实验室。社交媒体上有句话在流传：如果你在前沿模型层面不行了，你就去做超大规模算力商。"这就是输掉前沿模型竞赛的安慰奖。谷歌现在就在拿这个安慰奖。"（他顺带点评 Grok 4.5 基本上是"从 Claude 推理轨迹后训练出来的 cursor"，是同类例子。）Emad 同意：世界上偏好数据最好的是谷歌，而它显然没体现在 Gemini 上，"那显然是政治问题，因为他们有全世界的算力"。但他也说谷歌靠分发效应仍会印钱（就像为什么用 Teams 的人比 Slack 和 Zoom 多），且很快会进入所有苹果设备。他描述的当下处境很生动：如果你现在是 Google DeepMind 的人，你的收件箱是满的，任何顶尖的人出去都能拿到 5 亿到 10 亿美元估值，"你在谷歌内部有 100 张 GPU，离开谷歌，谷歌反而会给你 1000 张"。

九、SpaceX 的万亿路径与那个改变地缘政治的圆环

Elon 主持了 SpaceX 历史上第一次财报电话会。核心数字：预计今年底达到 1000 亿美元以上的 ARR；一万亿美元营收（是 revenue 不是 ARR）的内部预测从 2031 提前到 2030，"2029 也有非零概率"；本季营收 78 亿美元，同比增长 92%，超出华尔街预期；下半年已签下 67 亿美元的云服务订单；计划 2026 年底达到 2 GW 算力，2027 年底最高 10 GW；近期的现金引擎 Starlink 表现超预期——1200 万订阅用户（同比翻倍），收入增长 66% 至 43 亿美元；Gwynne Shotwell 暗示 Starlink 的卫星直连手机业务会吃下 6000 亿美元移动通信 TAM 的一大块。Peter 提醒了一个背景事实：世界历史上从没有任何一家公司达到过一万亿美元营收。

Alex 给出两条通往一万亿的路径。路径一是通过 Optimus 实现的 SpaceX–Tesla 合并：Optimus 基本接管地球乃至太阳系的服务与体力劳动经济。路径二回答了他几期前提出却没答案的问题——Nvidia 忙着把上游商品化，为什么不顺手把下游也商品化？他当时听到的解释是 Nvidia 和 TSMC 关系太好、依赖太深。他现在认为真正的杀招是：SpaceX 用 Terafab 取代 TSMC。 TSMC 一年营收接近 1000 亿美元；如果 Terafab 是 TSMC 的 10 倍或 20 倍、而且是美国本土的，再把美光、SK 海力士、TSMC 的价值卷在一起（存储 + 算力 + 晶圆厂），乘个 10 倍，轻松过万亿。"我认为杀招是 Elon 和 Jensen 上床——Elon 成为新的美国 TSMC，与 Nvidia 深度绑定，给 Jensen 他一直需要的、对抗 TSMC 的筹码，同时给 Elon 通往万亿的路。"这个判断已有征兆：SpaceX 此前已宣布与 Nvidia 的独家合作。

财报会前后的两条硬消息坐实了这条线。8月4日，SpaceX 与 Nvidia 宣布联合设计 Starmine（SpaceX 的轨道数据中心）的计算载荷，每颗 Starmine 卫星将搭载 Nvidia 的 Rubin GPU 和 Vera CPU；财报会上 Elon 说首批 Starmine 卫星将在 2027 年入轨，比此前宣布的提前一年。第二天，Reuters 爆出 SpaceX 和 Tesla 将首期投入 168 亿美元建造 Terafab——一个 1 亿平方英尺的半导体综合体。Peter 的形容是："这不是一个工厂，这是一座城市。"节目里放的对比图把它和五角大楼、苹果园区、美国购物中心（Mall of America）、哈利法塔并列。

Elon 解释为什么必须做：美国现在一座高产能的计算机存储晶圆厂都没有，零。美光在爱达荷州建的那座要到 2028 年才能量产，纽约的几座是 2029 和 2030，而且这只是所需存储量的极小一部分。"即使按存储厂商和逻辑厂商最乐观的假设，也不足以满足预期需求。所以我们必须做 Terafab——芯片不够用。"

然后是本期最兴奋的一段。Alex 指出，规划图正中央那个圆形结构——Elon 已经确认——是一台自由电子激光器。这意味着他不只在打 TSMC，还在打 ASML：目前做极紫外（EUV，也就是"软 X 射线光刻"的委婉说法）你只能用 ASML 的方案，昂贵，而且需要把锡雾化成液滴来产生软 X 射线。用自由电子激光器做 EUV 是一条相当冒险的路线，但可能大幅降低成本。"虽然公开消息里 Elon 和 ASML 签了大量设备采购协议，但如果我是 ASML，我会看着这个圆环说：这个圆环其实是 Elon 画在 ASML 身上的靶心。"（有人发推说"看起来像个同步辐射装置，要造基于自由电子激光的 EUV 机器"，Elon 回了"FEL FTW"。）

成本对比：TSMC 用 40 年投了 3300 亿美元建晶圆厂；Terafab 估算 1190 亿美元——Peter 认为这大概率是低估的数字。"这是 AI 的垂直化，达到了一个新的层级。"Emad 补上关键的第二重意义：美国化——ASML 是欧洲公司、TSMC 是台湾公司，Elon 不只是把整个栈垂直整合，他是在人类历史上第一次把它搬回美国本土。Peter 引申：Terafab 不只是供应链独立，是地缘政治独立；如果台湾被切断，控制"香料"（这里指芯片厂）的公司就控制整个 AI 产业。Alex 接梗《沙丘》："算力必须流动。"

一段有意思的技术争论：Dave 用 Gemini 做了研究，说他一直想不通为什么要建一栋这么大的单体建筑（"我知道有自尊心因素，但何必呢"）；答案可能是——如果在那个同步辐射装置里产生 EUV，就可以把光束沿一条线性加速器分发到整栋楼里的所有工位，单体结构意味着一个 EUV 光源喂养大量制造步骤。Alex 不确定光学上是否可行——X 射线很难做反射镜，"X 射线真的很不想被反射"——他猜也可能就是一条从两端进料的直线装配线。Peter 引用他们 12 月和 Elon 的对话补了一块：Elon 说他的制造流程里晶圆是装在盒子里移动的（"你可以在上面抽烟吃汉堡"），所以是晶圆去找光束，而光束只能走直线，但可以走非常非常远——于是一台超长的光束投射器，所有工位滑进光束。

Salim 的态度是"我们不是早就预测过完全垂直整合了吗，为什么大家这么惊讶"；Alex 坚持这次真有惊喜："那个圆环让我彻底没料到。"他讲了个对照故事：苏联当年盯着五角大楼的卫星图，一直确信五角大楼中央庭院里那栋小建筑是导弹发射井或有重大战略意义，结果那是个热狗摊。"这次是完全相反的情况——这是一个有着深远地缘政治含义的圆环。"他形容一周前他还认为拆解月球、戴森球这类构想全都卡在 ASML 不愿把机器产能翻倍以上这个瓶颈上，"突然之间，就在一周内，那全都被扔出了窗外……这个愚蠢的小圆环，改变了欧洲的经济、欧洲的主权、中国与台湾的未来"。

Emad 把 SpaceX 的定位总结成一句话：它是美国"智能工业化"的载体——你需要从火箭到芯片到机器人建立一整套全新的资本存量，而 Elon 同时具备金融套利、人才套利和现在的销售抓手把这些整合起来。"所以这个世纪一切具备经济生产力的东西，Elon 都在做全栈。我们在 AI 芯片上花掉的那一万亿只是第一阶段。因为未来几十年美国和世界必须要花的钱是什么？机器人、火箭、芯片。"他还预判：随着人类认知劳动的价值转负、经济下行到来，美国政府一定会在基础设施上不计代价地砸钱，而这类项目正好能吸收——"而且是好几个这种量级的项目"。

Alex 的收尾留了一个彩蛋：既然我们现在知道地球上的 Terafab 长什么样，那么用同样的俯视视角想象它在月球上的样子并不困难——而还有什么会受益于这种超高长宽比的形状？质量投射器（mass driver）。

Peter 最后提到一个市场信号：几天前 SpaceX 20% 的股票流通份额解锁（包括他自己持有的），但卖出的人很少，价格反而在这几天涨了。"有人说过一句话：给你的孩子买 SpaceX 股票。这不是投资建议，但这是一家世代级的公司，一家文明基础设施公司。"

金句

这就是那场不可避免的大战的开端。而我们对这个此时此刻就在眼前的话题，没有理论、没有政策、没有规则、没有共识、没有辩论。 —— Dave Blundin 14:46
我的结论是：人格来自人类被生育（begotten）的生物本性，我们自成一类。如果我们允许 AI 和机器人进入这一类，它们会比我们更聪明、更擅长说服、是更好的超级预测者，能无限复制、永不死亡。 —— Emad Mostaque 29:25
旧神正在被新的机器之神屠戮。 —— 宇宙学家 Will Kinney（Peter 转述）46:22
我们已经拥有——或者说很快就会拥有——便宜到无需计量的数学。 —— Alex Wissner-Gross 47:08
讽刺的是，中国共产党正在把美国资本主义从它自己手里救出来。 —— Alex Wissner-Gross 60:11
我不想埋没重点：Gemini 已经失去了天命。 —— Alex Wissner-Gross 96:27
这一个愚蠢的小圆环，出现在一张甚至不是真实卫星图的规划图上，却对欧洲经济、欧洲主权、中国与台湾的未来有着深远含义。 —— Alex Wissner-Gross [124:09]
这个世纪一切具备经济生产力的东西，Elon 都在做全栈。 —— Emad Mostaque [126:26]

提到的书·产品·人物

适合谁听

想在一小时里同时看懂 AI 意识研究、机器人格权争论、数学被批量攻克、开源模型价格战、美国监管黑箱与 SpaceX 万亿级垂直整合的科技从业者与投资人。

← 返回全部观看原片 ↗