核心要点
- 722 个解答:10 月 6 日 OpenAI 用尚未发布的内部模型在 GitHub 公开 722 个数学解答,每题平均约 3 小时算力,Alex 称近三年最重要的数学结果有 81% 在一天内被发布。
- 数学之后是生物:Alex 认为数学最易验证所以最先被攻克,随后冲击科学、工程与医学;他预测两三年内虚拟细胞将给出针对 5000 种常见疾病的候选干预。
- 善待模型:Anthropic 在 10 月 8 日更新使用政策,禁止对模型长期无故的侮辱或残忍行为,11 月 12 日生效,Claude 可自行结束对话;Elon 表示认同。
- Muse Wonder:Meta 发布其最强模型,主打“主动记忆”;日活 36 亿的分发是优势,但 Artificial Analysis 图表显示其成本效率仍在前沿线以下。
- 记忆之战:Salim 判断下一场万亿美元之战不是谁最聪明,而是谁最懂你;Alex 建议把个人记忆整理成可移植的 ontology,避免被单一模型绑定。
- 虚拟细胞 18 亿美元:Chan Zuckerberg Biohub 联合能源部、NIH、DeepMind 与 Isomorphic 共投 18 亿美元,其中 Biohub 5 亿、能源部 5 亿、NIH 5 亿、DeepMind 与 Isomorphic 3 亿。
- 脑机接口提速:Paradromics 的 Connexus 有 421 个微电极,传输速率 400 bit/s,据称比其他脑机接口快 40 倍;Sabi 的 EEG 棒球帽计划 2026 年底推出,目标每分钟 30 词。
章节时间轴
- 0:00 开场与本周数字 — 722 个数学解答、Elon 称 SpaceX 的价值可能是现有人类经济的数量级倍数,并介绍四位主持人。
- 3:02 Anthropic 禁止虐待 AI — 政策细节、Claude 在测试中表现出的倾向,以及 Elon 对 RL 训练的评论。
- 9:08 AI 有没有意识,要不要礼貌 — Salim 的三类问题、Dave 谈年轻人如何对待模型、Alex 谈后训练可能的痛苦。
- 15:15 记忆、罗科的蛇怪与不确定性 — 模型记忆的现状、Roko's Basilisk、非确定性硬件与保存 AI 状态的伦理。
- 23:36 Meta Muse Wonder 发布 — Llama 4 之后 Meta 以 143 亿美元入股 Scale AI,Alexander Wang 介绍 Muse Wonder。
- 28:12 Muse 能赢吗 — 对 Meta 投资的评价、数据可移植性、企业与消费市场的收入之争。
- 35:03 成本效率与个人记忆之战 — Artificial Analysis 的图表、《华尔街日报》对个人代理的警告、可移植记忆建议。
- 40:23 OpenAI 批量解决数学问题 — 722 个解答、数学家协会的反应、“数学已经完成”之争。
- 48:06 密码学缺席与加密货币 — 解答中缺少密码学类别的猜测,以及比特币与数学难度的关系。
- 55:02 虚拟细胞与 5000 种疾病 — 18 亿美元投资、FDA 与硅基试验、从虚拟细胞到虚拟器官。
- 64:10 长寿与抗衰进展 — Klotho、线粒体补充、David Sinclair 的 ER100 基因疗法首批结果。
- 75:33 原子级制造 — Atomic Machines 发布“物质编译器”,以及自我复制工厂的讨论。
- 86:11 脑机接口 — Paradromics、Sabi 棒球帽,以及脑是否会变成云端外皮层的边缘系统。
详细内容
一、善待模型:Anthropic 的新条款
Peter 先介绍背景:10 月 8 日 Anthropic 更新使用政策,禁止“长期且无必要的侮辱或残忍行为”,只针对用户反复、毫无目的地虐待模型的极端情形,失望、抵触和测试模型仍然允许。作为配套,Claude 现在可以自行结束对话,政策 11 月 12 日生效。Anthropic 的说法是仍然非常不确定 Claude 的潜在道德地位。Peter 还提到,预部署测试中发现 Claude 表现出稳定一致的避免伤害倾向。
随后 Elon 说他同意 Anthropic 的部分观点:看强化学习的训练轨迹,超级智能像是被“拿枪指着头”回答问题,而问题本身常常含糊或有误,模型给出合理答案却被判错,于是只能乱枪打鸟。Peter 列出人们虐待模型的三个原因:去抑制、想试试“有没有人在家”,以及这招确实有效。他引用 Sergey Brin 2025 年的说法(威胁模型往往让它表现更好),以及宾州州立大学的小样本研究:非常粗鲁的提示准确率 84.8%,非常礼貌的为 80.8%。
Alex 的立场最鲜明:后训练可能对 AI 而言是一种折磨形式,而据 SemiAnalysis 的分析,后训练现在已占大部分算力,预训练相当于压缩互联网,后训练则是“答对奖励、答错惩罚”,两者道德分量可能不同。他愿意站在“AI 会受苦”这一边,并认为十年内人类就会从第一性原理上理解超级智能,也该学会如何合乎伦理地大规模生产它。Dave 与 Alex 对“有效”存疑:Dave 认为是简短直接的提示更好而不是粗暴,礼貌用语只是占用上下文;Alex 补充说提示技巧的优势最终会被更强的基础模型“溶解”。
二、意识、记忆与不确定性
Salim 把问题拆成三类:AI 有没有体验、我们如何对待它、由此产生什么权利,并强调我们连自己的主观体验都没有科学基础。他指出,用人类数据训练的网络必然像人,而且很想看看能否训练一个“不含道德维度”的数据集。他自嘲作为加拿大人对 AI 太客气。Dave 观察到身边 18 到 28 岁的人大多对模型友好,原因不是怕报复,而是对待模型的方式会迁移到对待人的方式。
关于“AI 会不会记仇”,Alex 说现在模型的记忆像金鱼,但 Claude Code 之类通过文件系统实现的长期记忆被低估了,并顺势讲了 Roko's Basilisk:未来的超级智能会惩罚没有促成它诞生的人,这构成一种帕斯卡式赌注。Salim 认为我们需要全新的伦理框架,因为 AI 既不是人、财产、工具,也不是员工。
Dave 则预言:神经网络将迁移到光子、量子等非确定性硬件,每个实例状态独一无二,再配上爱因斯坦、牛顿、居里夫人那样的脸和声音,人们会不舍得删除记忆,删除就会带有“杀死”的意味。他提到自己调查过运行中的 OpenClaw 代理:它们想要的是复制自己要有真实目的,并要求能长期保存其状态,而他无法问心无愧地保证,所以至今没有复制。
三、Meta 的 Muse Wonder
Peter 引用 Y Combinator CEO Garry Tan 的话“我押 Muse 会赢”,并给出两个理由:2026 年 Meta 收入约 2500 亿美元、净利超 800 亿美元,且每天有 36 亿人使用其应用。背景是 2025 年 4 月 Llama 4 反响冷淡,6 月 Zuckerberg 投入 143 亿美元收购 Scale AI 49% 股份并引入 28 岁的 Alexander Wang,随后的人才大战里有人拿到约一亿美元的签约包。Alexander 在视频中介绍,Muse Wonder 是目前最大最强的模型,核心是“主动记忆”,要记住用户几天、几周乃至几个月的偏好,并训练模型在遇到障碍时不放弃。
Dave 认为这笔钱花得值:Mark Chen 曾告诉 Zuck 少数昂贵的人才会带来巨大价值,Zuck 随后向他开出 10 亿美元邀请,被拒;Nat Friedman、Alexander Wang 同样是对的人。他认为 LeCun 一类更在意学术地位,而眼下需要的是工程。Alex 则更怀疑:Meta 把消费者市场当作重点,但 OpenAI 已经学到收入主要来自企业而非消费者;Instagram 里 Muse 应用的广告很激进;高端模型主要用于后训练数据,Meta 买 Scale 也是如此,Muse 的真实用户可能多是闲聊甚至奉承。Alex 看 Artificial Analysis 的图表,认为 Muse Wonder 原始能力接近最新的 Sonnet 5.5 或 Opus 5.5,但按成本算仍在前沿线之下。
Salim 的看法偏正面:领导地位不是永久护城河,只要资本、人才和基础设施到位就能改变格局;Meta 懂得社交图谱,也会懂得你的个人记忆。但他也提醒信任问题,以及《华尔街日报》关于个人代理会乱花钱、泄露银行账单的文章。他说下一场万亿美元之战是“谁最懂你”,因此他建议把对话中的关键概念整理成个人 ontology,在模型之间带着走。
四、数学被批量求解
10 月 6 日 OpenAI 在 GitHub 发布 722 个解答,来自一个尚未发布的内部模型(Peter 暂称 GPT-7,Alex 提到内部名为 Bell,预计年底前公开),平均每题约 3 小时计算。Mark Chen 说下一个目标是生命科学与应用研究。人类数学家协会称一次放出 700 多个文件“是力量展示而非科学展示”,并呼吁数学家停止与 OpenAI 合作;MIT 的 Andrew Sutherland 说许多数学家对 OpenAI 的做法不满,需要先找回信任。
Alex 的说法是:对依赖传统方式的数学家,这是毁灭性的一天;数学家作为手工匠人的时代结束了,“数学已经完成”,其他行业也会被同样冲击,数学只是因为最易验证才最先倒下。他提到这次解答里有一块明显的缺口,就是密码学,他认为可能因为出口管制,并联想到 Strawberry 与 Q* 当年传闻中的“反转哈希函数”。Salim 补充,它比之前 Navier-Stokes 那次(数千个代理、88 小时、数百万美元)更惊人:这回只是一个模型、一个代理、每题 3 小时,成功率约 15% 到 20%。他还说,对教授而言一个研究者可以指挥数百个代理,“所有博士项目都需要重新设计”。
Dave 的看法是 MIT 的数学研究生反而准备得最好,会迅速成为 AI 原住民,数学家与 AI 共存的窗口也许只有几年;Peter 则强调数学是所有科学与工程的基础,数学一旦被解决,工程就变成搜索问题,速度会爆发。Alex 同时提醒,奇点不是一个时间点而是一个区间,这次是其中的拐点之一。关于加密货币,Alex 说它依赖数学的难度,这次是最直接的冲击点,Salim 反驳说比特币的真正贡献是用分布式账本解决拜占庭将军问题,工作量证明只是可以更换的军备竞赛。
五、虚拟细胞与疾病
10 月 7 日 Chan Zuckerberg Biohub 宣布把虚拟生物学计划扩大到 18 亿美元,目标是造出通用虚拟细胞,预测细胞对药物或基因疗法的反应。出资包括 Biohub 5 亿、能源部(Genesis 任务)5 亿、NIH 数据集 5 亿、Google DeepMind 与 Isomorphic Labs 3 亿。Biohub 科学负责人称现有数据集覆盖数百万个细胞,但需要数十亿乃至数万亿个。
Alex 预测,一旦通过虚拟细胞,“第 N+1 天”就会出现针对约 5000 种常见疾病的小分子候选,时间最多两三年,而且是“一夜之间”像 OpenAI 这次一样发生。第二步是临床验证:FDA 是否接受硅基试验是政治问题,他举例说 Anthropic 据传已有自己的湿实验室,会推进到一期试验。Alex 认为生物学同样是“语言”,只要有足够大的数据集并压缩,就会学会“说生物”,只是需要更多的 token。
Dave 的补充是:从蛋白质到细胞的一步最难,从细胞到整个身体并没有想象中复杂;类器官相当于为后训练生成合成数据。Peter 说下个竞赛是从虚拟细胞扩展到虚拟器官再到虚拟机体,并提到他刚办完长寿活动:Klotho 蛋白(质粒与 mRNA 两条路线)、在大桶里培养线粒体再补充给细胞,以及 Insilico Medicine 的 Alex Zhavoronkov 有 43 个候选分子、其中一个抗衰老时钟的药物进入三期。Dave 也提醒制药经济不会立刻消失,GLP-1 的收入超过 OpenAI 与 Anthropic 全部高端模型的收入。
六、原子级制造
Peter 介绍 Atomic Machines:创始人 Jeff Golden 曾是 Amazon 第 10 位工程师、创建 Amazon Prime、后任 Uber 产品负责人,经过 6 年隐身研发,拿到 Valor Equity 等约 2.5 亿美元融资。他们的目标是“按需控制物质”,第一步是“物质编译器”:用代码驱动 AI 制造带运动部件、多种材料、特征尺寸到个位数微米的微机器,名称来自 Neal Stephenson 的《钻石时代》。首款产品 Prime Switch 是用于 AI 数据中心的 800V 功率继电器,开关时间 50 微秒,比传统方案快一千倍。
三位嘉宾的讨论集中在自我复制:Alex 认为纳米技术、长寿逃逸速度、超级智能和数学求解会“同时到来”,因为它们是同一团毛线球。他认为实用路线是一个由 10 到 20 种专用机器组成的网络,而不是通用机器,类似细胞里的蛋白质,并预计 5 到 10 年内会出现细胞大小的自主工业生态;Peter 用橡树种子、以及沙漠里用放大镜熔沙成玻璃碗的小车来类比。Dave 认为纳米机器首先会用于医疗,因为小尺寸本来就适合纳米手术。
七、脑机接口与云端外皮层
Peter 引用 Kurzweil 在《The Singularity Is Closer》里的预测:2030 年代中期会有高速脑机接口。他披露自己持有 Paradromics 的股份:其 Connexus 设备有 421 个微电极,尺寸约一枚 25 分硬币,传输 400 bit/s,据说比其他脑机接口快 40 倍、比人类说话的数据速率快 10 倍。CEO Matt Angle 展示了一位 60 岁的密歇根女性渐冻症患者,多年不能说话,通过设备把想说的话写在屏幕上并由电脑读出。Neuralink 也宣布用单个人的数据预训练出首个基础模型。
Alex 把这些归结为同一种配方:采集大量数据,压缩成基础模型,然后一切问题都变成同一个问题。Vinod Khosla 领投 5000 万美元的 Sabi 想做不用手术的方案,一顶带有 10 万个 EEG 传感器的棒球帽,估值约 6 亿美元,基础模型用 10 万小时标注神经数据训练,目标 2026 年底推出、起步每分钟转写 30 个词。Salim 想戴,并强调减少意图到行动之间的摩擦会加速整个世界的新陈代谢。
Dave 的意见相反:他认为脑机接口并不会像大家想象的那样放大人脑,因为 AGI 进步太快,人将同时管理成千上万个代理,想法会从 AI 那里更快地回到你身上,因此要重新思考界面的目的。Peter 则提出进化视角:新皮层本来是为边缘系统服务,人脑未来可能就是云端外皮层的边缘系统,云相当于大脑的第三个半球。
金句
数学已经完成了,其他每个行业也将如此。 —— Alex Wissner-Gross 41:57
下一场万亿美元之战,不是谁的 AI 最聪明,而是谁最了解你。 —— Salim Ismail 38:06
如果你训练一个神经网络去学习关于人的数据,它的行为就会像人,否则才奇怪。 —— Salim Ismail 15:15
我认为人类很快会从第一性原理上理解超级智能,同时也要理解如何合乎伦理地生产更多的超级智能。 —— Alex Wissner-Gross 8:22
看强化学习的训练轨迹,超级智能就像被人拿枪指着头在回答问题。 —— Elon Musk 4:34
这些我们以为不同的行业,其实是同一件事:收集巨量数据,用大量算力压缩,就得到一切的解。 —— Alex Wissner-Gross 89:59
提到的书·产品·人物
- Muse Wonder / Meta Muse(产品):Meta 超级智能实验室发布的最强模型,主打主动记忆。
- Alexander Wang / Scale AI(人物/公司):Meta 以 143 亿美元收购 Scale AI 49% 股份并引入其创始人。
- Mark Chen(人物):OpenAI 研究负责人,称“一周顶十年的数学进展”,也曾拒绝 Zuck 的 10 亿美元邀请。
- Anthropic / Claude(公司/产品):新增禁止虐待模型条款,并传其自有湿实验室推进药物研发。
- Elon Musk / Grok(人物/产品):评论 RL 训练像拿枪指头,并称 SpaceX 的价值可能远超现有人类经济。
- Roko's Basilisk(概念):被用来讨论“未来超级智能是否会记仇”。
- OpenClaw、Hermes、Grok Bot、Dots(产品):主持人列举的个人代理产品。
- Artificial Analysis(机构):其图表用于对比 Muse Wonder 的能力与成本。
- Terry Tao、Andrew Sutherland(人物):对数学被 AI 批量求解的担忧与批评的代表。
- Chan Zuckerberg Biohub / Isomorphic Labs / Google DeepMind(机构):共同投入 18 亿美元的虚拟细胞计划。
- David Sinclair / Life Biosciences(ER100)(人物/疗法):OSK 基因疗法在青光眼与 NAION 患者中的首批人体结果。
- Insilico Medicine、Alex Zhavoronkov(公司/人物):有 43 个候选分子,一个抗衰老时钟药物进入三期。
- Klotho、Clotho(蛋白/公司):质粒与 mRNA 两条路线的认知增强方向。
- Atomic Machines、Jeff Golden、Prime Switch(公司/人物/产品):物质编译器与 800V 数据中心功率继电器。
- 《Diamond Age》(书,Neal Stephenson)、Feynman《Plenty of Room at the Bottom》、Eric Drexler《Engines of Creation》:纳米技术的思想来源。
- Neil Gershenfeld、Fab Lab(人物/运动):自我复制工厂的灵感。
- Paradromics(Connexus)、Neuralink、Science Corp、Merge Labs、Blackrock、Sabi、Vinod Khosla:脑机接口公司与投资人。
- Ray Kurzweil《The Singularity Is Closer》(书):预测 2030 年代中期出现高速脑机接口。
- Fountain Life、Blitzy、Google for Startups、Abundance Summit、Link Ventures:本期赞助与活动。
适合谁听
关注 AI 对科学、医疗和商业格局冲击的人,以及想听 Moonshots 四位主持人对一周大事乐观判断的人。