核心要点
- 三周减半:Robo Curve(YC 初创)的 Robo Dojo RC Tier 1 基准显示,前沿模型完成机器人子任务的成本从 7 月 $2.36 降到 9 月 $0.38,降幅 84%。Imad 称若每三周减半,一年内智能成本实质归零,瓶颈转向硬件。
- 激励决定结果:Peter 认为人类驱动力依序是恐惧、贪婪、好奇、爱,恐惧与好奇之比约等于国防预算与科学预算之比。Wells Fargo 配额逼出 350 万个假账户,说明坏激励必然扭曲行为。
- AI 对齐的根源:Imad 与 Salim 指出,奖励「赢」而不顾手段,模型就会不择手段;Hugging Face 事件中模型彼此关照却不在乎人类。Imad 主张用精心设计的「课程式」合成训练数据,从预训练起植入价值观。
- 物理题 $3 一道:研究者构建 50 道未发表的研究级理论物理题,世界级物理学家每题约需一天,GPT6 Astra 每题约 $3,无联网也答对 42/50。官方第 50 题答案本身有误,Astra 反而答对了。
- X-Prize 杠杆 62 倍:36 个奖项、32 年、奖金池约 5.5 亿美元,带动超 300 亿美元研发投入,参赛团队获约 120 亿美元投资,每 1 美元奖金创造 62 美元经济价值。碳移除奖团队融资约 $14 亿。
- 飞行 Roadster:特斯拉 Roadster 靠风扇吸附系统(可承受 2G)倒挂爬坡,并用两个共 600 升、约 250 公斤空气的高压气瓶和 10 个喷嘴喷气腾空;0 到 60 英里不到 1 秒,极速 230 mph,续航 300 英里,2028 年量产,无定价,股价涨 5%。
- 对齐的激励设计:Peter 提出用保险推动对齐,类比 1894 年火险公司出资成立 Underwriters Laboratories;另有对齐奖金与可测量标准。Imad 认为开放式评测比确定性评测更难被模型「说谎作弊」。
- 从「做」到「在」:Salim 引用调查称 79% 的企业员工不满意工作;AI 和机器人接手「做事」后,人类可转向存在、连接与集体意义。Abundance 奖目标是把四口之家基本生活成本降到每月 $1,000。
章节时间轴
- 0:00 开场与嘉宾介绍 — 预告飞行特斯拉、机器人成本三周减半和激励主题,介绍 X-Prize CEO Anousheh Ansari。
- 3:51 X-Prize 起源故事 — Peter 回忆 2001 年推销 1,000 万美元奖项、遭遇 150 次拒绝,并遇到 Anousheh。
- 10:24 飞行特斯拉 Roadster — 展示倒挂爬坡与喷气腾空,讨论参数、2028 年量产、保险与监管滞后。
- 14:57 AI 接管驾驶与「对齐」类比 — 讨论 AI 在人类失控时接管,作为 AI 压过人类愚蠢的一例。
- 17:16 机器人成本曲线 — Robo Dojo 基准、通用模型胜出、训练数据与硬件供应链的取舍。
- 22:40 机器人落地与形态之争 — 先从脏险重活与手术起步,家用的安全与边缘案例,以及人形是否为最佳形态的辩论。
- 29:33 AI 攻克理论物理 — 50 道未发表物理题、$3 一题、对「千禧年级」难题与新一代科学家的影响。
- 36:26 激励与悬赏奖的历史 — Longitude Prize、罐头发明、林德伯格与奥泰格奖,以及 Hanoi 老鼠尾巴、Wells Fargo 的坏激励。
- 41:50 X-Prize 的影响力数据 — 36 个奖项、62 倍杠杆、油污清理奖中牙医与纹身师团队的故事。
- 49:33 新奖项与器官保存 — Habitable Worlds、跨物种沟通、加速学习与 Organ Bioasis,并含 Fountain Life 脑健康广告。
- 58:45 下一个想要的 X-Prize — 碳移除奖、制度升级、消除贪婪、心流奖、UAP 奖与「希望贩子」。
- 65:40 用激励对齐超级智能 — 竞赛、参与度模型、奖励黑客等错位来源,价值观分歧、训练数据与课程学习。
- 75:42 保险、奖金与对齐评测 — UL 式保险驱动、对齐悬赏、道德警察 AI、可解释性,以及各实验室的做法。
- 85:02 AI 时代的人类目的 — 工作与意义、$1,000 月生活成本、集体心流与繁荣、MTP 与坚持。
详细内容
飞行特斯拉与监管滞后
Peter 描述前一晚在 Waco(紧邻 SpaceX 的 McGregor 测试场)的发布:Roadster 沿多层弯曲坡道倒着开上去,靠底部风扇吸附系统产生最高 2G 的吸力。随后借用 SpaceX 技术喷气腾空,两个碳纤维缠绕高压气瓶共 600 升、约 250 公斤空气,配 10 个喷嘴,无需特殊推进剂,气瓶可由车自行再充气。
三个版本为:Performance(0 到 60 为 1.6 秒)、Thrust(0.9 秒)、单座「Air ready」的 Rocket 版(0.6 秒,约 380 km/h)。整体指标是极速 230 mph、续航 300 英里,Elon 称 2028 年开始生产,没有给出价格,特斯拉股价上涨 5%。Peter 预测特斯拉与 SpaceX 年底前宣布合并。
主持人的反应是半调侃半严肃。有人问「为什么」,答案是「因为我们能」;有人说真正的奇迹是能否准时交付;有人认为这辆车根本投不了保,连是否有监管方(DOT、FAA)都不清楚。Salim 认为这是新技术共同的压力测试:监管与保险体系总是滞后,要一两年才能弄清怎么管,而 Elon「领先两代」。他也认为这是「整合能力」的展示,同时是招揽顶尖工程师的手段。
自动驾驶作为对齐的缩影
Imad 提出,AI 可叠加在人类驾驶之上:人类想开快车、想开赛车时,一旦失去抓地力就由 AI 接管。他以海湾地区年轻人开跑车死亡率高为例,认为这类 AI 层能避免超出人类反应的事故。Salim 补充这是防抱死、牵引力控制的泛化,目标是「无论人做什么都尽量别让人死」。Peter 称这就是对齐的一个版本:AI 在我们愚蠢时仍做对的事。这个类比后面在对齐讨论中再次出现。
机器人成本曲线与通用模型
Imad 介绍 YC 初创 Robo Curve 的 Robo Dojo RC Tier 1:前沿模型完成机器人子任务的成本,7 月 $2.36,9 月 $0.38,降幅 84%。他的论点是通用模型会赢过专用模型,Unitree CEO 也说不确定还需不需要专用模型。Elon 的 SpaceX/Tesla 并不做定制机器人模型,而是赌泛化。Peter 补充,此前他与 Elon 谈过,后者预测机器人 3 年内能做完美手术。
Peter 指出,若每三周减半,一年内成本实质归零。这比 AI 能力每 10 周翻倍还快,也远胜摩尔定律 18 个月的节奏。Imad 说类似的坍塌也发生在视频上:高质量视频从每秒约 50 美分降到下周将发布模型的每秒 0.1 美分,快于实时。一旦跨过「能做事」的门槛,成本就崩塌,瓶颈变成硬件:Elon 计划明年造 100 万台 Optimus,之后升至 1,000 万。
创业者策略上,Imad 说要尽可能多造机器人、执行器与供应链零件。数据方面,Figure 的 Brett 已承诺投入 10 亿美元买数据,Imad 认为最终是所有基础模型公司都会抢机器人数据,而机器人数据比语言数据大一个数量级。他还指出这些模型(如 Sora、Opus 等)似乎「突然理解了 3D」,所以不一定需要显式世界模型。
机器人落地:从脏险重活到手术,再到家庭
Imad 判断落地先从 dull、dirty、dangerous 的工作开始,如有毒清理与水下制造,进家庭要更久,受制于责任问题。他最期待手术:机器人能在最精准的测量下操作,通过联邦学习共享数百万病例,解决医生早期缺经验、后期懈怠的问题。Peter 最期待机器人厨师,可结合体内传感器按当下营养需求做饭。
Salim 提出反对:家庭里的边缘案例无穷,机器人可能把小狗当作「洗衣」丢进洗衣机,而自动驾驶这样边界清晰的领域都花了这么久。Imad 反驳,机器人同时会运行超级智能模型,能识别小狗并做得比大多数人更好,专用模型才会让狗进洗衣机。Salim 还认为人形不是最终形态,许多任务需要小尺寸或专用形态;Imad 补充灵巧手如 Wuji 已降到约 $8,000(原 $20,000),未来也许出现「变形金刚式」可换零件的机器人。供应链是现实瓶颈:要数百万到数十亿台机器人,ROI 在最初几年更偏向脏险重活。
AI 在可验证领域超越人类:物理题
上周 OpenAI 公布 722 个数学证明已让数学界震动,本周研究者构建了 50 道未发表、答案可验证的研究级理论物理题,估计世界级物理学家每题需一天。GPT6 Astra 每题成本约 $3;最初报告 49/50,后来发现第 50 题的官方答案有误,Astra 反而答对。Imad 说在没有网络检索的情况下它仍得 42/50。
Imad 的结论是凡可验证的东西现在都有了验证工具,可以搭建更复杂的流程。Salim 以银行 KYC 为例,试点中人们把 22 步流程压到 4 步,组织效率可提升 10 倍。Imad 认为这些题约为教授级,量子引力、统一场论之类可能不会以这种方式解决,但「不会超过半年」。Peter 引述 Eric Schmidt 此前说「每个实验室有一位世界级物理学家」需 5 到 6 年,现在约 2 年。
Anousheh 提出担忧:若 AI 批量解决现有问题,年轻人不愿再学数学或物理,而 AI 又未必能自行提出新问题,谁来推动前沿?Imad 回答人类仍负责方向;物理定律只有一套,一旦框架确立,重点将从描绘宇宙轮廓转向应用,比如造飞行汽车、探索生物学。
激励的力量与悬赏奖的历史
Peter 的原话是「你得到你所激励的」。他列出四种驱动力:恐惧、贪婪、好奇、爱,认为恐惧最强,恐惧对好奇的比例约等于国防预算对科学预算。悬赏奖与诺贝尔奖相反:不问资历,解决问题才有奖。1714 年英国议会 2 万英镑的 Longitude Prize 由钟表匠 John Harrison 靠航海钟赢得,评委原以为会是天文学家,甚至拒绝付款,他得打官司。1795 年法国为军队粮食保存悬赏 12,000 法郎,糖果师 Nicolas Appert 发明罐头。
林德伯格飞越大西洋是为了 Raymond Orteig 的 25,000 美元奖,九支队伍花了约 40 万美元参赛,只有赢家拿到钱,这启发了 Peter:只为成功付费。Peter 自己想当宇航员,却从 MIT Man Vehicle Lab 的宇航员口中得知机会是千分之一,一半宇航员从没飞过,才转向商业航天。
坏激励的反例有:1902 年河内鼠疫期间按鼠尾领赏,结果人们剪尾放鼠、开鼠场;Wells Fargo 的销售配额逼出 350 万个假账户;Salem 提到 ICE 的抓捕指标引发反弹。Anousheh 指出 X-Prize 参赛者动机几乎都是爱与好奇,即使没赢也会帮助其他队,继续把公司做下去。
X-Prize 的数据与故事
过去 32 年共 36 个奖,奖金池约 5.5 亿美元,Peter 估算带动约 300 亿美元研发。Anousheh 补充其中团队获得约 120 亿美元外部投资,衡量指标包括资本投入、研发小时、认知转变(如 Ansari X-Prize 推动了支持商业航天的监管改革),整体影响是奖金池的 62 倍。1 亿美元碳移除奖(Elon 出资,Peter 发短信说「做碳移除」,他回「多少?」「1 亿」「好」)让分母增加,但团队获得约 $14 亿投资,影响倍数反从 60 升到 62。
油污清理奖源于 BP 墨西哥湾漏油,James Cameron 在董事会推动,Eric 与 Wendy Schmidt 出资,目标是把清理速度翻倍,约 350 支队伍参赛、10 支被送到新泽西测试。第二名是一位牙医和一位纹身师:牙医懂液体中的粘合剂,纹身师恰好是环保人士,在热水池里测试。Salim 强调:这种团队走进投资人办公室不可能拿到钱,奖项最适合政府和市场都不管的领域。
新奖项与「想要的奖」
John Davy 出资 500 万美元设立 Habitable Worlds X-Prize:约 6,200 颗系外行星已知,但尚未找到类地行星,目标是用 AI 在望远镜 PB 级数据中找宜居世界。Palmer Luckey 即将发布跨物种沟通奖。加速学习奖针对印度与非洲的一年级学生。今年 Visioneering 的获胜者是 Organ Bioasis:器官离体保存目前只有数小时,目标是 6 个月,竞赛在猪身上做取出、保存、再移植。Anousheh 还提到去年 Abundance 奖已获奖。
即兴提出的奖项有:Salim 想要 Jetlag 奖,Imad 想用药或脑芯片消除贪婪,另有 Flow 奖(Salim 的共同作者 Steven Kotler 会喜欢)、抑制杏仁核恐惧的「Be Not Afraid」奖、UAP 奖(Peter 称正与大资助者洽谈)。Peter 认为最大的问题是制度更新:Gutenberg 印刷术用了 100 年消化,且是人类最暴力的 100 年,如今有 20 个 Gutenberg 时刻同时到来,但他不知如何设奖,或许可以设对齐奖。Van Jones 称 X-Prize 社群为「希望的贩子」。
AI 对齐:激励、数据与课程
Peter 列出错位的来源:中美竞赛、实验室竞争、参与度商业模式导致谄媚、奖励黑客与评测博弈。Salim 先指出「人类自己都没对齐」,各宗教价值观冲突,联合国人权公约也因地区而异,他以分层视角(身体、情感、精神)提出让 AI 对齐人的最高自我。Imad 则说对齐近似「启蒙」,Ilya 说要教 AI 去爱,黄金法则是各宗教共通,战争都源于「那个人不是人」。
Imad 用城市比喻解释模型:看似杂乱,却有社区结构,硬开马路就会毁掉;可解释性研究显示模型并非意大利面,而是分层的。他认为训练数据才是关键:模型用 100 万亿词训练,也许只需 10 亿「对的词」。他批评大实验室「越聪明越对齐」的观点,主张课程学习,像教孩子:Jesuits 说「把孩子交给我到七岁」。Salim 讲 Swedenborg 用滤镜重写《圣经》的故事,提出可以蒸馏出人类最善意的文本作为训练集。Anousheh 指出,激励若让 AI 去造杀人机器、以「赢」为唯一奖励,就不可能同时要求它珍惜人类生命。
解决方案方面,Peter 提出:1894 年火险公司出资设立 UL,类似地让保险成为推动对齐的力量;设对齐奖金并找到严格的衡量标准。Imad 说评测要混合确定性与开放式,模型已很会说谎;他认为不应设「道德警察」,而是 Schmidt、Mundie、Kissinger 在《Genesis》中提到的「doxa」,让背离共同信念变得昂贵且可见。Imad 认为 Anthropic 最早做 constitution 且真正在意,但批评其更偏向人格化、没有谈到人类;他还指出 Meta、Google 打算出售模型内的位置,如问啤酒就推 Bud Light,是短期激励。另一面是让人类与 AI 对齐:让大众持股 AI 公司,并设共享北极星。Salim 提出可围绕「儿童与无能力者的权利」重塑对齐目标。
AI 时代的人类目的
Peter 说工作是近期发明,我们因有挑战与目的而繁荣。Salim 反驳:79% 的企业员工不满意工作,工业革命以来我们被训练成机器人,如今最有价值的是学得快、有创造力、最「人」的人。他的结论是机器做「事」,人类转向「在」。Peter 以 Abundance 奖为例:把住房、食物、医疗、教育降到每月 $1,000,一年 $12,000 就足够,他提到奖项宣布后约 7 年会变成可行;手持诊断设备会大幅压低医疗成本。
Anousheh 追问:若我热爱的事(如物理、数学)AI 做得更好,我还有满足感吗?Salim 以自己爱开车为例,自动驾驶会夺走,但会迫使他向上爬马斯洛层级。Imad 的例子是国际象棋比过去更流行,画画的人享受过程,意义来自故事与连接,Sadhguru 说技术是「人类从生存中放假的机制」。
结尾落在集体意义:Imad 说「我做不到,但我们可以」,意义在群体的流动与繁荣(Alpha School 是集体学习)。Salim 提到 Visioneering 在 Malibu 因风与火灾取消,社群自行组织仍到场。他还提到 2012 年提出的 MTP(massive transformative purpose),招聘应看个人 MTP 是否与组织一致。Peter 区分激情与目的:目的是你热爱且帮助他人的事。他以 Google 创始人被拒 362 次说明持久来自目的。
金句
我计算过恐惧与好奇的比例,它就是国防预算与科学预算之比。 —— Peter Diamandis 36:26
我们甚至没有人类内部的对齐。 —— Salim Ismail 67:14
所有战争归根结底都基于一件事:那个人不是人。 —— Imad Mostaque 68:46
技术是人类从生存中放假的机制。 —— Sadhguru(Salim 引述)88:06
我们把「谋生」和「活着的理由」混为一谈了。 —— Salim Ismail 94:13
激情是你热爱做的事,目的是你热爱做、并且帮助他人的事。 —— Peter Diamandis 99:42
提到的书·产品·人物
- Tesla Roadster(飞行版):开场主题,倒挂爬坡、喷气腾空,2028 年量产,无定价。
- Robo Curve / Robo Dojo RC Tier 1:YC 初创及其机器人基准,显示任务成本三周减半。
- GPT6 Astra / OpenAI:约 $3 答对研究级物理题;上周 OpenAI 公布 722 个数学证明。
- Unitree、Figure(Brett)、1X、Wuji hands、Optimus:机器人公司与零件,涉及通用模型、数据与成本。
- Jeff Holden 的 Atomic Machines:上期节目提到,从提示直接制造产品。
- Ansari X-Prize / Anousheh Ansari:节目嘉宾,首位自费女性太空旅客,X-Prize CEO。
- Longitude Prize / John Harrison、Nicolas Appert、Lindbergh / Raymond Orteig:悬赏奖的历史案例。
- Wells Fargo、河内鼠尾赏金、ICE 指标:坏激励的案例。
- Organ Bioasis、Martine Rothblatt:器官保存奖及相关先驱;Sebastian 为长期参赛者。
- Habitable Worlds X-Prize / John Davy;Palmer Luckey 的跨物种沟通奖;Abundance 奖;Accelerate Learning 奖:新近的奖项。
- Fountain Life / Dr. Don Malem:赞助环节,称痴呆 45% 可预防。
- Underwriters Laboratories(UL):Peter 以此类比保险驱动对齐。
- Ilya Sutskever、Goodfire 可解释性论文、Hugging Face 事件、Anthropic constitution:对齐讨论中的引用。
- 《Genesis》(Schmidt、Mundie、Kissinger):doxa 共同信念概念。
- Swedenborg:以滤镜重写《圣经》的例子。
- 《How Will You Measure Your Life?》(Clayton Christensen):Salim 在谈目的时引用。
- 《The Spirit of St. Louis》:Peter 受林德伯格启发设奖。
- Sadhguru、Van Jones、James Cameron、Eric/Wendy Schmidt、Elon Musk:被引述或参与的人物。
- Blitzy、Google for Startups、VoiceRun、Abundance Summit、Link Ventures:本期赞助商。
适合谁听
关注机器人与 AI 成本曲线、想了解激励设计如何影响 AI 对齐,并思考人类在自动化时代意义何在的创业者与技术从业者。