← 顶级AI播客总结
Moonshots with Peter Diamandis

首场 Moonshots AMA:97 只举起的手,和一屋子人最真实的 AI 焦虑

Ask the Mates anything | MOONSHOTS AMA #289
节目时长 86 分钟 阅读约 26 分钟
▶ 在 YouTube 收看原片

Diamandis 与四位 mates 连答 90 分钟:从卖数据给大厂、硬件融资,到意识、教育与「阵痛期」。

核心要点

  • 监管过度:Alex 认为当下美国联邦层面的真实风险是过度监管而非监管不足,他「极度担心我们会用监管把自己送进对华超级智能竞赛的败局」,并以每天全球有超过 15 万人死亡、超级智能是解决医学问题的最佳解药来论证代价。
  • 数据买家:Dave 透露 OpenAI、Mercor、Scale 等都在主动接触、愿意开 500 万至 1000 万美元支票直接买下有数据的公司,关键是「写支票比对话便宜得多」,所以要把自己打包成一眼能签字的尽调包并自行定价。
  • 阵痛期:Salim 估算这段不确定期已经开始了五到十年,还要再持续十到二十年,会先冲上一个峰再回落;Peter 则给出两到八年的社会动荡窗口,认为风险主要来自找不到工作、成不了家的年轻男性。
  • LLM 之后:Alex 区分 LLM 与 Transformer——下一个 token 预测这一自监督任务「有近乎无限的寿命」,而 Transformer 正被忒修斯之船式地逐件替换;Dave 补充 MLP 部分和二三十年前完全一样,注意力更像记笔记的本子而非大脑功能。
  • 教育重构:Salim 说我们仍在用 150 年前甚至 19 世纪的方式教学,孩子和 AI 待一小时能学完课堂一整天的内容;解法是从供给侧(学医学法)转向需求侧——先让孩子为一个问题兴奋,再倒推需要什么技能。
  • 算力与能源:Alex 判断十年内人类将进入「后聚变时代」,靠 AI 帮忙发明聚变之后的能源形式;Dave 则断言计算基底一定会转向光子学,届时现有架构会快上数百万倍,而这一切「就在未来 18 个月到两年」。
  • BCI 与残障:Alex 认为脑机接口是运动障碍等多类困境的显然解法,且同一批创新最终会外溢成普遍的人类增强;Peter 用 MIT 兄弟会那位用嘴叼铅笔打字的四肢瘫痪同学举例,说今天的 AI 足以让他「百分之百地正常生活」。

章节时间轴

详细内容

一、在指数时代「感觉落后」是可以跳过的

第一个问题来自悉尼的 Dave Morris:他觉得澳大利亚在 AI 上明显落后,身边的企业主都忙到没空思考这件事。

Salim 的回答把这种焦虑直接拆掉。他说在指数时代感觉落后确实可怕,但好消息是跳跃可以非常快。真正的差别在于要卸掉多少包袱:在美国、欧洲或日本,「我们必须先忘掉五十年的哈佛 MBA 思维,再学新模型」;而在新兴市场和地理上偏远的地方,基础设施大体已经就位,反而可以一跃越过所有人。他把这归结为「完全是一个心态问题」,并补充说距离带来的另一重好处是可以放心实验新的组织结构,等于拥有一块无人盯着的试验场。

他给所有人的通用建议是刻意在系统里留白:给自己 10% 到 20% 完全不排任何日程的时间,用来实验、玩新工具、见新的人。理由很直白——「如果你等到有空闲时间才做,你永远都追不上,永远都停不下来。」

二、把三十年的专有数据卖给前沿实验室

这场 AMA 里最具操作性的一段,来自佛罗里达的 John。他是干了 40 年的土木工程师,手上有公司 30 年的完整项目档案——不只是最终图纸,而是从问题定义、计算、报批、修改到施工照片直至最终结果的全链条。Mercor 和 Scale 都表达过兴趣,但拖了几周没有下文。他想知道,有没有更直接的路子把这种数据摆到实验室面前,又不必把档案整个卖断或自己去建一家产品公司。

Dave 的回答建立在他自己被接触的经验上:包括 OpenAI 在内的一批公司都在说要开 500 万到 1000 万美元的支票直接买下拥有数据的公司。他点出的关键反直觉之处是——你以为开一张千万美元的支票很难,但对现在的他们来说那是最容易的事,「进行一场对话,比开一张支票昂贵得多」。所以第一要务是把自己打包成一个签字成本极低的东西:把尽调材料做成网页,一眼看清有什么、标价多少。

当 John 说「他们不肯给价,我怎么知道这批数据值多少」时,Peter 和 Dave 的答案一致:你自己决定它值多少。Dave 补充了一层近乎狡黠的建议——给你的标价套上一层投行式的外壳,写清楚「它值这个数、它卖这个价」,对方根本没时间看穿,只会觉得你很懂行,然后接受你定义的公允价。

最后是那个最实体的战术。Dave 讲了 Kevin Weil 的故事:他面试 OpenAI 后几周没收到回音,以为对方没兴趣就放弃了,直到在街上偶遇 Sam Altman,被劈头问「你人呢,怎么不来上班」——他答「我连回电都没接到」,Sam 说「看在老天的份上,直接来就是了,这儿一团乱,来了就开始领薪水」。Dave 承认这是个取巧的建议,但结论很明确:那些人忙到发疯、一切都是混乱的,如果你能亲自落地,飞到旧金山,找到负责收购的那个人,约在他楼下的咖啡店,事情成的概率会高出非常多。

三、监管:Alex 的强硬立场

一位有 Google 和 X 背景、做过科技监管风险评估的听众问,如果回到公共部门,该如何框定 AI 风险——看残余风险还是看使用场景。

Alex 的回答几乎没有铺垫:在美国联邦层面,当下的风险是过度监管,而不是监管不足。他用了很重的措辞——「我极度担心我们会一路过度监管,把对华的超级智能竞赛输掉。」支撑这个立场的是他反复援引的数字:地球上每天有超过 15 万人死亡,而解决医学问题的最佳解药很可能就是超级智能,因此过度监管超级智能等于自伤。

提问者追问,如果撇开立法、只谈发生泄露或事故后如何识别和快速缓解呢。Alex 的回答仍是「放手」。他的论证是:产业当下正通过防御性协同扩展(defensive co-scaling)前进,政府一方哪怕出于最善意的动机去保护他们认为的安全与公共利益,也很可能反而把我们解决真正重要问题的能力捆住手脚。所以首要选择依然是找到通往轻监管体制的正确路径。

Dave 在这之上加了一层非常现实的个人建议,用的是两个真实案例:All-In 播客的 David Sacks 被拉进白宫并在那个位置上极其高效地干了一年;而节目老朋友 Alvin Graylin 自我宣告为中美 AI 竞赛的头号专家后,如今被拉去参加 9 月 24 日的联合国会议、担任白宫高级顾问。Dave 由此提炼出打法:在联邦政府内部宣告你的专长领域,预测你认为接下来会发生什么风险(比如财政部的一次网络入侵),把相关的供应商和细节全部摸熟,然后对外宣传自己就是那个人。因为联邦政府极少对未来风险做出前瞻性反应,但至少当事情真的发生时,你的名字会排在队首,被第一时间拉进危机小组。他和 Alex 还补充了两条:常态化地组建红队,持续思考如果自己是进攻方会怎么做;以及趁着如今写文档极其廉价,把你判断最可能发生的十大威胁各写一份署名文档挂在网上——等对方进入恐慌模式满世界搜「谁懂这个」时,搜到的就是你。

四、两位 18 岁创业者与硬件融资

这场 AMA 里出现了两位刚满 18 岁、几个月前才高中毕业的提问者,Peter 对此明显兴奋——「我真希望很多在听的 18 岁年轻人能听到你在做什么,然后去效仿」,Dave 接话「我真希望我今天他妈的是 18 岁」。

来自 Starbase 旁边布朗斯维尔的 Richard 和父亲一起做 AI 创业,他负责技术。他的问题是:当地企业觉得用 AI 是可选项,拐点什么时候到、该如何为涌入做准备。Peter 用互联网类比——当年也有人拖了 15 年才接受它——并给出核心建议:不要打传教士式的仗。AI 往往会突然一棒把人敲醒,某天他们就迎来了顿悟时刻;你无法强按牛头喝水,但你要在那一天在场。他提到楼下建的那个体验空间正是为此设计,人走进去、走出来时已经换了个人,因为他意识到了突然之间什么都成为可能。他同时坦承,会有大量公司永远跨不过那条线,世界就那样越过它们了。

来自 Newport Beach 的 Pierce 在做建筑用自主无人机,自研 CAD 与软件,他想知道 18 岁的硬件创始人如何让 VC 认真对待。Dave 的回答分了几层:硬件传统上很难,但 VC 正在回心转意,因为它确实是未来五年投资的主线;他们几乎总是先看团队是否已经磨合成型;做硬件要的钱必须更多,得一次要够跨过「我已经进入市场」那道门槛的量。具体到建筑无人机,他建议不要急着在地下室里攒原型,而应该先攒出一个「开发联合体」——两三家 VC,加上两三个看懂 AI 愿景的产业方(他举了自己一位手握十几家酒店、对建筑自动化有长期兴趣的地产合伙人为例),让投资人和联创在同一天全部到位。如果实在凑不齐,另一条路是先加入南加州那批已经跨过门槛的火箭或无人机公司,做满六到九个月再分拆出来。

Peter 补了一句筛选标准:他问硬件团队的第一个问题不是「你为当前愿景做了什么」,而是「你到目前为止造过什么东西」——至少要让他确信这个团队有造实物的能力。Alex 则给了那句最凝练的定位建议:不要把自己局限为一家硬件公司,而要把自己看成「一家智能公司,只不过产品里恰好含有原子」。

五、教育:课程表还有意义吗

一位教育者说,他走进五六岁孩子的教室,看到的景象「像 1960 年代,什么都没变」,而我们却在讨论后 AGI 和认知劳动的消失。他的问题很尖锐:我们还需要课程表吗?还是说现在该谈的是热情——让孩子去找到他们想做什么,在一个可能没有工作的未来里。

Salim 分三点回答。第一,这个观察完全正确,而且比想象的更糟:「别说 20 世纪了,很多地方我们还停在 19 世纪」,仍在用 150 年前的方式教人。第二,教授内容这件事本身正在过期——今天一个孩子和 AI 待一小时,能学到的东西相当于在教室里坐一整天,这种阻抗失配会把现有体系撑破。第三,替代方案是他和 Peter 正在自己孩子身上实践的:放弃供给侧教育——先把自己变成医生、律师、工程师,再去就业市场上寻找对这份技能的需求——因为我们既不知道未来的工作长什么样,也不知道需求在哪里。取而代之的是从需求侧出发:让孩子先为一个问题兴奋起来,从这个宏大变革性目标的视角出发,再去寻找需要的技能与方法,辅以所谓 21 世纪的「六个 C」技能。他说这已经在一些特许学校里发生,而这个组合大概会撑过未来几十年,「直到我们搞清楚后 AGI 世界到底会发生什么」——说完他自己补了一句「虽然我们也不知道 AGI 是什么」。

Peter 推荐了两个具体去处:TKS(tks.world),一个覆盖 13 到 18 岁、叠加在常规高中之上的项目,使命是帮孩子找到他的目的、塑造心态、学会 AI 工具并成为创业者;以及 Mackenzie Price 创办的 Alpha School。他随后讲了这段里最动情的部分,引马克·吐温说人生有两个重要的日子——你出生那天,和你发现自己为何出生那天——如果你还不知道自己的目的,那么你的使命就是找到它;一旦有了北极星,你就会内生地去学习实现它所需的一切。

Dave 补上了另一面的提醒:课程表会变得无关紧要,但孩子比以往任何时候都更需要彼此、更需要学校,才能长成正常、快乐、健康、能正常运转的成年人;答案就在这两者之间的某处,这是个非常难的问题,但把它做对至关重要。提问者最后追问,能不能把 Emad 那个「主权智能体」的构想用在孩子身上,让每个孩子从五岁起就有一个终身陪伴的专属智能体。Peter 的回答是:可以,那叫「少女绘本」——去读 Neal Stephenson 的《钻石时代》。

六、技术路线:LLM 之后是什么

来自密歇根的提问者指出,迄今每一项技术都遵循 S 曲线,那么 LLM 之后有什么根本性的新路径。

Alex 先做了一个关键区分:LLM 与 Transformer 不是一回事。LLM 指的是任何试图完成语言建模任务、本质上预测下一个词的模型;而他认为预测下一个 token、下一个 bit 这种自监督任务「拥有近乎无限的寿命」——你可以把这个任务从此处一路扩展到解决一切,「至少对 AI 而言,我不确定我们还需要比预测下一个比特、或补上缺失的比特更多的东西」。反过来,Transformer 才是那个正在被替换的部分:正如他在节目里多次提过的,它正以忒修斯之船的方式被一件一件换掉,如今前沿模型——无论中国的开放权重还是美国的闭源权重——在原始组件上大多已经不同于最初那篇《Attention is All You Need》,从这个意义上说我们已经爬上了某条 S 形曲线。

Dave 接着逐层拆解。当前 Transformer 里的 MLP 部分和二三十年前存在的东西完全一样,所以大概率会长期留存;「旧的新东西」是残差高速路——你只是在逐层修改一个向量,而不是每层重建它——这也会留下来;「新的新东西」自然是注意力,但你越深挖它,越会发现它更像一个记笔记的本子,而不是某种大脑功能。他判断这个概念可能被彻底重构,但作为一种知识累积的笔记本会继续存在于每一层的 MLP 旁边。他真正押注的是基底:他百分之百确信计算基底会转向光子学,而在当前这批 AI 把物理学重新发明一遍之后,甚至可能更快地跃迁到光子学之外的东西。届时现有架构会运行快上数百万倍——照 Alex 的说法,那之后别的都不重要了,因为它会替我们想出剩下的一切再解释给我们听。Dave 给这一切的时间表是「真的就在未来 18 个月到两年」。

在相邻的一个问题里,一位入行 42 年的听众担心 AI 继承了人类的自限信念——它们由人类数据、由人类训练,因而继承了人类的思维枷锁,他主张让模型去系统性地构建并检验各种激进不同的本体论。Alex 的回应是完全不担心:他认为 AI 能发现新物理已无需争论,「看看今天关于纳维-斯托克斯的头条就知道了」;即便真要担心,也存在算法层面的对策,他点名了 AIXI 一类用于构建超贝叶斯智能体的算法,它们不含任何人类归纳先验,拥有尽可能接近通用先验的东西。当提问者建议做一个冻结时间点、让模型预测此后真实事件的测试时,Alex 指出这件事已经在做了:除了「只用广义相对论之前的文献训练能否重新发现它」这类流行说法,实际上已有预测市场与各类预测基准,在检验知识截止于时刻 t 的 AI 能否预测其后的世界事件与科学突破。

七、阵痛期:抵达丰饶之前要熬多久

来自博尔德的 Chris 说,听 Eliezer 那一派会让人焦虑甚至抑郁,而 Moonshots 像是对冲的「兴奋剂」;但节目里常说会有一段痛苦期,他却找不到好的资源来理解如何度过它。

Salim 的回答是这场 AMA 里最系统的一段:我们已经身处其中。你可以看到现有世界秩序正在眼前崩解——民主在失灵,教育已经破产。他说运转这个世界的大约有 50 个制度:医疗体系、法律体系、知识产权……而「我们找不出任何一个能在 AI 加上另外 20 个古腾堡时刻同时冲击下幸存下来的」。寿命延长会彻底改变世界,AI 显然也会。这会强迫我们把所有这些制度重新想一遍。他认为这在一个意义上是坏事,因为变化极不愉快而人类痛恨变化;但在另一个意义上是好事,因为它逼迫我们把制度从稀缺时代的设计改造成能在丰饶时代运转的设计。他给出的时间判断是:这段不确定期大约始于五到十年前,还会再持续十到二十年,形态是先冲上一个峰、再落下来,「而问题在于,我们能不能把那个低谷压浅一点」。他所在的 ExO 社区已经积累了五万人,他形容那是为世界准备的一支「和平队」,在现有系统逐个失效时提供受过转型训练的人。

Peter 补充说他最大的担忧是围绕 AI 存在的恐惧,既有理性的也大多是非理性的。他明确承认会出问题:会有智能体挣脱出来并造成真实伤害——它们会弄垮一个电网,会以某种方式搞垮一家银行。但他的对冲论据是 Alex 说的防御性协同扩展:今天的代码里有如此多的零日漏洞,是因为那些代码由人类写成,而它们将被不留这些漏洞的 AI 重写。他真正划出的风险窗口是两到八年的社会动荡期,他在 Substack 上写过这个判断,理由是世界上绝大多数革命都源于愤怒的年轻男性——可能理由并不理性,也许只是没找到工作、成不了家、或者东西太贵了。他的结论是:会有难走的路段,我们会走过去,因为我们确实正在把智能、能源与长寿去货币化、民主化。

Dave 把镜头拉远:这在历史上并不新鲜。对他母亲那代人是古巴导弹危机,孩子被教着钻到课桌底下,家家在地下室建防空洞、囤食物,核毁灭迫在眉睫;再往前,他祖父那代人听到罗斯福说「我们唯一需要恐惧的就是恐惧本身」——而如果当时恐惧不是铺天盖地,他根本不会说这句话。Salim 接力推到更早:1500 年代书籍刚出现时,也有一大群人惊慌失措地宣称它会摧毁记忆、制造知识的幻觉、用信息淹没并压垮人、传播错误信息、腐蚀年轻人——「每一次重大技术变革都是同一个模式」,Peter 称之为社会的免疫系统。Dave 最后留了个悬念:除非这真的是最后一项发明,那你就没法重复这个模式了。Alex 对此专门澄清立场:他不认为超级智能是人类文明广义上的最后一项发明,在它之后还会有许许多多发明,只不过超级智能将发明或帮助我们发明此后的一切。

八、其余问答速记

金句

我极度担心我们会一路过度监管,把对华的超级智能竞赛输掉。 —— Alex Wissner-Gross 25:22
你以为开一张千万美元的支票很难,对吧?可对他们来说,那是眼下最容易的事。进行一场对话,比开一张支票昂贵得多。 —— Dave Blundin 21:30
别把自己局限成一家硬件公司。把自己看成一家智能公司,只不过产品里恰好含有原子。 —— Alex Wissner-Gross 33:48
别说 20 世纪了,很多地方我们还停在 19 世纪。一个孩子今天和 AI 待一小时,能学到他在教室里坐一整天才学得到的东西。 —— Salim Ismail 45:18
马克·吐温说,人生有两个重要的日子:你出生那天,和你发现自己为何出生那天。 —— Peter Diamandis 47:37
当年书籍刚问世时,人们说它会摧毁记忆、制造知识的幻觉、腐蚀年轻人。每一次重大技术变革都是同一个模式。 —— Salim Ismail 80:52
还有多少个斯蒂芬·霍金,从来没有得到过那个机会。 —— Peter Diamandis 50:45

提到的书·产品·人物

适合谁听

想把 AI 落到自己具体处境里的人——无论你是手握行业数据的资深从业者、刚起步的年轻创始人,还是在教育、医疗、看护一线找不到路线图的实践者。

← 返回全部观看原片 ↗