← 顶级AI播客总结
Hard Fork

Fable 5 复活记:当美国政府开始靠"感觉"审批 AI

Fable 5 is Back...But Why Was It Gone At All?
节目时长 63 分钟 阅读约 19 分钟
▶ 在 YouTube 收看原片
Fable 5 复活记:当美国政府开始靠"感觉"审批 AI 插画

政府突然叫停 Anthropic 最强模型又悄悄放行,AI 进入"默认禁止"新时代;外加育儿 AI 与预测市场闹剧。

核心要点

  • 6 月 12 日出口管制:商务部以一个"越狱"漏洞为由,禁止任何外国人(含 Anthropic 员工)使用 Fable 5 与 Mythos 5,Anthropic 因无法逐用户核验国籍,被迫全面下架模型。
  • 告密者疑为亚马逊:据 The Information 与《华尔街日报》报道,Andy Jassy 在亚马逊研究员发现该漏洞后通知政府,但独立安全专家评价这只是防御者修 bug 的"标准操作",并非大事。
  • 事实性牌照体制:Kevin 指出行业已从"默认放行"转向"默认禁止",凡比 Mythos 或 GPT 5.6 更强的模型,都要默认政府不会立即、也不会向所有人放行。
  • 右翼的自打脸:David Sacks、Marc Andreessen 当年痛批拜登要搞"苏联式挑选赢家",如今特朗普政府亲手建立了一个毫无规则、毫无透明度的 de facto 牌照制度。
  • 中国追赶之争:Casey 认为 GLM 5.2 追平前沿是"胡扯"和游说手段,因中国模型靠蒸馏美国模型,永远落后一截;Kevin 则认为蒸馏有效,差距可能从 9 个月缩到 3 个月。
  • 前沿 vs 其他:Casey 把 AI 市场分为"前沿"和"其他一切"两个体系,中国模型、蒸馏模型、开源模型都属后者,落后一步且竞争惨烈。
  • HOPE 与 DETECT:Dr. Suskin 给出两套育儿框架——HOPE(人的连接不可替代、拥抱不完美、保护早期发育、用来增强而非替代)和 DETECT 六问评估法。
Fable 5 复活记:当美国政府开始靠
一图速览本期内容(点击查看大图)

章节时间轴

详细内容

一、Fable 5 被禁又复活:一场没有规则的行政风暴

事件时间线清晰但过程黑箱。6 月 12 日(正是节目组开始休假那天),商务部发布出口管制指令,切断刚发布几天的 Fable 5 与最强模型 Mythos 5 的访问权限。规定禁止任何外国人使用,包括 Anthropic 在美国境内外的员工。由于 Anthropic 无法做到逐用户的国籍核验,只能被迫下架整个模型,等于对全球所有客户断供。

政府给出的理由是收到"可信合作伙伴"关于 Fable 越狱问题的通报。Kevin 根据 The Information 和《华尔街日报》的报道推断,这个合作伙伴很可能是亚马逊——其研究员发现了一种获取受限信息(可用于网络攻击)的方法,CEO Andy Jassy 随后联系了政府官员,商务部一慌就要把模型下架。

但关键在于:这个"漏洞"到底有多严重?Casey 指出,其他安全研究员复核后认为,这只是防御者与模型之间"相当标准的一来一回"——就是让 AI 找出并修复某个文件里的 bug。一位复核了亚马逊工作的网络安全专家在博客里说这"根本不是大事"。而这种技术恰恰就是把 Mythos 等前沿模型提前交给网络安全防御者的"广告卖点"。Anthropic 为此推出了 Project Glass Wing 项目,把 Mythos 分享给少量伙伴,抢在其他模型出现同类能力之前加固美国及盟友的关键基础设施——政府一介入,这一切全停了。

几周后,剧情反转:上周五 Anthropic 与特朗普政府达成初步协议恢复部分访问;周二晚商务部撤销管制;周三 Anthropic 宣布 Fable 5 全球复活。Mythos 5 仍未公开,但会先恢复给一批美国机构。商务部长 Howard Lutnick 致信称公司已"采取措施应对风险"。Casey 说反转本就不可避免,但过程之不透明令他忧虑。

二、从"默认放行"到"默认禁止":AI 靠氛围监管

Anthropic 的回应耐人寻味。它发文"点名全行业",称 GPT 5.5、Kimmy K2.7 等多个模型都能找到同样的漏洞——潜台词是"别只盯着我们,这是行业共性问题"。与此同时,OpenAI 准备发布 GPT 5.6 时,Sam Altman 告诉员工不会立即公开发布,只先给政府批准的一小批伙伴,且明显对此不满,暗示这是特朗普政府施加的压力。

Kevin 由此提出本期最核心的判断:政府"限制发布、或只准发给批准名单"的做法已至少施加于两家公司,正凝聚成一套更广的战略。整个行业正从"默认放行"(训出好模型就能发)滑向"默认禁止"(凡是比 Mythos 或 GPT 5.6 更强的模型,都要默认政府不会立即、也不会向所有人放行)。这是几乎一夜之间发生的产业结构巨变。

两人都强调其中的政治讽刺。特朗普政府现在管 AI 政策的这批人,当年正是对拜登可能搞"发牌照、挑赢家"的设想火冒三丈的人。David Sacks 曾说私营部门"应该被允许大展身手",Marc Andreessen 则反复援引一场他声称拜登官员要"挑选赢家输家"的会议——但 Kevin 说他多方求证、采访了本该在场的许多人,无人记得有此会,"这可能是 Marc Andreessen 编的方便谎言"。如今他们自己建立了一个 de facto 牌照制度,且毫无已知规则、毫无透明度,没人知道什么让模型算"可发布"。Kevin 讽刺道"AI 现在是靠氛围(Vibes)监管"。Casey 补刀:与其说挑赢家,不如说只挑输家——"这模型太好了,你不能发,抱歉,输家"。

Casey 明确表态:他认为政府应该有权阻止大模型发布,甚至在模型发布后若出大乱子也该能叫停,但必须有清晰规则、正当程序、修复与达成共识后再发布的机制——"就是基本的良好治理",而现实离这很远。两人都感叹缺一个认真对待此事、立法建框架的国会。前 Hard Fork 嘉宾、前特朗普 AI 顾问、即将入职 OpenAI 的 Dean Ball 提出合理观点:政府未来在模型极强时确应介入,但需要真正的技术专家来评估和运行安全测试,而现在政府没有这样的人。(Casey 随即讽刺:周一 Marc Andreessen 本人加入了美国国防政策委员会,将定期与 Pete Hegseth 等官员交流。)

三、中国追赶:是真威胁还是游说话术?

第三条线是中国。背景是中国公司 ZAI 新出的 GLM 5.2,被誉为最好的开源模型之一,有过热报道称其比肩甚至超过美国前沿模型。Kevin 认为这不太可能,但至少已进入"同一梯队考量"。有人担忧:美国正把强力模型撤下市场,而中国开源模型客户可以更便宜地用,能力接近,且不会被美国政府随时收回。

Casey 直言"这基本是胡扯",像是想让美国模型回归的人的游说手段,他没见过可信数据支撑中国已追平。他的核心论证是:中国公司在蒸馏美国模型——抓取这些聊天机器人的回答来训自己的机器人,所以最好的中国模型是"美国模型的二手货",永远落后前沿一点。他还提出"两个体系"框架:一个是前沿(看得见于基准测试和营收),另一个是"其他一切"(无数小开源模型、蒸馏模型、中国模型),后者只落后一步但竞争惨烈。"你要说这跟 Mythos 一样好,那我得看到该死的数据。"

Kevin 则没那么怀疑。他认为蒸馏战术确实有效,能得到接近原版的模型,若中国持续这么做,美中前沿与开源前沿的差距可能从 9 个月缩到 6 个月、3 个月。更重要的是,很多企业对 Fable 和 GPT 5.6 的遭遇感到恐慌——总用最新美国模型不仅贵,还可能被政府无理由、无程序地收回,搞砸整个工作流。Kevin 说他确实和一家美国大科技公司的人聊过,对方花更多时间用中国开源模型,不是因为它更好,而是可以下载、跑在自家硬件上,对不需要绝对前沿能力的任务够用了。

一个有趣的反向可能:Kevin 问,美国限制自家前沿模型,会不会反而拖慢中国(因为它们靠蒸馏 Claude 和 GPT)?Casey 认为也许,但这是"极其笨拙的手段"——政府有很多正规杠杆:制裁被抓到蒸馏的公司、禁止其在美销售、联合盟友(Anthropic 前几天就发信投诉阿里巴巴大规模蒸馏 Claude)。Kevin 补充"部署前沿"才是关键:社会要真正受益于 AI,必须能在大公司和消费产品里部署使用,而不是哪个实验室地下室藏着最强却没人能用的模型。两人也指出政策的深层不连贯:一边阻止盟友(如英国)使用好模型,一边推动向中国出口更先进芯片、帮中国训更强模型。唯一的"银边"是:政府终于不再把 AI 当作纯粹的好东西,开始正视其风险(网络安全、生物风险等),Kevin 希望这是"笨拙但走在正路上的第一步"。

四、Dr. Dana Suskin 谈 AI 时代育儿:连接不可替代

下半场嘉宾 Dr. Dana Suskin 是儿科(人工耳蜗植入)外科医生、芝加哥大学教授、TMW 早期学习与公共卫生中心创始人,也是八个孩子的母亲,新书《Human Raised: Nurturing Connection, Curiosity, and Lifelong Learning in Age of AI》即将出版。她讲述为何投身此题:早年她发现做同样的耳蜗手术、同样爱孩子的父母,孩子语言发育结果却天差地别,这把她引入脑发育与神经科学领域——人的连接不是"锦上添花",而是学习和成为人的根基。如今 AI 首次能模仿这种传统上塑造孩子大脑的互动,"此刻我们做的选择将决定我们这个物种的样子"。

Kevin 抛出自己作为四岁孩子父亲的两个用法:"回答随机问题"(如"风从哪来",他用 AI 给出适合四岁孩子的答案)和"编故事"。Dr. Suskin 说这些都是好例子,并给出 HOPE 框架:H——Human connection 人的连接不可替代,要保护和加倍投入;O——Owning your imperfections 拥抱自己的不完美(孩子不是靠完美成长的);P——Protecting the early years 保护早期发育(头几年建成 85% 的大脑,要格外小心让什么进入);E——Enhance not replace 用来增强而非替代关系、填补知识空白。她强调此书绝非反科技:"我是植入外科医生,我造 AI 技术,我全力支持。"

她提出比社交媒体更贴切的类比是加工食品:是一条连续谱,全麦面包虽加工但仍有营养,而超加工的 Doritos、Twinkies 偶尔吃可以但本质不好。AI 同样是巨大光谱——从聊天机器人答题、替父母和老师卸下"隐形劳动"、到医疗诊断。她说人们聚焦 AI 陪伴,她也担心它挤占必要的人际连接,但那只是 AI 的一小部分;社交辅助机器人还能帮自闭症儿童学读社交线索、更好地与人连接。所以"不能一刀切当成铁板一块"。

五、划红线、政府角色与 DETECT 评估法

被问到哪里划红线,Dr. Suskin 说现在很容易:声称是"比屏幕时间更好替代品"的 AI 陪伴和 AI 玩具是"相当明确的 No"。从社交媒体应吸取的教训是采取预防原则——"你得先证明它安全,我才让它进入孩子发育的圣地",因为赌注太高,甚至比社交媒体更高。对于不假装成陪伴的智能设备(如 Kevin 孩子让 Alexa 放儿歌),她认为无妨,是"滑坡但可接受",她真正担心的仍是对人际互动的挤占。

关于政府角色,她举挪威为例:挪威立法规定早期学龄段学校不得使用生成式 AI。她把这比作工业食品革命——起初没护栏,后来有了《纯净食品与药品法》,最终有了营养标签。她赞同挪威"科学、审慎"的做法:"这不是永远说不,而是说这发展太快了,让我们退一步。"她以医学类比:新药上市我们会很谨慎,为何这么强大的新技术不该同样谨慎地理解它对人的影响?"AI 的故事既关乎技术,也同样关乎理解它对人类做了什么。"

她给出评估任何 AI 产品的六问法 DETECT:D——Design 设计目的;E——Ethically trained 是否伦理训练;T——Troubles 是否有孩子出过问题;E——Evidence 是否有证据证明它真能做到宣称的事;C——Confidentiality 孩子的数据去哪了;T——Teaching 从价值观上它在教什么。两人现场用 DETECT 评估 Sam Altman 在推文里推荐的 Cradlewise——一款用 AI 检测婴儿将醒并自动轻摇、播放安抚音的智能婴儿床。Dr. Suskin 判断它符合"增强而非替代"(帮父母睡个好觉、让宝宝入睡),初听是好事。Kevin 现场谷歌确认没有严重问题,但发现它用专有床单、不能买便宜第三方床品(床垫非标准形状)。她总结:让父母睡够 6 小时确实能让人成为更好的父母。

一个有意思的插曲:Dr. Suskin 中心开发了一套计算机自适应工具(叫 SPEAK),测量父母对儿童发育各领域的了解程度,很能预测父母行为和孩子结果。他们让 Claude 做了这套测试——Claude "满分通过"。但她强调信息不是"Claude 能当父母",而是"Claude 显然能当资源":父母有育儿疑问时可以放心问 Claude。Kevin 说这完全符合他的体验——这些工具在育儿建议上往往比他更老练、更自信,是他卡壳时的好帮手。关于书名的挑衅性含义("Human Raised 会变成奢侈品"),Kevin 问是否意味着有安全感和特权的家庭才享有人类父母、其余的将被机器养大。Dr. Suskin 承认这正是她担忧并写书想避免的:就像百年前从不追问食物是否有机,超加工食品兴起后"有机"成了特权儿童专属;她怕人工替代品变成"廉价的大脑营养卡路里",而人的连接沦为奢侈品——"每个孩子都值得被爱他们的父母和照护者养大"。

六、Against All Odds:预测市场的荒诞剧场

新栏目 Against All Odds 盘点预测市场丑闻。首先是 Poly Market 一支请来 Rick Rubin、配 Kanye West 歌曲的广告,画面充满"边界百年后还重要吗""外星人存在吗"等哲思问句。Casey 觉得极其冒犯——它把预测市场包装成多元、团结、几乎神秘的东西,仿佛"大家在同一间屋里一起赌博,战争就不会发生了",却不展示真实客户(战区服役士兵、中学生、Bad Bunny 超级碗随行团)。Kevin 说预测市场真正的营销口号应该是"背叛你的朋友"——因为赚钱之道就是知道你不该知道的事。

第二个故事是 David Segal 在纽约时报写的《The Donking of a Truth Machine》。职业玩家 Daniel Krishkovets 绰号 Donk,四月 Poly Market 上有一个市场赌某电竞直播中是否有人说出"Donk"这个名字(而 Donk 本人没参赛)。7 小时直播里似乎没人提,但有人发现解说员一次口误把"don't"说得像"donk",由此爆发激烈争论:口误的 donk 算不算 donk。Poly Market 用一套叫 optimistic oracle 的机制解决争议市场——持有 UMA 代币者投票,代币越多投票权越大。结果一家叫 UMA Rocks 的公司囤了大量代币投"No",带动跟风,"No"胜出——Kevin 称之为"被操纵的裁决"。Casey 感叹"真理的裁判者是囤代币最多的人,多棒的系统",并说连"结果如何裁决"本身也能赌,"乌龟叠乌龟,无穷无尽"。他借机表达对"万物皆可赌"世界的厌恶:统计上你一定会输钱。

第三是《华尔街日报》调查:Poly Market 付钱让创作者拍下注视频。分析 10 名创作者的 1100 多支视频,发现 70% 展示了下注、但没有一笔是真的。118 支视频展示"赢钱",暗示这些人共赢近 90 万美元,但若真下注,这些人实际会亏损超过 16.6 万美元。Kevin 说这印证了在 Poly Market 稳赚的真正方法:拍一支所有人都在撒谎的创作者视频(另一个稳赚法是内幕交易,但不上镜)。最后是纽约时报同事 Mike Isaac 和 David Yaffe-Bellany 的独家:Mark Zuckerberg 指示 Meta 打造类似 Poly Market 的预测市场 App(内部代号 Arena),初期用游戏式虚拟积分、但未排除最终使用真钱。Casey 判断 Meta 惯于跟风(有时成如 Stories/Reels,多数失败),若成功必上真钱、必接入 Instagram/Facebook。两人大笑这家深陷"平台成瘾"诉讼的公司竟把赌博当新重点,并引用 Kalshi CEO Tarek Mansour 的真实言论——他把玩预测市场说成"治疗 Instagram 成瘾的解药",即"用一种成瘾治另一种成瘾"。

金句

AI 现在是靠氛围监管的。 —— Kevin Roose 7:44
你说他们在挑选赢家和输家,其实他们只是在挑输家——"这模型太好了,你不能发,抱歉,输家"。 —— Casey Newton 10:48
你要现在告诉我它跟 Mythos 一样好,那我得看到该死的数据。 —— Casey Newton 16:10
我担心人工替代品会变成大脑营养的"廉价卡路里",而人的连接会变成一件奢侈品,我们绝不能让这发生。 —— Dr. Dana Suskin 46:20
任何预测市场真正的营销口号都该是"背叛你的朋友",因为那才是赚钱之道。 —— Kevin Roose 50:11
一种成瘾的解药,Kevin,就是另一种成瘾。 —— Casey Newton 61:45

提到的书·产品·人物

适合谁听

关注 AI 监管走向、育儿科技选择,或想看懂预测市场赌博经济荒诞现象的人。

← 返回全部观看原片 ↗