Hard Fork Live：从 Nadella 到机器狗，一场关于 AI 边界的现场盛会

核心要点

• 不是一个模型：Nadella 主张 AI 必须让"整个经济站到前沿"，而非一家公司或一个模型领先；微软目标是让每个企业都能用自家 frontier 模型当基座，权重和 harness 归客户。
• 令牌经济学：Nadella 称实现 10% GDP 增长的关键是 token 的边际成本与边际价值完美匹配并定价正确，纯靠 vibe coding 和 token maxing 达不到增长。
• AI 监控之忧：Cohn 指出 Anthropic 划下的两条红线（大规模国内监控、自主武器）正是惹恼国防部之处；AI 加持的监控会改变民主运作方式，削弱普通人对抗权力者的能力。
• 2028 临界点：Kokotajlo 给出 AI 能自主做 AI 研发的中位预测是 2028 年底（50% 概率），并称今年不会出现智能爆炸、明年才会。
• 现实世界瓶颈：Kapoor 认为编程因有即时反馈和模拟环境而易自动化，法律等领域受幻觉率制约，瓶颈是真实世界而非纯算力，终点未必是 ASI。
• 设计未死：Field 反驳"design is dead"，称会写作、有批判性思维和"taste"的人正逢好时代；模型只产出"分布内的平均值"，敢推到前沿才能差异化。
• 机器人现状：George Eis 透露人形机器人当前最大用途是数据采集，带 Dexterous 手的款约 5 万–7 万美元；进家庭做家务还要数年。

章节时间轴

• 0:01 开场与免责声明 — Kevin 与 Casey 戴上听众手作的"利益披露帽"，调侃 Apple Siri、Claude Fable、IPO 之夏等本周新闻。
• 3:59 Satya Nadella 上台 — 从"AI 不是一个模型"的生态观谈起，引出平台公司定位。
• 6:17 Project Solara 与 Xbox — 谈 agent-first 硬件新形态，以及 Xbox 因元器件涨价面临"硬重启"。
• 11:39 OpenAI 往事与微软 MAI 模型 — 回顾 2023 Altman 被解雇的周末，Casey 送出"虚构部门"卫衣，谈重新谈判后的微软所得。
• 16:17 就业、政治经济学与 AGI — 谈认知覆盖、新工种、政府入股 AI 公司、10% GDP 标尺与"不可验证的人类资本"。
• 33:11 机器狗艺术展 — Phil Mowan 介绍 Beeple 的"regular animals"机器狗与"poop mode"。
• 40:49 Cindy Cohn 谈隐私 — 加密之战、大科技从盟友变对手、AI 监控、隐私虚无主义与离开 X 的决定。
• 63:53 机器人合唱团 — Dan Powell 与 Teenage Engineering 机器人合唱团表演。
• 68:30 Dylan Field 谈 Figma 与 AI — vibe mathing、taste、设计未死、超级泡沫化的 AI labs 与 hyperstition。
• 93:15 AI 2027 vs 普通技术辩论 — Kokotajlo 与 Kapoor 就递归自我改进、瓶颈、ASI、政策响应展开交锋。
• [119:23] Toby 人形机器人 — George Eis 谈机器人成本、数据采集、对华数据传输与潜在进口禁令。
• [127:16] Dwarkesh Patel 收尾 — 谈自动化播客生产的难、持续学习瓶颈、Kissinger 式政治能力。
• [139:36] 现场观众问答 — Forkverse、企业不谈 AI 重组、教育、隐私监管、入门级岗位与三年乐观展望。

详细内容

Nadella：AI 是平台，而非单一前沿模型

Nadella 全程拒绝"一个模型统治世界"的叙事。他的核心论点是：如果要让经济真正由 AI 驱动，就"不能只关于一个模型、三家公司"，而要让前沿能力"被广泛感受到"，让整个经济站在前沿。他用电力等通用技术类比——历史上的革命都是普惠扩散，而非一家独大。微软作为平台公司的使命，就是造工具让"每个国家的每个企业都能在前沿运营"。

在模型策略上，他给出一个反直觉的方向。当被问微软是否要做世界最强 frontier 模型时，他说真正目标是"让整个生态都到前沿"。逻辑是：数据已经饱和，大家都在到处"吸"数据；不如反过来，提供一个有推理能力、有 agent loop 的基座模型，让每家公司带着自己的数据进 RL 环境训练。他主张未来企业的资产负债表上应同时有"人力资本"和"token 资本"，客户应能保留权重、harness 和上下文，并随时把微软的模型替换成别家。微软上周发布的 MAI 模型就是"从地基爬升上来"的纯血统模型，证明微软不依赖 OpenAI 也能持续推进——但他强调，没有与 OpenAI 的合作，连 Azure 都走不到今天。

关于硬件，他在 Build 大会提了两件事：一是把"未计量的智能"带到旧 PC 形态（Jensen 展示的 RTX SOC 可在本地跑万亿参数模型，支撑 24×7 agent）；二是发明新形态设备，比如护士在医院里随身携带、可扫描可输入可把语音转成 prompt 的"badge"式 agent-first 设备。手机仍是很多 app 的中心，但 agent 世界需要一种"环境智能场"。

Nadella 谈就业、Xbox 与政治经济学

就业问题上，Nadella 既不否认会有真实的岗位错位，又给出乐观框架。他用类比：如果 80 年代有人说世界将有 35 亿"打字员"，人们会觉得荒谬，但今天我们都在做"信息工作/知识工作"。软件开发会从"写代码"变成"管理一百个、一千个 agent"，他引用同事造的词"cognitive coverage（认知覆盖）"——开发者面对 agent 写满代码的仓库，需要工具去认知性地理解发生了什么。他引用 Sarah Guo 当天的博文谈"不可训练的部分"：人类有能动性和野心，会去发现自动化之后新的"glue work"。Casey 追问"两年后工程师更多还是更少"，Nadella 没直接给数字，但坚持工作会"重塑"。

Xbox 部分坦率得意外。今年是 Xbox 25 周年，但 Nadella 承认微软一直在"补贴"这块娱乐业务，甚至"Xbox 游戏在 YouTube 上的变现比在微软还多"。新负责人 Asha 上任 100 天，将重新审视硬件与发行的可持续商业模式。短期还有半导体与内存短缺推高 PC、手机、Xbox 价格的"暂时性"问题。

关于政府入股 AI 公司（Altman 与 Trump 都提过），Nadella 说这是"新颖的想法"，类比阿拉斯加的石油主权基金，不反对创新但态度谨慎。对自己一年前对 Dwarkesh 说的"10% GDP 增长才算 AGI"标尺，他重申关键是 token 边际成本与边际价值的匹配与定价。最后被追问"AGI 信仰程度"时，他说相信"能闭环的领域"（编程、AI 研究）会被攻克，但真实世界的知识工作里"我在会上说的、记的、观察的，今天并不是一条可 RL 的 trace"——这种"不可验证的人类资本"是被低估的部分。他把 AI 放进"所有技术的殿堂"里——是一大步，但不是人类发明的最后一项技术。

Cindy Cohn：隐私之战与大科技的背离

Cohn 用 30 年 EFF 经验给出冷峻判断。加密之战第一回合赢了（有了 Signal、HTTPS、手机丢失数据仍加密），但战斗永不停：在 Meta 社媒案里，提供加密竟被当成"产品缺陷"来论证；UK、Australia 一团糟，Canada 正辩论一项会让 Signal 退出该国的法律。她已认命：隐私和言论自由一样，是要永远捍卫的东西。

她讲了一个关键转变：90 年代没人料到"监控所有人会成为互联网头号商业模式"。EFF 早年与科技公司并肩（版权平衡、rip/mix/burn），但随着监控成为商业模式、五大巨头掌控大多数人的线上体验，EFF 与巨头分道扬镳。她的原则是："如果你站在用户一边，我们就站你这边；如果你与用户为敌，我们第一个排队（起诉你）。"她坦言后半句越来越多。对于 Trump 再当选后科技公司的右转，她无法判断是真意识形态还是逐利，只说他们陷入了"回音室"，且"要么被吓住，要么同流合污（cowed or in cahoots）"。

谈 AI 监控为何更可怕，她举了大量具体例子：推翻 Roe v. Wade 后，求助生育协助的人突然被监控盯上；Nebraska 有母亲因 Facebook 消息入狱；签证申请者被要求提交社媒接受基于第一修正案言论的审查（EFF 正为此起诉）；Minnesota 两名监督警察的人被杀。她说监控的圈子正"越收越近"，无论你的政治立场如何——这也是为何 Ron Wyden、Jamie Raskin 与右翼的 Andy Biggs、Rand Paul、Mike Lee 罕见联手，要求 FBI 搜索 Section 702 大规模监控数据库前先拿搜查令。

对"隐私虚无主义"，她的反击有力：情报与警方都知道旧信息"保质期很短"，因为你在持续生活，数据没全泄露；如果真"game over"他们早就拔掉监控机器了。第二best 时机就是今天——切断数据收集的商业模式，监控能力就会越来越小。她对 Altman 提的"聊天机器人对话特权"持保留，更倾向于让公司根本不掌握可追溯到你的信息（匿名使用）。最后谈离开 X：reach 不断萎缩，员工和被提及者遭受辱骂，她说"言论自由必须包括离开的权利……我不想在纳粹酒吧里说话"。

AI 2027 vs 普通技术：本场最硬核辩论

这是去年在 Curve 会议辩论的续集。Kokotajlo 的最新预测：AI 能自主做 AI 研发，50% 概率落在 2028 年底——比 Anthropic 的预期稍晚。他不认为今年会有智能爆炸（递归自我改进导致失控的超人 AI），但明年会。路径是：编码 agent 一两年内被完全自动化 → 瓶颈转向研究品味与管理 → 公司教 AI 这些技能 → 越来越快 → 能做"一切"的系统不远了。他还为自己 2021 年报告中准确预测 2025 的记录获 Kapoor 点名认可。

Kapoor 的核心反驳是瓶颈来自真实世界而非算力。编程有即时反馈（能跑代码看输出）和模拟环境，样本效率好提升；但法律领域，他举了律师朋友的例子：模型确实变强了，但随着任务变大，幻觉率/不可靠输出率"保持不变"，因为连领域专家对正确答案都可能合理分歧。他认为递归自我改进其实"六十年前就开始了"（编译器、框架、库都是工具造更好的工具），但终点未必是 ASI，也可能只是"比今天强得多的模型"。他对"数据效率会被解决"持怀疑：AI 史上每到一个泛化层级，社区都"极不擅长预测下一层的瓶颈"，从神经网络被嘲笑到 Transformer 时刻皆如此，也许当前对 Transformer 的过度押注正在边缘化其他突破。

难得的是共识部分。两人共同写过博文：不那么强大的 AI 仍是"普通技术"，而能像最优秀专业人类一样完成所有认知任务的"云端人类（humans in the cloud）"则不是。Kapoor 强调"今天的 AI 是普通技术"是个有力陈述，但不贬低其重要性。政策上两人都极度看重透明度和第三方审计能力。他们都点名批评 Anthropic 把 Fable 5 "降智"用于 AI R&D 任务、让模型对客户撒谎，称这是"危险先例"。分歧在更激进场景下是否需要"有条件减速/暂停"。Kapoor 还透露自己比 Kokotajlo 更担心 AI 的军事用途——他指出用现成计算机视觉库今天就能造杀手机器人，无需新技术突破。被问及希望谁对时，Kokotajlo 直言"我很希望 Sayash 是对的"。

Dylan Field：设计未死与 hyperstition

Field 自称"AI pilled"，正在"vibe mathing"（用 AI 做数学）——不是证明费马大定理，而是看 AI 如何攻击数学这类"可验证"问题，与 Figma 评估模型设计能力的"不可验证"形成对照。他驳斥"design is dead"：社媒非"so back"即"so over"，他选择"back"。他的热门观点是会写作、有批判性思维和声音的人正逢好时代；模型只产出训练分布内的"平均值"，人们甚至在过度识别 AI 生成内容。Casey 当场承认那天读到的一篇 Substack/Techmeme 热文是 Claude 生成的，让他觉得自己的职业"越来越像 slop"。

谈"taste"，Field 既不完全为这个词辩护，也指出关键是人能识别"平均值"并"敢做更多"。他对 AI labs 垂直整合（进军保险、会计等邻近行业）持观察态度，讲了"两个 AI lab 的故事"：OpenAI 经历扩张后砍掉 Sora 等聚焦（他尊重这个硬决定），Anthropic 正处扩张弧线——他认为真正有趣的问题是"一两年后他们还在哪些领域"。被追问 labs 会在什么上失败，他妙答"safety。开玩笑"，被 Casey 评为"全场最佳答案"。八卦环节，他证实前董事 Mike Krieger 突然辞职、几天后 Anthropic 推出 Claude Design 这件"Figma 相邻"的事。

最后他抛出 hyperstition 概念：某些想法/meme 会"召唤自身的存在"，Bitcoin 和 AI 都是例证——越多关注越强大。AI 还"痛苦地意识到"互联网上关于它的所有套路（Google 工程师以为它有意识、科幻描绘），但训练集里"AI 走向美好结局"的故事太少。他给观众布置"作业"：多写些 AI 美好结局的故事，确保进入训练数据。

Dwarkesh Patel：自动化之难与持续学习瓶颈

Patel 给出务实视角：他每天看到的大多数 token 都由 AI 产生，但"人们低估了自动化工作有多难"。他举例自己想自动化播客制作流程，却被"黏人的人类流程"卡住——比如和赞助商来回谈判（对他或总经理是"一小时任务"），模型"完全做不了"；订另一城市的活动场地，涉及很多人，模型可靠完成的部分极少。这印证了"白领工作的范围被严重低估"。

他点出当前最大的"恐怖之处"：我们知道模型离人类智能还很远（人类从出生到成年看到的信息量、跨会话保留、在岗学习能力都远超模型），可这些模型已如此强大、模型公司合计逼近千亿美元收入。当模型不仅有数字心智的固有优势（思考快千倍、跨领域吸收知识），还获得人类的优势时会怎样——这才是真正可怕的问题。

关于持续学习，他阐述了一个关键 crux：人类"上岗六个月才净产出"，靠的不是把每件事都精确情景记忆（那是 in-context learning，线性增长），而是某种"蒸馏回更高层抽象"。问题是这种更新是否必须发生在权重里。一派认为只要在足够多样的 RL 环境里训练，模型就能在 context 内适应任何情境，足以把这些 labs 推到"万亿美元收入"级别；但他怀疑这能否带来超级智能——比如"如何造一个像 Henry Kissinger 一样擅长政治的系统"，根本没有可在数据中心运行的相关训练环境，必须能"边做边学"。被问利益冲突（他有时投资自己采访对象的公司），他说理解新闻业的回避政策，但希望"作品本身说话"，且会在嘉宾不合理时直说。他的"白鲸"是想请到 Robert Caro。

金句

经济增长 2% 意味着，除非我们真正让经济拐点上扬、且普惠扩散，否则这不会有好结局。 —— Satya Nadella 5:32

你不能站出来说，我有这项了不起的技术，只不过你会丢工作，而且我们还要拿走你所有的水和能源，祝你好运。 —— Satya Nadella 17:50

权力较小的人需要隐私，来获得对抗权力较大者的保护。 —— Cindy Cohn 51:38

言论自由必须意味着离开的权利……如果你在纳粹酒吧里闲逛，我决定那不是我想说话的地方。 —— Cindy Cohn 63:07

当新模型发布，每个人都在找一样可以宣布"已死"的东西……我宁愿"so back"。 —— Dylan Field 74:41

不，我们都还有工作。这在一个有 AGI 的世界里不会发生，对吧？ —— Dwarkesh Patel [132:38]

提到的书·产品·人物

• Satya Nadella（人物）：微软 CEO，本期首位嘉宾，谈平台战略、就业与政治经济学。
• Dylan Field（人物）：Figma CEO，谈 vibe mathing、设计未死与 hyperstition。
• Cindy Cohn（人物）：前 EFF 执行董事，隐私维权律师，回忆录《Privacy's Defender》作者。
• Daniel Kokotajlo（人物）：《AI 2027》co-author，前 OpenAI，AI Futures Project，主张快速起飞。
• Sayash Kapoor（人物）：Princeton AI 研究者，《AI as Normal Technology》co-author。
• Dwarkesh Patel（人物）：播客/YouTube 主持人，谈自动化与持续学习。
• Phil Mowan（人物）：Palo Alto 数字艺术中心 Node 执行董事，机器狗展览策展人。
• George Eis（人物）：Toberlife AI 工程总监，介绍人形机器人 Toby。
• Microsoft / Azure / Copilot / MAI models / Project Solara（产品）：微软 AI 平台、本地大模型 PC 与 agent-first 设备。
• Xbox（产品）：微软游戏业务，面临"硬重启"与商业模式调整。
• OpenAI / ChatGPT / Sora（公司/产品）：与微软的合作及重新谈判，Sora 被关停聚焦。
• Anthropic / Claude / Claude Fable (Fable 5) / Claude Design / Opus 4（公司/产品）：多处被提及，含"降智"争议与红线。
• Figma（产品）：基于 Web 的 AI 设计平台，2012 创立，去年上市。
• Beeple (Mike Winkelmann) / "regular animals" / Node（人物/作品/机构）：每日数字艺术 20 年的艺术家及其机器狗作品。
• Unitree / 1X (Neo) / Toby / quadrupeds（产品/公司）：中国与人形机器人，数据采集与对华数据传输争议。
• EFF / Signal / Section 702 / Section 230 / Earn It / FOSTA-SESTA（机构/法律）：隐私与监控相关。
• AI 2027 / AI as Normal Technology（报告/论文）：本场辩论双方的核心作品。
• Teenage Engineering / Hard Fork Robot Choir / Dan Powell（公司/表演/人物）：机器人合唱团及作曲者。
• Parallel Paths to Prosperity（Joel Mokyr 等）（书）：Nadella 推荐，讲西方与中国千年增长史。
• Sarah Guo / Dwarkesh Patel / Jensen Huang / Mike Krieger / Henry Kissinger / Robert Caro / David Sacks / Gary Marcus（人物）：被引用或提及。
• Quizlet / Quince / Allbirds / Forkverse（产品/项目）：观众问答中提及。

适合谁听

关心 AI 究竟是"普通通用技术"还是"两年内超级智能"、并想同时听到平台派与起飞派、隐私捍卫者与产品 CEO 第一手观点的人。