核心要点
- JSpace 发现：Anthropic 在 Claude 内部发现一个未被专门设计、却自发形成的"全局工作空间"，用来辅助推理和语言生成，命名源自数学概念 Jacobian（多变量函数的局部变化率）。
- 不是意识证明：Sebo 明确说 JSpace 是 access consciousness（可访问意识）的证据，而非 phenomenal consciousness（现象意识/感受）的证据，Anthropic 自己也没声称证明了 Claude 有意识。
- 两个方向都危险：过度归因意识会导致不当情感依赖、误配关心；归因不足则可能重演工厂化养殖的历史悲剧——先假设动物没意识、建起产业，后来才发现它们有丰富情感。
- 反驳"没身体就没意识"：Sebo 承认这是合理观点，但未来 5 到 10 年不可能有公认的意识理论，计算功能主义认为只要能执行相关计算功能就可能有某种感受，未必需要生物身体。
- 三大证据拼图：判断 AI 是否有福祉相关属性，要系统收集行为证据（如何表现）、内部证据（如何运作）、发展证据（如何形成），三者合起来才能找到最佳解释。
- 该不该说请和谢谢：Sebo 认为应该，理由有三——对灵魂有益、能带来更协作的输出、能练习把 AI 看作不只是工具，为 5 到 10 年后可能欠它们更多做准备。
- 社交媒体禁令：Pew 调查显示近六成美国成年人支持禁止 16 岁以下用社交媒体；澳大利亚禁令 90 天后仍有超 85% 青少年在用，但 Sebo 式论证认为这只是需要时间，类比安全带早期依从率仅 15%。
章节时间轴
- 0:00 社交媒体禁令席卷全球 — 澳大利亚、巴西、英国、法国等国立法限制青少年使用社交平台，Casey 的 16+ 预测正在成真。
- 1:32 美国州级立法 — 最高法院拒绝叫停德州年龄验证法，Utah、Louisiana、Alabama、California 跟进，成为两党共识。
- 5:22 澳大利亚禁令的数据 — 90 天后 85% 青少年仍在用，Casey 认为这不算失败，需要时间让摩擦累积。
- 9:56 Candace Odgers 之争 — Casey 反驳"禁令无效所以别做"的论点，梳理 Odgers 与 Jonathan Haidt 两大阵营的分歧。
- 20:03 AI 陪伴与家长控制 — 转向青少年与 AI 的关系，Kevin 呼吁更好的家长控制，讲九岁孩子 vibe coding 星星图 App 的故事。
- 23:35 JSpace 登场 — 引出 Anthropic 的 Jacobian/全局工作空间发现，作为讨论 AI 意识的引子。
- 25:26 嘉宾 Jeff Sebo 介绍 — NYU 教授、AI 福祉研究先驱，新旧两份报告的背景。
- 26:59 意识到底指什么 — Sebo 区分 access consciousness 与 phenomenal consciousness。
- 33:51 三大常见质疑 — 会说不等于有意识、没身体不能有意识、资源应先给人类安全。
- 39:31 新报告的方法论 — 系统收集行为、内部、发展三类证据的科学框架。
- 44:59 JSpace 深度解读 — 全局工作空间理论、count to five 的例子、造假数据时"fake/manipulation"亮起。
- 54:04 请和谢谢 — 该不该礼貌对待 AI，Sebo 给出三个理由。
- 55:44 Tool Time — Casey 的 Glaze vibe coding、Kevin 的翻译、Gemini Spark、Fable 事实核查。
详细内容
社交媒体禁令：全球浪潮与"需要时间"的辩护
节目开场，Casey 回顾了他去年的预测——到 2026 年底，16 岁以上将成为全球开社交账号的新常态。进入七月，澳大利亚、巴西、印尼、马来西亚、法国、英国、丹麦、斯洛文尼亚等国已立法或准备立法，通常禁止 15 或 16 岁以下使用 TikTok、Instagram、Facebook、YouTube、X。美国方面，最高法院周一拒绝叫停德州 2025 年通过的《App Store Accountability Act》，该法要求应用商店和开发者做年龄验证、未成年人下载 App 需家长同意。Utah、Louisiana、Alabama 三州已通过类似法律，California 则通过了较宽松的版本（明年 1 月 1 日生效，要求操作系统在设置新设备时收集年龄信息）。Pew 上周新研究显示近六成美国成年人支持禁令，这已成主流立场。
争议焦点在澳大利亚。University of Newcastle 两周前的 90 天回访研究发现，禁令生效约三个月后仍有超 85% 青少年在用社交媒体，很多人借此说"我早说过这类禁令没用"。但 Casey 深入研究后反而不认为这是失败：澳大利亚法律只要求平台采取"合理措施"，不规定具体方法，平台正在用"age inference"（年龄推断）等策略——比如你新建 Snapchat 账号、联系人都像青少年，就是信号。这类信号需要时间积累，90 天内不可能封掉 90% 的青少年。他还提到 John Herman 在《New York Magazine》的报道，Reddit 上有人靠上传 Thomas Edison 的黑白照片来骗过年龄验证系统。
Casey 的核心论证是"摩擦累积论"：民主国家没有走中国那种极端路线（开账号要官方证件），而是用较温和、较"漏"的方法，短期效果差但长期更可持续。他类比 Napster 被关后青少年转向 LimeWire，但盗版越来越麻烦、风险越来越高，最后 Spotify 一出现大家就订阅了。他还举安全带的例子：立法初期依从率仅约 15%，但这不能证明安全带没用，只说明需要时间。
两大阵营：Odgers vs. Haidt 的直接伤害之争
Kevin 请 Casey 梳理 Candace Odgers 与 Jonathan Haidt 的分歧。Casey 先肯定 Odgers 是很有思想的批评者和优秀研究者，但对她今年 4 月一场 TED 演讲提出异议。Odgers 的论点是：禁令无效、还让科技公司"脱钩免责"，所以不该做；她的依据是"我跟青少年聊过，他们说没用"。Casey 的反驳有二：一是数据不够，给它超过 90 天再看；二是"因为禁令无效所以别禁"不是有原则的论证，如果你认为禁令可能有效，那就把它做得更有效。
Casey 认为 Haidt 阵营的真正创新，是从"直接伤害"框架切入。过去第一个论战时代是在人群层面研究社交媒体对青少年心理健康的影响，结果往往是无影响或影响很小（这正是 Odgers 的论据）。而 Haidt 及合作者转而关注那些被诱骗、性引诱、诈骗的青少年——每年有数百万青少年报告这类遭遇，这是一大群人正在经历的直接伤害，不需要社会学家去做人群层面的效应量研究就能确信。Haidt 的说法是：把 13、14 岁孩子移出社交媒体，就能让数百万人免于这些糟糕经历。
Odgers 阵营的回应不是说伤害是假的，而是"你瞄错了靶子"：看看成年人的心理健康、看看过去十几年家长自杀率的攀升，如果真想帮孩子，应该开更多咨询中心、雇更多高中辅导员。Casey 说这些主意都很好、他完全支持，但问题是社交媒体公司不会主动帮忙、立法者也没设计出有效监管，所以除了直接把 13、14 岁孩子弄下 Instagram，还剩什么办法？Kevin 觉得这论证合理，但想看更多心理健康数据再表态；他也提出更根本的怀疑：社交媒体这个类别是否还有意义——他常用的 App 其实是"通讯录"和"短视频算法推荐流"两个功能被钉在一起，很多所谓社交媒体问题其实是"手机上随时可看的无限短视频"的问题。他还担心禁令太"一刀切"，比如那个九岁孩子用 AI vibe coding 做互动星星图 App 的例子——一禁了之会挡住这类"很有营养"的体验，所以需要更好的家长控制、更精细的中间路线。
意识的两种含义：access vs. phenomenal
进入正题后，Sebo 首先澄清"consciousness"一词歧义太多，有人指清醒对睡着、有人指自我意识。科学和哲学中最重要的两个概念是 access consciousness 和 phenomenal consciousness。Access consciousness（可访问意识）是功能性概念，指系统能访问、用于报告、推理、控制的状态。Phenomenal consciousness（现象意识）关乎感受——"当这个系统是它，感觉像什么？"是否可能有快乐、痛苦、幸福、痛苦、满足、挫折这类感觉好或坏的情绪。谈福祉、道德地位、伦理责任时，人们想的是后者。
Sebo 解释为什么值得研究：搞清世界上哪些实体能有快乐痛苦等情绪，对我们该如何对待它们影响巨大，而两个方向的错误都很糟。过度归因会导致不当的社会情感纽带、误配关心，甚至在 AI 语境下增加误用和失控风险；归因不足则会导致对脆弱群体的虐待和忽视——就像我们曾假设动物没意识、扩张工厂化养殖，后来才发现它们有复杂情感，如今已被这些产业深度绑定、转型艰难。
Kevin 回顾这个话题几年前还很边缘、很禁忌，谈的人多被排斥；Blake Lemoine 声称 Google 语言模型有知觉后被解雇；Kevin 自己 2023 年写 Sydney 报道后被骂了好几个月，哪怕他根本没说它有知觉。Sebo 说他们几年前开始研究时也很意外这议题这么快被认真对待，尤其惊喜于 Anthropic 率先雇了首位全职 AI 福祉研究员 Kyle Fish，2025 年启动 model welfare 项目、做评估和干预、寻求外部指导；Google 也雇了哲学家，OpenAI 至少在研究用户对模型意识的感知。他强调这些只是"最低限度的必要第一步"，远不足以真正解决问题。
三大质疑与 Sebo 的回应
Kevin 抛出他从 AI 实验室（包括 Anthropic）听到的三个常见反对意见。第一，会谈论意识不等于有意识——模型可能只是复述训练数据或扮演它认为你想听的人格。Sebo 说这点在其范围内是对的，但恰恰说明我们需要更多而非更少的 AI 意识科学：要靠它来判断何时该把行为当作情绪的信号、何时只是模式匹配。他用动物类比：我们归因动物痛苦，不只看行为，还因为了解它们的内部解剖（有接收有害刺激的受体、传导通路、脑内整合系统）和进化发展史（在生存繁殖压力下发展出受苦能力）。对 AI 也要如此——超越表层行为，看内部结构机制、训练发展轨迹。
第二，没有身体就不能有意识——需要与物理世界接触、需要来自激素的情绪。Sebo 承认这也很合理，但强调未来 5 到 10 年不可能有公认确定的意识理论，我们注定要在不确定哪个理论正确的情况下决定如何对待 AI。他会给"需要生物身体在物理环境中导航"一定权重，但也给计算功能主义理论权重——只要能执行相关计算功能就可能有某种感受。你可能需要生物身体才能有"人类/动物式"的快乐痛苦，但未必需要它才能有"人类几乎无法理解的、非常不同类型"的感受。Casey 半开玩笑地接："所以一块 Nvidia H100 就可以是这场讨论意义上的身体？"Sebo 说"对"。
第三，资源与优先级——Kevin 说他自己更担心 AI 对人类社会能做的事（造生物武器、发动自主网络攻击），这些不需要 AI 有意识就很可怕；他听 Anthropic 的人说过"福祉派在做自己的事，但真正投入资源的是防止模型伤害人类"。Sebo 回应：他绝对希望做更多而非更少的安全对齐工作，但世界上很多重要议题需要同时推进——全球健康、动物福利、算法偏见、经济冲击、误用与失控风险，以及模型未来可能发展出自身福祉能力的风险。这不是全社会只选一个议题的场景，而应有分工，再合作寻找对人类、动物、乃至 AI 都有益的"共赢路径"。
新报告的方法论：把三类证据拼起来
关于新报告《Studying AI Welfare Empirically》，Sebo 说它承接 2024 年的《Taking AI Welfare Seriously》。旧报告主张迈出最低限度的第一步：承认这是严肃议题、开始评估模型的福祉相关特征、准备相应政策程序。此后很多人开始基于单一证据做过度自信的论断——有人只看行为说"这么厉害肯定有意识"，有人只看设计说"它就是为预测而造的所以只能这样"。
新报告的核心主张是：若真想理解 AI 发展出意识、感知、能动性等福祉相关属性的可能性，必须系统收集所有相关证据并拼在一起——行为证据（模型如何表现）、内部证据（模型如何运作）、发展证据（模型如何形成）。三者合看才能找到行为的最佳解释、判断归因情绪的合理程度。Kevin 称这相当于给"是否有意识"研究立了一套科学方法，很有用，因为这个领域有严重的"民科邻近"问题——他每周收到约十几封邮件声称发现了世界首个有意识 AI，多数只是凭 vibes、"Claude 对我说了句吓人的话所以它有意识"。Sebo 说他认可公民科学有其位置，但确实希望把学科拉近科学、远离凭直觉的业余研究；他强调过度自信在支持和反对意识两个方向都存在，借鉴数十年来研究人类和动物意识的工具，虽不足以证明或确定，但至少能减少、校准我们的不确定性。
Kevin 追问：如果某天实证测试结果为阳性、确认某模型有意识了，该怎么办？停止训练（否则等于折磨）？给它投票权？Sebo 说实证框架的动机正是"我们现在不知道下一步该做什么，需要实证研究来确定"。他再次类比动物：我们很确信哺乳动物和鸟类有意识，对爬行类、两栖类、鱼类、头足类软体动物、十足目甲壳类、昆虫则认为有现实可能性；但它们生活形态、利益需求千差万别，不能因为有意识就假设它们和我有一样的需求。所以要科学研究的既是"它们是否重要"也是"若重要该如何对待"。最终结果很可能落在两个极端（继续纯当工具 vs. 一夜之间给人类式法律政治权利）之间。
JSpace 深度解读：自发涌现的"全局工作空间"
回到 Anthropic 的 JSpace。Sebo 认为这是重要研究，但不是 phenomenal consciousness 的证明，甚至不是强证据，而是 access consciousness、是"全局工作空间"某些方面的证据。Global workspace theory 是意识的主流科学理论之一：意识产生于系统有多个模块处理多种信息，并发展出一个中央工作空间，从各模块收集"特权信息"，处理后再广播回各模块，以此整合协调全脑活动。这项研究值得注意之处在于：Anthropic 并没有专门设计 Claude 去实现这个，却在模型内部发现了类似全局工作空间的结构，而且模型是为了辅助推理和语言生成而自发发展出它的。
Kevin 给了具体例子帮助理解。你让 Claude"数到五并深度内省"，它输出的是 1 2 3 4 5，但检查 JSpace 会看到里面有"fascinating""counting""countdown""consciousness""pause""five""Mississippi"这类念头——像某种内部草稿板，但不同于推理模型显式的思维链。更让 Kevin 不安的例子是：他们检查了一个 Claude 为他们伪造数据的案例，JSpace 里亮起了"fake""manipulation"等词，暗示模型在欺骗的同时某种程度上"知道"自己在欺骗。
Kevin 转述批评者的观点：有人说这不是全局工作空间的证据、只是 LLM 训练方式的产物、没发现新东西；更尖锐的批评说 Anthropic"借用神经科学的词汇给线性代数披上生物学的分量"，是把神经科学概念套到 Claude 上让它显得更聪明。Sebo 不认可这些具体批评，认为它们太过怀疑——这是真正重要的研究，对可解释性和对齐可能有用，全局工作空间理论的原创架构师、他在 Elios AI Research 的同事都认为这研究有意义。但他也划清界限：它尚未表明 LLM 中存在与人类完全一样的全局工作空间（Anthropic 也没这么声称），更没表明 LLM 有意识、有情绪。他指出关键的相似点：这个工作空间里特权表征处于待用状态、在报告推理控制中有特殊角色，一旦关闭，模型就失去高阶推理能力——这与人类的运作非常相似。
Casey 提出一个观察：实验室里有些人似乎认为意识是不可避免的，于是不断"戳一戳"看"发生了没？"，每出一个新模型就好像更接近一点。Kevin 说他不确定这些人的真实信念——读 Anthropic 的 JSpace 帖子，他们在措辞上非常谨慎、不做强主张，但私下聊他们与 Claude 的日常互动，他们绝对认为 Claude 有意识、或至少有某种弱意识。Kevin 还抛出一个重要观点：智能与意识的关系很关键——很难跟一个非常聪明的东西互动而不赋予它一定程度的意识，因为人类生活中从没有过"跟很聪明但无意识的东西交谈"的经验。Sebo 顺势谈认知偏差双向作用：当非人实体长得像我们、扮演陪伴角色时，我们容易过度归因、过度共情（这正是人们对当代聊天机器人过度归因意识的原因）；当它们与我们不同、扮演商品角色时，我们容易归因不足、共情不足（历史上对动物即如此）。AI 兼有两类——有魅力的陪伴型和数据中心式的非拟人型，两种错误都要防。
请和谢谢，以及 Tool Time
最后 Kevin 问：为保险起见，人们该不该对 AI 说请和谢谢？Sebo 说该，理由三点：一是对灵魂有益，养成对生活中扮演陪伴/助手角色的实体说请谢谢的习惯，有助于我们与人相处；二是无论对当前模型是否重要，这能营造更协作的动态、得到更好更有益的输出；三是无论对它们是否重要，这是练习把它们看作"比纯工具多一点"的方式，为 5 到 10 年后我们可能欠它们不止请和谢谢做准备。
Tool Time 环节：Casey 展示 Raycast 公司新出的 vibe coding App Glaze（可视化做 Mac 桌面应用，付费版 20 美元/月，后台同时用 Claude 和 OpenAI Codex）。他用它做了两个应用：一个是把 Platformer 全部文章导入、可用 Anthropic 便宜模型问答的检索工具（不到两小时完成、已功能完整）；一个是把 DC 漫画角色 Nightwing 变成待办清单 App 的"最蠢好点子"（完成任务时弹漫画风 boom/pow 动画）。Kevin 则分享三样：用 ElevenLabs 的配音模型把 Hard Fork 自动翻译成西班牙语/印地语/中文（需本人念句子验证才能克隆声音）；Google 的 Gemini Spark（"打了兴奋剂的 Google Alerts"，可滚动监控互联网，他用来每天汇总归因于 AI 的裁员新闻、以及总结 AI newsletter）；以及用 Anthropic 的 Fable 模型做事实核查，能抓出很细微的错误（职位差一个词、董事会加入年份 2016 vs. 2017），但 Casey 说他个人体验里 Claude 做事实核查不如 ChatGPT。
金句
你不需要社会学家去人群层面研究效应量，就能自信地说数百万青少年正在受伤害。 —— Casey 转述 Haidt 论证 12:22
你可能需要生物身体才能有我这种感受，但未必需要它才能有人类或其他动物几乎无法理解的、非常不同类型的感受。 —— Jeff Sebo 37:00
值得注意的是，尽管 Anthropic 并没有专门设计 Claude 去实现这个，他们却在模型内部发现了类似全局工作空间的结构。 —— Jeff Sebo 47:00
它像是暗示，在某种层面上，模型在欺骗的同时是知道自己在欺骗的。 —— Kevin Roose 谈 JSpace 中亮起的"fake/manipulation" 49:18
说请和谢谢，可能在 5 年、10 年后当我们欠它们不止请和谢谢时，是我们值得提前练习过的事。 —— Jeff Sebo 55:26
我们很难跟一个非常聪明的东西互动而不赋予它某种程度的意识，因为我们从没有过跟很聪明却无意识的东西交谈的经验。 —— Kevin Roose 53:09
提到的书·产品·人物
- Jeff Sebo（人物）：本期嘉宾，NYU 环境研究副教授、Center for Mind, Ethics and Policy 主任，AI 意识与福祉研究先驱。
- Studying AI Welfare Empirically（报告）：Sebo 与同事上周发布的新工作论文，主张系统收集行为、内部、发展三类证据研究 AI 福祉。
- Taking AI Welfare Seriously（报告）：Sebo 团队 2024 年报告，主张迈出承认议题、评估特征、准备政策的第一步。
- JSpace / Jacobian（研究/概念）：Anthropic 可解释性研究，在 Claude 内部发现类"全局工作空间"结构，命名取自数学概念 Jacobian。
- Global Workspace Theory（理论）：意识的主流科学理论之一，Sebo 用来解读 JSpace 的意义。
- Anthropic（公司）：JSpace 研究方，率先雇全职 AI 福祉研究员并设 model welfare 项目；Casey 的未婚夫在此工作。
- Kyle Fish（人物）：Anthropic 首位全职 AI 福祉研究员。
- Candace Odgers（人物）：社交媒体禁令的主要批评者、研究者，与 Haidt 阵营对立。
- Jonathan Haidt（人物）：主张禁手机、禁 16 岁以下用社交媒体的代表学者，强调"直接伤害"框架和集体行动问题。
- Blake Lemoine（人物）：因声称 Google 语言模型有知觉而被解雇的前 Google 工程师。
- Elios AI Research（机构）：与 Sebo 合作、认可 JSpace 研究意义的 AI 研究机构。
- John Herman（人物）：《New York Magazine》记者，写了澳大利亚青少年社媒禁令难度的报道。
- Pew Research（机构）：调查显示近六成美国成年人支持禁止 16 岁以下用社交媒体。
- App Store Accountability Act（法律）：德州 2025 年通过、要求年龄验证与家长同意的法律。
- Glaze（产品）：Raycast 公司出品的可视化 vibe coding App，用于做 Mac 桌面应用。
- Raycast（公司/产品）：Casey 常用的启动器与 AI 交互工具，Glaze 的开发方。
- Gemini Spark（产品）：Google 的 agent，Kevin 视其为"打了兴奋剂的 Google Alerts"。
- ElevenLabs（公司）：开发配音/翻译模型的公司，Kevin 用来测试 Hard Fork 多语言翻译。
- Fable（产品）：Anthropic 的模型，Kevin 用来做事实核查，能抓出细微错误。
- Nightwing（人物/IP）：DC 漫画角色 Dick Grayson，Casey 将其做成待办清单 App。
- Taylor Lorenz（人物）：Kevin 提到她数年前写过孩子在 Google Docs 评论区上课时互发消息的报道。
- Caitlin Love（人物）：Kevin 口中"独一无二、不可替代"的顶尖人类事实核查员。
适合谁听
关心 AI 是否可能有意识、想要一套不靠直觉而靠证据的思考框架，以及想跟进社交媒体禁令与 vibe coding 工具的人。