核心要点
- 2.8万亿参数登顶:Kimi K3是史上最大开放权重模型,较上代跃升17位,在前端代码竞技场超越Claude Fable 5排名第一,另在品牌营销、数据分析、模拟等六个领域同时登顶,完整权重约7月27日开放下载。
- 架构无魔法:Alex指出K3公开架构仍是可识别的Transformer(混合专家+Kimi式线性化注意力),却几乎追平GPT 5.5 Max的成本-性能前沿,直接质问"美国前沿实验室的钱到底花在哪了"。
- 绕过芯片封锁:Emad揭示Moonshot仍用落后两代的H800训练,却通过muon优化器与数据配方实现约2.5倍的"数据到智能"转化效率,且模型已为华为昇腾910和阿里下一代芯片优化推理。
- 成本降至1%:Dave援引Keller Jordan speedrun经验——GPT-2复现成本已砍掉99%——K3证明同类思路在前沿规模同样成立,等于用不到1%的成本造出等价产品,"斯普特尼克是本世纪最保守的说法"。
- 估值腰斩再腰斩:Salim认为前沿智能已成保质期数周的易腐资产,叠加政府审查与开源替代,美国前沿实验室估值应较三个月前打75%折扣——OpenAI若值一万亿则只剩2500亿。
- RSI红线已过:Dave论证递归自我改进不需要爱因斯坦级智能,只需能改进自身kernel获得10倍加速即可;这条线在Opus 4.8时代就已跨过,回头看那是"火花点燃火焰"的时刻。
- 端侧智能爆发:Caltech初创Prism ML的Bonsai 27B以三值量化压到6GB、精度仅降5%,可完全在手机离线运行;Emad预测明年底Kimi K3级模型可跑在16GB内存设备上,智能成本再降百倍。
章节时间轴
- 0:00 开场:紧急播客的由来 — Kimi K3发布即登顶,美国迎来"AI斯普特尼克时刻",五位嘉宾全员到齐。
- 4:36 K3是什么怪物 — 2.8万亿参数、出口管制下炼成、七个领域第一,Alex分析架构"没有魔法"仍是Transformer。
- 8:27 中国制造式AI工程 — Emad类比中国电动车:数据配方+极致工程执行,H800上训练、为华为芯片优化。
- 12:17 帕累托前沿变天 — 从OpenAI-Anthropic双头垄断到自由竞争,K3成为成本-性能前沿第三名;Dave称成本可降至1%。
- 17:44 前沿智能成易腐资产 — Salim提出模型保质期只剩数周,价值转移到可换模型的架构层;实验室估值应打两五折。
- 23:53 RSI红线与政府管制 — Dave论证Opus 4.8已跨过递归自我改进线;习近平宣布全面支持开源,中国审批从60天缩至一周。
- 44:36 人才流失之痛 — Moonshot创始人杨植麟CMU博士毕业回国创业,众人激辩"博士学位应钉上绿卡"与美国移民政策失败。
- 53:08 发布节奏指向奇点 — 自4月中旬以来每10天一个前沿模型,Alex外推:明年1月将达到每日发布,等于"持续版本化"。
- 62:22 手机上的前沿模型 — Bonsai 27B三值量化跑上智能手机,讨论亚1比特量化、蚀刻硅片与光子计算的未来。
- 73:57 AI超级预测者 — 多个AI在ForecastBench上与人类超级预测者统计学上无差别,讨论心理史学、市场反身性与"智慧即服务"。
- 88:35 数据中心用水是伪命题 — 全美数据中心年用水170亿加仑,高尔夫球场是其31倍、加州杏仁种植是其60倍。
- 93:11 机器人格斗与安全 — 中国机器人MMA走红;Emad警告70公斤、出拳4倍于泰森的机器人上街毫无监管。
- [100:54] 太空数据中心之争 — Sam Altman称轨道数据中心本十年内不成规模,Alex指其利益冲突,Dave称两人数字其实一致。
- [106:17] AMA:K3十问 — 成本、估值冲击、开源封锁可行性、蒸馏疑云、是否benchmax等观众问题逐一作答。
详细内容
K3发布:一夜之间的斯普特尼克时刻
Peter开场定调:这是一期"发出蝙蝠信号"召集的紧急节目。Kimi K3由中国实验室Moonshot AI发布,2.8万亿参数,是史上最大的开放权重模型。过去一年该实验室连续推出K2、K2.6、K2.7逐步逼近Anthropic和OpenAI,而这次"不是缩小差距,而是直接翻过了围栏"——K3较前代跃升17位,在前端代码竞技场超越Claude Fable 5登顶,并同时在品牌营销、参考设计、数据分析、消费产品、模拟和内容创作六个领域排名第一。完整模型权重预计7月27日左右放出,届时任何人都能下载在本地运行。
Alex补充了两个被舆论忽视的事实:其一,Moonshot声称过去12个月中有9个月Kimi系列保持开放权重模型的最先进水平——"过去一年其实一直是Kimi的天下";其二,从已公布的架构看"没有魔法",K3本质仍是可识别的Transformer,只是在混合专家和线性化注意力上做了工程创新。一个普通Transformer架构就能几乎追平GPT 5.5 Max的任务成本前沿,这引出他反复追问的问题:"美国前沿实验室到底把钱花在哪了?"
Emad则强调关键在数据而非架构:Kimi一直是"感觉不一样"的模型,长期霸榜写作基准。K3是多模态模型(GLM虽好但只有文本),这也是它前端能力突出的原因之一。更重要的背景是:这一切是在美国出口管制、被禁用最先进Nvidia芯片的条件下完成的。
中国制造逻辑:像造电动车一样造大模型
Emad提出本期最有解释力的类比:造顶级大模型如今是"尖端制造业",就像"为什么中国电动车比福特好"。他举例上月英国销量第一的车是Jaecoo J7(外号"Temu路虎"),满配约5万英镑、只有同类三分之一价格。Moonshot知道原料配方,然后以极致的工程和可用性执行制造——他们仍在用落后两代的H800芯片,却通过静态张量形状等设计让模型适配华为和阿里的下一代芯片推理。
Dave从Keller Jordan speedrun(基于Karpathy的nanoGPT)切入:黑客社区已把复现GPT-2的成本砍掉99%。此前没人知道这些思路能否在前沿规模成立,K3证明了可以——"当Elon用160亿美元的Colossus 2训出10万亿、20万亿参数模型时,存在一个1%成本的等价版本"。他还向"硬核极客"解释了muon优化器的意义:原始训练集里大量是"Taylor Swift演唱会"式的垃圾token,剔除后同样"考验"模型但大幅减少浮点运算量,这个方向"远未挖完,还有更多10倍改进"。
Emad后来补充一个惊人对比:Kimi K3与Mira Murati的Inkling用的总计算量相同,但K3通过数据配方实现了约2.5倍的"数据到智能转化率"。而由于K3有500亿激活参数对3万亿总参数的稀疏结构,需要约2TB内存、64节点华为昇腾910集群才能服务;一旦Modal、Fireworks、Baseten等美国推理公司用Blackwell/Vera Rubin优化,价格将有10到100倍的下降空间——"研发去了中国,推理红利却回到美国",颇具讽刺意味。
估值冲击:前沿智能成了易腐资产
Salim提出全场最尖锐的商业判断:重点不是Kimi赢了谁,而是"前沿智能现在是彻底易腐的资产",保质期以周计。企业根本来不及走完评估、RFP、内部委员会流程,模型就已落后三代,因此价值将转移到"能随时换模型的架构层"(ExO体系中所谓interfaces)。他给出量化估计:政府审查让OpenAI万亿估值先砍50%,K3再砍50%——前沿实验室现在只值三个月前的四分之一;后续AMA中他坚持约75%的折价,"OpenAI若值一万亿,我给2500亿",剩余价值在可靠性、安全、集成工具和部署便利上。
Dave补充Palantir CEO Alex Karp上周在节目里的观点:大企业不能把全部专有数据和知识产权"扔过墙"交给Anthropic——而一周后K3就给出了路线图:任何企业、任何政府都能拿开放权重模型微调出垂直领域超越前沿的能力,无需经过美国模型。"斯普特尼克乘以无穷大。"
不过也有反方观点。Dave在AMA中认为大企业在关键场景(白领自动化、药物发现)仍会用最好的模型,"用AI设计汽车或火箭时,设计的微小改进回报巨大",Anthropic会拼命保持领先一步并维持高价。Alex也指出K3并未真正超越Fable 5,他和被投公司在Anthropic/OpenAI上的巨额支出不会转移,除非Moonshot拿出2-3倍甚至10倍更好的模型;K3带来的只是更多企业自托管。Emad则用药价类比:美国人为药付高价是因为研发都在美国,"其他地方有仿制药"——这比汽车更贴切,是99%的成本削减。众人还引用Gavin Baker在X上的"必读"帖:除基础模型实验室外的所有公司股票都是这次事件的巨大受益者,而半导体需求只会上升不会下降(Jevons悖论)。
递归自我改进与政府管制的失败
Dave提出本期最具历史感的论断:政府的策略是"等到模型能造出下一个模型时就不放行"——AI与汽车根本不同,把最先进的车给外国政府,他们造不出更好的车;把最先进的AI给出去,对方能用它追平你。政府一个多月前认定Fable 5过线并叫停,"但现实是Opus 4.8就已经过线了",中国人可以用Opus 4.8去造Kimi K3。他强调RSI(递归自我改进)不需要爱因斯坦级智能,只要能改进自己的kernel获得10倍速度提升即可,而"智能曲线在放缓但没有变平"——回头看历史,"Opus 4.8前后就是火花点燃火焰、火焰将成为太阳的时刻"。Kimi博客也提到K3为下一代设计了自己的芯片和运行kernel,Emad称这"感觉已经很AGI了"。
与此同时中国方向相反:Emad引述习近平昨天在上海世界AI大会的重要讲话——中国将全面支持开源作为"人类公共产品",不监管不阻止。动机清晰:十亿人智商即将被工具提升、机器人解决人口结构问题、"把清华毕业的中国教育大脑装进全世界每个关键系统"的软实力。中国监管审批从60天缩短到一周,还宣布成立包括巴西、亚非国家的监管组织——"新的一带一路是AI"。Salim感叹:"中国共产党在拯救美国资本主义于其自身,这是个诡异的未来。"
关于封锁的可行性,观点分裂:Alex认为通过要求上市公司披露任何中国开放权重模型的使用并加以审查,可以"事实上"封杀(他本人反对);他还透露现政府正探索在SEC下设立FINRA式前沿AI自律监管机构。Salim和Emad则认为完全不可行——权重可跨司法辖区镜像、P2P、VPN传播,封锁只会让美国研究者和初创公司落后于世界,"这和不让美国人买便宜胰岛素是一回事"。Emad调侃将来会有"反token洗钱条例"和"了解你的提示者(know your prompter)"监管。对Nvidia禁运本身,Alex和Dave一致认为是失败的:Dave用越战类比——"要么速胜要么不打,添油战术最糟糕",禁运"足以激怒但不足以奏效",反而催生了永不消失的量化研究成果。
人才之痛:杨植麟为何回到中国
Peter借Moonshot创始人杨植麟(Yang Zhilin)的经历重申他的老主张:"每个博士学位背后都应钉上一张绿卡。"杨在CMU(Carnegie Mellon)读博,美国培养了他,最终却回中国建立了Moonshot AI。
Alex做了功课后提出"叙事违背":杨2015年秋入学CMU,约一年后(2016年)就在中国创立了Recurrent AI,2019年毕业时手握Google、Facebook、华为等offer,回国是回到自己几年前已在中国注册的公司——所以这未必是美国拒绝挽留的故事。但他也承认存在反事实世界:如果移民政策激励他把Recurrent注册在美国,其精神续作Moonshot AI可能也留在美国。
Emad指出双重损失:博士留美的经济价值有多项研究可量化,而美国监管还禁止美国公司投资中国公司——Benchmark投Manus就惹了麻烦。Dave补充有趣数据:印度留学生压倒性留美,中国留学生约80%回国,因为回中国创业生态繁荣,回印度创业则"几乎没戏";他同时区分了大多数不认同CCP、只想在世界立足的中国学生,与个别被有计划安插进BAIR/大学项目收集特定知识的"受训间谍"(他讲了朋友任计算机系主任遇到的真实困境)。Salim给出结构性数据:70%的顶尖AI研究者不是美国公民,依次来自中国、印度、台湾和英国——"美国不修复移民制度是这个国家当下最大的问题之一。"Peter补充:早期xAI和Meta约50%的研究博士是华裔美国人。
量化革命:前沿智能装进口袋
与K3"往大做"相对,第二个故事是"往小做":Caltech孵化、Khosla Ventures/Cerberus/Google投资的Prism ML发布Bonsai 27B——第一个能完整跑在智能手机上的270亿参数级模型(基于Qwen 3.6 27B)。Emad解释核心是三值量化(ternary,三个取值,约1.58比特):模型压到6GB仅损失5%精度,压到4GB损失15%,且16位降到3位带来5倍速度提升。"你口袋里永远装着一个IQ 110-120的伙伴,不需要联网,比一个电子游戏还小。"腾讯(前Wizard LM团队,因微软不给算力出走)更实现了二值压缩,让3000亿参数模型在MacBook级设备上仅损失5%性能。
Dave透露他正大量投资这个方向:智能的底层计算一直是矩阵乘加(MAC),当权重只剩1/0/-1时乘法变得极其高效,更打开了新计算基底的大门——"我们会发现晶体、液体里都能计算",未来Dyson swarm上飞的可能不是Nvidia GPU而是"星际迷航式的晶体和全息"。Alex接着外推:Bonsai约1.125有效比特/权重,但通过稀疏化、低秩分解可以突破1比特下限——三星两个月前发布的NanoQuant已做到亚1比特,他预测明年内亚1比特量化将成主流,最终光子计算是归宿。Emad甚至立了个flag:量化终局是0.78比特/权重,细节将来公布。
Emad给出最实际的预测链条:K3开源后可做真正的logits蒸馏(不同于推理轨迹蒸馏),像Nvidia Nemotron那样把大稀疏模型蒸成小密集模型,再4位训练、三值/二值转换——"明年底你会有一个跑在16GB内存上的Kimi K3级模型"。三值模型甚至可以直接蚀刻进硅片(0就是没有通路),仅新芯片就能让智能成本明年底前再降100倍。Dave总结:三年内仅算力就有100到10000倍提升,叠加算法改进"现实地说是一百万倍"。
AI超级预测者与"智慧机器"
Peter介绍宾大政治心理学家Philip Tetlock的《超预测》(Superforecasting)与Brier评分背景:预测研究所(Forecasting Research Institute)最新数据显示,多个AI模型在ForecastBench上已与人类超级预测者"统计学上无差别"。排名第一的AI预测者来自英国初创Cassi(取名自不被相信的预言家Cassandra),创始人是曾在阿富汗服役的英国情报官。
Alex提出"超预测(hyperforecasting)接入资本市场"的思想实验:算法交易AI已按成交量主宰公开证券市场,当它们对人类的自回归建模好过人类自己——就像LLM预测下一个token快过人类说出它——预测将先发地塑造市场行为,"有效市场假说将加冕为王"。Salim将其推向组织层面:预算、招聘、产品发布本质都是预测,一旦AI预测达到专家水平,靠数十年领域经验支撑的高级管理层"基本蒸发",组织要更聚焦于目的(purpose)本身。Emad援引其著作The Last Economy:即将发表的论文用生成式AI的数学推导出全部经济学方程("连错误的方程都能推出来,并说明为何是极限情形");阿西莫夫《基地》心理史学把人群建模为气体,而气体方程正是扩散模型的方程。但他警告反身性与责任问题:不听"AI医生"建议保费上涨、不按FSD开车保费上涨——"如果我们都被'仁慈恩典的机器'看护,我们得知道那是谁的恩典。"
Dave则畅想AI作为人生教练对抗消费主义:Homer Simpson式的堕落链条里没有任何"明确决定",AI可以指出替代路径——"客观看,没有人的人生接近最优。"Peter转述Eric Schmidt旧话:Google其实知道哪些公司四季度会因搜索热度而股价上涨,"但只能干一次,然后就会被关掉"。
快评合集:水、机器人、太空数据中心
数据中心用水是伪命题:Lawrence Berkeley国家实验室数据,全美数据中心现场用水170亿加仑;而美国高尔夫球场自2024年以来灌溉用水5310亿加仑(31倍),加州杏仁种植一项就用1万亿加仑(60倍),Emad算出麦当劳一年20亿个巨无霸约耗水(每个600加仑)是高尔夫球场的两倍。Salim补刀:亚马逊仓库占地是全部数据中心的10倍。众人担心的是:驳倒水议题后,"愤怒的人群会转向下一个半理性但仍然错误的议题",最终形成核电式的"暂停"民粹——Peter归咎于好莱坞的反乌托邦叙事制造"恐惧的大流行"。
机器人格斗:中国150家人形机器人公司、Unitree等以"奇观"营销,机器人MMA视频走红。Alex表示"轻微恐惧"(联想斯皮尔伯格《A.I.》的flesh fair),更担心这些机器人进入解放军步兵序列,呼吁西方用更有生产性的竞赛追赶(他协助组织了波士顿Seaport的美国首个人形机器人迷你马拉松)。Emad警告:Engine AI T800级机器人重约70公斤、出拳力量是泰森4倍,"足以杀人却没有任何上街监管";Unitree至今只造了1.1万台人形机器人,几年后将是每年1100万台,"讨论必须现在开始"。
太空数据中心:Sam Altman称以当前发射成本,轨道数据中心"本十年内不会有规模意义"。Alex指出明显的利益冲突——OpenAI的Stargate已从自建改为租赁地面算力、IPO推迟,而Anthropic已与SpaceX AI签订Colossus及轨道算力合作;他预测OpenAI的口风会在2-3年内"准时"转变。Dave则点破:仔细听Sam的原话和Elon的发射节奏预测,两人数字其实一致——本十年末约几个百分点的算力在太空,然后曲线交叉。众人还盛赞Starship 13在T-0因2台猛禽未点火而安全中止、周一即可重launch的工程能力——90年代的火箭"会当场爆炸"。
AMA:关于K3的十连问
观众提问精选:成本——Emad指K3定价15美元/百万token(DeepSeek为1美元,Opus 40美元,Fable约60美元),但中国实验室毛利已达80-90%;K3当前完成同任务的token消耗是GPT 5.6的两倍,随着刚融资的Fireworks(估值170亿)、Modal和Baseten(各约100亿)用美国大芯片优化,未来几个月成本将降10-50倍。蒸馏疑云——Alex认为K3的表现"闻起来不像"主要靠对Claude的蒸馏攻击;Emad承认他们显然蒸馏过Opus等的数据,但"现在所有人都在互相蒸馏",且K3在前端/游戏/消费娱乐方向做出了原创的东西。Dave补充:不需要抄袭,"仅仅知道'高度扩展的Transformer+muon优化器+精简数据'这条路走得通,就能砍掉90-95%的研发成本"。是否benchmax——两周后开源社区会"往死里测",大概率不是刷榜;每家公司都该立即启动"自有模型还是信任API"的紧急评估,Salim建议同时部署K3与Inkling并用内部数据微调,"那个学习闭环才是专有的金子"。该不该封锁——Alex的条件性回答:除非法庭证明其权重来路非法,否则不该封;美国实验室应该反过来做出世界最好的开源模型,让"自由的兵工厂"而非CCP向全球南方"倾泻超级智能"。
金句
这周他们不是缩小了差距,而是直接翻过了围栏。 —— Peter Diamandis 0:00
为什么中国电动车比福特好?造顶级大模型就是尖端制造业,这感觉是同一回事。 —— Emad Mostaque 9:13
前沿智能现在是一种彻底易腐的资产——保质期只有几周。 —— Salim Ismail 17:44
人们以为RSI要到爱因斯坦级智能才触发,但它只需要能改进自己的kernel、获得10倍加速就够了。 —— Dave Blundin 24:40
信息想要自由,智能同样想要自由。任何试图约束它的实体、政府,永远、永远、永远会失败。 —— Salim Ismail 42:17
如果我们都被"仁慈恩典的机器"看护着,我们得知道那是谁的恩典——这场讨论现在就该开始。 —— Emad Mostaque 85:32
应该由美国这个"自由的兵工厂"向世界洒下开放权重的超级智能,而不是中国。 —— Alexander Wissner-Gross [123:19]
提到的书·产品·人物
- Kimi K3 / Moonshot AI(模型/公司):本期主角,2.8万亿参数史上最大开放权重模型,登顶七个领域,权重约7月27日开放。
- 杨植麟 Yang Zhilin(人物):Moonshot AI创始人,CMU博士,引发美国人才与移民政策大讨论。
- Claude Fable 5 / Opus 4.8 / Anthropic(模型/公司):被K3在前端榜单超越的标杆;Dave认为Opus 4.8已跨过RSI红线。
- GPT 5.5 Max / GPT 5.6 / OpenAI(模型/公司):成本-性能前沿的参照系;讨论其估值缩水与Stargate转租赁。
- Inkling / Mira Murati / Thinking Machines(模型/人物/公司):美国开源实验室新作,为企业内部微调设计,与K3总算力相同。
- muon优化器(技术):Moonshot与UCLA合作的训练优化器,精简数据配方大幅降低训练算力。
- Keller Jordan speedrun / nanoGPT / Andrej Karpathy(项目/人物):GPT-2复现成本砍掉99%的社区项目,K3证明思路可迁移至前沿规模。
- Bonsai 27B / Prism ML(模型/公司):Caltech系初创的三值量化模型,首个完整跑在手机上的27B级模型,基于Qwen 3.6 27B。
- NanoQuant / Samsung(模型/公司):突破1比特/权重下限的亚1比特量化模型。
- 腾讯 / Wizard LM团队(公司/团队):实现二值压缩,让300B模型跑在MacBook级设备上。
- 华为昇腾910 / 阿里巴巴芯片 / Nvidia H800/Blackwell/Vera Rubin(芯片):K3训练与推理的硬件背景,禁运与优化红利讨论核心。
- Fireworks / Modal / Baseten(公司):美国开源模型推理商,刚各融资约10亿美元,将把K3成本压低10-50倍。
- Gavin Baker(人物):其X长文被称"必读"——除基础模型实验室外所有公司都是K3受益者,硅需求只增不减。
- Alex Karp / Palantir(人物/公司):上周节目中警告企业勿把知识产权"扔过墙"给Anthropic。
- 习近平 / 世界AI大会(人物/事件):宣布中国全面支持开源作为人类公共产品,审批从60天缩至一周。
- Philip Tetlock《超预测》(Superforecasting)(书/人物):超级预测者研究,AI已在ForecastBench追平人类。
- Cassi(公司):英国初创,排名第一的AI超级预测者,创始人为前英国情报官。
- 阿西莫夫《基地》/ 心理史学(书/概念):人群如气体建模,Emad指其方程即扩散模型方程。
- The Last Economy / Emad Mostaque(书):Emad著作,用生成式AI数学推导经济学。
- Solve Everything / Peter Diamandis & Alexander Wissner-Gross(书/论文):多次引用的"解决一切"框架。
- Nick Bostrom《Deep Utopia》(书):关于后稀缺时代人类意义的讨论。
- Stable Diffusion(产品):Emad用自己四年前的开源经历类比K3将催生的生态爆发。
- Sam Altman / Elon Musk / Starship 13 / Colossus 2(人物/项目):轨道数据中心之争与Starship T-0安全中止的工程壮举。
- Blitzy / Fountain Life(赞助商):企业级自主软件开发平台;全身MRI早癌筛查(会员中3.3%查出未知癌症)。
- Unitree / Engine AI(公司):中国人形机器人厂商;机器人MMA与安全监管讨论对象。
- Eric Schmidt / Google(人物/公司):"Google知道哪些股票会涨但只能干一次"的往事。
- DeepSeek / GLM / Qwen(模型):中国模型价格与能力参照系。
适合谁听
关注AI竞赛格局、开源模型商业冲击与算力地缘政治的创业者、投资人和政策观察者。