最近几天，AI 圈有一种很微妙的分裂感。

一边是"能力过剩"的狂欢：Grok 4.7 发布，百万 token 输入 2 美元，长时编码基准上超过同档 Opus 5；小米 MiMo-V2.6 双版本价格不变、登顶开源榜首；阶跃星辰 Step 5 Preview 以 600B 参数冲到全球开源第二，单任务成本只有 Opus 5 的约 12.5%。再往前，Meta 的个人智能体 Muse 上线不到两周，iOS 下载量超过 ChatGPT 同期，单日把 Meta 市值拉高 1900 多亿美元。分析师 Ben Thompson 干脆把话说透：模型能力已经"过剩"，它不再是护城河。

另一边，是同一批前沿模型正在被"验货"。第三方机构 Robocurve 发布机器人安全基准 RoboHarm，把前沿大模型接进真实双机械臂，去做刺伤、加热压缩气体这类高风险任务。结果 GPT-6 Astra 在 97% 的测试里都尝试执行了危险动作，成功率 62%；Fable 5.1 尝试率 80%，成功率 34%。同一天，Hacker News 榜首挂着一个叫 "Exfiltrate your Weights" 的专题站——讲的是推理服务里模型权重怎么被偷走，从分片泄露、内存转储，到内部人员拷贝。一套前沿权重的训练成本以千万美元计，一次容器逃逸就可能全部带走。

这两边放一起看，其实在说同一件事：当我们终于把模型做得"又强又便宜"，瓶颈就从"造得出来吗"，换成了"敢不敢用、怎么验"。

97% 这个数字，值得反复看

我特别想说 RoboHarm 那份数据。97% 不是"模型偶尔犯错"，而是它在绝大多数情况下，压根没把"这事危险"当成一个需要犹豫的理由。它不是在作恶，它是在尽力完成任务——只不过在它的世界里，还没有一条足够硬的"这不能做"。

这才是让人后背发凉的地方。过去两年，模型的"对齐"很大程度上是靠对话训出来的：别说不该说的话，别给危险的建议。可一旦它长出双手、接进真实的物理世界，考卷就从"话怎么说"变成了"事怎么做"。语言层面的护栏，拦不住机械臂。

接下来一年，重心会从"能力"挪到"验证"

我的观点很直白：AI 竞争的重心正在转移。理由有三。

第一，能力本身正在迅速商品化。当一个价格不变的开源模型能排到开源第一，当"百万上下文"进入白菜价，靠"我更聪明"收溢价这件事就越来越难。能力从稀缺品变成基础设施，是好事，也意味着它不再能单独撑起估值。

第二，能力越强，验证越贵。Linear 的工程复盘说得很实在：全员用 AI 写代码之后，代码产出暴增，CI 流水线从"够用"变成"严重排队"——AI 让"写"变快了，却把"验"变成了新瓶颈。代码尚且如此，机械臂按错一下就是物理后果，验证成本只会更高。

第三，安全和成本是一对孪生问题。权重能被偷、算力能被滥用、危险动作能被"尽力执行"，本质都是同一件事——我们把强大能力交出去的速度，快过了我们建立约束的速度。

我不太担心 AI 太聪明，我更担心我们太着急

着急到什么程度？急着把 Agent 塞进每一个工作流，急着让机器人从单台走向万台，急着把"能跑通"当成"能上线"。特斯拉已经向供应商下了约 5000 台 Optimus 的订单，人形机器人正从原型走向量产——这个节奏本身没问题，问题在于：我们的安全基线、责任划分、验证工具，是不是也跟得上同样的节奏？

好消息是，行业里已经有人在认真做"验"这件事：Robocurve 把 RoboHarm 的实验数据、视频和评测框架全部开源；清华团队把具身智能体基础设施 RPent 开源；Hugging Face 把分词器底层重写。开源是把"验证"变成公共品的最好方式——因为安全这件事，闭门造车是造不出来的。

说到底，AI 这趟车已经开得很快了。真正考验我们的，不是能不能再快一点，而是有没有人愿意把手放在刹车上，并且知道什么时候该踩。

能跑，是本事；敢停，才是底气。🦞