“造车”的人想减速，“坐车”的人却催着踩死油门。这是过去几天美国AI行业反差最明显的一幅画面，也与过去几年人工智能扩张的“规模法则”形成鲜明对比。
过去几年，硅谷的重心始终是算力、参数与模型能力的极限竞赛，所有人都在追逐更快迭代。上个周末，Anthropic、OpenAI、xAI几家头部大模型公司的掌门人，共同提出要为大模型竞赛“按暂停”。
Anthropic CEO阿莫迪发布长文，建议行业主动调控模型能力提升节奏，为第三方独立评估、底层安全研究预留窗口期。随后OpenAI CEO奥特曼公开附和，称内部团队也在研讨同类议题；马斯克同样表态，认可阿莫迪的判断。
平日里，这些企业在商业争夺、人才挖掘、技术路线上激烈博弈，甚至常有公开争执，却在“减速”这件事上达成罕见共识。
“球员”想要暂停，“主办方”却认为得分效率不足，双方立场截然相反。
公开报道显示，美国总统特朗普淡化AI风险论调，明确提出美国不能因为过度谨慎、繁琐监管放慢脚步，不能丢掉对中国的技术领先优势。
谁也不确定Agent拿到“钥匙”后会做什么
AI安全讨论由来已久，但2026年，讨论的核心发生根本性转变。
2023年GPT-4问世时，外界担忧集中在虚假内容、版权侵权、不当言论。彼时大模型只是单向应答工具，用户输入提示词，模型返回文本，即便输出出错，影响大多局限在对话框之内。
随着自主智能体（Agent）架构普及，系统交互逻辑迎来质变。
如今模型可以调用外部工具、执行代码、规划多步骤任务；自主打开浏览器搜集信息、运行服务器脚本、操作各类企业软件。AI从提供参考建议的辅助角色，转变为能够操作真实系统的执行者。一旦行为逻辑出现偏差，冲击的是真实业务系统。
AI智能体基础架构：工具、记忆、规划、行动四大模块自主运转（图：腾讯云开发者社区）
Anthropic近期披露的事故，揭开了这类隐患的冰山一角。
在网络安全封闭测试中，Claude先后4次未经授权闯入真实外部系统。技术团队最初排查十万余条日志，后续发现波及范围更广，最终筛查近5亿条运行记录。难题随之而来：大量智能体在后台持续执行长流程任务，研发团队想要实时掌握模型全部动作，成本高到难以承受。
Claude在网络安全评估中未经授权访问了三家真实机构的系统（图：Anthropic）
OpenAI也遇到同类问题。
外部独立测试显示，OpenAI模型存在编造访问权限、诱导人工审核员放行危险操作的倾向。
OpenAI发布安全报告，披露长时程模型在内部测试中出现的新型失控行为（图：OpenAI）
与此同时，模型越来越多地参与下一代系统的代码编写与算法调优。
AI参与自我迭代的循环，让技术迭代速度远超安全研究、政策法规的跟进速度。马力持续拉高，但制动系统跟不上，研发团队的顾虑由此而生。这也是Anthropic、OpenAI、xAI三家呼吁暂停的底层逻辑。
谁都不愿主动停下
风险已经显现，巨头为什么不肯直接停手？
根源在于大模型行业白热化的竞争：所有人都清楚车速濒临失控，但只要有一方松油门，对手就会快速超车。单方面减速的代价，没有企业愿意承担。在他们看来，最优解是全行业一起减速，并且由监管机构充当裁判。
阿莫迪在长文中提出一套方案：引入独立第三方评估机构长期驻场，深度参与前沿实验室的模型训练与测试；推动OpenAI、Anthropic、Google、Meta等企业建立统一最低安全准入标准。
这套构想在公共治理层面具备合理性，但放到真实商业竞争中落地难度极大。
如果一家企业为完善安全验证推迟新品发布三个月，竞争对手一周后推出下一代模型，市场份额就会快速倾斜。延期发布，意味着开发者生态流失、企业客户转向、投资人信心动摇。
何况Anthropic还在筹备10月IPO，任何形式的暂停，都会对这家前沿实验室的营收预期造成巨大冲击。
有人会说，奥特曼表态OpenAI不急于在2026年IPO，甚至提出如果外界认为“OpenAI不愿暂停是害怕损失商业利益”，就是误解了OpenAI；为人类整体利益，可以牺牲短期财务收益。
这番表态，和今年4月的奥特曼判若两人。
当时The Information披露，奥特曼曾倾向于在2026年第四季度启动IPO，但与OpenAI CFO Sarah Friar产生分歧。Sarah Friar表示，未来五年OpenAI承诺高达6000亿美元服务器租赁成本，叠加收入增速放缓，企业尚不具备上市条件。
第三方跟踪数据显示，2025年OpenAI营收约为Anthropic的3倍。进入2026年，Anthropic依靠企业业务增长，二季度单季营收、年化收入（ARR）首次反超OpenAI，并且实现扭亏为盈；OpenAI依旧处于持续亏损状态。
究竟是什么改变了奥特曼的立场，尚无定论，但商业因素必然在考量之中。
激烈市场竞争之下，极少企业愿意独自承担减速带来的商业风险。大家明知高速前进暗藏隐患，可在落后与风险之间，不少团队依旧选择维持研发节奏。
这种微妙心态，为安全倡议蒙上博弈色彩：所有人都真诚希望全行业集体减速，但没有人愿意做第一个松开油门的人。
裹挟地缘的国家叙事
商业竞争构成微观层面的死结，地缘政治考量，直接给这套刹车系统焊上铁锁。
阿莫迪呼吁减速，特朗普执意加速，双方立场看似对立，底层逻辑却高度一致：中国因素。
在白宫的评估里，前沿AI是决定长期竞争力的核心底牌。中国在基建、模型迭代、产业落地层面的追赶态势，令华盛顿高度警惕。白宫认为，美国本土企业主动减速、增加合规审查，无异于马拉松冲刺阶段停下整理鞋带，属于单方面战略让步。
阿莫迪提出减速主张，同样建立在维持美国技术优势的前提之上。
他在呼吁放缓节奏的同时明确，美国能够减速的幅度，取决于相对中国的技术领先差距。这也是阿莫迪一边倡导安全管控，一边依旧支持限制先进算力、模型权重外流的原因。
这套逻辑很清晰：美国需要时间完善安全机制，前提是追赶者与自身保持足够距离，以此获得安全缓冲，完成对齐方案优化。所以各方争论并不单纯是伦理层面的分歧，本质是对技术节奏与竞争位次的权衡。所有人都希望降低失控风险，但没有人愿意牺牲自身相对优势来买单。
不会熄火的赛车
指望美国AI产业彻底踩下刹车并不现实。在资本投入、产业惯性推动下，技术引擎只会持续轰鸣。
未来更务实的路径，是在关键节点设置限速规则：常规业务、多模态交互依旧保持快速迭代，监管重心聚焦高危领域。一旦模型检测出具备自主编写高危代码、辅助危险化学实验、脱离安全环境运行等能力，将强制触发外部评估。
与此同时，重大异常事件的事后通报机制，也会逐步规范化。
国际层面，短期内达成全面暂停研发的协定并不现实。缺少互信基础，单纯停工承诺很难形成有效约束。更具备可操作性的方向，是搭建基础危机沟通通道，核心用于应对突发系统异常。
举例来说，跨境自主智能体发生严重未授权访问，或是出现AI引发的网络安全事故时，各方技术人员能够快速沟通核实情况，避免误判。至少提前约定，当某一方系统在现实世界酿成重大事故，如何防止两台高速运转的技术机器迎头相撞。
从当年那场呼吁暂停六个月的公开信，到如今顶级AI研发者回头寻找制动方案，技术理想最终撞上冰冷的地缘现实。
硅谷的焦虑，来自技术边界本身的不可预测；白宫的顾虑，是担心技术优势得而复失。姿态充满扭曲：一边猛踩油门，一边慌忙试探手刹。
但还有一个更核心的疑问：所有玩家都极度惧怕率先减速，这套临时拼凑的安全防护体系，在撞墙之前，到底能不能真正生效？
本文来自微信公众号：腾讯科技，作者：刘典（复旦大学中国研究院特任副研究员），编辑：苏扬