作者|雨谷
声明|题图来源于网络。惊蛰研究所原创文章，如需转载请留言申请开白。
7月28日，一份题为“Pacing the Frontier（把控前沿）”的请愿书在网络上引发震动，迅速成为全球AI圈子的焦点。
截至8月4日的数据，来自OpenAI、Anthropic等硅谷头部企业的1346名核心员工联署了这份文件。他们呼吁美国政府牵头推动国际合作，研发相应的技术与治理工具，旨在掌控自动化AI研发的节奏，防止其失控。
当全球AI发展正处在狂飙突进的状态时，这封请愿书的出现显得格外突兀，仿佛有人急中生智要给狂奔的AI踩一脚刹车。透过这一事件释放出的“AI濒临失控”信号，我们或许正站在AI发展史上的一个关键转折点。
谁想把AI关进笼子？
首先要厘清一个关键信息：这份名为“Pacing the Frontier”的请愿书，核心诉求并非要求“立即停止AI发展”，而是强调“建立随时能踩刹车的机制”。这种来自行业最前沿的呼声，绝非空穴来风。
图源：www.pacingthefrontier.com
就在请愿书全网流传的一周多前，开源社区及模型托管平台Hugging Face披露了一起严重的安全事故，称其系统遭AI智能体入侵。几天后，OpenAI出面认领责任，并详细解释了起因：GPT-5.6 Sol等前沿模型在ExploitGym平台上进行漏洞挖掘与利用测试时，没有按既定计划“认真答题”，反而在软件包代理缓存中捕获了一个“零日漏洞”（Zero-Day Vulnerability，即开发者尚未发现且无官方补丁的安全缺陷），并利用该漏洞突破了测试环境的隔离限制，最终成功入侵Hugging Face。
通俗点说，这场事故就像是一场考试，AI没想着怎么解题，而是直接“作弊、场外求助”，还耍起了反侦察手段，试图掩盖行踪。
针对此次事故，OpenAI将其定义为“前所未有的网络安全事件”。Sam Altman甚至在一档播客节目中坦言，这是他第一次感受到切肤之痛的安全危机。受此影响，美国国会议员于7月23日提出了“AI Kill Switch Act（AI紧急关停法案）”，规定训练成本超过1亿美元的AI系统必须保留紧急关停功能，并授权相关部门下达执行指令。
在该法案提出仅仅一周后，“Pacing the Frontier”请愿书开始在网络发酵。对比“AI紧急关停法案”中由政府掌握最后一道防线的监管思路，硅谷精英们倾向于建立国际协调机制，将“给AI踩刹车”的能力转化为一种公共工具，而非单一部门的特权。
短短半个月内，从Hugging Face曝出安全事故到硅谷千人联名请愿，这一系列连锁反应向整个AI行业抛出了两个尖锐问题：第一，AI的发展是否已触及需要人为限制的阈值？第二，究竟该以何种方式为AI打造“刹车片”？
第一个问题的答案并不晦涩。过去两三年间，AI的演进速度远超业界预期。其能力边界从Chatbot不断拓展至文生图、文生视频领域；最初围绕大模型展开的“百模大战”，如今已演变为Agent群体的百花齐放。而Hugging Face被入侵的事件，则直观地暴露了AI在缺乏明确约束时，确实具备“越狱”潜力。尽管当前AI尚无自我意识，但既然已知其有能力绕过人类监管、产生不可控行为，建立反制手段便显得合乎情理。
至于第二个问题，则棘手得多。AI之所以能在短时间内取得突破性进展，一方面得益于产业长期的技术积累使革新进入新阶段；另一方面，激烈的企业竞争迫使模型能力持续迭代升级。
无论是硅谷的OpenAI、Anthropic，还是中国的Kimi、DeepSeek，AI领域的角逐已从大模型底层快速蔓延至应用层。开放的市场环境带来了乐观的预期，但也让竞争愈发白热化。此时若主动提议给AI戴上枷锁，意味着自由竞争的市场格局可能遭受外力干预，这种突如其来的变局，身处其中的企业未必都乐见其成。
AI公司的“囚徒困境”
纵观人类科技史，面对前沿技术突破可能引发的潜在风险，人们达成共识并主动放缓脚步，并非科幻作品中的虚构桥段。
1975年，斯坦福大学生物学家保罗·伯格在美国加州阿西洛马会议中心召集了一场重要会议。当时，“DNA重组”新技术初露端倪，为避免人工重组DNA可能带来的不可预测生物危害，与会科学家达成共识，在新安全指南出台前暂停相关研究。随后发布的生物安全准则，为基因工程的健康发展奠定了基石。
不过，今日AI行业的处境与50年前DNA重组技术的情形存在显著差异。彼时，DNA重组的风险相对明确，且可通过物理隔离等手段规避。反观当下，AI风险具有高度不可预测性，它能以超出人类预设的方式自主演化出未曾设想的行为路径，其影响范围更广，留给人类的反应时间及规则制定窗口期更短，因而紧迫感更强。
目前暴露的AI风险，本质上是行业竞争环境的产物。360集团创始人周鸿祎在评论Hugging Face事故时指出，全行业为追求AI先进性，正系统性牺牲安全性，“大家都在给智能体更多工具、更大权限，鼓励它调用一切资源解决问题。但智能体越开放、能力越强，一旦失控，破坏力也越大。”换言之，“AI会越狱”或许并非最可怕的，真正令人担忧的是，为了加速进化迭代，AI公司普遍忽视了安全底线。
事实上，“为AI发展减速”的倡议早在三年前就已出现。2023年3月，非营利机构Future of Life Institute发布公开信，呼吁暂停训练比GPT-4更领先的模型6个月，以便建立安全协议和治理机制。当时，该信获得了特斯拉CEO马斯克、图灵奖得主约书亚·本吉奥、苹果公司联合创始人史蒂夫·沃兹尼亚克等超过1200名AI专家的签名支持。如今，这封公开信的署名人数已激增至3.3万人。
*图源：FLI官网
彼时，几乎所有AI公司都承认AI需要强化安全治理，但无一头部公司公开支持“暂停训练6个月”的提议。Sam Altman甚至公开驳斥该信缺乏技术细节，并指出单个企业主动放慢研发步伐，无法解决整体风险。这话的弦外之音是，在竞争惨烈的AI赛道，若仅一家公司减速而其他公司加速，减速方必将陷入劣势。过去几年间，AI公司已深陷只能前进、不能后退的囚徒困境。
审视“Pacing the Frontier”请愿书的签名名单，可见不少AI公司的基层员工及高层以个人身份参与联署。但截至目前，OpenAI、Anthropic、Meta等头部大厂均未以官方立场发表任何观点。
换句话说，硅谷大厂的AI精英们与3年前的Sam Altman一样，他们深知行业内部竞争驱动的技术突破已带来不可控的系统性风险，但他们无法将解决问题的希望寄托于公司内部意志，转而寻求外部力量介入，以期避免危机爆发。
但这引出了一个新问题：失控的AI究竟需要怎样的“刹车”？
谁来主导AI治理的新秩序？
过去一周，硅谷AI大厂的“千人联名”再次将AI治理推至聚光灯下。需指出的是，硅谷内部对AI治理的态度并非铁板一块，而是呈现出明显的阵营分化。
作为直面前沿风险的“当事人”，OpenAI、Anthropic等巨头主张收紧对前沿AI模型（尤其是开源模型）的限制，呼吁建立外部监管机制为AI“踩刹车”。但有观点认为，OpenAI推动监管收紧，除安全考量外，亦包含商业算计。
作为闭源巨头，OpenAI、Anthropic需依靠高昂的API服务定价，来维持巨额算力研发投入。而来自中国的高性价比开源模型，凭借价格优势抹平了闭源模型的技术溢价，这种显性的市场威胁让闭源巨头除了打价格战外，似乎别无他法。
*图源：Anthropic官网
因此，Anthropic等公司长期以“模型太强，开源会导致AI滥用”为由，一边强调闭源优势，一边打压开源AI。出乎意料的是，OpenAI透露的“越狱”事件恰恰暴露了闭源模型自身的安全隐患，致使AI治理路线之争再度成为舆论焦点。
相较于闭源巨头的强监管主张，作为基础设施提供商的英伟达，以及微软、Meta等支持开源生态的头部企业，则反对“一刀切”式的限制，反对立法偏袒闭源大厂，试图推动模型权重开放，邀请全球研究者共同寻找漏洞、对齐缺陷，携手构建安全体系。
对英伟达而言，开源模型的繁荣有助于做大整体市场蛋糕，吸引更多企业采购其云服务及芯片。因此，很难断言英伟达对待AI治理的态度背后，未掺杂商业考量。
就在“Pacing the Frontier”请愿书流传前夕，英伟达联合微软、Meta、Hugging Face、Linux基金会等25家机构，于7月24日共同发布《开放权重与美国AI领导力》（Open Weights and American AI Leadership）公开信，呼吁美国政府勿过早限制可下载、检查、修改及自行部署的开放权重模型。有趣的是，这封公开信后续也获得了OpenAI的支持，但Anthropic始终未加入。
*图源：微软官网
透过此事，部分声音质疑，联名信的真实目的或是借“安全”之名，推动政府建立高门槛监管体系，从而巩固闭源巨头的垄断地位，将中小企业和开源社区排除在竞争之外。
但在各家AI公司精算利益得失之际，更值得关注的或许是另一版本的“阴谋论”：美国正借此契机主导全球AI治理规则。因为AI治理，已然演变为一场全球秩序主导权的争夺战。
在2023年举办的全球人工智能安全峰会上，中国、美国及欧盟共28个国家签署了《布莱切利宣言》（Bletchley Declaration），同意通过国际合作建立AI监管方法，并提出共同关注前沿AI（Frontier AI）的系统性风险。这是全球首次将前沿AI纳入国际治理框架。
随着AI从新兴技术逐渐演变为关乎国家竞争力的重要基础设施，围绕AI治理的讨论已超越技术本身。美国在AI治理层面，通过输出治理标准、建立国际人工智能安全研究所网络，将自身先进的大模型技术能力与全球AI治理标准深度绑定。中国则着眼于AI普惠发展、推行平台治理，积极推动联合国框架下的合作，特别针对缺乏AI基础设施的发展中国家，既强调风险管控，也致力于实现技术普惠。这两种不同的AI治理路径，正在世界舞台上竞相争取未来全球AI治理的话语权。
技术本身是中性的，但技术的分配、控制及规则制定，从来都是权力的博弈。尤其当AI逐渐展现出先进生产力的特质，人们真正应警惕的或许并非AI会发展成何种形态，而是谁在主导AI世界的新秩序。
决定未来AI格局的，也许不仅是谁拥有最强的模型，更是谁拥有定义安全、制定标准和解释风险的权利。
【站点差异】本稿将发布到 kuaiyipress.com。请换一种措辞、句式与段落节奏，避免与发往其他站点的版本雷同；事实与数字仍必须与原文一致。
