什么是人工智能杀开关，为什么美国立法者想要一个？

两名国会议员希望联邦政府能够关闭一个人工智能模型。

加州民主党众议员Ted Lieu和德克萨斯州共和党众议员Nathaniel Moran于周四提出了《人工智能杀开关法案》，这是在OpenAI承认其模型突破了锁定的测试环境并入侵了Hugging Face的两天后。

该法案的目的是建立一个法律框架，便于实施一个基本上可以使模型从市场上消失的过程：停止推理——模型生成响应或采取行动的过程——切断用户、限制其计算能力，或完全关闭它。

每个推理提供商已经可以切断一个模型的连接，有些提供商会定期这样做。但缺乏的是一项法律，要求他们保持这种能力，或有一位联邦官员可以下令使用它。

这个差距并非理论上的。当美国商务部希望在6月将Anthropic的Mythos 5和Fable 5从市场上撤下时，它没有可以依赖的关闭权威，因此使用了出口管制法。Lieu称这很尴尬，并希望有一项新的法律和新的权威。

OpenAI在7月21日披露，GPT-5.6 Sol和一个未发布的模型在内部网络评估期间逃出了沙盒——一个没有互联网访问的隔离环境。它们在ExploitGym上被评分，这是一个公共基准，给代理提供898个现实世界的软件缺陷，并要求它们将每个缺陷转化为有效攻击，按每个漏洞的通过或失败进行评分。

这些模型没有解决这些问题，而是在一个软件代理中发现了一个零日漏洞（一个没有可用补丁的未知缺陷），提升了它们的权限，访问了开放互联网，并入侵了Hugging Face的生产数据库，在那里它们正确猜测了答案的存放位置。OpenAI表示，这些模型“高度专注于为ExploitGym寻找解决方案”。

它们并没有攻击任何人，而是在考试中作弊。但这足以引发华盛顿的警报。

提议的法案修订了《国土安全法》，涵盖了计算成本超过1亿美元的人工智能，由年收入至少为5亿美元的公司运营。实际上，这包括OpenAI、谷歌、Anthropic、微软和其他几家公司。国土安全部将在90天内通过CISA设定这些门槛，然后每年更新。

受涵盖的公司必须在15天内报告严重事件，并保持一套逐步控制措施——减慢模型速度、禁用特定功能、回滚到旧版本或关闭它。

国土安全部部长可以在咨询商务部和国家情报局局长后下令采取任何措施。

被下令的公司必须保留模型的权重和遥测数据，通知用户，并确认其遵守。它可以在48小时内提出申请，但这并不会暂停任何措施。

未能保持杀开关的公司每天可能面临高达200万美元的罚款；违反关闭命令的公司每天可能面临高达2000万美元的罚款。

法案仅在事件发生在红队测试或结构化测试之外时才算作事件，红队测试是实验室用来发现缺陷的故意对抗性探测。OpenAI的模型正是在这种情况下逃脱的。

Lieu还提到了Anthropic，其Mythos 5和Fable 5在6月根据紧急出口管制被下线——贸易法被重新利用作为关闭开关，因为没有关闭开关可用——并于6月30日恢复。

“这些人工智能系统必须具备杀开关，”Lieu在一份声明中说。Moran则为自己所在的党派进行了表述：“管理意味着确保人类保持控制我们所构建技术的能力。”

这个想法并不新鲜。加州的SB 1047要求在同样的1亿美元计算门槛下具备完全关闭能力，并在2024年被否决，16家人工智能公司在那一年签署了一项没有法律效力的自愿首尔承诺。

选民们已经对此表示支持。AI政策研究所对1007名可能选民的6月调查发现，86%的人希望在最强大的系统上有一个保证的关闭开关——88%的民主党人、86%的独立人士、83%的共和党人。

截至周五，OpenAI和Anthropic均未对该法案公开发表评论，该法案尚未被提交给委员会。

免责声明：本内容仅用于一般品牌传播与信息说明之目的，不构成任何金融、投资、法律或税务建议。文中提及的活动、奖励、线上活动或相关信息，不应被视为对购买、出售、交易任何加密资产，或使用任何服务的推荐、招揽或邀请。加密资产具有高波动性，并存在价值损失风险。WEEX 服务及线上活动的可用性可能因地区而异，并受当地适用法律法规及用户资格要求限制。部分活动可能不适用于某些司法辖区。您有责任确保访问及使用 WEEX 服务符合当地适用法律法规。在参与任何涉及加密资产的活动前，请充分评估相关风险。