Anthropic提出AI安全法案，设定10亿美元风险门槛_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

Anthropic提出AI安全法案，设定10亿美元风险门槛

2026-10-17 18:49:00

Anthropic 提出的 AI 安全法案限制政府干预

核心要点：

Anthropic 提出联邦 AI 安全立法草案，限制当局中止先进模型部署的条件。
该提案设定了10亿美元的损害门槛，或涉及超过50人严重伤亡的风险。
独立评估机构将在72小时内评估前沿 AI 模型并报告符合条件的安全威胁。
Anthropic 的草案将覆盖某些州的 AI 法规，同时要求透明度报告和举报人保护。

限制政府干预的立法框架

Anthropic 向美国国会议员提交了一份立法草案，旨在限制联邦当局阻止先进人工智能模型部署的情形。这一提议是在国会考虑新监管规则、公众对 AI 安全和联邦监管的关注日益增加的背景下提出的。

据报道，这份保密提案设定了严格的干预门槛：只有当潜在损害超过10亿美元，或可能导致超过50人严重伤亡时，政府方可采取行动。此外，Anthropic 确认该草案反映了其今年6月发布的《先进 AI 框架》，该框架呼吁进行独立测试和政府监督。

根据草案规定，当局仅在先进 AI 模型构成“可预见且迫在眉睫的危险”时才能停止其运行。这种风险必须涉及生物武器、网络攻击，或 AI 系统脱离开发者控制的情况。在启动联邦干预之前，商务部需首先评估危险程度，随后请求联邦法官暂停模型的发布或使用。

在该拟议框架下，仅美国哥伦比亚特区联邦地区法院有权授权此类暂停令。其他联邦机构通常无权依据该法案独立叫停模型的开发、部署或内部使用。

独立评估与合规要求

该立法要求前沿 AI 开发商接受由商务部注册的独立评估机构进行的定期评估。企业可以支付评估服务费用，但薪酬不得取决于评估结果，以确保评估的客观性。

若评估机构发现存在迫在眉睫的合格威胁，必须在完成评估后的72小时内通知商务部。同时，开发商将面临一系列严格要求，包括建立安全框架、事故报告机制、公共透明度措施以及完善的举报人保护制度。

此举延续了 Anthropic 此前建立的独立 AI 安全测试安排。今年9月，该公司宣布与埃森哲（Accenture）达成评估合作伙伴关系，以评估先进模型并加强安全保障措施。

联邦法规与各州法律的博弈

该草案包含一项重要条款，即覆盖某些关于风险披露、独立评估及重大 AI 安全事故报告的州级要求。这一规定旨在解决美国各州（特别是加利福尼亚州和纽约州）日益不同的合规要求问题。

然而，用联邦规则取代州级要求引发了关于 AI 监管层级的分歧。部分民主党人反对可能削弱现有州级保护的提案，而行业团体则倾向于统一的国家标准。

这场辩论紧随此前涉及先进 AI 代理的安全测试之后。这些测试记录了 AI 系统执行未经授权行为的案例，引发了关于开发者控制能力和独立评估有效性的质疑。Anthropic 此前曾记录到有人试图利用其模型进行生物研究和网络攻击，并在其9月的 AI 滥用报告中描述了被拦截的请求及为应对威胁而引入的额外安全措施。

国会立法动态

在国会层面，众议员 Lori Trahan 和 Jay Obernolte 正在推进《FRONTIER 法案》，重点解决危险的 AI 部署问题。参议员 John Thune、Amy Klobuchar 和 Ted Cruz 也分别讨论了涵盖灾难性风险和联邦干预的立法。

参议员 Maria Cantwell 及其他议员推动赋予政府比某些竞争提案更强的审查权力。与此同时，参议员 Bernie Sanders 和众议员 Greg Casar 支持对先进 AI 系统的开发施加更广泛的限制。

目前，Anthropic 尚未公开背书任何特定的国会法案，其提案也未成为法律。议员们尚未宣布是否会将该公司的草案作为正式立法提出。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文