山姆·奥特曼敦促AI实验室在美国政府行动前采纳安全规则_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

山姆·奥特曼敦促AI实验室在美国政府行动前采纳安全规则

2026-09-14 23:36:57

阿尔特曼呼吁前沿人工智能实验室在政府出台约束性法规前主动强化安全防线

OpenAI首席执行官山姆·阿尔特曼（Sam Altman）敦促前沿人工智能实验室在联邦政府引入具有法律约束力的监管规定之前，率先加强安全措施。他同时支持建立统一的联邦标准及外部审计机制，以提升行业问责力度。

阿尔特曼指出，随着日益强大的人工智能系统带来更复杂的风险，开发者必须承担相应的责任。他欢迎美国联邦政府构建一个框架，为所有开发先进人工智能模型的公司确立一致的安全标准。然而，监管程序的滞后不应成为企业阻碍自身在训练、评估和部署环节提升保护水平的理由。

此外，阿尔特曼支持由独立审计机构对实验室的安全实践进行检查，以判定其是否达到既定的开发标准。OpenAI此前已开发了“准备就绪框架”（Preparedness Framework），用于评估高级能力并确定现有安全措施是否足以降低潜在危害。由于强大的强化学习操作可能导致模型开发过程中出现显著的能力跃升，因此需要额外的保护措施。

OpenAI扩展前沿模型开发中的安全审查流程

目前，OpenAI在启动预期将带来显著能力提升的前沿强化学习任务之前，会编制明确的安全案例。这些评估旨在审查监控系统、安全控制措施以及评估方法，以确保能够有效应对高级模型训练中涌现的风险。

由此，安全团队能够在工程师完成或发布强大的人工智能系统之前，对开发决策施加影响。阿尔特曼鼓励其他实验室研究OpenAI的方法，并根据自身的技术特点和运营结构制定适合的安全策略。

阿尔特曼强调：“世界有理由相信，开发越来越强大的人工智能的美国公司将负责任地行事，尤其是在进步轨迹加速的背景下。每个前沿实验室都必须兑现这一承诺，如果我们无法做到这一点，就没有任何理由继续工作。”

呼吁行业共享标准：对齐、监控与评估

他进一步呼吁在整个人工智能行业建立覆盖模型对齐、安全监控和评估的共享标准。阿尔特曼澄清，规范人工智能的发展节奏并不意味着停止创新或阻止实验室改进有用的系统。他认为，竞争压力不能成为鲁莽开发的借口，也不能允许技术能力超越对齐系统和监控体系的范围。

联邦支持有望加强国际人工智能协调

国际协调是目前人工智能公司最需要美国政府提供实质性支持的领域。当开发者在不同法律、执法标准和战略优先事项的国家运营时，国内的安全措施可能提供的保护十分有限。

因此，各国政府可以建立协调一致的要求，在消除监管漏洞的同时，确保跨国界的人工智能负责任发展。自愿性的安全措施虽不能替代监管，但可以为立法者最终将其纳入可执行的联邦框架奠定基础。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文