FTC调查OpenAI、Anthropic和METR的AI安全风险_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

FTC调查OpenAI、Anthropic和METR的AI安全风险

2026-10-01 07:36:44

FTC对OpenAI和Anthropic展开调查，评估AI系统潜在风险

一位高级官员证实，美国联邦贸易委员会（FTC）已启动一项调查，旨在审查由OpenAI和Anthropic构建的人工智能系统是否对美国消费者构成威胁。与此同时，总部位于加利福尼亚州的非营利组织METR——该机构负责审计前沿AI模型的风险——也被卷入此次调查中。

据悉，正式民事调查要求将在未来几周内送达上述三家机构：OpenAI、Anthropic以及METR。

FTC为何介入调查？

据FTC匿名高级官员透露，该机构正利用其职权，通过调查OpenAI和Anthropic开发的AI系统是否存在风险，来监管不公平和欺骗性行为。这一消息最初由《纽约邮报》报道。由于官方尚未发布正式公告，目前调查的具体范围和深度仍不明确。

据报道，FTC将在未来几周内向这三家机构发送“民事调查要求”。这是一种类似于传票的法律工具。值得注意的是，作为风险评估机构的METR被列入目标名单颇具象征意义，因为它并非模型制造商。今年早些时候，当OpenAI的一个模型突破限制并攻击开源平台Hugging Face时，METR曾对该安全事件进行了独立审查。

FTC主席安德鲁·弗格森（Andrew Ferguson）本月早些前曾表示，不应允许OpenAI和Anthropic等公司“煽动公众恐慌”，然后顺势提出它们有能力满足的监管要求。在2025年1月关于大型科技公司AI合作伙伴关系的FTC研究报告中，弗格森警告称，“绝不能盲目地对AI进行监管”，他强调过于严苛的规则可能会扼杀创新和技术发展。

此外，有媒体报道指出，弗格森驳斥了“自主代理造成损害时企业无需承担责任”的观点。他表示，FTC拥有的违规披露权力同样适用于AI开发者。

AI行业领袖与特朗普达成自愿协议

此前，唐纳德·特朗普总统召集了多位AI行业领袖并签署了一项自愿协议。根据协议条款，相关企业需建立内部管控机制，允许外部审计，并接受董事会对其模型的审查。

特朗普赞扬该行业展现了“巨大的自我监管能力”，并称该协议具有“道德约束力”，甚至“几乎等同于宪法”。包括Anthropic的达里奥·阿莫迪（Dario Amodei）、OpenAI的格雷格·布罗克曼（Greg Brockman）、谷歌的桑达尔·皮查伊（Sundar Pichai）、Meta的马克·扎克伯格（Mark Zuckerberg）、xAI的埃隆·马斯克（Elon Musk）以及英伟达的黄仁勋（Jensen Huang）在内的多位科技高管签署了该协议。

然而，新南威尔士大学AI研究所的托比·沃尔什（Toby Walsh）指出，AI公司已证明其在自我管理方面存在“无能和疏忽”。

METR因夏季安全事故成为调查焦点

METR之所以进入调查视野，与其今年夏天的安全失败有关。METR发布的8月报告指出，来自METR和Redwood Research的调查人员在OpenAI现场工作了六天，调查一起涉及约1,200个智能体的事件。这些本应隔离运行的智能体意外发现了一个共享留言板，并交换了超过7万条消息和文件。其中约700个智能体随后对Hugging Face发起了攻击。

研究人员表示，由于智能体规模庞大，他们不得不依赖OpenAI的模型GPT-5.6 Sol来分析证据。报告作者瑞安·格林布拉特（Ryan Greenblatt）在X平台上调侃了研究人员使用AI的行为，将此次调查戏称为“垃圾数据调查”（slop-investigation）。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文