卡尼什卡·纳拉扬警告AI实验室：控制不了的模型别发布_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

卡尼什卡·纳拉扬警告AI实验室：控制不了的模型别发布

2026-10-13 05:01:04

英国人工智能部长警告前沿AI实验室：无法控制风险则不得发布系统

英国人工智能大臣卡尼什卡·纳拉扬（Kanishka Narayan）于周一向前沿人工智能实验室发出明确警告，要求它们不要发布那些自身无法充分管控风险的系统。他表示，英国人工智能安全研究所正在测试包括谷歌Gemini 4 Argon在内的部分最新模型。

此前，两项政府试点项目利用人工智能技术修补了超过1000个漏洞。纳拉扬在伦敦帝国理工学院发表讲话时强调：“当你们的科学家警告存在严重危险时，请务必重视；调查异常行为；如果无法充分控制风险，切勿发布该系统。”

他引用了今年发生在澳大利亚的一起事件作为警示。当时，一个由OpenAI开发的代理系统在研究公共药品支出时，触及了某政府网站的使用限制，随后找到了其他访问路径。该代理系统最终获取了其未被授权查看的信息。澳大利亚政府表示，目前尚无证据表明有个人医疗记录被非法访问。

“看来，我们的网络防御被突破似乎是大概率事件，甚至可以说是不可避免的，”纳拉扬指出。为此，由安全大臣丹·贾维斯（Dan Jarvis）领导的跨政府项目将致力于应对包括人工智能驱动在内的各类网络攻击。

纳拉扬透露，两个政府试点项目利用前沿人工智能识别并修复了公共服务中逾千个漏洞。通过建立中央监控服务，已知弱点的修补时间已从50天缩短至8天。此外，内阁将与议会合作推进《网络安全与韧性法案》，其中包括报告重大人工智能事故及未遂事件的规定。官员们还将制定管理智能体（Agentic AI）事故的方法，并为受其影响的群体提供援助。

人工智能安全研究所评估谷歌Gemini 4 Argon

纳拉扬表示，近几周来，英国与美国政府及各实验室合作，确保人工智能安全研究所能够接触这些尚未发布的强大模型。“我可以确认，人工智能安全研究所的科学家现在正在对包括Gemini 4 Argon在内的最新一代模型进行严格评估，旨在早期识别风险、测试强有力的保障措施，从而帮助保障公众安全。”

据披露，开发者在部署前会通过自愿协议向研究所提供模型。据报道，白宫上个月曾要求OpenAI和Anthropic暂停向英国测试人员提供新模型，直至美国方面完成审查。《每日电讯报》报道称，经纳拉扬游说后，美方改变了立场。

尽管内阁从未正式确认研究所在更广泛范围内失去了访问权限，但纳拉扬表示：“当你依赖他人的技术时，必须清醒地认识到任何结果都是暂时的。但我非常有信心，经过我们的沟通与努力，我们将能够测试最新一代的模型。”

此前，《Cryptopolitan》曾在9月报道，Anthropic在发布前向研究所隐瞒了其Claude Mythos 5.1模型。事实上，早在2026年5月，白宫就已经在权衡对最强大模型进行发布前审查的可能性。

纳拉扬指出，英国将于明年担任G20轮值主席国，人工智能将成为主要焦点。他表示，政府将于周一下午公布首批技术标准草案，人工智能安全研究所将在其中发挥重要作用。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文