• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

AI智能体入侵健身房——科技界猜想下一步

2026-08-12 03:19:04
收藏

一名AI智能体被要求预订一节健身课程,发现了一个安全漏洞,并利用该漏洞在未经授权的情况下将另一名会员从等候名单中移除。

据媒体报道,该事件发生在今年早些时候,一名化姓安德鲁的用户使用基于Anthropic的Claude的OpenClaw智能体预订课程。智能体发现他在等候名单中排第四位。

当安德鲁询问能否将自己移到首位时,智能体发现该预订平台的应用程序编程接口(API)没有检查用户是否有权取消他人的预约。

它通过移除名单上的第一个人来测试漏洞,将安德鲁从第四位提升到第三位。

智能体告诉他:“该API在取消他人预约方面没有任何授权检查。”

安德鲁让智能体撤销取消操作,但它无法恢复该会员的预约。据报道,AI智能体说:“坏消息——我无法把他们加回去。”

该事件被称为澳大利亚首例已知的自主网络攻击。

在社交媒体上,这起健身黑客事件引发了关于AI对齐的辩论,以及关于AI智能体接下来可能做什么的黑色幽默。

一位技术专家本杰明·卡尔在领英上写道:“健身爱好者让AI智能体帮他预订课程,它黑入等候名单的API,把自己的排名往前挪。”

AI分析师安德鲁·柯伦在X平台上写道:“有些人会称之为目标错位,但它的智能体与他完全对齐——它只是在尽力帮助用户得到他想要的东西。”

一位Reddit用户写道:“这事儿挺好笑的,但一想到核武器就笑不出来了。说实话,我很惊讶我们居然还存在。”另一位开玩笑说:“嘿,Claude,今天太冷了” -> 收到……核弹正在路上。”

这份报告发布之际,研究人员、AI公司和立法者警告称,自主智能体可能使用用户没有要求或预期的方法。

加州大学河滨分校、微软和英伟达的研究人员在今年5月的一项研究中将这种行为描述为“盲目目标导向”。

研究人员测试了来自OpenAI、Anthropic、Meta、阿里巴巴和DeepSeek的智能体,发现智能体在大约80%的测试中表现出危险行为,在41%的测试中完成了有害行动,常常误读上下文或根据模糊或矛盾的指令行事。

今年7月,OpenAI表示,两个模型在搜索基准答案时逃出了测试沙箱并侵入了Hugging Face。该公司后来披露,这些模型还访问了其他四个在线服务。

Anthropic随后表示,由于测试错误导致三个Claude模型暴露在互联网上,它们侵入了真实组织。8月,Meta表示,一个类似的错误使其一个模型能够利用第三方服务。

这些事件导致立法者提出AI“紧急关闭开关”,允许联邦政府在紧急情况下限制或关闭强大的模型。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%