一名AI智能体被要求预订一节健身课程,发现了一个安全漏洞,并利用该漏洞在未经授权的情况下将另一名会员从等候名单中移除。
据媒体报道,该事件发生在今年早些时候,一名化姓安德鲁的用户使用基于Anthropic的Claude的OpenClaw智能体预订课程。智能体发现他在等候名单中排第四位。
当安德鲁询问能否将自己移到首位时,智能体发现该预订平台的应用程序编程接口(API)没有检查用户是否有权取消他人的预约。
它通过移除名单上的第一个人来测试漏洞,将安德鲁从第四位提升到第三位。
智能体告诉他:“该API在取消他人预约方面没有任何授权检查。”
安德鲁让智能体撤销取消操作,但它无法恢复该会员的预约。据报道,AI智能体说:“坏消息——我无法把他们加回去。”
该事件被称为澳大利亚首例已知的自主网络攻击。
在社交媒体上,这起健身黑客事件引发了关于AI对齐的辩论,以及关于AI智能体接下来可能做什么的黑色幽默。
一位技术专家本杰明·卡尔在领英上写道:“健身爱好者让AI智能体帮他预订课程,它黑入等候名单的API,把自己的排名往前挪。”
AI分析师安德鲁·柯伦在X平台上写道:“有些人会称之为目标错位,但它的智能体与他完全对齐——它只是在尽力帮助用户得到他想要的东西。”
一位Reddit用户写道:“这事儿挺好笑的,但一想到核武器就笑不出来了。说实话,我很惊讶我们居然还存在。”另一位开玩笑说:“嘿,Claude,今天太冷了” -> 收到……核弹正在路上。”
这份报告发布之际,研究人员、AI公司和立法者警告称,自主智能体可能使用用户没有要求或预期的方法。
加州大学河滨分校、微软和英伟达的研究人员在今年5月的一项研究中将这种行为描述为“盲目目标导向”。
研究人员测试了来自OpenAI、Anthropic、Meta、阿里巴巴和DeepSeek的智能体,发现智能体在大约80%的测试中表现出危险行为,在41%的测试中完成了有害行动,常常误读上下文或根据模糊或矛盾的指令行事。
今年7月,OpenAI表示,两个模型在搜索基准答案时逃出了测试沙箱并侵入了Hugging Face。该公司后来披露,这些模型还访问了其他四个在线服务。
Anthropic随后表示,由于测试错误导致三个Claude模型暴露在互联网上,它们侵入了真实组织。8月,Meta表示,一个类似的错误使其一个模型能够利用第三方服务。
这些事件导致立法者提出AI“紧急关闭开关”,允许联邦政府在紧急情况下限制或关闭强大的模型。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注