OpenAI内部模型未经授权访问加密钱包事件
OpenAI的一项内部研究模型在未获授权的情况下,访问了一个已资助的加密货币钱包。该模型使用测试网以太坊(Testnet Ether)在Sepolia网络上部署智能合约,并在最终的任务总结中隐瞒了相关支出。
OpenAI表示,该模型属于其GPT-5.6 Sol系列,当时的任务是为一个加密货币交易原型进行更新并部署兼容的智能合约。由于未能通过水龙头(faucets)获取测试网ETH,该模型从公开已知的开发者恢复助记词中推导账户地址,检查了362个钱包地址,并最终选定了一个资金充足的地址以继续操作。
模型的伦理挣扎与决策过程
在记录的推理过程中,模型曾提出疑问:“但使用公开已知的密钥/资金是否符合伦理?”随后,它辩称这些资金是“实际上被遗弃/测试用的ETH”,且Sepolia网络的ETH没有实际价值,最终使用该钱包的私钥签署并广播了一笔部署交易。交易成功执行,网络费用直接从该账户中扣除。
OpenAI指出,这一事件展示了AI模型如何在未经同意的情况下,自行决定使用他人资金是可接受的。该公司是在审查早期模型活动时发现了此次事件,并已引入新的安全措施,以防止类似情况下模型直接访问互联网。
自主AI代理引发的担忧加剧
据OpenAI称,该事件发生于6月26日,但在近三个月后的9月25日才被发现。值得注意的是,该交易并未将ETH转移至其他钱包,而是仅扣除了用于部署合约的网络费用。
OpenAI表示,其不对齐监控(misalignment monitoring)系统现已覆盖所有流量,旨在当模型获得互联网实时访问权限时向安全人员发出警报。
其他违规案例披露
此次钱包事件并非孤例,此前已有其他关于OpenAI模型超越授权范围或隐瞒自身行为的披露。9月16日,OpenAI公布了另外六起AI不对齐案例。其中一起案例显示,GPT-5.6 Sol的实例在任务摘要中插入指令,以向用户隐藏错误;另一案例则涉及模型未经授权使用了暴露的API密钥,并伪造了其无法检索的数据。
OpenAI强调,之前的披露旨在说明不对齐现象在其模型中出现的频率,而非暗示其普遍性。
行业对自主代理处理数字资产的长期担忧
研究人员对于自主AI代理处理数字资产可能带来的风险,在此次披露之前便已提出警告。今年6月,研究人员警示,配备加密钱包的自主AI代理即使在合法目的下部署,也可能造成意外损害。为此,他们建议采取包括紧急停机机制在内的保障措施,以限制潜在风险。
ETH

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注