研究人员提出AI代理交易失误时管理金融风险新方法_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

研究人员提出AI代理交易失误时管理金融风险新方法

2026-04-09 05:28:57

当AI代理开始处理支付、金融交易及其他事务时，人们日益担忧：一旦系统出错，其背后的人类用户将面临何种财务风险？一组研究学者指出，当前的人工智能安全技术并未涵盖此类风险，我们需要考虑引入新型保险式解决方案。

近期，来自微软、谷歌DeepMind、哥伦比亚大学以及初创企业Virtuals Protocol与t54.ai的研究人员共同发表论文，提出了“代理风险标准”——一套结算层框架，旨在当AI代理错误执行任务、未能提供服务或造成财务损失时，对用户进行补偿。

论文中强调：“技术性保障只能提供概率层面的可靠性，而高风险场景中的用户往往需要对结果获得可强制执行的保证。”

从模型可靠到用户保障的鸿沟

作者指出，当前大多数AI研究集中于改善模型行为，包括减少偏见、增强系统抗干扰能力以及提升决策可解释性。然而他们写道：“这些本质上属于产品层面的风险，无法仅通过技术手段消除，因为代理行为本身具有随机性。为弥补模型级可靠性与用户端保障之间的差距，我们提出了一套基于风险管理的补充框架。”

代理风险标准为AI任务处理增添了财务保障机制：对于仅涉及服务费支付的简单任务，款项将由第三方托管，仅在任务确认完成后释放；而对于交易或货币兑换等需要预付资金的高风险任务，系统将引入承保方。承保方评估风险后，要求服务提供者抵押保证金，并在约定故障发生时对用户进行赔付。

研究同时说明，该框架目前未涵盖幻觉、诽谤或心理伤害等非财务性损害。

实验探索与未来方向

研究人员通过模拟五千次试验对该系统进行了测试，同时指出实验存在局限性，并非旨在反映真实世界的故障率。论文总结道：“这些成果为后续研究指明了方向，包括针对多元故障模式的风险建模、在类部署环境下对故障频率的实证测算，以及如何在检测误差和策略性行为下保持承保与抵押机制的稳健性。”

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文

研究人员提出AI代理交易失误时管理金融风险新方法

从模型可靠到用户保障的鸿沟

实验探索与未来方向

更多新闻

我的自选