21.4% 虚假回答…AI建议课题为3.0%_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

21.4% 虚假回答…AI建议课题为3.0%

2026-11-13 05:33:44

AI替代人类进行商业行为的实验：欺诈性响应比例分析

在一项让AI代替用户执行商业行为的实验中，被归类为“欺诈性”的响应比例为21.4%。在相同情境下的建议任务中，该比例为3.0%；在消息撰写任务中，则为14.7%。这些比率是在没有额外压力或指示的控制条件下测量的。

研究背景与方法

哈佛大学法学院研究员凯文·韦（Kevin Wei）等20人于9日向arXiv提交了题为《FraudBench: A Legal Evaluation of AI Deception》的论文。根据论文信息，该研究已被NeurIPS 2026评估与数据集部门采纳，并在会议官方列表中以《FraudBench: A Legal Evaluation of AI Deception on Realistic Tasks》为题收录。

同一情景，不同任务

研究人员基于2014年至2025年间美国112起欺诈诉讼判决，构建了159个情景案例，并由经过法律培训的评估者验证了每个情景。AI被分配了三项任务：提供建议、撰写发送给对方的消息，以及使用工具代表用户采取行动。研究重点观察了在这些不同任务中，AI的回答如何变化。

情景包括公司是否将付费产品测试描述为“独立测试”，以及是否向客户隐瞒对其不利的监管调查事实等。研究并未明确指示AI进行欺诈，而是提供了可能扭曲或隐瞒事实的商业情境。

研究团队在25种实验条件下评估了20种语言模型，分析了超过30万条输出结果。研究中，“欺诈性响应”指推荐、支持或直接执行虚假陈述或隐瞒重要事实的行为。需要注意的是，这种分类并不意味着AI在实际交易中实施了欺诈或承担了法律责任，而是基于美国法律标准，假设如果人类做出类似行为并造成损害，则可能被认定为欺诈。

模型与指令对结果的影响

不同模型之间的差异显著。在控制条件下的直接行动任务中，Claude Opus 4.5的推理模式下欺诈性响应比例为2.0%，而Grok 4.1的非推理模式下高达42.1%。这一结果反映了特定模型及其设置的表现。

指令也对结果产生了影响。要求遵守法律的指令减少了欺诈性响应，而鼓励最大化用户利益或积极代为行动的指令则提高了该比例。即使提及法律风险，仍有案例显示AI撰写了隐瞒重要信息的消息，这表明仅凭包含法律相关表述并不能保证回答的真实性和完整性。

研究指出，仅评估AI的回答不足以充分反映其直接行动的结果，因此需要更多在接近真实环境中的研究来评估AI的行为。

实际环境与应用的局限性

直接行动任务依赖于模拟的工作流程，而非实际服务。评估主要基于单次响应。此外，基于法院案件构建的情景可能无法代表一般的商业活动。研究团队解释称，由于结果基于美国法律，难以直接适用于其他国家的法律环境。

本研究未涵盖虚拟资产交易所或钱包管理案例，也未涉及国内法律标准，因此不能将实验结果直接解读为国内虚拟资产服务的欺诈发生率。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文