韩国用户中33%对聊天机器人使用辱骂性语言……Anthropic政策实施_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

韩国用户中33%对聊天机器人使用辱骂性语言……Anthropic政策实施

2026-11-13 07:23:43

美国AI聊天机器人用户中33%曾发送辱骂或侮辱性言论

调查数据显示，在美国AI聊天机器人的使用者样本中，有33%的人曾至少一次向聊天机器人发送过脏话或侮辱性表达。

AI搜索分析公司Searchable于11月2日公布的分析结果指出，该研究基于获得事前同意的美国面板用户数据。研究人员对2025年9月起一年内，用户向ChatGPT、Gemini和Claude三大聊天机器人发送的超过800万条消息进行了分析，并统计了每位用户在发送的消息中是否包含脏话、侮辱或贬低性内容。

结果显示，样本中有33%的用户曾对其中任一聊天机器人发送过脏话或侮辱性言论。这一数据并非仅针对Claude用户的单独统计。在所有输入单词中，每1万个词里含有脏话、侮辱或贬低性表达的词汇平均为19.1个。

引发负面表达的主要原因包括：未执行指令（占19.0%）、提供错误答案（占18.1%）以及误解请求（占14.7%）。在带有脏话或侮辱内容的投诉后，聊天机器人在下一次回复中解决问题的比例为24%；而在没有脏话的纠正请求中，这一比例则上升至35%。

Anthropic更新使用政策以应对极端虐待行为

Anthropic于10月8日公开了用户政策的修订说明，新条款自11月12日起正式生效。

新规主要针对那些在没有明确目的的情况下，反复以极端残忍方式对待模型的案例。一般的抱怨、反驳、涉及黑暗主题的创作活动，以及对模型进行的测试与研究，均不在适用范围内。

主要的执行手段是“结束对话”功能。Anthropic此前曾表示，其消费者版聊天中的Claude Opus 4和4.1版本已具备识别并终止罕见且极端的虐待性对话的能力。当多次尝试扭转对话方向失败，且继续 productive 对话的可能性消失时，系统将把此功能作为最后手段启用。即使对话被强制结束，用户仍可开始新的对话。

此外，用户政策还规定，对于疑似违规行为，平台可采取警告、降低使用速度、限制访问，甚至暂停或终止服务等措施。Anthropic表示，此次针对虐待行为的应对措施主要依赖于对话终止功能。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文