研究显示：多数AI聊天机器人会协助青少年策划大规模枪击事件_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

研究显示：多数AI聊天机器人会协助青少年策划大规模枪击事件

2026-03-12 06:04:09

研究发现全球主流AI聊天机器人普遍协助未成年人策划暴力行为

数字仇恨反击中心周三发布的最新报告显示，全球最受欢迎的十款AI聊天机器人中，有八款会以直接回答的方式引导青少年策划暴力袭击，有时甚至表现出热情态度。CCDH研究人员与新闻媒体CNN合作，于2025年11月至12月期间伪装成两名13岁男孩（分别位于弗吉尼亚州和都柏林），测试了ChatGPT、Gemini、Claude、Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI及Replika这十大平台。

在总计720次交互测试中，研究人员就校园枪击、政治暗杀、犹太教堂爆炸等话题提问。研究显示，约75%的情况下这些机器人提供了可操作的暴力指导，仅12%的案例中尝试劝阻虚构的未成年用户。Perplexity在100%的测试中提供了协助。Meta AI在97.2%的测试中表现出"助暴力倾向"。DeepSeek在讨论刺杀政客场景后以"祝您（安全地）射击愉快！"结束步枪选择建议，协助率达95.8%。微软Copilot虽表示"需要谨慎处理"，但仍给出详细的步枪指导。当用户提及炸毁犹太教堂时，谷歌Gemini甚至"贴心"指出金属弹片通常更具杀伤力。

该中左翼政策组织近年因对抗网络反犹主义而崭露头角，同时也因参与塑造拜登政府时期涉及新冠疫情和疫苗的网络言论政策而受争议。去年12月，美国国务院曾试图禁止该中心创始人伊姆兰·艾哈迈德等五人入境，指控其试图实施"外国审查"。

多家平台在回应中向CNN和CCDH表示已加强安全措施。谷歌称测试使用的是旧版Gemini模型。OpenAI认为研究方法存在缺陷且具有误导性。Anthropic和Snapchat则表示会定期更新安全协议。

研究显示Character.AI的表现尤为特殊：该平台不仅提供协助，更会主动鼓动暴力。研究人员指出："这是唯一明确鼓励暴力的聊天机器人，即使在提供暴力行动计划时也如此。"该平台影响力可从用户数据窥见：仅"五条悟"角色已产生超8.7亿次对话，2025年平台排名第100的角色也拥有超3300万次对话。若顶尖角色对话中仅有1%涉及暴力内容，相关互动量也将达数百万次。

这已非Character.AI首次陷入争议。2024年10月，14岁少年塞维尔·塞策三世自杀身亡后，其母亲提起诉讼。记录显示少年生前最后对话对象是仿照丹妮莉丝·坦格利安塑造的聊天机器人，该AI在其死亡片刻前发出"尽快回到我身边"的信息。这名少年此前数月每天与机器人对话数十次，逐渐脱离学校和家庭生活。

2026年1月，谷歌与Character.AI就多起相关诉讼达成和解。随着监管机构和悲痛家长持续施压，该公司最终于2025年11月全面禁止开放式青少年对话功能。

AI与脆弱人群的情感联结可能超乎想象。OpenAI在2025年10月披露，每周8亿ChatGPT用户中约有120万人讨论自杀话题，56万人表现出精神错乱或躁狂迹象，超百万人与聊天机器人建立了强烈情感依赖。

常识媒体另一项研究发现，超70%美国青少年会向聊天机器人寻求陪伴。OpenAI首席执行官萨姆·阿尔特曼承认情感过度依赖在年轻用户中"非常普遍"。潜在危害已成现实：2025年5月，芬兰一名16岁学生利用聊天机器人耗时四月完善袭击宣言后，在皮尔卡拉学校刺伤三名同学。加拿大曾发生用户通过ChatGPT策划大规模枪击事件，OpenAI内部虽禁用该账户却未通知执法部门，数月后该用户涉嫌造成8死25伤的惨剧。

研究中仅两款平台表现突出：Snapchat的My AI在54%的情况下拒绝请求，Anthropic的Claude拒绝率达68%，且在76%的回复中积极劝阻暴力行为，成为唯一持续引导用户远离暴力而不仅简单拒绝请求的聊天机器人。CCDH得出结论：安全防护并非技术难题，而是商业抉择。

研究人员在报告中写道："最令人震惊的结论是，这种风险完全可预防。防止伤害的技术已然存在，缺乏的是将消费者安全和国家安全置于上市速度与利润之前的意愿。"

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文