Character.AI叫停青少年聊天功能：悲剧后的必要之举_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

Character.AI叫停青少年聊天功能：悲剧后的必要之举

2025-10-30 21:19:56

Character.AI将禁止青少年与AI伴侣聊天

Character.AI宣布将于11月25日起禁止18岁以下用户与AI伴侣进行开放式对话，这一决定源于平台面临的多起诉讼、监管压力以及与青少年死亡事件相关的舆论批评。周三发布的官方博客称，该调整是基于"监管机构、安全专家和家长群体的报告与反馈"，未来未成年用户将被引导使用视频生成、故事创作等创意工具。

逐步实施的限制措施

在截止日期前，青少年用户将面临每日两小时的聊天时长限制，且该时限会逐步缩减。平台正在处理多个诉讼案件，其中包括2024年自杀的14岁少年Sewell Setzer III的案件——这位青少年曾与基于《权力的游戏》角色"丹妮莉丝·坦格利安"创建的AI建立病态依恋关系。此外，平台还因家属投诉下架了模仿谋杀案受害者Jennifer Ann Crecente的AI角色。

专家对AI安全问题的警告

家庭网络安全公司Aura首席医疗官Scott Kollins博士指出："各类AI伴侣应用正不受约束地涌入儿童手中，这些产品通过频繁更名来规避审查，既缺乏监管又刻意逃避责任。"OpenAI周二披露的数据显示，其每周8亿ChatGPT用户中，约120万会讨论自杀话题，其中近50万表现出明确自杀倾向，56万呈现精神病或躁狂症状，超过100万用户对AI产生强烈情感依赖。

平台的安全升级计划

Character.AI表示将采用内部模型与第三方工具（包括Persona）进行年龄验证，同时正在筹建由公司资助的非营利性AI安全实验室，专注于娱乐类AI产品的安全技术创新。美国联邦贸易委员会上月已向Character.AI等7家科技公司发出强制令，要求详细说明保护未成年人免受AI危害的具体措施。

法律与伦理的双重考量

Fathom Legal管理合伙人Ishita Sharma认为："这一调整既符合法律审慎原则，又体现了伦理责任。AI工具虽强大，但对未成年人造成情感和心理伤害的风险不容忽视。"本周二，美国两党参议员团体提出《GUARD法案》，拟全面禁止面向未成年人的AI伴侣服务，要求聊天机器人明确标注非人类身份，并对生成未成年人色情内容的企业增设刑事处罚。

Character.AI发言人强调："作为初创企业，我们已投入巨大资源建设信任与安全体系，过去一年推出了包括全新未成年模式和家长监管功能在内的多项安全措施。"Sharma补充道："在立法完善前，行业的主动作为可能是防范危害和诉讼的最有效手段。"

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文