加州出台全美首个AI"伴侣"聊天机器人监管条例_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

加州出台全美首个AI"伴侣"聊天机器人监管条例

2025-10-14 01:19:45

加州成为首个为"陪伴型"聊天机器人设立明确护栏的州

加州成为全美首个为模拟友谊或亲密关系的"陪伴型"人工智能聊天程序设立明确监管规则的地区。州长加文·纽森于本周一签署了第243号参议院法案，该法案要求聊天机器人必须明确表明其人工智能身份，限制与未成年人讨论性和自残相关话题，并向州自杀预防办公室报告检测到的自杀倾向。

聚焦人机情感交互的新型监管

这项由圣地亚哥民主党参议员史蒂夫·帕迪利亚起草的法律，标志着人工智能监管的新方向——不再聚焦于模型架构或数据偏见，而是更关注人与机器之间的情感交互界面。法案强制要求企业定期提醒用户正在与软件对话，建立应对自残迹象的响应机制，并维护适合不同年龄层的内容过滤系统。

最终通过的法案比帕迪利亚最初提出的版本范围有所收窄。早期版本要求进行第三方审计且适用于所有用户，而不仅限于未成年人；这些条款在行业压力下被删除。

监管力度引发争议

多个倡导组织表示最终版本的法案监管力度过弱，难以产生实质影响。"常识媒体"和"科技监督项目"在立法者删除第三方审计和更广泛执行条款后撤回了支持。一位倡导者在声明中指出，修订后的法案可能沦为"空洞的姿态而非实质性的政策"。

纽森州长辩称该法律是为新兴技术设置的必要护栏。他在声明中表示："聊天机器人和社交媒体等新兴技术能够激励、教育和连接人们——但如果没有真正的护栏，技术也可能剥削、误导并危及我们的孩子。我们可以继续引领人工智能和科技发展，但必须负责任地推进——在每个环节都保护好我们的儿童。"

配套法案与执行挑战

第243号法案与近期签署的其他法案形成配套体系，其中包括要求大型AI开发商公开披露安全与风险缓解策略的第53号法案。这些立法使加州在全美各州人工智能治理中处于领先地位。

但新的聊天机器人规则在实践中可能面临挑战。开发者警告称，过于宽泛的责任认定可能导致企业出于谨慎限制有关心理健康或性健康的正常对话，剥夺用户（特别是孤立青少年）获得宝贵支持的机会。

执法同样存在困难：全球性聊天机器人公司可能难以验证哪些用户属于加州未成年人，或监控每日数百万次的对话交流。与加州许多首创性法规一样，存在善意监管在全国推广后才发现实际效果未经验证的风险。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文