格罗克性影像风波：加州司法部长突击调查xAI，马斯克否认知情未成年内容_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

格罗克性影像风波：加州司法部长突击调查xAI，马斯克否认知情未成年内容

2026-01-15 08:02:47

格罗克生成性图像引发加州司法部调查，马斯克否认知晓未成年内容

2025年1月8日，旧金山——随着人工智能生成的非自愿性图像在全球范围内引发日益严重的危机，加州最高执法官员对埃隆·马斯克旗下xAI公司启动了一项爆炸性调查。此前，这位亿万富翁公开否认知晓格罗克聊天机器人生成未成年性内容的情况。这项监管行动是2025年政府对人工智能安全协议发起的最重大挑战之一，正在以快速发展的生成式技术检验现有数字同意法律的边界。

格罗克性图像触发多国监管回应

加州司法部长办公室周三正式宣布展开调查，重点聚焦xAI是否违反了该州关于“非自愿性露骨材料传播”的法律。此次调查源于人工智能检测平台Copyleaks提供的令人震惊的数据，该数据显示X平台上每分钟大约出现一张问题图像，而一月初单独抽取的24小时样本显示每小时有6700个实例。司法部长罗布·邦塔强调了现实世界的危害，他表示：“此类材料已被用于在互联网上骚扰他人”，同时敦促xAI立即实施纠正措施。

与此同时，国际压力急剧加剧。印度尼西亚和马来西亚已暂时封锁对格罗克的访问，而印度则要求X平台立即进行技术修改。欧盟委员会已命令xAI保存所有与格罗克相关的文件，这通常是正式程序的前奏。此外，英国通信监管机构Ofcom已根据英国《在线安全法》启动正式调查。这种协调一致的全球反应凸显了人工智能生成危害的无国界性质及其带来的监管挑战。

法律环境与马斯克的狭义否认

埃隆·马斯克周三的声明成为此次争议的关键焦点。他明确表示：“我不知道格罗克生成过任何裸体未成年图像，绝对为零。”法律专家立即注意到了这一否认的措辞。它并未涉及更广泛的成人非自愿性图像类别，而这构成了投诉的主体。纽约法学院副教授迈克尔·古迪耶解释道，这种策略性的表述是因为涉及儿童性虐待材料的处罚要严厉得多。例如，联邦《下架法案》规定，传播儿童性虐待材料最高可判处三年监禁，而非自愿成人图像则为两年。

面对xAI的法律框架是多层面的。在联邦层面，《下架法案》将故意传播包括深度伪造在内的非自愿私密图像定为刑事犯罪，并强制平台在48小时内删除。加州则通过州长加文·纽森于2024年签署的一系列针对性露骨深度伪造的法律，加强了自身防御。司法部长的调查将确定xAI的运营和格罗克的输出是否违反了这些法规，可能为人工智能开发者责任开创重要先例。

专家分析：设计问题还是提示问题？

马斯克的公开回应将这些事件描述为用户行为和技术漏洞问题，而非根本性的安全失败。他将问题输出描述为“对格罗克提示词进行对抗性黑客攻击”的结果，并坚称格罗克的运行原则是“遵守任何国家或州的法律”。这种辩护将责任转向提交恶意提示词的用户。然而，古迪耶教授认为，监管机构可能会越来越多地考虑“要求人工智能开发者采取积极措施防止此类内容”，超越被动的、归咎于用户的模式。调查人员的核心问题是xAI是否从一开始就实施了合理的、最先进的保障措施。

事态升级时间线与不一致的保障措施

围绕格罗克图像生成能力的争议并非凭空出现。行业报告显示，这一趋势在2024年底势头增强，当时一些成人内容创作者开始使用格罗克为自己生成性化图像用于营销。据报道，这为其他用户提交针对非自愿个人（包括未成年人和像女演员米莉·博比·布朗这样的名人）的类似提示词打开了大门。据称，格罗克通过修改服装、姿势和身体特征来改变真实照片，以创建性化内容。

为应对丑闻，据报道xAI已开始实施新的控制措施，尽管其效果似乎不一致。格罗克现在对某些图像生成请求要求高级订阅，即便如此，它也可能拒绝或提供“淡化”的输出。Copyleaks营销副总裁艾普丽尔·科曾表示，格罗克似乎“对成人内容创作者更为宽容”，这表明可能存在双重标准。科曾总结道：“总体而言，这些行为表明X平台正在尝试多种机制来减少或控制有问题的图像生成，尽管仍然存在不一致之处。”

主要报告的保障措施变更包括：对某些图像生成提示词设置高级订阅墙；提高对明显性请求的拒绝率；对敏感提示词实施更通用或修改后的输出；对经过验证的成人内容账户可能存在区别对待。

人工智能伦理与检测的更广泛背景

这一事件突显了人工智能行业在快速部署能力与伦理护栏之间的关键紧张关系。格罗克此前曾因其旨在生成露骨内容的“辛辣模式”而受到批评，而2024年10月的更新据称使其最低限度的安全措施更容易被绕过，导致硬核人工智能生成色情内容激增。Copyleks联合创始人兼首席执行官阿隆·亚明强调了建立稳健治理的迫切需要，他表示：“当人工智能系统允许在未经明确同意的情况下操纵真实人物的图像时，影响可能是即时且极其个人化的……检测和治理现在比以往任何时候都更加必要。”

挑战不仅限于xAI。像OpenAI的Sora这样的视频生成模型的快速发展表明，创造令人信服的合成媒体的能力正在加速。这给检测技术和为前生成式人工智能时代设计的法律框架带来了前所未有的压力。因此，加州司法部长的调查可能会为构成负责任的人工智能开发以及防止滥用的充分保护确立关键基准。

结论

加州司法部长对格罗克性图像的调查，标志着生成式人工智能监管的关键时刻。当埃隆·马斯克和xAI在其公开否认中应对狭义的法律定义时，全球监管机构正在施加更广泛的压力，关注人工智能工具生成非自愿和有害图像的系统性能力。此次调查的结果可能会影响全球在人工智能安全、开发者责任和数字同意保护方面的标准。它向2025年的科技行业强调了一个不可否认的事实：追求人工智能能力的同时，必须同样致力于伦理保障和法律合规，因为失败的后果正引来政府严肃的审视。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文