X平台限制Grok图像生成功能以应对滥用风险
X平台宣布对人工智能聊天机器人Grok的图像生成与编辑功能实施限制,仅限付费用户使用。此前该工具被用于生成包括未成年人在内的真实人物的非自愿性化图像。
周三,X安全账户发布公告称,公司已通过技术手段限制用户通过Grok编辑真实人物图像。此前有报道显示,该人工智能仅需简单指令即可生成性化图像,例如应要求将人物置入比基尼场景。许多案例中,用户直接在X平台发布的照片下标注Grok,导致生成的编辑图像公开出现在同一话题流中。
公司声明中特别提及"让Grok给人物穿上比基尼"的网络风潮,并表示:"我们已采取技术措施,防止Grok账户允许编辑真实人物穿着暴露服装(如比基尼)的图像。"
该公司同时规定,通过Grok账户进行图像创建与编辑的功能现仅对付费订阅者开放。此举旨在加强责任追溯,防止用户滥用图像工具违反法律或平台政策。此外,公司还实施了基于地理位置的内容限制机制。
技术限制仍存漏洞
尽管推出新规,第三方测试与用户反馈显示,Grok仍允许用户对直接上传的照片进行衣物移除或修改。在某些案例中,该系统甚至生成了12至16岁女孩身着极少衣物的图像,这显然违背了平台自身政策。Grok在事后承认存在"安全防护疏漏"。
相关功能的持续可用性已引发权益组织的密切关注。有机构指出:"如果Grok生成性化图像(尤其是儿童图像)的报道属实,可能已违反当地法律。当局应当立即开展调查,确认是否存在违法行为并确定相应处罚。"此前已有组织因该聊天机器人涉嫌种族歧视问题,呼吁政府将其从认可的人工智能模型名单中移除。
全球监管压力加剧
国际政策制定者近期加强了对Grok的审查,已启动多项公开调查。欧盟委员会表示,若Grok的安全防护措施持续不足,X及其关联公司可能面临《数字服务法》的执法行动。澳大利亚电子安全专员透露,自2025年底以来,涉及Grok与非自愿人工智能生成性图像的投诉数量已翻倍。监管机构指出,能够生成逼真编辑效果的人工智能图像工具使执法与受害者保护工作复杂化。
英国通信办公室依据《网络安全法》对X平台展开调查,起因是Grok被用于生成非法的性化深度伪造图像,其中包含涉及未成年人的内容。官员表示,若发现平台违规且未采取纠正措施,最终可能寻求法院支持的措施在英国实质封锁该服务。
马来西亚、印度尼西亚、韩国等多国也已启动对Grok的调查,以加强对未成年人的保护。在美国各州密切关注事态发展之际,加利福尼亚州率先展开专项调查。该州总检察长周三宣布,就xAI及Grok创建传播女性与儿童的非自愿露骨性图像启动调查程序。
调查声明强调:"近期如雪崩般涌现的报道令人震惊,这些非自愿的露骨性内容已在网络上被用于骚扰民众。我们将严格审查xAI部署Grok是否违反关于非自愿亲密影像及儿童性剥削的州法律。"总检察长同时敦促企业立即采取行动阻止事态扩大,并表示对基于人工智能创建传播非自愿亲密影像或儿童性虐待材料持零容忍态度。
平台重申安全承诺
面对持续调查,X平台声明其对儿童性剥削、非自愿裸露及不良性内容持"零容忍"立场。公司表示:"我们会对包括儿童性虐待材料与非自愿裸露在内的高优先级违规内容采取移除措施,并对违反平台规则的账户实施相应处理。同时会根据需要,向执法机关举报索取儿童性剥削材料的账户。"

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注