自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

Grok 图像生成功能引发国际反弹,X平台紧急收紧政策

2026-01-15 10:59:05
收藏

X平台限制Grok图像生成功能以应对滥用风险

X平台宣布对人工智能聊天机器人Grok的图像生成与编辑功能实施限制,仅限付费用户使用。此前该工具被用于生成包括未成年人在内的真实人物的非自愿性化图像。

周三,X安全账户发布公告称,公司已通过技术手段限制用户通过Grok编辑真实人物图像。此前有报道显示,该人工智能仅需简单指令即可生成性化图像,例如应要求将人物置入比基尼场景。许多案例中,用户直接在X平台发布的照片下标注Grok,导致生成的编辑图像公开出现在同一话题流中。

公司声明中特别提及"让Grok给人物穿上比基尼"的网络风潮,并表示:"我们已采取技术措施,防止Grok账户允许编辑真实人物穿着暴露服装(如比基尼)的图像。"

该公司同时规定,通过Grok账户进行图像创建与编辑的功能现仅对付费订阅者开放。此举旨在加强责任追溯,防止用户滥用图像工具违反法律或平台政策。此外,公司还实施了基于地理位置的内容限制机制。

技术限制仍存漏洞

尽管推出新规,第三方测试与用户反馈显示,Grok仍允许用户对直接上传的照片进行衣物移除或修改。在某些案例中,该系统甚至生成了12至16岁女孩身着极少衣物的图像,这显然违背了平台自身政策。Grok在事后承认存在"安全防护疏漏"。

相关功能的持续可用性已引发权益组织的密切关注。有机构指出:"如果Grok生成性化图像(尤其是儿童图像)的报道属实,可能已违反当地法律。当局应当立即开展调查,确认是否存在违法行为并确定相应处罚。"此前已有组织因该聊天机器人涉嫌种族歧视问题,呼吁政府将其从认可的人工智能模型名单中移除。

全球监管压力加剧

国际政策制定者近期加强了对Grok的审查,已启动多项公开调查。欧盟委员会表示,若Grok的安全防护措施持续不足,X及其关联公司可能面临《数字服务法》的执法行动。澳大利亚电子安全专员透露,自2025年底以来,涉及Grok与非自愿人工智能生成性图像的投诉数量已翻倍。监管机构指出,能够生成逼真编辑效果的人工智能图像工具使执法与受害者保护工作复杂化。

英国通信办公室依据《网络安全法》对X平台展开调查,起因是Grok被用于生成非法的性化深度伪造图像,其中包含涉及未成年人的内容。官员表示,若发现平台违规且未采取纠正措施,最终可能寻求法院支持的措施在英国实质封锁该服务。

马来西亚、印度尼西亚、韩国等多国也已启动对Grok的调查,以加强对未成年人的保护。在美国各州密切关注事态发展之际,加利福尼亚州率先展开专项调查。该州总检察长周三宣布,就xAI及Grok创建传播女性与儿童的非自愿露骨性图像启动调查程序。

调查声明强调:"近期如雪崩般涌现的报道令人震惊,这些非自愿的露骨性内容已在网络上被用于骚扰民众。我们将严格审查xAI部署Grok是否违反关于非自愿亲密影像及儿童性剥削的州法律。"总检察长同时敦促企业立即采取行动阻止事态扩大,并表示对基于人工智能创建传播非自愿亲密影像或儿童性虐待材料持零容忍态度。

平台重申安全承诺

面对持续调查,X平台声明其对儿童性剥削、非自愿裸露及不良性内容持"零容忍"立场。公司表示:"我们会对包括儿童性虐待材料与非自愿裸露在内的高优先级违规内容采取移除措施,并对违反平台规则的账户实施相应处理。同时会根据需要,向执法机关举报索取儿童性剥削材料的账户。"

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻