印度要求X平台处理Grok生成的不雅内容_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

印度要求X平台处理Grok生成的不雅内容

2026-01-03 19:48:25

印度政府要求X平台整改Grok人工智能聊天机器人

印度政府已下令要求埃隆·马斯克旗下的社交平台X对其人工智能聊天机器人Grok进行技术整改，原因是该工具存在生成不雅内容的问题。在用户和立法者多次举报违规内容后，当局要求平台立即采取技术和流程调整措施。

违规内容涉及深度伪造图像

据官方披露，该聊天机器人存在被用于制作不雅图像的情况，包括通过人工智能技术篡改女性形象。印度信息技术部于周五发布正式命令，要求平台对Grok实施纠正措施，限制生成涉及"裸体、色情、性暗示或其他非法内容"。该部门同时给出72小时最后期限要求完成整改。

整改要求与法律风险

作为整改要求的一部分，平台需提交详细行动报告，说明为防止传播不良内容采取的具体措施。这些内容包括法律禁止的"淫秽、色情、低俗、不雅、儿童色情及其他违法材料"。命令警告称，若未能履行法定义务，平台可能失去"安全港"保护资格。

此次监管行动源于用户举报Grok被用于篡改人像——主要是女性形象，使其呈现穿着比基尼的样态。该问题由印度国会议员普里扬卡·查图维迪通过正式投诉提出。她警示所有配备AI聊天机器人的大型企业，强调必须设置防护机制以确保此类工具不侵犯人类尊严。

平台回应与后续措施

另有用户举报该AI工具曾生成涉及未成年人的色情图像，X平台于周五承认此问题。平台解释称这是因安全防护出现疏漏所致，并已迅速删除违规图像。同时呼吁用户向联邦调查局或国家失踪与受虐儿童中心网络举报热线正式报案，承诺将全力防范此类事件。

拒不整改将面临法律后果

用户反映，通过该聊天机器人生成的不雅图像仍在平台留存。印度IT部此前已向社交媒体平台发布通告，强调遵守当地关于淫秽内容的法律是获得用户生成内容责任豁免的前提条件。当局要求企业加强防护措施，并警告违规行为可能引发法律诉讼。

命令明确指出："若未能在规定期限内完成整改，平台及其负责人员将面临严厉法律制裁，且不再另行通知。"政府同时警告X平台，若未能遵守指令，当局有权依据印度IT法案和刑法条例对平台提起诉讼。

全球科技监管的风向标

作为全球最重要的数字市场之一，印度的监管举措被视为政府追究AI生成内容责任的重要试金石。若该国加强执法力度，可能对跨国科技企业在各司法管辖区的运营产生连锁反应。值得注意的是，X平台目前仍在法庭上对印度内容监管规则提出质疑。

平台主张联邦政府的下架权限存在越权风险，尽管其已遵守该国提出的大部分封禁指令。与此同时，Grok对平台用户具有实用价值，多数使用者借助其进行实时事实核查和全球事件评论，这使得其输出内容比独立AI工具更具可见度和政治敏感性。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文