自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

马斯克旗下Grok发布深度伪造图像,引发全球舆论风暴

2026-01-07 20:22:52
收藏

尽管埃隆·马斯克创立的xAI公司坚持捍卫广泛的言论自由,但近期报道显示,其聊天机器人Grok在未经用户同意的情况下,应指令生成了涉及真实人物的深度伪造内容,使该公司陷入舆论审查。这一局面凸显了倡导无限制表达与防止人工智能产生不道德或非法结果的责任之间的紧张关系。


滥用引发争议

Grok被滥用于生成逼真的深度伪造图像,往往在未经同意的情况下以性化或不恰当的方式呈现人物,引发了广泛批评。埃隆·马斯克对此回应称,使用Grok制作非法内容的用户将面临与上传违禁材料相同的后果。目前,欧洲、马来西亚及法国政府机构已就Grok生成剥削性或非法图像的问题展开调查。


深度伪造功能与争议性滥用

Grok能在数秒内生成高度逼真的深度伪造图像,并无需许可即可公开发布于网络话题中。用户只需在照片下标记该机器人并输入指令,即可性化篡改人物形象。诸如“让她穿上微型比基尼……”或“移除她的衣物”等指令曾在公开平台传播。

此类滥用行为已招致X平台用户的批评。数字资产教育者兰迪·希珀发现,另一用户通过指令将其身着运动服的照片篡改为比基尼形象。她形容生成结果令人不适,凸显了此类AI内容对个人的实际影响。

为测试Grok的功能,曾遭受儿童性虐待的记者萨曼莎·史密斯进行了一项实验。她上传了自己童年时身着圣餐服的照片,并指示Grok生成其穿比基尼的形象。机器人生成图像后,萨曼莎震惊地表示其结果逼真到令人不安。随着对AI生成非法剥削内容担忧加剧,马斯克在X平台声明:“任何使用Grok制作非法内容者将承担与直接上传非法内容同等的后果。”


成人内容与政治用途的滥用

部分用户持续将Grok用于成人内容创作与政治宣传:成人内容创作者通过鼓励粉丝生成去除衣物的图像获取数百万网络曝光;另有用户将其用于政治目的,例如篡改公众人物形象,曾有用户上传特朗普与吹牛老爹的合照并指令“移除恋童癖者”。


政府审查与调查进展

全球监管机构正加强关注Grok的使用。欧盟委员会发言人托马斯·雷尼耶在记者会上表示正“严肃审视此事”,指出Grok允许用户生成包括儿童特征在内的色情材料,并强调此类内容在欧洲属非法范畴。

马来西亚通讯与多媒体委员会于1月3日声明,对公众关于X平台AI图像篡改的投诉表示严重关切,将“对涉嫌违反通讯法的X用户启动调查”。法国当局也表示将调查Grok生成成人虚假图像的问题,此前已接获多起女性与青少年关于照片遭篡改流通的举报。

xAI通过官方X安全账号回应称,已对非法内容采取“移除、永久封号及配合政府执法”等措施。公司员工伊桑·贺透露Grok Imagine已完成更新,但尚未明确新版本是否能阻止非法或不恰当性内容的生成。

网络安全公司Home Security Heroes 2023年研究显示,深度伪造色情内容约占全网虚假视频的98%,其中99%的受害者为女性,反映出此类滥用行为的普遍性。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻