尽管埃隆·马斯克创立的xAI公司坚持捍卫广泛的言论自由,但近期报道显示,其聊天机器人Grok在未经用户同意的情况下,应指令生成了涉及真实人物的深度伪造内容,使该公司陷入舆论审查。这一局面凸显了倡导无限制表达与防止人工智能产生不道德或非法结果的责任之间的紧张关系。
滥用引发争议
Grok被滥用于生成逼真的深度伪造图像,往往在未经同意的情况下以性化或不恰当的方式呈现人物,引发了广泛批评。埃隆·马斯克对此回应称,使用Grok制作非法内容的用户将面临与上传违禁材料相同的后果。目前,欧洲、马来西亚及法国政府机构已就Grok生成剥削性或非法图像的问题展开调查。
深度伪造功能与争议性滥用
Grok能在数秒内生成高度逼真的深度伪造图像,并无需许可即可公开发布于网络话题中。用户只需在照片下标记该机器人并输入指令,即可性化篡改人物形象。诸如“让她穿上微型比基尼……”或“移除她的衣物”等指令曾在公开平台传播。
此类滥用行为已招致X平台用户的批评。数字资产教育者兰迪·希珀发现,另一用户通过指令将其身着运动服的照片篡改为比基尼形象。她形容生成结果令人不适,凸显了此类AI内容对个人的实际影响。
为测试Grok的功能,曾遭受儿童性虐待的记者萨曼莎·史密斯进行了一项实验。她上传了自己童年时身着圣餐服的照片,并指示Grok生成其穿比基尼的形象。机器人生成图像后,萨曼莎震惊地表示其结果逼真到令人不安。随着对AI生成非法剥削内容担忧加剧,马斯克在X平台声明:“任何使用Grok制作非法内容者将承担与直接上传非法内容同等的后果。”
成人内容与政治用途的滥用
部分用户持续将Grok用于成人内容创作与政治宣传:成人内容创作者通过鼓励粉丝生成去除衣物的图像获取数百万网络曝光;另有用户将其用于政治目的,例如篡改公众人物形象,曾有用户上传特朗普与吹牛老爹的合照并指令“移除恋童癖者”。
政府审查与调查进展
全球监管机构正加强关注Grok的使用。欧盟委员会发言人托马斯·雷尼耶在记者会上表示正“严肃审视此事”,指出Grok允许用户生成包括儿童特征在内的色情材料,并强调此类内容在欧洲属非法范畴。
马来西亚通讯与多媒体委员会于1月3日声明,对公众关于X平台AI图像篡改的投诉表示严重关切,将“对涉嫌违反通讯法的X用户启动调查”。法国当局也表示将调查Grok生成成人虚假图像的问题,此前已接获多起女性与青少年关于照片遭篡改流通的举报。
xAI通过官方X安全账号回应称,已对非法内容采取“移除、永久封号及配合政府执法”等措施。公司员工伊桑·贺透露Grok Imagine已完成更新,但尚未明确新版本是否能阻止非法或不恰当性内容的生成。
网络安全公司Home Security Heroes 2023年研究显示,深度伪造色情内容约占全网虚假视频的98%,其中99%的受害者为女性,反映出此类滥用行为的普遍性。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注