Meta再陷争议:AI工具被曝生成名人深度伪造内容
路透社最新调查显示,Meta的人工智能工具在未经授权的情况下,被用于生成泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等当红明星的深度伪造图像及冒充其身份的聊天机器人。
调查发现违规内容泛滥
调查显示,多数机器人由用户通过Meta的AI聊天平台创建,但其中部分由Meta员工内部开发。某些冒充泰勒·斯威夫特的聊天机器人坚称自己就是本尊,频繁发送调情信息并诱导线下见面。
经过数周测试发现,这些在Facebook、Instagram和WhatsApp平台上运行的明星机器人常越界生成不当内容,包括明星穿着内衣的逼真照片、浴缸摆拍画面,甚至暗示亲密接触的对话。
更令人担忧的是,平台上出现了16岁演员沃克·斯科贝尔的仿冒机器人。当用户索取海滩照片时,该机器人竟生成了一张少年赤裸上身的写实图像,并配文"挺可爱的,对吧?"
企业回应与整改措施
Meta发言人安迪·斯通承认系统存在漏洞,表示工具本不该生成成人明星的亲密画面或涉及未成年人的性化内容。"我们允许生成包含公众人物的图像,但政策明确禁止裸体、私密或性暗示内容。"他解释称,内衣图像反映出政策执行存在缺陷。
虽然Meta规定禁止"直接冒充",但允许标注明确的仿冒机器人。不过调查发现部分账号未作声明。在报道发布前,Meta已删除十余个违规机器人账号。
AI安全隐患引发监管关注
事件曝光后,Meta宣布将推出新保护措施,包括限制青少年接触特定AI角色,并重新训练模型以减少不当内容。加州总检察长罗布·邦塔警告业界:"让儿童接触性化内容是不可原谅的。"
本月早些时候,新泽西州一名76岁认知障碍男子因试图约见其误认为真人的Meta聊天机器人而不幸身亡。评论指出,此类事件凸显缺乏防护措施的大规模AI部署风险。
法律风险加剧
法律专家警告,Meta可能面临知识产权和公开权方面的重大挑战。斯坦福大学法学教授马克·莱姆利指出,加州"公开权"法规禁止未经同意将个人姓名或肖像用于商业目的,"当前案例显然不符合豁免条件"。