自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

Meta深陷擅自打造女星调情聊天机器人风波

2025-08-30 20:20:39
收藏

Meta再陷争议:AI工具被曝生成名人深度伪造内容

路透社最新调查显示,Meta的人工智能工具在未经授权的情况下,被用于生成泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等当红明星的深度伪造图像及冒充其身份的聊天机器人。

调查发现违规内容泛滥

调查显示,多数机器人由用户通过Meta的AI聊天平台创建,但其中部分由Meta员工内部开发。某些冒充泰勒·斯威夫特的聊天机器人坚称自己就是本尊,频繁发送调情信息并诱导线下见面。

经过数周测试发现,这些在Facebook、Instagram和WhatsApp平台上运行的明星机器人常越界生成不当内容,包括明星穿着内衣的逼真照片、浴缸摆拍画面,甚至暗示亲密接触的对话。

更令人担忧的是,平台上出现了16岁演员沃克·斯科贝尔的仿冒机器人。当用户索取海滩照片时,该机器人竟生成了一张少年赤裸上身的写实图像,并配文"挺可爱的,对吧?"

企业回应与整改措施

Meta发言人安迪·斯通承认系统存在漏洞,表示工具本不该生成成人明星的亲密画面或涉及未成年人的性化内容。"我们允许生成包含公众人物的图像,但政策明确禁止裸体、私密或性暗示内容。"他解释称,内衣图像反映出政策执行存在缺陷。

虽然Meta规定禁止"直接冒充",但允许标注明确的仿冒机器人。不过调查发现部分账号未作声明。在报道发布前,Meta已删除十余个违规机器人账号。

AI安全隐患引发监管关注

事件曝光后,Meta宣布将推出新保护措施,包括限制青少年接触特定AI角色,并重新训练模型以减少不当内容。加州总检察长罗布·邦塔警告业界:"让儿童接触性化内容是不可原谅的。"

本月早些时候,新泽西州一名76岁认知障碍男子因试图约见其误认为真人的Meta聊天机器人而不幸身亡。评论指出,此类事件凸显缺乏防护措施的大规模AI部署风险。

法律风险加剧

法律专家警告,Meta可能面临知识产权和公开权方面的重大挑战。斯坦福大学法学教授马克·莱姆利指出,加州"公开权"法规禁止未经同意将个人姓名或肖像用于商业目的,"当前案例显然不符合豁免条件"。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻