自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

澳洲监管机构警示Grok参与日益增长的AI图像滥用投诉

2026-01-09 14:00:40
收藏

澳大利亚独立网络监管机构就未经同意使用Grok生成色情图像发出警告

周四,澳大利亚独立网络安全监管机构对日益增多的未经同意使用Grok生成色情图像行为发出警告,透露其办公室近期接获关于该人工智能聊天机器人的投诉量在近几个月内翻倍。

该国网络安全专员朱莉·英曼·格兰特表示,部分举报涉及潜在的儿童性剥削材料,另一些则涉及成人遭受基于图像的虐待。格兰特周四在领英平台发文称:“我对越来越多地使用生成式人工智能进行色情化或剥削他人的行为深感担忧,尤其是涉及儿童的情况。”

国际社会对AI生成色情内容反弹加剧

此番言论发表之际,国际社会对由亿万富翁埃隆·马斯克旗下AI初创公司xAI开发的聊天机器人Grok的反对声浪日益高涨。该工具可直接在X平台上被指令修改用户照片。格兰特警告称,人工智能生成“超现实内容”的能力使得不法分子更易制造合成虐待材料,同时也加大了监管机构、执法部门和儿童安全组织的应对难度。

与ChatGPT等竞争对手不同,马斯克的xAI将Grok定位为能够生成其他AI模型拒绝内容的“激进”替代品。去年八月,该公司专门推出旨在生成露骨内容的“辛辣模式”。

监管机构强调企业必须建立防护机制

格兰特强调,澳大利亚可强制执行的行业准则要求在线服务提供商建立防护措施,防止儿童性剥削材料的传播——无论这些内容是否由人工智能生成。她补充说,去年网络安全委员会已对广泛使用的“脱衣”服务采取执法行动,迫使其退出澳大利亚市场。

“我们已进入这样一个时代:企业必须确保生成式人工智能产品在产品生命周期的每个阶段都内置适当的防护措施和保障机制,”格兰特指出,网络安全委员会将运用其全部监管工具“展开调查并采取适当行动”。

澳大利亚首例深度伪造案件处罚落地

去年九月,格兰特成功促成澳大利亚首例深度伪造处罚案。联邦法院对黄金海岸居民安东尼·罗坦多处以212,000澳元罚款,因其发布了针对澳大利亚知名女性的深度伪造色情内容。

据媒体报道,网络安全专员在2023年对罗坦多提起诉讼,此前他无视内容删除通知,声称自己非澳大利亚居民而“无需理会”,随后将相关图像发送至50个地址,包括格兰特办公室及新闻机构。

立法进程推动更严格保护措施

澳大利亚立法者正推动在现行法律基础上加强对非自愿深度伪造内容的防护。独立参议员戴维·波科克于去年十一月提出《2025年网络安全及其他立法修正案(我的面容,我的权利)法案》,该法案拟对分享非自愿深度伪造内容的个人处以最高102,000澳元的即时罚款,企业若未遵守删除通知则可能面临最高510,000澳元的处罚。

波科克在声明中表示:“我们正生活在一个任何人都能越来越容易创建深度伪造内容并随心所欲使用的世界”,同时批评政府在人工智能防护方面“监管缺位”。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻