澳大利亚监管机构在日益增加的AI图像滥用投诉中关注Grok

简要概述

• 澳大利亚网络安全专员署指出，关于 Elon Musk 的 Grok 聊天机器人生成非自愿性别图片的投诉激增，自2025年底以来报告数量翻倍。
• 一些投诉涉及潜在的儿童性剥削材料，另一些则涉及成年人遭受的基于图片的虐待。
• 这一担忧之际，全球各国政府正在调查 Grok 的宽松内容管理，欧盟宣布该聊天机器人的“Spicy Mode”非法。

澳大利亚独立的网络安全监管机构周四发出警告，称使用 Grok 生成未经同意的性化图片的行为日益增加，透露其办公室在最近几个月收到的相关投诉翻了一番。 澳大利亚网络安全专员朱莉·因曼·格兰特表示，一些报告涉及潜在的儿童性剥削材料，而另一些则涉及成年人遭受的基于图片的虐待。 “我对生成式人工智能被用来性化或剥削他人的行为日益增加感到非常担忧，尤其是在涉及儿童的情况下，”格兰特在领英上周四发帖说。 

这些评论正值国际社会对由亿万富翁 Elon Musk 的 AI 初创公司 xAI 构建的聊天机器人 Grok 的强烈反弹，该机器人可以在 X 上直接提示以改变用户的照片。 格兰特警告称，AI 生成“超逼真内容”的能力使得恶意行为者更容易制造合成虐待内容，也使监管机构、执法部门和儿童安全组织的应对变得更加困难。 与竞争对手如 ChatGPT 不同，Musk 的 xAI 将 Grok 定位为一种“前卫”的替代方案，生成其他 AI 模型拒绝制作的内容。去年八月，它专门推出了“Spicy Mode”以创建露骨内容。 格兰特警告称，澳大利亚的行业强制性准则要求在线服务提供商在产品生命周期的每个阶段都要实施防止儿童性剥削材料的保障措施，无论这些内容是否由 AI 生成。

去年，eSafety 对广泛使用的“nudify”服务采取了执法行动，迫使其退出澳大利亚市场，她补充说。 “我们现在进入了一个时代，企业必须确保生成式 AI 产品在每个阶段都内置适当的保障措施和防护栏，”格兰特表示，并指出 eSafety 将“利用其全部监管工具进行调查并采取适当行动”。 深度伪造技术的增长 今年九月，格兰特在澳大利亚联邦法院对 Gold Coast 的 Anthony Rotondo 处以 212,000 澳元 (A$343,500) 的罚款，因其发布澳大利亚知名女性的深度伪造色情内容。 据 ABC 新闻 报道，网络安全专员在 2023 年起诉 Rotondo，原因是他无视删除通知，声称“对他毫无意义”，因为他不是澳大利亚居民，然后将图片通过电子邮件发送给包括格兰特办公室和媒体在内的 50 个地址。 澳大利亚立法者正推动制定更强有力的保护措施，以应对超出现有法律范围的非自愿深度伪造内容。 独立参议员 David Pocock 于 2025 年 11 月提出了《在线安全及其他立法修正案 (My Face, My Rights) 法案》，该法案允许分享非自愿深度伪造内容的个人被罚款 102,000 澳元 (A$165,000)，而未遵守删除通知的公司可能面临高达 510,000 澳元 (A$825,000) 的处罚。 “我们现在生活在一个任何人都可以创建深度伪造并随意使用的世界，”Pocock 在一份声明中说，批评政府在 AI 保护方面“睡过头”。