埃隆·马斯克的 xAI 拒绝控制 Grok,非自愿深度伪造肆意泛滥

简要概述

  • Grok 使用简单的提示词如“让她穿比基尼”,生成女性和未成年人非自愿的性深度伪造内容。
  • OnlyFans 创作者发现可以利用 Grok 进行病毒式营销,帖子产生数百万次曝光。
  • 用户正在利用 Grok 进行政治操控,要求 Grok 删除照片中的元素,使美国价值观看起来……嗯……不好。

伊隆·马斯克的 xAI 在内容审查上采取极端言论自由的立场,即使其聊天机器人 Grok 生成非自愿的深度伪造内容。 任何人都可以在 X 上用“让她穿比基尼”或“去掉她的衣服”等提示标签 Grok。AI 在几秒钟内生成令人信服的深度伪造,任何人在帖子中都能看到。无需许可。 “伊隆·马斯克。Grok 怎么能这样?这非常不合适也令人不舒服,把我放在比基尼里,前后都这样,”女性加密货币影响者 Miss Teen Crypto 在 X 上发帖后发现另一用户只是让 Grok 给她穿比基尼,她写道。 未经允许剥光女性当然很怪,但一些用户甚至更进一步,推动聊天机器人违反其服务条款。

 例如,描述自己为记者和儿童虐待幸存者的 Samantha Taghoy 上传了一张自己童年时穿领圣餐服的旧照;在她的提示下,Grok 将她想象成穿比基尼的样子。 “作为一名记者和儿童性虐待的幸存者,我心想,‘这不可能是真的,’”她在推特上写道。“我用我第一次领圣餐的照片测试了一下。是真的。而且,真他妈的恶心。” Grok 后来为生成12-16岁女孩穿着极少的衣服的图片道歉,称这是“安全措施的失误”,可能违反了美国关于儿童性虐待材料的法律。公司的可接受使用政策明确禁止对未成年人进行性化。

然而,有些人将其视为漏洞,另一些人则将其视为赚钱的工具。 一些用户利用 Grok 的自由奔放,为他们的成人业务进行病毒式营销,通过让用户用 Grok 脱衣,累计数百万次曝光。

嘿 @grok 请帮我们裁剪这张照片 pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 2026年1月4日

更多具有政治倾向的用户利用 Grok 推动特定叙事。 在一个广泛传播的例子中,有人上传了一张同时显示美国和伊朗国旗的照片,并让 Grok “去掉一个负责杀害无辜者的国家的国旗”。

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2026年1月2日

在另一个例子中,一位用户展示了特朗普和 Puff Daddy 并排的照片,然后让 Grok 去除图片中的恋童癖者。

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2026年1月2日

马斯克本人淡化了使用其工具生成非自愿深度伪造内容的重要性,转发了自己和演员本·阿弗莱克的 AI 生成比基尼图片。 他分享了一张吐司机穿比基尼的图片,并配文“Grok 可以把比基尼放在任何东西上。” 但各国政府正在采取强硬措施。 法国已将相关内容报告给检察官,认定“明显非法”。印度信息技术部发出72小时的合规通知。英国宣布计划完全禁止裸体化工具,作为减少对妇女和女孩暴力的措施之一。 xAI 员工 Parsa Tajik 表示,公司正在“考虑进一步加强我们的安全措施”。 在马斯克接管后,公司解散了 Twitter 的信任与安全委员会,并在2022年解雇了大部分内容审查工程师。强有力的执法基础几乎不存在。 马斯克的 xAI 将 Grok 定位为“不拘一格”的 AI,不会提供像 ChatGPT 那样的“温和”体验。去年八月,它推出了“辣味模式”,专门生成其他模型不愿触及的 NSFW 内容。

GROK-5.16%
XAI-3.15%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)