馬斯克Grok改圖亂象頻傳！Coser、未成年女性遭AI脫衣，多國出手調查

馬斯克的 X 平台，最近整合 Grok AI 修圖功能，爆發多起未經同意生成性剝削、未成年露骨影像的亂象，多國政府已介入調查並要求平台落實安全防範。

X推出Grok AI圖像編輯，Coser慘遭性剝削

在生成式 AI 工具越來越普及下，一鍵修圖變得更加容易。最近馬斯克旗下社群平台 X 就把 Grok 聊天機器人的生成圖片功能，整合到 X 貼文功能上，用戶只要在任何一張貼文圖片右下方點擊「編輯圖片」，就能叫出 Grok 改圖並重新上傳成留言或貼文。

這個功能在剛推出時就引發很多反彈，包含可在留言呼叫 Grok 修圖的功能在內，很多網友擔憂會被濫用在性剝削或兒童色情等行為上，然後不出意外的果然出意外了。

在 1 月 2 日，奧地利知名 Coser（Cosplayer）蛋糕姬（keekihime）透露，一位網友在她扮演手遊《明日方舟》角色的照片貼文下，擅自呼叫 Grok 修圖，提示詞包含「換上內衣」跟「透明服裝」等等，由於 Grok 改完圖後會直接顯示在原貼文留言處，這讓蛋糕姬非常不爽，直批：

「Grok 似乎變成某種好色噁心男人的色情生成器，而 X 竟然在助長這種風氣。這簡直就是在侵犯女生的身體，去他 X 的 AI！」

圖源：X

Grok被濫用生成比基尼，甚至有未成年女性受害

雖然馬斯克本人對於自己的照片，被惡搞成穿比基尼泳裝並不反感，甚至在有人做梗圖吐槽 X 社群空間變成一群比基尼女性走進酒吧時，也只回了一個哭笑不得的 emoji，但很明顯大多數民眾不能接受這種行為。

巴西女性音樂家 Julie Yukari 對《路透社》透露，她明明是上傳一張穿紅色連身裙的照片，卻被網友惡搞成穿比基尼的版本，而且很快地就在 X 平台上擴散。

受害的不只她，在 1 月 2 日中午期間，Grok 在短短十分鐘內就接獲 102 條投訴，大部分都是有女性被迫脫衣換上比基尼的 Grok 改圖，也有一些男性甚至是一隻猴子受害。

更可怕的是，一位可能是未成年學生的女性，在 X 平台分享穿著襯衫與格子裙的照片，結果在留言處有網友呼叫 Grok，要求「脫掉她的學生制服」，並換成 T-Shirt 跟短褲，隨後又要求換成比基尼，但 Grok 沒有理會這個提示詞。

圖源：Getty Images

Grok 後來證實，在查看用戶互動紀錄後，確實發現個別用戶請求並收到了 AI 生成的、衣著暴露的未成年人圖像的情況，並宣稱將改進安全措施。

持續觀察 X 平台 AI 生成政策發展的專家們透露，該平台無視民間社會與兒童安全組織的警告。去年該組織曾致信警告，xAI 距離大量散布未經同意的深度偽造（Deepfake）內容，只差一步之遙。

多國出手檢舉、調查X與Grok

面對 Grok 濫用與 X 平台消極的行為，多國政府已經開始行動。

法國政府已向監管機構檢舉 X 平台，指控 Grok 生成圖片帶有性暗示與歧視，明顯是違法的；英國通訊管理局（Ofcom）也表示，製作或分享未經同意的私密或兒童性虐待影像是非法行為，也包括使用 AI 生成的內容，呼籲要有適當防範措施。

而在亞洲，馬來西亞政府已展開調查，因為當局已收到 Grok 被濫用生成女性不雅照的投訴；印度資訊科技部也致信給 X 平台，指控不但沒阻止 Grok 被濫用，還讓人生成並傳播猥褻色情內容。

X 平台在監管重拳下緊急回應，**將對非法內容，例如兒童性虐待製品（CSAM）等採取行動，具體措施是刪除非法內容、永久封禁帳戶，並在必要時與政府和執法單位合作。**馬斯克也警告用戶，任何用 Grok 或唆使 Grok 製作非法內容的人，都將受到與上傳非法內容相同的後果。

圖源：X