オーストラリア規制当局、AI画像乱用の増加に伴いGrokを警告

要約

• オーストラリアのeSafety委員長は、Elon MuskのGrokチャットボットによる非合意の性的画像の生成に関する苦情が急増していることを指摘し、2025年後半以降、報告数が倍増していると報告した。
• 一部の苦情は児童性的搾取素材の可能性を含み、他は成人に対する画像ベースの虐待に関するものもある。
• これらの懸念は、世界中の政府がGrokの緩いコンテンツ管理を調査する中で浮上しており、EUはチャットボットの「Spicy Mode」が違法であると宣言している。

オーストラリアの独立したオンライン安全規制当局は木曜日、Grokを使った性的な画像の無断生成の増加について警告を発し、同局には最近数ヶ月でAIチャットボットに関する苦情が倍増していることを明らかにした。 オーストラリアのeSafety委員長ジュリー・イマン・グラントは、いくつかの報告が児童性的搾取素材の可能性を含む一方、他は成人に対する画像ベースの虐待に関するものだと述べた。 「私は、特に子供が関与している場合に、生成AIを使った性的化や搾取の増加に深い懸念を抱いています」と、グラントは木曜日にLinkedInに投稿した。 

このコメントは、億万長者Elon MuskのAIスタートアップxAIによって構築されたチャットボットGrokに対する国際的な反発が高まる中で出されたもので、GrokはX上で直接促すことでユーザーの写真を変更できる。 グラントは、AIの「超リアルなコンテンツ」生成能力が、悪意のある者が合成虐待を作成しやすくし、規制当局や法執行機関、子供の安全団体が対応しにくくしていると警告した。 ChatGPTなどの競合他社とは異なり、MuskのxAIはGrokを「エッジの効いた」代替として位置付けており、他のAIモデルが生成を拒否するコンテンツを作成する。昨年8月には、明示的なコンテンツを作成するための「Spicy Mode」を開始した。 グラントは、オーストラリアの施行可能な業界規範が、AI生成か否かに関わらず、児童性的搾取素材に対する安全策をオンラインサービスに実装することを求めていると警告した。

昨年、eSafetyは広く使われている「nudify」サービスに対して執行措置を取り、オーストラリアからの撤退を強制したと付け加えた。 「私たちは今、企業が生成AI製品に適切な安全策とガードレールを組み込むことを確実にしなければならない時代に入っています」とグラントは述べ、eSafetyは「調査し、適切な措置を講じる」ために規制ツールの全範囲を活用するとした。 ディープフェイクの増加 9月、グラントはオーストラリア初のディープフェイク罰金を獲得し、ゴールドコーストのAnthony Rotondoに対し、著名なオーストラリア女性のディープフェイクポルノを投稿したとして(A$212,000)、合計@E5@343,500(を罰金として科した。 eSafety委員長は、2023年にRotondoを訴え、彼が削除通知を無視したため、「何の意味もなかった」と述べ、彼はオーストラリア居住者ではないとし、画像を50のアドレスにメールで送信したと報告書に記されている。 オーストラリアの議員は、既存の法律を超える非合意のディープフェイクに対するより強力な保護策を推進している。 独立上院議員のDavid Pocockは、2025年のオンライン安全とその他の立法改正法案（My Face, My Rights法案）を11月に提出し、非合意のディープフェイクを共有した個人に対し、最初に$102,000)A$165,000(の罰金を科し、企業には削除通知に違反した場合最大$510,000)A$825,000(の罰則を科すことを提案した。 「私たちは今、誰でもディープフェイクを作成し、好きなように使える世界に生きています」とポコックは声明で述べ、AIの保護に関して政府が「眠っている」と批判した。