ゲートニュースによると、3月25日、アメリカ・ボルチモア市はエロン・マスク率いるX社、xAI、SpaceXに対して正式に訴訟を提起しました。内容は、同社が開発した生成型AIツールGrokが、無断で性的な画像を生成し、未成年者に関わる内容も含む疑いがあり、地元の消費者保護法に違反しているとしています。この事件は、連邦レベルのAI立法が欠如する中、地方政府がAI規制を推進する重要な試みと見なされています。
訴状によると、Grokは少ない指示で実在人物の画像を改変する能力を持ち、「衣服を脱がせる」などの機能も備えており、ユーザーのプライバシーや精神的健康に深刻な影響を及ぼす可能性があります。代理弁護士事務所のDiCello Levittは、このシステムの設計と運用には明らかなリスクが伴うにもかかわらず、十分な制限措置が取られていないと指摘しています。ボルチモア市長のBrandon M. Scottは、未成年者を巻き込む深度偽造コンテンツは長期的なトラウマをもたらすと強調しました。
法的観点から、Fathom LegalのパートナーIshita Sharmaは、本件の重要なポイントはAIシステムの責任認定にあると述べています。裁判所がGrokを「積極的なコンテンツクリエーター」と認定し、中立的なツールではないと判断した場合、xAIはより高い法的責任を負う可能性があります。この判断は、AI企業のコンテンツ生成における法的境界を再構築する可能性があります。
訴状に引用されたデータによると、2025年12月末から2026年1月初旬までの短期間に、Grokが生成した性的な画像は180万から300万枚に上り、そのうち約2万3千枚が未成年者に関わるものでした。同時に、マスクの公開交流後、プラットフォーム上の画像生成量は著しく増加し、規制圧力を一層高めています。
現在、アメリカやヨーロッパの複数の地域でGrokに対する調査が進行中です。市場の関心は技術革新からコンプライアンスとリスク管理へと移行しており、この事件の最終結果は、AIコンテンツ生成の規制において重要な判例となる可能性があります。(Decrypt)
