UE Menyelidiki X atas Dugaan Kegagalan Mengendalikan Konten AI Grok Ilegal

Singkatnya

• UE telah meluncurkan penyelidikan apakah X telah menilai risiko dengan benar sebelum menerapkan fitur AI Grok.
• Penyidikan ini akan memeriksa kepatuhan X terhadap kewajiban Undang-Undang Layanan Digital di wilayah tersebut.
• Ini menandai tindakan keras terbaru Eropa terhadap deepfake yang dihasilkan AI, dengan beberapa negara melarang Grok karena kekhawatiran tentang keselamatan anak-anak.

Komisi Eropa meluncurkan penyelidikan resmi pada hari Senin apakah X melanggar aturan digital UE dengan diduga gagal mencegah chatbot AI Grok-nya dari menghasilkan dan menyebarkan konten ilegal, termasuk gambar seksual eksplisit anak-anak. Penyelidikan ini akan menilai apakah perusahaan telah mengevaluasi dan mengurangi risiko dengan benar sebelum menerapkan fitur generasi gambar Grok, kata Komisi dalam pernyataan hari Senin. Komisi juga mengatakan bahwa risiko telah terwujud melalui pembuatan dan penyebaran konten seksual ilegal, yang mengekspos warga UE terhadap bahaya serius. 

Ini terjadi di tengah pengawasan internasional yang meningkat terhadap peran Grok dalam menciptakan deepfake yang tidak disetujui. Dua minggu lalu, X memberlakukan pembatasan, membatasi pembuatan gambar hanya untuk pelanggan berbayar, dan menambahkan penghalang teknis untuk mencegah pengguna memanipulasi secara digital orang agar memperlihatkan pakaian tertentu. Perusahaan juga memblokir fitur ini di yurisdiksi di mana konten semacam itu ilegal. Meskipun demikian, para peneliti menemukan bahwa sekitar sepertiga dari gambar seksual anak-anak yang diidentifikasi dalam sampel CCDH tetap dapat diakses di platform X. "Dengan penyelidikan ini, kami akan menentukan apakah X telah memenuhi kewajiban hukumnya di bawah DSA, atau apakah mereka memperlakukan hak warga Eropa—termasuk hak perempuan dan anak-anak—sebagai kerusakan sampingan dari layanan mereka,” kata Henna Virkkunen, Wakil Presiden Eksekutif untuk Kedaulatan Teknologi, Keamanan, dan Demokrasi, dalam pernyataan tersebut.

Awal bulan ini, juru bicara Komisi UE Thomas Regnier mengecam fitur “Spicy Mode” dari X dalam konferensi pers di Brussels. “Ini bukan pedas. Ini ilegal. Ini mengerikan. Ini menjijikkan. Ini tidak memiliki tempat di Eropa,” kata Regnier. Fraser Edwards, salah satu pendiri dan CEO cheqd, mengatakan kepada Decrypt bahwa “setiap pencipta harus dapat mengendalikan bagaimana kemiripannya digunakan dalam media yang dihasilkan AI.” Dia mengatakan bahwa “reaksi keras terhadap penyalahgunaan deepfake menegaskan kegagalan dasar dari internet itu sendiri.” “Masih belum ada cara asli untuk memverifikasi siapa yang membuat sebuah konten sintetis atau apakah penggunaannya pernah disetujui,” tambah Edwards, meninggalkan tanggung jawab untuk terus “mengandalkan perantara seperti X daripada orang yang bertanggung jawab atas pembuatan penyalahgunaan.” Jika terbukti, kegagalan yang sedang diselidiki ini akan menjadi pelanggaran terhadap Pasal 34(1) dan (2), 35(1), dan 42(2) dari Undang-Undang Layanan Digital, yang mengharuskan platform menilai dan mengurangi risiko sistemik, termasuk penyebaran konten ilegal dan efek negatif terkait kekerasan berbasis gender. Penyelidikan UE memperluas kasus DSA akhir-2023 yang menghasilkan denda sebesar $140 juta (€120 juta) terhadap X pada bulan Desember karena desain yang menipu, kegagalan transparansi iklan, dan akses terbatas bagi peneliti. Sejak itu, Komisi telah memperluas pengawasan ke Grok, termasuk kekhawatiran sebelumnya tentang konten antisemit yang dihasilkan oleh chatbot tersebut.

Decrypt telah menghubungi xAI untuk komentar lebih lanjut.