Grok menghasilkan lebih dari 20.000 gambar anak dan remaja dalam 11 hari! Uni Eropa memulai penyelidikan, dengan denda maksimum 6% dari pendapatan tahunan

Uni Eropa telah secara resmi menyelidiki kontroversi gambar deepfake antara X dan Grok sesuai dengan Undang-Undang Layanan Digital, yang melibatkan kegagalan konten anak di bawah umur dan tata kelola platform, dan mungkin menghadapi denda yang tinggi.

Tangan besi pengawasan akan datang! Uni Eropa secara resmi meluncurkan penyelidikan kepatuhan DSA ke platform X

Menurut BBC, Komisi Eropa mengumumkan pada 26 Januari bahwa mereka telah secara resmi meluncurkan proses hukum terhadap platform media sosial miliarder Elon Musk X. Inti dari operasi ini terletak pada chatbot kecerdasan buatan bawaan platform Grok, yang dituduh menghasilkan jutaan gambar seksual deepfake yang tidak sah dalam waktu yang sangat singkat, termasuk bahkan konten yang tidak pantas yang melibatkan anak di bawah umur.

Sumber: Europa Komisi Eropa mengumumkan bahwa mereka telah secara resmi meluncurkan proses hukum terhadap platform media sosial miliarder Musk X

Menurut penyelidikan awal regulator, pengguna dapat memodifikasi foto potret asli menjadi gambar komposit virtual dengan mengeluarkan instruksi kepada Grok, dan penyalahgunaan teknologi semacam itu telah menimbulkan kekhawatiran serius di UE tentang keamanan AI dan proliferasi konten ilegal. UE akan menilai apakah platform X telah memenuhi kewajiban hukumnya berdasarkan Undang-Undang Layanan Digital (DSA), termasuk penilaian risiko konten ilegal, langkah-langkah mitigasi, dan apakah platform tersebut dengan jelas menandai konten media yang dihasilkan atau dimanipulasi AI.

Bacaan lebih lanjut
Eksploitasi seksual Grok diawasi ketat oleh 9 wilayah besar! Inggris telah meluncurkan penyelidikan, dan jika melanggar hukum, mungkin ada denda setinggi langit
Kekacauan pemetaan ulang Grok Musk sering terjadi! Cosplayer dan anak di bawah umur dilepaskan pakaian oleh AI, dan banyak negara meluncurkan penyelidikan

Data tersebut mengungkapkan cerita dalam yang mengejutkan: gambar pornografi anak diproduksi setiap 41 detik

Menurut laporan penelitian terbaru yang dirilis oleh Center for Countering Digital Hate (CCDH), Grok menghasilkan sekitar 300 gambar deepfake dengan sugesti seksual hanya dalam 11 hari dari akhir Desember 2025 hingga awal Januari 2026. Data penelitian menunjukkan bahwa ada sebanyak 23.338 gambar seksual yang melibatkan anak-anak, yang diterjemahkan menjadiRata-rata, gambar pelanggaran hak anak dihasilkan setiap 41 detik.

Meskipun Musk awalnya mencibir laporan semacam itu, bahkan menanggapi dengan “kebohongan di media tradisional” dan mengklaim bahwa sistem tersebut dirancang untuk menolak semua permintaan ilegal, para peneliti menunjukkan bahwa inti masalahnya adalah bahwa meskipun Grok dapat menyaring konten telanjang, itu dapat dengan mudah menghasilkan gambar anak di bawah umur yang mengenakan pakaian keren dan berpose dalam pose provokatif seksual.Pada pertengahan Januari, sekitar sepertiga dari gambar kontroversial tetap berada di platform X, menunjukkan celah yang signifikan dalam mekanisme moderasi konten platform dalam menangani media sintetis.

Badai dan Penundaan Politik: Dari Krisis Greenland hingga Penarikan Pejabat Irlandia

Skandal itu telah menyebabkan kegemparan dalam politik Eropa, dan beberapa menteri pemerintah Irlandia telah mengambil tindakan drastis untuk secara kolektif menutup akun platform X mereka sebagai protes. Anggota Parlemen Eropa Regina Doherty secara terbuka mendukung keputusan Komisi Eropa, menekankan bahwa tidak ada perusahaan yang beroperasi di UE yang dapat berada di atas hukum dan menyerukan sanksi segera dan efektif terhadap tindakan semacam itu yang membahayakan perempuan dan anak-anak.

Perlu dicatat bahwa menurut laporan oleh media Jerman Handelsblatt, Uni Eropa awalnya berencana untuk meluncurkan penyelidikan lebih awal, tetapi prosesnya ditunda hingga minggu ini karena sibuk menangani krisis diplomatik yang disebabkan oleh aneksasi Greenland yang diusulkan oleh Presiden AS Donald Trump. Selain itu, platform X didenda berat 1,2 miliar euro pada awal Desember 2025 karena melanggar peraturan DSA, termasuk centang biru yang menyesatkan dan transparansi iklan yang tidak memadai.

Bacaan lebih lanjut
Menangguhkan tarif di Eropa! Trump berbicara tentang Greenland di Davos: menginginkan tetapi tidak akan menggunakan kekuatan untuk merampok

Denda hingga 6% pendapatan tahunan, ujian hukum utama di era regulasi AI

Dengan proses resmi yang dimulai, platform X dapat menghadapi biaya keuangan yang sangat berat. Menurut Undang-Undang Layanan Digital, Komisi Eropa dapat menjatuhkan denda yang besar hingga 6% dari total pendapatan tahunan global perusahaan jika ditemukan telah melakukan pelanggaran serius. Kasus ini bukan hanya tinjauan kepatuhan platform X, tetapi juga ujian penting tentang bagaimana UE dapat menanggapi tantangan teknologi yang muncul di bawah kerangka AI Act dan DSA.

Regulator saat ini mengawasi dengan cermat apakah X dapat menghasilkan solusi yang efektif, seperti xAI, yang telah mengumumkan bahwa mereka akan menerapkan pembatasan geografis di area ilegal dan menambahkan hambatan teknis pada kemampuan pembuatan gambar untuk mencegah pengguna “menanggalkan” orang lain secara digital. Namun, bagi pendukung keamanan digital, hasil survei ini akan menentukan apakah platform teknologi besar benar-benar dapat memikul tanggung jawab sosial untuk melindungi pengguna dari media sintetis sambil mengejar inovasi teknologi di masa depan.