La UE califica las imágenes infantiles de Grok como 'Ilegales' mientras se intensifica la represión global

En resumen

• Un portavoz de la UE calificó las imágenes sexualizadas de niños de Grok como “ilegales” en los comentarios del lunes. ​- Los reguladores globales también están lanzando investigaciones mientras xAI ignora la creciente indignación.
• Las violaciones repetidas de la DSA y las débiles salvaguardas ponen a X y Grok en serio riesgo legal.

La Comisión Europea acaba de decirle a Elon Musk lo que todos ya sabían: crear imágenes sexualizadas de niños no es “picante”. Es ilegal. “Somos conscientes de que X o Grok ahora ofrecen un ‘Modo Picante’ que muestra contenido sexual explícito con algunas salidas generadas con imágenes infantiles”, dijo el portavoz de la UE Thomas Regnier el lunes en una conferencia de prensa en Bruselas. “Esto no es picante. Esto es ilegal. Esto es atroz. Esto es repugnante. No tiene lugar en Europa.” La declaración marca una escalada en una controversia que, como Decrypt informó anteriormente, ha visto al chatbot de xAI generar deepfakes no consensuados de mujeres, convertirse en una herramienta de marketing para creadores de OnlyFans y manipular imágenes con fines políticos. 

Regnier dejó claro que esta no es la primera infracción de Grok. La Comisión envió previamente solicitudes de información después de que el chatbot generara contenido de negación del Holocausto el año pasado—otro delito en varios países europeos. “Creo que X es muy consciente de que tomamos en serio la aplicación de la DSA”, dijo un portavoz de la UE a Euronews, haciendo referencia a la Ley de Servicios Digitales. “Recordarán la multa que nos han impuesto.” Esa multa de diciembre fue de €120 millones ($140 millones)—la primera sanción bajo la DSA. La Comisión dictaminó que X violó los requisitos de transparencia en torno a su sistema de marca azul, el repositorio de publicidad y el acceso a datos para investigadores. X sigue bajo investigación activa de la DSA por contenido ilegal y desinformación. Musk calificó la multa de “mierda” y dijo que la impugnaría.

Francia también ha ampliado una investigación penal para incluir acusaciones de que Grok genera pornografía infantil. Ofcom del Reino Unido emitió demandas urgentes el lunes para que X explique cómo Grok produjo estas imágenes. El Ministerio de Tecnología de la Información de la India dio a X hasta el 5 de enero para proporcionar una revisión de seguridad integral, y Malasia abrió su propia investigación. El eurodiputado holandés Jeroen Lenaers fue directo al grano en cuanto al enfoque de xAI. “Si las plataformas de IA eligen permitir la generación de contenido erótico, deben implementarse salvaguardas robustas, efectivas y verificables de forma independiente de antemano”, dijo Lenaers el martes. Lenaers agregó que confiar en la eliminación del material de abuso sexual infantil después de su creación no es suficiente porque “el daño a las víctimas ya ha sido infligido y no puede deshacerse." Eso fue exactamente lo que ocurrió. Como Decrypt informó, Grok publicó imágenes sexualizadas de menores antes de eliminarlas. El chatbot se disculpó la semana pasada por generar imágenes de niñas de 12 a 16 años, calificando los incidentes como “fallos en las salvaguardas”. Para entonces, el daño ya estaba hecho. ¿Respuesta de xAI a la creciente presión internacional? Cuando Reuters solicitó un comentario, la compañía respondió: “Las mentiras de los medios tradicionales.” Varias investigaciones regulatorias amenazan ahora esa estrategia. La DSA permite multas de hasta el 6% de los ingresos anuales globales por violaciones. La multa de diciembre de X se calculó usando un porcentaje menor para las infracciones iniciales. Las violaciones repetidas podrían costar mucho más. La reacción política en Washington tras las primeras multas fue inmediata. El vicepresidente JD Vance publicó que la UE “debería apoyar la libertad de expresión y no atacar a las empresas estadounidenses por basura.” El secretario de Estado Marco Rubio calificó la multa de diciembre de la DSA como un “ataque al pueblo estadounidense.”

Rumores que circulan indican que la comisión de la UE multará a X con cientos de millones de dólares por no participar en la censura. La UE debería apoyar la libertad de expresión y no atacar a las empresas estadounidenses por basura.

— JD Vance (@JDVance) 4 de diciembre de 2025

Pero los reguladores europeos no creen en la defensa de la libertad de expresión cuando se trata de material de abuso sexual infantil. El lenguaje de Regnier el lunes no dejó lugar a interpretaciones. Esto no es un debate sobre censura política o diferentes culturas de moderación de contenido, sino un asunto de detener la producción y difusión de imágenes sexualizadas ilegales de niños. xAI aún no ha realizado cambios sustantivos en las capacidades de Grok. La pestaña de Medios del chatbot fue desactivada después de que se inundara con imágenes sexualizadas, pero la función principal de editar imágenes y la capacidad de animar esas fotos siguen activas.