Bruselas (EFE) – La Comisión Europea (CE) ha anunciado la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial, Grok. El objetivo es examinar si la compañía, propiedad del magnate Elon Musk, cumple con las obligaciones establecidas por las leyes digitales europeas.
En un comunicado, Bruselas indicó que evaluará si X ha gestionado adecuadamente y mitigado los riesgos asociados con el lanzamiento de las funciones de Grok en la Unión Europea. Esto incluye la posible distribución de contenido ilegal, como imágenes manipuladas sexualmente explícitas, que incluso podrían considerarse material de abuso sexual infantil.
Ley de Servicios Digitales
La Comisión señaló: «Estos riesgos parecen haberse materializado. Por ello, investigar si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (…) y producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo».
Antes de iniciar la investigación, la Comisión Europea ya había requerido a la red social X conservar toda su documentación interna relativa a Grok hasta 2026, en el marco de la investigación abierta para analizar su política contra los contenidos ilegales.
La orden llegó en medio de la polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas, lo que llevó al Gobierno francés a denunciar a X ante los tribunales. Estas situaciones se suman a otros problemas como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.
Una investigación «prioritaria» para Bruselas
Fuentes comunitarias han reconocido que X ha tomado algunas medidas para frenar la difusión de este tipo de imágenes tras la polémica y el aumento de presión por parte de la Comisión Europea. Sin embargo, apuntaron a que la investigación que acaban de abrir «va más allá» de las imágenes sexualizadas, ya que se trata de un problema más generalizado relacionado con la arquitectura de la red social y su IA.
La Comisión Europea considera que, si se comprueban estas acusaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta al operar en la Unión Europea, incluyendo la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.
Las mismas fuentes aclararon que la investigación no tiene un calendario específico ni fechas límites, pero que, dado los riesgos asociados con las funcionalidades de Grok, se tramitará «de manera prioritaria» en Bruselas.
Multa a X por «diseño engañoso»
Además, Bruselas ya había multado a X en diciembre con 120.000.000 euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley, debido al «diseño engañoso» de su marca de verificación azul, la falta de transparencia en su repositorio publicitario y la falta de acceso a datos públicos para investigadores.
Paralelamente, Bruselas prorrogó este lunes su investigación en curso desde 2023 para determinar si X cumple con sus obligaciones en la gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de la transición a un sistema basado en la inteligencia artificial de Grok, tal como ha sido anunciado recientemente por la compañía.