La plataforma X del multimillonario Elon Musk ha limitado el uso de su herramienta de inteligencia artificial Grok para editar imágenes a usuarios de pago, tras recibir numerosas denuncias por el uso indebido de esta función, que permitía a los usuarios alterar imágenes de otras personas, desnudándolas sin su consentimiento.
Con esta nueva medida, el nombre y la información de pago del usuario estarán asociados a cualquier imagen alterada, independientemente de su naturaleza. Según Elon Musk, «Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal».
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
Grok, que anteriormente permitía editar y subir fotos de forma gratuita, ha estado bajo el escrutinio público debido a su uso para modificar imágenes de mujeres, presentándolas en situaciones sexualizadas. Esta crítica ha provocado una ola de denuncias y preocupaciones sobre el uso de inteligencia artificial con fines no éticos.
Denuncias en la red
Según informes de la agencia EFE, desde esta semana, Grok ha comenzado a notificar a los usuarios que solicitan modificar imágenes subidas a X que «la generación y edición de imágenes están limitadas a suscriptores de pago», indicando que solo los usuarios que paguen podrán acceder a estas funciones bajo su propia responsabilidad.
Daisy Dixon, profesora de Filosofía en la Universidad de Cardiff y una de las denunciantes que reportó el uso de Grok para desnudar sus imágenes, ha calificado este cambio como «un parche».
Grok has apparently turned off its image generation. This will mean at least a pause of these offences which is good, but I’m worried it’s a panicked sticking plaster for a deeper problem: unethical AI design and pervasive misogyny …
Dixon añade que «Grok ha desactivado su función de generación de imágenes. Esto supondrá una pausa en las ofensas, lo cual es positivo, pero me preocupa que sea solo una solución temporal para encubrir un problema más grave: el diseño poco ético de herramientas de inteligencia artificial que perpetúan la misoginia». La filósofa también subraya que la gran mayoría (más del 95%) de los abusos sexuales con imágenes no consentidas en esta red van dirigidos a mujeres.
Criticas oficiales
Numerosos gobiernos a nivel mundial, en especial en Europa, han calificado de «repugnante» la generación de imágenes sexualizadas de niños y mujeres a través de Grok en días recientes. Estos gobiernos han anunciado la posibilidad de implementar medidas y sanciones.
En España, la ministra de Juventud e Infancia, Sira Riego, ha solicitado a la Fiscalía General del Estado que investigue a X y su herramienta de IA por presuntos delitos de difusión de material de violencia sexual contra la infancia.