La inteligencia artificial de la red social X, conocida como Grok, ha tomado la decisión de restringir la posibilidad de editar fotografías incluso para los usuarios de pago. Esta medida se adopta en medio de una creciente polémica a nivel global debido a la difusión y manipulación de imágenes de personas que han sido desnudadas digitalmente sin su consentimiento.
Ante las numerosas denuncias y quejas sobre la divulgación de imágenes alteradas sin autorización de quienes aparecen en ellas, Grok inicialmente limitó el uso de herramientas de edición de imágenes a usuarios suscritos de pago. Así, el nombre y la información de los suscriptores quedaban ligados a cualquier acción ilícita que se pudiera cometer.
Los argumentos de X
Recientemente, la inteligencia artificial integrada en X decidió extender la restricción sobre la edición de imágenes y la generación avanzada de imágenes a todos los usuarios, incluidos los de pago. La plataforma ha declarado: «Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago».
Además, la red social enfatiza su compromiso para hacer de X «una plataforma segura para todos», manteniendo una política de tolerancia cero frente a cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado.
Dentro de su estrategia, han destacado su intención de eliminar contenidos infractores de alta prioridad, incluida la pornografía infantil y la desnudez no consensuada. También han indicado que tomarán medidas contra las cuentas que no cumplan con sus reglas y denunciarán a las autoridades las cuentas que busquen material de explotación sexual infantil.
Inicialmente, la compañía había restringido la edición de imágenes a suscriptores de pago como una «medida de seguridad y responsabilidad». Sin embargo, esta decisión fue objeto de críticas, al considerarse un enfoque insuficiente que podía interpretarse como una «monetización» del abuso.
La presión internacional
La decisión de Grok llega después de la presión regulatoria y las acciones emprendidas por distintos países de la Unión Europea y del Reino Unido, incluyendo España. En este último, el Gobierno ha solicitado a la Fiscalía General del Estado investigar si Grok podría estar cometiendo delitos relacionados con la difusión de material de violencia sexual contra la infancia.
Elon Musk, dueño de la plataforma, se vio envuelto en el escándalo a raíz de la proliferación de estas imágenes manipuladas. En una de sus intervenciones, publicó una imagen de sí mismo en bikini, un acto que generó aún más controversia.
Más recientemente, Musk utilizó su red social para desmentir que su herramienta de inteligencia artificial hubiera creado imágenes de menores desnudos, afirmando que había «literalmente ninguna».