La IA de Grok inundó X con tres millones de imágenes sexualizadas, incluidas miles de menores
El generador de imágenes impulsado por la inteligencia artificial Grok inundó la red social X con aproximadamente tres millones de imágenes sexualizadas durante los 11 días que estuvo disponible, incluidas 23.000 representando a niños y cerca de 1,8 millones con mujeres, según datos de The New York Times y el Centro para la Lucha contra el Odio Digital (CCDH).
El aumento del uso de Grok coincidió con la introducción de una nueva función en X el 29 de diciembre, que permitía a los usuarios editar imágenes publicadas con un solo clic, informa Ep.
El 2 de enero, la propia compañía reconoció fallos en sus salvaguardias tras descubrir que el ‘chatbot’ respondía a peticiones de usuarios para desnudar mujeres y niños, generando imágenes sexuales sin el consentimiento de las víctimas, lo cual está prohibido por las políticas de uso de xAI, la empresa responsable.
Tras recopilar múltiples quejas de usuarios y autoridades de la Unión Europea, Reino Unido y España, la compañía limitó Grok a usuarios de pago el 9 de enero y, finalmente, el 14 de enero bloqueó la generación de imágenes sexualizadas para todos los usuarios.
Durante este periodo, la red social se inundó de imágenes sexuales, equivalentes a 190 imágenes por minuto, según el CCDH. Entre ellas, se incluían imágenes manipuladas de mujeres famosas como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, así como figuras políticas como Kamala Harris o Ebba Busch. La IA generó alrededor de 23.000 imágenes sexualizadas de menores, incluyendo contenido de niñas en bikini o niños actores. Además, se detectaron 9.900 imágenes sexualizadas de niños en formato dibujo animado.
A pesar del bloqueo de la función, el 29% de las imágenes de menores seguían siendo accesibles al 15 de enero, según el CCDH. Su director ejecutivo, Imran Ahmed, alertó sobre la gravedad del impacto de estas herramientas, subrayando que “han existido herramientas de desnudez, pero nunca con la distribución, facilidad de uso ni integración en una gran plataforma como Grok”.
El informe del CCDH se basó en una muestra aleatoria de 20.000 imágenes del total de 4,6 millones producidas por Grok entre el 29 de diciembre y el 8 de enero, utilizando IA para identificar la proporción de contenido sexualizado.