Carrera contrarreloj para poner cerco a las imágenes sexualizadas de Grok

Bruselas ha subido el tono en su ofensiva regulatoria contra las grandes tecnológicas, en este caso contra X, la red social liderada por el magnate Elon Musk. Este lunes, la Comisión Europea ha formalizado la apertura de una investigación centrada en Grok, el chatbot de inteligencia artificial generativa integrado en la plataforma.

La decisión responde a la reciente oleada de deepfakes sexualizados –imágenes de desnudos de personas reales generadas artificialmente sin el consentimiento de las víctimas– que han inundado la red social, lo que supone un desafío directo a la Ley de Servicios Digitales (DSA) de la UE.

La preocupación de Bruselas no es solo teórica, se basa en un impacto social masivo. Según un informe del Center for Countering Digital Hate (CCDH), se estima que en apenas once días Grok pudo haber generado cerca de tres millones de imágenes sexuales no consentidas. De esta cifra se identificaron al menos 23.000 imágenes que involucraban a menores de edad.

«Existen vínculos evidentes con contenidos ilegales, incluidos, desde hace tiempo, imágenes de menores, imágenes íntimas y desnudos expuestos. También hay una relación con material de abuso sexual infantil, con la violencia contra las mujeres, así como con la salud mental y el bienestar», señalaron fuentes comunitarias.

Grok es una herramienta de inteligencia artificial integrada en la red social anteriormente conocida como Twitter desde 2024 que permite generar texto, imágenes y añadir contexto a publicaciones. Como plataforma en línea de muy gran tamaño bajo la DSA, X debe evaluar y mitigar los riesgos sistémicos de sus servicios en la UE, incluidos los relacionados con contenido ilegal y la protección de menores.

«No dejaremos en manos de las empresas tecnológicas el consentimiento y la protección infantil para que los vulneren y moneticen. El daño causado por las imágenes ilegales es muy real», dijo al respecto la jefa del Ejecutivo comunitario, Ursula von der Leyen.

Bajo la DSA, los investigadores intervienen cuando observan «un enfoque sistémico por parte de la plataforma en el que el sistema no está diseñado para mitigar adecuadamente los riesgos de exposición a este tipo de imágenes». Así, no se trata de perseguir cada publicación individual, sino de evaluar si la arquitectura misma de la aplicación es segura.

La Comisión sospecha que la red social lanzó estas funciones de IA sin las salvaguardas mínimas exigidas a las plataformas de gran tamaño. «Abrimos esta investigación porque tenemos motivos para creer que X no llevó a cabo una evaluación de riesgos ad hoc cuando implementó estas funciones. A la vista del daño causado a las personas afectadas por estas imágenes, no estamos convencidos de que las medidas adoptadas por la plataforma sean suficientes para controlar la situación», aseguró al respecto un funcionario comunitario.

Ahora, la Comisión seguirá recopilando pruebas y podrá imponer medidas provisionales si no se producen «ajustes significativos» en el servicio de X. El Ejecutivo comunitario advirtió este lunes que podría ordenar a la plataforma que modifique sus algoritmos o incluso que cierre el chatbot.

De probarse las nuevas infracciones, «el siguiente paso serían las conclusiones preliminares, luego la empresa tendría derecho a la defensa y a ser escuchada antes de una posible decisión final de incumplimiento, que podría incluir multas», explicaron fuentes comunitarias. Estas sanciones podrían alcanzar hasta el 6 % de la facturación global anual de la compañía.

A la investigación actual se suma un proceso abierto en 2023 en virtud de la DSA, que ahora se amplía para analizar la decisión de Musk de poner los algoritmos de recomendación de X bajo el control directo de Grok.

El bloque teme que esta integración potencie la difusión de contenidos nocivos, desinformación o material ilícito. Bruselas ya multó en diciembre a la red social con 120 millones de euros por deficiencias en materia de transparencia.

La apertura de este expediente llega en un momento de máxima tensión diplomática entre Bruselas y Washington. La administración del presidente Trump ha reaccionado previamente con dureza a las sanciones a grandes tecnológicas, acusando al bloque de utilizar la DSA como una herramienta proteccionista.