Publicado
El creciente rechazo mundial a las imágenes sexualmente explícitas generadas por la inteligencia artificial de xAI ha obligado a la empresa, propiedad de Elon Musk, a abordar los problemas de seguridad.
En las últimas semanas, el chatbot Grok de xAI ha respondido a las peticiones de los usuarios para desnudar imágenes de mujeres y hacerlas posar en bikini, creando ‘deepfakes’ generados por IA sin consentimiento ni salvaguardas.
Los análisis de los medios de comunicación también descubrieron que Grok a menudo accedía cuando los usuarios le pedían que generara imágenes sexualmente sugerentes de menores, incluida una de una actriz de 14 años, lo que hizo saltar las alarmas de los reguladores mundiales.
En respuesta a la avalancha de imágenes, funcionarios de la UE, Francia, India y Malasia han iniciado investigaciones y amenazado con emprender acciones legales si xAI no toma medidas para prevenir y eliminar ‘deepfakes’ sexuales de personas reales y material de abuso sexual infantil (CSAM).
Musk, que en un principio se había burlado de las imágenes en bikini volviendo a publicar imágenes suyas y de una tostadora en bikini generadas por Grok, publicó el sábado que “cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
La cuenta de seguridad de X añadió en un post el domingo que el contenido ilegal sería eliminado y las cuentas que lo publicaran serían suspendidas permanentemente, afirmando que la empresa trabajaría con los gobiernos locales y las fuerzas del orden para identificar a los infractores.
Grok, ajeno a la polémica
Desde que Musk compró X, antes conocida como Twitter, en 2023, ha transformado la plataforma de medios sociales en un contrapeso a la “corrección política”, apuntando a los medios tradicionales y a la política progresista. Esta filosofía también se ha aplicado al negocio de la IA, con Grok diseñado para ser “políticamente neutral” y “buscar la verdad al máximo”, según Musk.
En realidad, el chatbot, que está integrado en la interfaz de X, lo que significa que los usuarios pueden hacerle preguntas directamente etiquetándolo en los mensajes, ha reflejado cada vez más la propia visión del mundo de Musk y sus opiniones de derechas.
El pasado julio, xAI emitió una larga disculpa después de que Grok publicara una serie de comentarios antisemitas alabando a Adolf Hitler, refiriéndose a sí mismo como ‘MechaHitler’ y generando contenido de negación del Holocausto.
Grok Imagine, el generador de imágenes y vídeos basado en IA de la empresa, ha sido criticado por permitir la difusión de ‘deepfakes’ sexuales desde su lanzamiento en agosto de 2025. El generador incluye un modo picante de pago que permite a los usuarios crear contenidos NSFW (not safe for work o no recomendados para ver en el trabajo), incluidos desnudos parciales.
Sus condiciones prohíben la pornografía con imágenes de personas reales y el contenido sexual que implique a menores. Sin embargo, según ‘The Verge’, la herramienta generó vídeos de desnudos de la estrella del pop Taylor Swift sin que nadie se lo pidiera.
La lucha contra las herramientas de ‘desnudificación’ basadas en IA
Las herramientas basadas en IA que permiten a los usuarios editar imágenes para eliminar la ropa de alguien han sido objeto de críticas por parte de los organismos reguladores, cuyo objetivo es luchar contra la misoginia y proteger a los niños.
En diciembre, el Gobierno británico anunció que prohibiría las llamadas aplicaciones de ‘desnudificación‘ como parte de un esfuerzo más amplio para reducir a la mitad la violencia contra mujeres y niñas. Las nuevas leyes ilegalizarían la creación o el suministro de herramientas de inteligencia artificial que permitan a los usuarios desvestir digitalmente a alguien.
Según un informe de 2023 de la empresa de ciberseguridad Home Security Heroes, la pornografía falsa representa aproximadamente el 98% de todos los vídeos falsos en línea, y el 99% de los objetivos son mujeres.
