La Unión Europea acuerda prohibir las IA que permiten generar imágenes sexuales falsas

Los Estados miembro de la Unión Europea (UE) y el Parlamento Europeo alcanzaron un acuerdo este jueves para prohibir en sus territorios los servicios de inteligencia artificial (IA) que permiten ?...

Los Estados miembro de la Unión Europea (UE) y el Parlamento Europeo alcanzaron un acuerdo este jueves para prohibir en sus territorios los servicios de inteligencia artificial (IA) que permiten “desnudar” a personas sin su consentimiento y crear imágenes sexuales falsas.

La iniciativa surge, entre otros motivos, después de que hace algunos meses Grok, el asistente de inteligencia artificial de la red social X de Elon Musk, incorporara una función que permitía a los usuarios crear montajes hiperrealistas deepfakes de adultos y niños desnudos a partir de fotografías reales y sin consentimiento.

Según informó la Agence France-Presse (AFP), la nueva prohibición apunta a los sistemas capaces de generar imágenes, videos y audios de carácter pedopornográfico, o que representen las partes íntimas de una persona identificable, o la muestren participando en actividades sexuales sin su consentimiento.

El martes, la primera ministra italiana, Giorgia Meloni, denunció imágenes falsas generadas con inteligencia artificial en su cuenta de Instagram. Ahí Meloni publicó una captura de una foto manipulada en la que aparecía en ropa interior, sonriendo sobre una cama.

“En estos días circulan varias fotos falsas mías, generadas con inteligencia artificial y difundidas como verdaderas por algún opositor diligente. Debo reconocer que quienes las hicieron, al menos en el caso de la imagen adjunta, incluso me mejoraron bastante. Pero sigue siendo cierto que, con tal de atacar e inventar falsedades, ya se utiliza cualquier cosa. El problema, además, va mucho más allá de mí”, escribió en la descripción de la foto.

Y añadió: “Los deepfakes son una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera. Yo puedo defenderme. Muchos otros no. Por eso debería existir siempre una regla: verificar antes de creer y creer antes de compartir. Porque hoy me pasa a mí, mañana puede pasarle a cualquiera”.

No es la primera vez que la imagen de Meloni es manipulada. También circuló un video publicado en diciembre de 2024 en el que aparecía en un beso apasionado con Elon Musk.

La nueva regulación entrará en vigor el 2 de diciembre de 2026. A partir de esa fecha, las inteligencias artificiales deberán contar con medidas de seguridad que les impidan generar este tipo de contenidos. La medida fue adoptada en el marco de una revisión de la legislación europea sobre inteligencia artificial, conocida como AI Act, una ley pionera aprobada formalmente hace dos años.

En esa ocasión, según informó AFP, los 27 Estados miembro y los eurodiputados también aceptaron, tal como lo había propuesto la Comisión Europea, postergar la entrada en vigor de nuevas normas destinadas a regular la actividad de los sistemas de inteligencia artificial considerados “de alto riesgo”, es decir, aquellos utilizados en áreas sensibles como la seguridad, la salud o los derechos fundamentales.

Desde hace varios meses existía una ola de indignación internacional. Numerosas mujeres denunciaron haber sido víctimas de usuarios que pedían generar imágenes de ellas en bikini o desnudas con la IA Grok, de la red social X. Varios políticos europeos habían también denunciado y alarmado sobre esa practica.

El 8 de enero de 2026, en plena sesión parlamentaria, la diputada federal belga Victoria Vandenberg mostró una imagen de sí misma que había creado utilizando la IA Grok, de la red social X, con el objetivo de alertar sobre el problema. “La primera es una simple foto mía publicada inocentemente en redes sociales; la segunda fue generada en apenas unos segundos con una IA que me desnudó y sexualizó sin mi consentimiento”, explicó la diputada en pleno parlamento.

A la vez, la Alta Comisionada para la Infancia de Francia, Sarah El Haïry, llevó el caso ante la Justicia, además de contactar a Arcom (el regulador audiovisual) y a la plataforma Pharos, destinada a denunciar contenidos ilegales en internet.

Por otra parte, Liz Kendall, secretaria de Estado de Ciencia, Innovación y Tecnología del Reino Unido, había también afirmado que el contenido que circuló en X es abyecto. “No se trata solo de una afrenta contra una sociedad decente, también es ilegal”, afirmó.

Tras las distintas denuncias, el 14 de enero, Elon Musk anunció el despliegue de medidas para impedir que se “desnudara” a personas reales en las jurisdicciones donde esa práctica era ilegal, incluso para los usuarios pagos.

Mas allá de la UE, otros países –como Indonesia y Malasia– suspendieron el acceso a Grok a su población.