La Unión Europea culminó este lunes la tramitación formal de una reforma a su Ley de Inteligencia Artificial, que incorpora la prohibición de generar imágenes sexuales o íntimas sin el consentimiento de las personas involucradas, pero aplaza la entrada en vigencia de varias exigencias para los sistemas considerados de alto riesgo.
El acuerdo prohíbe los sistemas de inteligencia artificial destinados exclusivamente a crear imágenes sexuales o íntimas sin autorización, así como material de abuso sexual infantil producido mediante esta tecnología.
Las empresas que desarrollen modelos de inteligencia artificial de uso general deberán adoptar, además, “medidas de seguridad razonables” para impedir la generación y difusión de este tipo de contenidos.
La reforma fue acordada a comienzos de mayo por el Consejo de la Unión Europea y el Parlamento Europeo, luego de la controversia provocada por la circulación masiva de imágenes íntimas manipuladas con inteligencia artificial en redes sociales.
La polémica involucró especialmente a herramientas integradas en plataformas digitales, entre ellas Grok, el asistente de inteligencia artificial vinculado a la red social X.
“El progreso tecnológico debe ir siempre de la mano de la protección de nuestros valores fundamentales”, afirmó la viceministra chipriota para Asuntos Europeos y representante de la presidencia de turno del Consejo de la UE, Marilena Raouna.
La autoridad sostuvo que la reforma busca entregar seguridad jurídica y establecer una regulación armonizada que incentive la innovación y el crecimiento del sector, al mismo tiempo que prohíbe los contenidos sexuales falsificados mediante inteligencia artificial y el material de abuso infantil.
La prohibición se aplicará a imágenes que expongan partes íntimas de personas identificables. Sin embargo, el eurodiputado irlandés Michael McNamara, uno de los negociadores de la reforma, reconoció que la interpretación de la norma dependerá del grado de exposición presente en el contenido generado artificialmente.
Obligaciones de transparencia
Las instituciones europeas acordaron postergar hasta el 2 de diciembre de 2026 las obligaciones de transparencia para imágenes, videos y audios creados mediante inteligencia artificial.
A partir de esa fecha, estos contenidos deberán incorporar mecanismos que permitan a los usuarios reconocer que fueron generados o manipulados artificialmente.
La reforma también aplaza hasta el 2 de diciembre de 2027 parte de las obligaciones previstas para los sistemas de inteligencia artificial de alto riesgo.
Esta categoría incluye tecnologías utilizadas en ámbitos sensibles como salud, educación, banca, contratación de personal, control fronterizo y gestión de infraestructuras críticas.
En el caso de los sistemas incorporados en productos, como dispositivos médicos o maquinaria industrial, las nuevas exigencias comenzarán a aplicarse a partir del 2 de agosto de 2028.
La normativa original establecía plazos más breves. Sin embargo, las instituciones europeas decidieron postergar su implementación hasta por 16 meses, debido a que todavía no se encuentran disponibles todos los estándares técnicos y herramientas necesarios para su aplicación.
Menos cargas para las empresas
El acuerdo forma parte del paquete legislativo de simplificación digital denominado “Omnibus VII”, impulsado por la Comisión Europea para reducir cargas administrativas y facilitar el cumplimiento de la legislación, especialmente entre las pequeñas y medianas empresas.
El texto amplía algunas exenciones regulatorias inicialmente reservadas a las pymes para incluir a compañías de mediana capitalización.
También retrasa hasta agosto de 2027 el plazo para que los Estados miembros creen entornos nacionales de pruebas regulatorias destinados a sistemas de inteligencia artificial.
La reforma busca evitar, además, que determinados productos industriales deban cumplir requisitos duplicados cuando ya estén sujetos a otras normativas europeas específicas.
La medida afectará, entre otros productos, a dispositivos médicos, juguetes, ascensores, maquinaria y embarcaciones. En estos casos, podrán limitarse algunas exigencias de la Ley de Inteligencia Artificial cuando existan obligaciones equivalentes en la legislación sectorial.
Los legisladores mantuvieron la obligación de que las empresas registren determinados sistemas en la base de datos europea, incluso cuando consideren que estos están exentos de la clasificación de alto riesgo.
El texto restablece también el criterio de “estricta necesidad” para el uso de categorías especiales de datos personales destinados a detectar y corregir posibles sesgos en los sistemas de inteligencia artificial.
La reforma aclara, finalmente, las competencias de la Oficina Europea de Inteligencia Artificial para supervisar modelos de propósito general cuando tanto el modelo como el sistema hayan sido desarrollados por un mismo proveedor.
Se mantendrán, sin embargo, excepciones en áreas como control fronterizo, justicia, fuerzas de seguridad y entidades financieras, donde la supervisión continuará bajo responsabilidad de las autoridades nacionales.
La entrada UE prohíbe imágenes sexuales creadas con IA sin consentimiento se publicó primero en El Periodista.
