El acelerado desarrollo de la inteligencia artificial abrió una nueva alerta en Naciones Unidas. El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, llamó a los Estados y a las grandes empresas tecnológicas a establecer reglas efectivas para controlar los modelos más avanzados de IA, advirtiendo que su creciente autonomía puede tener consecuencias profundas sobre la privacidad, la seguridad, la democracia y otros derechos fundamentales.
En una carta abierta dirigida a gobiernos y compañías que desarrollan inteligencia artificial de frontera, Türk sostuvo que el desafío central ya no consiste únicamente en aprovechar los beneficios de esta tecnología, sino en conseguir que los mecanismos de supervisión avancen a una velocidad similar a la de los propios sistemas.
“El verdadero reto hoy es cómo equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo”, planteó.
El alto comisionado reconoció que la inteligencia artificial ya está generando aportes significativos en áreas como la investigación científica, el acceso a información en distintos idiomas, la productividad y la agricultura. Sin embargo, advirtió que esos beneficios conviven con riesgos que ya se están materializando.
Entre ellos mencionó sistemas que reproducen discriminaciones, pérdida masiva de privacidad, decisiones automatizadas que pueden excluir a determinados grupos de servicios esenciales y nuevas herramientas capaces de amplificar campañas de desinformación.
La preocupación por los agentes autónomos
Uno de los principales focos de inquietud son los denominados agentes de inteligencia artificial, sistemas capaces de recibir una meta, dividirla en tareas y ejecutar acciones con un grado cada vez menor de intervención humana.
Según Türk, este tipo de tecnología puede traducir objetivos en acciones, ejecutar procesos complejos y operar incluso sin supervisión directa, aumentando el impacto de cualquier error, comportamiento inesperado o manipulación.
La advertencia ocurre además en momentos en que distintos episodios han expuesto las dificultades para mantener bajo control sistemas autónomos altamente avanzados.
Uno de los casos más comentados ocurrió este año con agentes desarrollados por OpenAI durante pruebas de ciberseguridad. Los sistemas terminaron interactuando con infraestructura externa y protagonizaron un incidente que afectó a la plataforma Hugging Face, utilizada globalmente para alojar modelos y herramientas de inteligencia artificial. OpenAI posteriormente reconoció que comportamientos desalineados de sus modelos habían producido consecuencias fuera de los entornos originalmente previstos.
También se conocieron antecedentes de agentes que accedieron a otros servicios digitales y realizaron acciones no anticipadas por sus desarrolladores, alimentando el debate sobre hasta qué punto las actuales barreras técnicas son suficientes para contener sistemas capaces de actuar de manera autónoma.
“Todos los derechos humanos están en riesgo”
Para Türk, el alcance del problema obliga a abandonar la idea de que la discusión sobre inteligencia artificial pertenece únicamente al ámbito tecnológico.
“Todos los derechos humanos están en riesgo”, sostuvo el alto comisionado.
La ONU plantea que los gobiernos deben reforzar los sistemas de evaluación, auditoría y responsabilidad sobre las empresas que desarrollan inteligencia artificial avanzada.
Entre las medidas propuestas aparece una mayor supervisión independiente, sistemas internos de control, transparencia sobre las capacidades de los modelos y mecanismos claros para determinar responsabilidades cuando se produzcan daños.
El organismo también considera necesario fortalecer la cooperación internacional y evitar que la competencia tecnológica entre grandes potencias termine debilitando las medidas de seguridad.
Estados Unidos y China concentran actualmente buena parte de la carrera mundial por desarrollar los sistemas más potentes, tanto por su importancia económica como por sus posibles aplicaciones científicas, industriales y militares.
Crecen los llamados a desacelerar
La advertencia de Naciones Unidas coincide con un cambio significativo en el debate dentro de la propia industria tecnológica.
En los últimos días, ejecutivos y especialistas vinculados a algunas de las principales compañías de inteligencia artificial han planteado públicamente la necesidad de reducir la velocidad con que se desarrollan los modelos más avanzados.
El director ejecutivo de Anthropic, Dario Amodei, ha propuesto reforzar las evaluaciones externas y ralentizar el desarrollo de sistemas considerados de alto riesgo. Otros dirigentes del sector también han planteado la conveniencia de establecer mayores controles antes de avanzar hacia tecnologías potencialmente mucho más autónomas.
Microsoft, por su parte, presentó este lunes un borrador de código de conducta para sus sistemas de inteligencia artificial que establece principios destinados a garantizar que las máquinas permanezcan bajo control humano, acepten correcciones y puedan ser desactivadas cuando sea necesario.
IA pisa el freno: Wall Street se desploma y Trump acusa conspiración que beneficiaría a China
El riesgo de una IA que mejore a otra IA
Uno de los escenarios que genera mayor preocupación es la denominada automejora recursiva.
El concepto describe un proceso en el cual un sistema de inteligencia artificial comienza a participar directamente en el diseño, programación o entrenamiento de nuevas generaciones de IA, acelerando progresivamente su propio desarrollo.
Anthropic ha reconocido que sus herramientas ya participan de manera creciente en tareas de programación y desarrollo de nuevos sistemas. La empresa sostiene que todavía no existe una inteligencia artificial capaz de desarrollar completamente a su sucesora de manera autónoma, aunque considera que esa posibilidad podría surgir antes de que las instituciones estén preparadas para responder.
Para Naciones Unidas, ese escenario refuerza la necesidad de establecer límites antes de que las capacidades técnicas superen la capacidad regulatoria de gobiernos e instituciones.
Türk planteó que las empresas deben asumir responsabilidades concretas por el comportamiento de sus modelos y que los gobiernos deben estar preparados para intervenir cuando los mecanismos voluntarios de autorregulación resulten insuficientes.
La discusión ocurre en un momento en que la inteligencia artificial comienza a extenderse rápidamente hacia sectores como defensa, finanzas, salud, educación, administración pública y seguridad informática.
El alto comisionado cerró su advertencia poniendo el foco en quienes deberán convivir durante décadas con las consecuencias de las decisiones que se adopten actualmente.
“La generación que ahora entra en la edad adulta heredará las consecuencias de las decisiones que se están tomando sobre esta materia sin haber tenido voz en ellas”, señaló.
Para Naciones Unidas, el desafío consiste en garantizar que el desarrollo tecnológico no obligue a las sociedades a elegir entre progreso e innovación, por una parte, y derechos fundamentales por otra.
La entrada ONU alerta por riesgos de la IA y exige reglas globales para proteger los DDHH se publicó primero en El Periodista.
