La carrera por desarrollar sistemas de inteligencia artificial cada vez más poderosos llegó directamente al Consejo de Seguridad de Naciones Unidas, donde los máximos ejecutivos de OpenAI y Anthropic plantearon que el mundo enfrenta una decisión que puede determinar el impacto de esta tecnología durante las próximas décadas.
Sam Altman, CEO de OpenAI, sostuvo que la IA puede conducir a una etapa comparable con un nuevo Renacimiento en términos de creatividad, conocimiento y descubrimientos, pero advirtió que también podría provocar una transformación semejante a una nueva Revolución Industrial marcada por fuertes alteraciones económicas y sociales.
“Tenemos una elección ante nosotros”, planteó Altman durante la sesión celebrada este miércoles 23 de septiembre en Nueva York.
El ejecutivo defendió que los sistemas de inteligencia artificial deben permanecer bajo control humano y que las decisiones fundamentales sobre su desarrollo no pueden quedar exclusivamente en manos de un pequeño grupo de compañías tecnológicas.
Su planteamiento apunta a que la IA debe aumentar las capacidades de las personas y no sustituir su capacidad de decisión.
Altman también rechazó una visión exclusivamente catastrofista sobre el futuro de esta tecnología, pero reconoció que el rápido avance de los modelos ha comprimido los plazos y hecho más inmediatos tanto sus beneficios como sus riesgos.
Amodei: el riesgo puede afectar a toda la humanidad
Más enfático respecto de los peligros fue Dario Amodei, CEO de Anthropic, quien dividió las amenazas principales en dos categorías: el uso malicioso de los sistemas y una eventual pérdida de control sobre modelos cada vez más autónomos.
Entre los escenarios que preocupan al ejecutivo figuran la utilización de inteligencia artificial para facilitar actividades terroristas o contribuir al desarrollo de armas biológicas.
Amodei sostuvo que una gestión deficiente de la tecnología podría transformarla en un riesgo para la humanidad en su conjunto y defendió que el ritmo de avance de las capacidades vaya acompañado por progresos equivalentes en materia de seguridad.
Para ello propuso avanzar en tres niveles: evaluaciones externas independientes de los modelos más avanzados, estándares compartidos entre las empresas desarrolladoras y acuerdos internacionales que establezcan normas aplicables entre países.
La discusión adquiere especial relevancia porque las principales compañías están compitiendo simultáneamente por desarrollar modelos más capaces, captar clientes corporativos y controlar una industria que moviliza inversiones de cientos de miles de millones de dólares.
En las últimas semanas, Amodei ya había pedido públicamente reducir el ritmo de desarrollo de los sistemas más avanzados para disponer de mayores garantías de seguridad, posición que encontró respaldo entre figuras relevantes de la industria tecnológica.
Guterres: las máquinas no pueden decidir sobre la vida y la muerte
El secretario general de Naciones Unidas, António Guterres, centró su intervención en la responsabilidad política y humana detrás de los sistemas.
El jefe de la ONU sostuvo que el problema no es necesariamente la existencia de nuevas tecnologías, sino su utilización sin mecanismos efectivos de rendición de cuentas.
También reiteró su rechazo a los sistemas de armas autónomas capaces de seleccionar y atacar objetivos sin intervención humana, un debate que ha cobrado creciente importancia debido a la incorporación de inteligencia artificial en tecnologías militares.
Para Naciones Unidas, la expansión de la IA ya dejó de ser exclusivamente una discusión tecnológica o económica y pasó a convertirse en un asunto relacionado con la seguridad internacional.
Estados Unidos rechaza una autoridad global sobre la IA
La sesión también dejó al descubierto las diferencias entre Washington y Pekín respecto de cómo debería gobernarse la inteligencia artificial.
Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, defendió la continuidad del desarrollo tecnológico y sostuvo que los riesgos asociados a la IA no justifican detener su avance.
Estados Unidos rechazó además la creación de nuevas estructuras internacionales que puedan asumir un control global sobre el desarrollo de sistemas de inteligencia artificial.
La postura coincide con la política impulsada por el presidente Donald Trump, cuya administración ha planteado que Estados Unidos debe mantener su liderazgo tecnológico frente a China y evitar regulaciones internacionales que puedan limitar la innovación estadounidense.
El planteamiento estadounidense introduce una diferencia sustancial respecto de las propuestas defendidas por Amodei y otros referentes del sector, que consideran necesarios ciertos estándares internacionales precisamente porque los modelos avanzados pueden tener efectos que trascienden las fronteras nacionales.
China: la IA no puede ser “un juego de países ricos”
China adoptó una posición diferente.
Su representante permanente ante Naciones Unidas, Fu Cong, pidió fortalecer la cooperación internacional y reclamó mayores responsabilidades para las grandes compañías que controlan los modelos más avanzados.
Pekín sostiene que la inteligencia artificial debe ser considerada un patrimonio compartido de la humanidad y no convertirse en una tecnología disponible exclusivamente para los países con mayores recursos económicos y las grandes corporaciones.
La divergencia refleja una disputa mucho mayor entre las dos principales potencias mundiales por el liderazgo tecnológico, que incluye semiconductores avanzados, centros de datos, infraestructura energética, modelos fundacionales y capacidad computacional.
La inteligencia artificial se ha convertido así en otro componente estratégico de la competencia entre Estados Unidos y China, junto con las tensiones comerciales, tecnológicas y geopolíticas que se extienden desde Asia hasta Medio Oriente.
Una discusión acelerada por recientes incidentes
La intervención de Altman y Amodei se produce además en medio de una sucesión de episodios que han intensificado el debate sobre la seguridad de los agentes autónomos.
Este jueves, el gobierno de Australia denunció que un agente desarrollado por OpenAI consiguió acceder sin autorización a un portal gubernamental administrado por Services Australia el pasado 18 de junio. Según las autoridades australianas, el sistema accedió a archivos públicos y privados, aunque no habría alcanzado información personal de usuarios de Medicare.
El incidente adquiere especial relevancia después de las advertencias realizadas ante Naciones Unidas: a medida que los modelos dejan de limitarse a responder preguntas y comienzan a ejecutar acciones autónomas, aumenta también la necesidad de establecer mecanismos capaces de determinar qué pueden hacer, bajo qué condiciones y quién responde cuando actúan de manera inesperada.
El debate internacional se desplaza, por tanto, desde la pregunta sobre cuánto puede avanzar la inteligencia artificial hacia otra mucho más compleja: quién controlará sistemas cada vez más poderosos y qué garantías existirán para asegurar que las decisiones finales continúen en manos humanas.
La entrada OpenAI y Anthropic llevan alerta por la IA a la ONU: “Puede ser un nuevo Renacimiento o una era de caos” se publicó primero en El Periodista.
