Anthropic, la empresa estadounidense creadora del asistente de inteligencia artificial Claude, bloqueó durante este año al menos cinco casos en los que sus modelos estaban siendo utilizados en investigaciones científicas potencialmente relacionadas con el desarrollo de armas biológicas, algunas de ellas con capacidad de generar riesgos de alcance pandémico.
Los episodios forman parte de una serie de actividades detectadas por los sistemas de seguridad de la compañía y muestran uno de los desafíos más complejos que enfrenta actualmente la inteligencia artificial: distinguir entre investigaciones legítimas en biomedicina y trabajos que, utilizando prácticamente los mismos conocimientos y técnicas, podrían facilitar la creación de agentes biológicos más peligrosos.
Al menos cuatro de los casos identificados estarían vinculados con organismos estatales. Anthropic decidió no revelar los países ni instituciones involucradas debido a que no pudo establecer completamente si las investigaciones tenían objetivos ofensivos o correspondían a estudios académicos o defensivos.
Un chikunguña más transmisible
Uno de los casos considerados especialmente preocupantes involucró una investigación presentada como parte de una solicitud de financiamiento para trabajos de investigación y desarrollo sobre el virus del chikunguña.
El proyecto buscaba identificar mutaciones capaces de aumentar determinadas características del virus, incorporarlas posteriormente a clones infecciosos y seleccionar aquellas variantes que mostraran mayor virulencia durante experimentos con animales.
El procedimiento implicaba, en la práctica, generar sucesivas versiones del virus y conservar aquellas que desarrollaran características consideradas más agresivas.
Este tipo de investigación tiene una naturaleza denominada de doble uso: puede entregar información relevante para desarrollar vacunas, tratamientos o mecanismos de prevención, pero también puede generar conocimientos susceptibles de ser utilizados para aumentar la capacidad dañina de un patógeno.
Una señal de alerta adicional apareció cuando los antecedentes indicaron que la investigación sería desarrollada inicialmente por científicos civiles, mientras que posteriormente los resultados serían reproducidos en un laboratorio militar. Anthropic decidió entonces bloquear la cuenta.
El chikunguña es transmitido principalmente por mosquitos infectados. Entre sus síntomas se encuentran fiebre y fuertes dolores articulares, que pueden desaparecer en algunos días, aunque en determinados pacientes pueden prolongarse durante meses e incluso años.
Toxinas y virus hemorrágicos
Los sistemas de Anthropic también detectaron el uso de sus modelos por parte de un organismo estatal que investigaba venenos no contagiosos.
Otro usuario fue bloqueado después de realizar consultas relacionadas con toxinas bacterianas y proteínas asociadas con virus causantes de fiebres hemorrágicas capaces de provocar emergencias sanitarias de gran escala.
Entre los patógenos de preocupación aparece el ébola, enfermedad que en anteriores brotes ha demostrado una elevada mortalidad y cuya manipulación constituye uno de los escenarios de mayor sensibilidad para los sistemas internacionales de bioseguridad.
La empresa detectó además investigaciones relacionadas con el virus responsable de la viruela y estudios sobre los mecanismos que podrían permitir una mayor adaptación de la gripe aviar a los mamíferos.
En estos últimos casos, sin embargo, los antecedentes analizados fueron considerados menos sospechosos y podían corresponder a trabajos científicos legítimos.
La inteligencia artificial y el dilema del “doble uso”
El episodio se produce en momentos en que las grandes compañías desarrolladoras de inteligencia artificial han comenzado a reforzar los controles sobre las capacidades de sus modelos en áreas como biología, química, ciberseguridad y desarrollo de armamento.
El problema resulta particularmente complejo en biología porque buena parte del conocimiento necesario para combatir enfermedades también puede ser empleado para modificarlas.
Una inteligencia artificial capaz de ayudar a un científico a comprender cómo muta un virus puede contribuir al desarrollo acelerado de medicamentos y vacunas, pero esa misma capacidad podría eventualmente facilitar a un actor malicioso la identificación de modificaciones destinadas a aumentar la transmisibilidad, resistencia o peligrosidad de un patógeno.
Anthropic ha ido endureciendo progresivamente sus sistemas de seguridad precisamente ante este escenario. La compañía incorporó controles especiales para impedir que sus modelos más avanzados entreguen asistencia que pueda facilitar la creación o adquisición de armas químicas, biológicas, radiológicas o nucleares.
La estrategia incluye análisis automatizado de las conversaciones, restricciones sobre determinadas consultas científicas, evaluación del comportamiento de las cuentas y bloqueo de usuarios cuando se detectan patrones de riesgo.
El desafío consiste en evitar que estos mecanismos interfieran innecesariamente con investigaciones médicas legítimas, una frontera especialmente difícil de establecer cuando los mismos experimentos pueden tener aplicaciones terapéuticas y militares.
De la amenaza teórica a casos concretos
Hasta hace pocos años, uno de los principales debates alrededor de la inteligencia artificial y las armas biológicas se concentraba en determinar si los modelos podían entregar conocimientos significativamente superiores a los disponibles mediante búsquedas convencionales en Internet o publicaciones científicas.
El rápido aumento de las capacidades de los sistemas generativos ha modificado esa discusión.
Los modelos más avanzados ya pueden analizar grandes cantidades de literatura científica, relacionar investigaciones dispersas, asistir en diseño experimental, programación y análisis de datos, capacidades que representan una herramienta poderosa para laboratorios, universidades y compañías farmacéuticas.
Al mismo tiempo, existe preocupación porque esas funciones disminuyan las barreras técnicas necesarias para desarrollar amenazas biológicas.
Los cinco casos detectados por Anthropic introducen ahora un elemento adicional: ya no se trata exclusivamente de evaluar qué podría hacer eventualmente un usuario con una IA avanzada, sino de identificar qué están intentando hacer algunos usuarios en el mundo real.
La compañía sostiene que precisamente esa vigilancia será fundamental a medida que los sistemas de inteligencia artificial aumenten su capacidad científica. La misma tecnología que promete acelerar descubrimientos médicos, diseñar nuevos medicamentos y ayudar a enfrentar futuras pandemias podría convertirse, sin controles adecuados, en una poderosa herramienta para quienes intenten provocarlas.
La entrada Anthropic bloquea cinco usos de Claude vinculados a posibles armas biológicas, algunos con riesgo pandémico se publicó primero en El Periodista.
