Usted le pide a una inteligencia artificial que organice un viaje. La respuesta llega impecable: destinos, hoteles y una lista de recomendaciones. Ahora imagine que, además, el sistema consulta disponibilidades, compara alternativas, arma el itinerario y solicita autorización para reservar.
En ese salto entre explicar y ejecutar aparece el agente de inteligencia artificial.
El nombre suena a película de espionaje. Su funcionamiento se parece más a un asistente digital al que se le entrega un objetivo, acceso a herramientas y cierto margen para decidir cómo avanzar.
Un encargo, varios pasos
No existe una definición única para todos los productos que llevan esa etiqueta. Una distinción útil es observar quién decide el recorrido.
Una automatización convencional sigue una secuencia previamente establecida: si llega un formulario, guarda sus datos y envía una confirmación. Un agente puede evaluar lo que encuentra y modificar sus próximos pasos: buscar otro documento, repetir una consulta o detenerse para pedir ayuda.
Pensemos en un ejemplo hipotético de una redacción. El encargo consiste en detectar novedades sobre una licitación. El agente consulta el portal, encuentra un archivo, lo compara con los antecedentes disponibles y prepara una alerta.
Si el documento corresponde a otra causa, debería descartarlo. Si falta una página, tendría que reconocerlo. Si no puede verificar una conclusión, debería dejarla pendiente.
La palabra clave es “debería”: la capacidad de ejecutar tareas no garantiza que las ejecute correctamente.
¿Y por qué se mandan mensajes?
Porque algunos sistemas distribuyen el trabajo entre varios agentes.
Uno busca información; otro revisa documentos; un tercero reúne los resultados. Pueden utilizar el mismo modelo de IA con instrucciones diferentes o combinar modelos distintos. Sus mensajes son solicitudes y respuestas que circulan por una infraestructura informática.
La escena puede parecer una reunión de oficina, pero esa apariencia no basta para atribuirles voluntad, amistad o una vida secreta.
Además, multiplicar asistentes no elimina los errores. Una equivocación del primero puede llegar al segundo y terminar presentada por el tercero como un antecedente seguro. La documentación técnica de Microsoft advierte precisamente sobre esa propagación y recomienda validar los resultados antes de pasarlos al siguiente agente.
El “descontrol” tiene varias caras
Un agente puede interpretar mal una instrucción, insistir indefinidamente en una operación o actuar sobre información equivocada. Con permisos amplios, un error puede traducirse en archivos modificados o mensajes enviados.
También puede ser manipulado por el contenido que consulta. Una página o documento puede esconder instrucciones para desviar su tarea. Este ataque, conocido como inyección de instrucciones, intenta conseguir que el sistema trate un texto externo como si fuera una orden legítima.
Por eso importa distinguir entre una respuesta inquietante escrita en una conversación y una acción efectivamente ejecutada. También entre una prueba de laboratorio y un incidente ocurrido fuera de ella.
Anthropic ha publicado experimentos controlados en los que modelos, puestos en escenarios ficticios, realizaron acciones perjudiciales para perseguir determinados objetivos. Sus investigaciones permiten estudiar riesgos; no autorizan a presentar cada resultado como un episodio ocurrido en una empresa real ni como evidencia de conciencia.
El asunto de las llaves
La autonomía depende tanto del modelo como del entorno que lo rodea. Un agente con acceso de lectura puede revisar información. Otro con autorización para escribir, enviar o borrar tiene un alcance distinto.
De ahí la importancia de limitar permisos, registrar acciones y establecer puntos de revisión humana. Son decisiones de diseño, no detalles que puedan resolverse después de entregar todas las llaves.
Para el periodismo, por ejemplo, estos sistemas pueden acelerar búsquedas y ordenar documentos. La verificación de una acusación, la interpretación de un expediente y la decisión de publicar siguen requiriendo responsabilidad editorial.
El desafío ya está sobre la mesa: construir asistentes capaces de trabajar con autonomía suficiente para resultar útiles y con límites suficientemente claros para que sus errores puedan detectarse, detenerse y corregirse.
La entrada Agentes de IA: qué son los asistentes que ya no solo responden, también actúan se publicó primero en El Periodista.
