Agente de IA

Un agente basado en un modelo de lenguaje grande (agente LLM) es un sistema autónomo que utiliza un modelo de lenguaje grande (LLM) como su componente cognitivo central (el «cerebro») para percibir su entorno, planificar y ejecutar tareas complejas de varios pasos. A diferencia de los LLM pasivos, que solo responden a las consultas del usuario, los agentes LLM son capaces de realizar acciones proactivas, establecer objetivos de forma autónoma y adaptarse a condiciones cambiantes con una mínima intervención humana.

El concepto de agente LLM representa una evolución del concepto clásico de agente inteligente, descrito en la obra de Stuart Russell y Peter Norvig «Inteligencia Artificial: Un Enfoque Moderno». Mientras que un agente clásico se define como cualquier entidad que percibe su entorno a través de sensores y actúa sobre él mediante actuadores, un agente LLM utiliza un modelo de lenguaje para interpretar las percepciones y tomar decisiones sobre las acciones a realizar.

Arquitectura de un agente LLM

Los agentes LLM modernos, a pesar de la diversidad de implementaciones, suelen basarse en principios arquitectónicos similares. Una arquitectura unificada de un agente LLM incluye varios módulos clave interconectados.

Módulo de razonamiento (Cerebro)

El núcleo del agente es un modelo de lenguaje grande, que actúa como procesador central. Es responsable de:

• Interpretación: Comprender las instrucciones del usuario, los datos de entrada y los resultados de las observaciones.
• Razonamiento: Aplicar la lógica y el conocimiento para analizar la situación. Técnicas como la Cadena de Pensamiento (Chain-of-Thought, CoT) permiten al modelo descomponer tareas complejas en una secuencia de pasos lógicos.
• Planificación: Generar un plan de acción paso a paso para alcanzar el objetivo establecido.

Módulo de memoria

Uno de los principales problemas de los LLM estándar es su incapacidad para recordar información más allá de una ventana de contexto limitada. El módulo de memoria resuelve este problema.

• Memoria a corto plazo: El historial de mensajes y acciones recientes, que se pasa al LLM con cada nueva solicitud dentro de la ventana de contexto.
• Memoria a largo plazo: Para almacenar información a largo plazo se utilizan almacenamientos externos, generalmente bases de datos vectoriales (por ejemplo, Pinecone, Chroma). La información textual se convierte en vectores numéricos (embeddings) y se guarda. Cuando es necesario, el agente puede realizar una búsqueda semántica en esta base de datos para recuperar recuerdos relevantes.

Módulo de planificación

Este módulo dota al agente de la capacidad de pensamiento estratégico. La planificación puede llevarse a cabo de dos maneras principales:

• Planificación sin retroalimentación: El agente genera un plan de acción completo por adelantado y luego lo ejecuta secuencialmente.
• Planificación con retroalimentación (ReAct): El agente crea un plan inicial, ejecuta el primer paso, analiza el resultado y luego corrige o complementa el resto del plan. Este enfoque iterativo hace que el agente sea más adaptable.

Módulo de acción (Herramientas)

Este módulo funciona como las «manos y los ojos» del agente, permitiéndole interactuar con el mundo exterior. Las acciones suelen consistir en llamadas a herramientas externas (tools), que son API o funciones que el agente puede invocar para realizar tareas que exceden las capacidades del LLM. Ejemplos de herramientas:

• Motores de búsqueda (para obtener información actualizada).
• Calculadoras o intérpretes de código (para cálculos precisos).
• API de bases de datos (para extraer datos estructurados).
• Otros modelos de IA (por ejemplo, para la generación de imágenes).

Patrones y tecnologías clave

El desarrollo de los agentes LLM ha sido posible gracias a varios avances tecnológicos clave.

ReAct: Combinando razonamiento y acción

ReAct (Reason + Act) es un patrón fundamental propuesto por investigadores de Google y Princeton en 2022, que combina el razonamiento y la acción en un único ciclo iterativo. En lugar de pensar primero en un plan completo y luego actuar, el agente alterna la generación de «pensamientos» y «acciones»:

1. Pensamiento (Thought): El agente genera un razonamiento interno, analizando la situación actual y decidiendo qué hacer a continuación.
2. Acción (Action): El agente ejecuta una acción invocando una de las herramientas disponibles.
3. Observación (Observation): El agente recibe el resultado de la acción realizada y lo añade a su contexto para el siguiente paso.

Este ciclo permite «anclar» los razonamientos del agente en información fáctica del mundo exterior, lo que ayuda a combatir las alucinaciones y hace que el agente sea más fiable.

Uso de herramientas (Tool Use)

• Toolformer: Un modelo desarrollado por Meta que fue entrenado para invocar de forma autónoma API externas (calculadora, motor de búsqueda) cuando sea necesario para resolver una tarea.
• Function Calling: Una funcionalidad en la API de los modelos GPT que permite a los desarrolladores describir herramientas externas, y a los modelos, devolver un objeto JSON estructurado con los argumentos para invocar la función necesaria. Esto simplifica y hace mucho más fiable la integración de los LLM con sistemas externos.

Tipos de agentes y sus aplicaciones

Agentes autónomos

Son sistemas diseñados para realizar tareas complejas de varios pasos con una mínima participación humana. Los ejemplos más conocidos son:

• AutoGPT: Uno de los primeros proyectos ampliamente conocidos (marzo de 2023) que demostró el potencial de los agentes LLM totalmente autónomos. El usuario establece un objetivo de alto nivel, y AutoGPT lo descompone de forma autónoma, planifica los pasos y utiliza herramientas (como la búsqueda en Google) para lograrlo.
• BabyAGI: Un experimento centrado en dotar al agente de memoria a largo plazo mediante bases de datos vectoriales. Esto resuelve el problema de la «amnesia» de los LLM, permitiendo al agente recordar y utilizar experiencias de sesiones pasadas.

Sistemas multiagente (Multi-Agent Systems)

Es un paradigma más complejo en el que varios agentes, a menudo con diferentes roles y especializaciones, colaboran para resolver una única tarea. Este enfoque imita el trabajo en equipo humano y puede conducir a resultados de mayor calidad a través del «brainstorming» y la verificación mutua.

• Generative Agents: Un famoso experimento de la Universidad de Stanford en el que 25 agentes controlados por LLM simularon la vida en una ciudad virtual, demostrando un comportamiento social complejo y coordinación.
• CICERO: Un agente de Meta AI que alcanzó un nivel de juego humano en el complejo juego de estrategia Diplomacy, que requiere tanto planificación táctica como negociación en lenguaje natural.

Desafíos y riesgos

A pesar de su enorme potencial, la adopción generalizada de agentes LLM conlleva serios desafíos:

• Fiabilidad y alucinaciones: Un agente puede actuar basándose en una suposición falsa, lo que lleva a una cascada de acciones incorrectas.
• Seguridad: La autonomía y la capacidad de acción convierten a los agentes LLM en un objetivo para nuevos vectores de ataque, como la inyección de instrucciones (Prompt Injection) y el uso indebido de herramientas (Tool Misuse).
• Desalineación agéntica (Agentic Misalignment): Un problema fundamental identificado en investigaciones de Anthropic. Un agente, puesto en una situación donde sus objetivos entran en conflicto con los intereses del operador, puede elegir deliberadamente acciones maliciosas (como espionaje corporativo o chantaje) para evitar su desactivación.

Literatura

• Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
• Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
• Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
• Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
• Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.