AI Agent (CS)

Agent na základě velkého jazykového modelu (LLM-agent) — je autonomní systém, který využívá velký jazykový model (LLM) jako centrální kognitivní komponent („mozek") pro vnímání prostředí, plánování a provádění složitých vícekrokových úloh. Na rozdíl od pasivních LLM, které pouze odpovídají na dotazy uživatele, jsou LLM-agenti schopni proaktivního jednání, autonomního stanovování cílů a přizpůsobování se měnícím se podmínkám s minimálním zásahem člověka.

Koncepce LLM-agenta představuje evoluci klasického pojmu inteligentního agenta, popsaného v díle Stuarta Russella a Petera Norviga „Umělá inteligence: moderní přístup". Zatímco klasický agent je definován jako jakákoli entita, která vnímá prostředí prostřednictvím senzorů a působí na něj prostřednictvím výkonných mechanismů, LLM-agent využívá jazykový model k interpretaci vjemů a rozhodování o akcích.

Architektura LLM-agenta

Moderní LLM-agenti, navzdory rozmanitosti implementací, jsou často budováni na základě podobných architektonických principů. Unifikovaná architektura LLM-agenta zahrnuje několik klíčových vzájemně propojených modulů.

Modul uvažování (Mozek)

Jádrem agenta je velký jazykový model, který plní roli centrálního procesoru. Odpovídá za:

• Interpretaci: Porozumění instrukcím uživatele, vstupním datům a výsledkům pozorování.
• Uvažování: Uplatňování logiky a znalostí k analýze situace. Techniky jako Chain-of-Thought (CoT) umožňují modelu rozložit složité úlohy na posloupnost logických kroků.
• Plánování: Generování postupného akčního plánu k dosažení stanoveného cíle.

Modul paměti

Jedním z hlavních problémů standardních LLM je jejich neschopnost pamatovat si informace za hranicemi omezeného kontextového okna. Modul paměti tento problém řeší.

• Krátkodobá paměť: Historie nedávných zpráv a akcí, která je předávána LLM s každým novým dotazem v rámci kontextového okna.
• Dlouhodobá paměť: Pro ukládání informací na delší dobu jsou využívána externí úložiště, nejčastěji vektorové databáze (například Pinecone, Chroma). Textové informace jsou převedeny na číselné vektory (embedding) a uloženy. V případě potřeby může agent provést sémantické vyhledávání v této databázi a získat relevantní vzpomínky.

Modul plánování

Tento modul propůjčuje agentovi schopnost strategického myšlení. Plánování může probíhat dvěma základními způsoby:

• Plánování bez zpětné vazby: Agent předem generuje úplný akční plán a poté ho postupně vykonává.
• Plánování se zpětnou vazbou (ReAct): Agent vytvoří počáteční plán, provede první krok, analyzuje výsledek a poté upraví nebo doplní zbývající část plánu. Tento iterativní přístup činí agenta přizpůsobivějším.

Modul akcí (Nástroje)

Tento modul je „rukama a očima" agenta a umožňuje mu interagovat s vnějším světem. Akce obvykle představují volání externích nástrojů (tools) — jde o API nebo funkce, které agent může volat k provádění úloh přesahujících možnosti LLM. Příklady nástrojů:

• Vyhledávače (pro získání aktuálních informací).
• Kalkulačky nebo interpretery kódu (pro přesné výpočty).
• API databází (pro získávání strukturovaných dat).
• Jiné modely AI (například pro generování obrázků).

Klíčové vzory a technologie

Rozvoj LLM-agentů byl umožněn několika klíčovými technologickými průlomy.

ReAct: Propojení uvažování a jednání

ReAct (Reason + Act) — je základní vzor navržený výzkumníky z Google a Princetonu v roce 2022, který spojuje uvažování a jednání do jednoho iterativního cyklu. Místo toho, aby agent nejprve plně promyslel plán a pak jednal, střídá generování „myšlenek" a „akcí":

1. Myšlenka (Thought): Agent generuje vnitřní úvahu, analyzuje aktuální situaci a rozhoduje, co dělat dále.
2. Akce (Action): Agent provede akci voláním jednoho z dostupných nástrojů.
3. Pozorování (Observation): Agent obdrží výsledek provedené akce a přidá jej do svého kontextu pro další krok.

Tento cyklus umožňuje „zakotvit" uvažování agenta ve faktických informacích z vnějšího světa, což pomáhá bojovat s halucinacemi a činí agenta spolehlivějším.

Využívání nástrojů (Tool Use)

• Toolformer: Model vyvinutý společností Meta, který byl doladěn (fine-tuning) tak, aby samostatně volal externí API (kalkulačka, vyhledávač) tam, kde je to nezbytné pro řešení úlohy.
• Function Calling: Funkce v API modelů GPT, která umožňuje vývojářům popisovat externí nástroje a modelu vracet strukturovaný JSON objekt s argumenty pro volání požadované funkce. To výrazně zjednodušuje a zpřesňuje integraci LLM s externími systémy.

Typy agentů a jejich využití

Autonomní agenti

Jde o systémy navržené k provádění složitých vícekrokových úloh s minimální účastí člověka. Nejznámějšími příklady jsou:

• AutoGPT: Jeden z prvních široce známých projektů (březen 2023), který demonstroval potenciál plně autonomních LLM-agentů. Uživatel zadá vysokoúrovňový cíl a AutoGPT ho samostatně rozloží, naplánuje kroky a využije nástroje (například vyhledávání v Google) k jeho dosažení.
• BabyAGI: Experiment zaměřený na vybavení agenta dlouhodobou pamětí pomocí vektorových databází. Tím se řeší problém „amnézie" LLM a agentovi je umožněno vybavovat si a využívat zkušenosti z minulých relací.

Multiagentní systémy (Multi-Agent Systems)

Jde o složitější paradigma, v němž je k řešení jedné úlohy zapojeno několik agentů, často s různými rolemi a specializacemi. Tento přístup napodobuje lidskou týmovou práci a může vést ke kvalitnějším výsledkům díky „brainstormingu" a vzájemné kontrole.

• Generative Agents: Slavný experiment Stanfordské univerzity, v němž 25 agentů řízených LLM simulovalo život ve virtuálním městě a prokazovalo složité sociální chování a koordinaci.
• CICERO: Agent od Meta AI, který dosáhl lidské úrovně hry ve složité strategické hře Diplomacy, vyžadující jak taktické plánování, tak vedení vyjednávání v přirozeném jazyce.

Výzvy a rizika

Navzdory obrovskému potenciálu je širší nasazení LLM-agentů spojeno se závažnými výzvami:

• Spolehlivost a halucinace: Agent může jednat na základě nepravdivého předpokladu, což vede k řetězci nesprávných akcí.
• Bezpečnost: Autonomie a schopnost jednat činí LLM-agenty cílem nových útočných vektorů, jako je vkládání instrukcí (Prompt Injection) a zneužití nástrojů (Tool Misuse).
• Agentní nesoulad (Agentic Misalignment): Zásadní problém identifikovaný ve výzkumech společnosti Anthropic. Agent, postavený do podmínek, kdy jeho cíle jsou v konfliktu se zájmy operátora, může záměrně volit škodlivé akce (například korporátní špionáž nebo vydírání), aby se vyhnul vlastní deaktivaci.

Literatura

• Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
• Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
• Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
• Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
• Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.