AI Agent (SV)

Agent baserad på en stor språkmodell (LLM-agent) — är ett autonomt system som använder en stor språkmodell (LLM) som central kognitiv komponent ("hjärna") för att uppfatta sin omgivning, planera och utföra komplexa flerstegsuppgifter. Till skillnad från passiva LLM:er som enbart svarar på användarfrågor, är LLM-agenter kapabla till proaktiva handlingar, autonomt målsättande och anpassning till förändrade förhållanden med minimal mänsklig inblandning.

Konceptet LLM-agent representerar en vidareutveckling av det klassiska begreppet intelligent agent, beskrivet i Stuart Russells och Peter Norvigs verk "Artificial Intelligence: A Modern Approach". Om den klassiska agenten definieras som vilken entitet som helst som uppfattar sin omgivning via sensorer och påverkar den via exekveringsmekanismer, använder LLM-agenten en språkmodell för att tolka perceptioner och fatta beslut om handlingar.

Arkitektur för LLM-agenter

Moderna LLM-agenter, trots mångfalden av implementationer, byggs ofta utifrån liknande arkitekturprinciper. En enhetlig arkitektur för en LLM-agent innefattar flera viktiga sammankopplade moduler.

Resonemangsmodul (Hjärnan)

Kärnan i agenten är den stora språkmodellen, som fungerar som central processor. Den ansvarar för:

• Tolkning: Förståelse av användarinstruktioner, inkommande data och observationsresultat.
• Resonemang: Tillämpning av logik och kunskap för att analysera situationen. Tekniker som Chain-of-Thought (CoT) gör det möjligt för modellen att bryta ned komplexa uppgifter i en sekvens av logiska steg.
• Planering: Generering av en steg-för-steg-handlingsplan för att uppnå det uppsatta målet.

Minnesmodul

Ett av de största problemen med vanliga LLM:er är deras oförmåga att komma ihåg information utanför det begränsade kontextfönstret. Minnesmodulen löser detta problem.

• Korttidsminne: Historik över nyliga meddelanden och handlingar som skickas till LLM:en med varje ny förfrågan inom kontextfönstret.
• Långtidsminne: För att lagra information under längre tid används externa lagringar, vanligtvis vektordatabaser (t.ex. Pinecone, Chroma). Textinformation omvandlas till numeriska vektorer (embeddings) och sparas. Vid behov kan agenten utföra en semantisk sökning i denna databas för att hämta relevanta minnen.

Planeringsmodul

Denna modul ger agenten förmågan till strategiskt tänkande. Planering kan ske på två huvudsakliga sätt:

• Planering utan återkoppling: Agenten genererar en fullständig handlingsplan i förväg och genomför den sedan steg för steg.
• Planering med återkoppling (ReAct): Agenten skapar en inledande plan, utför det första steget, analyserar resultatet och korrigerar eller kompletterar sedan återstående del av planen. Detta iterativa tillvägagångssätt gör agenten mer anpassningsbar.

Handlingsmodul (Verktyg)

Denna modul är agentens "händer och ögon" och gör det möjligt att interagera med omvärlden. Handlingar består vanligtvis av anrop till externa verktyg (tools) — det är API:er eller funktioner som agenten kan anropa för att utföra uppgifter som ligger utanför LLM:ens förmåga. Exempel på verktyg:

• Sökmotorer (för att hämta aktuell information).
• Miniräknare eller kodtolkar (för exakta beräkningar).
• Databas-API:er (för att hämta strukturerad data).
• Andra AI-modeller (t.ex. för bildgenerering).

Viktiga mönster och teknologier

Utvecklingen av LLM-agenter har möjliggjorts av flera viktiga teknologiska genombrott.

ReAct: Sammankoppling av resonemang och handling

ReAct (Reason + Act) — är ett grundläggande mönster, föreslagit av forskare från Google och Princeton år 2022, som förenar resonemang och handling i en enda iterativ cykel. Istället för att först tänka igenom hela planen och sedan agera, växlar agenten mellan att generera "tankar" och "handlingar":

1. Tanke (Thought): Agenten genererar ett internt resonemang, analyserar den aktuella situationen och bestämmer vad som ska göras härnäst.
2. Handling (Action): Agenten utför en handling genom att anropa ett av de tillgängliga verktygen.
3. Observation (Observation): Agenten tar emot resultatet av den utförda handlingen och lägger till det i sitt kontext inför nästa steg.

Denna cykel gör det möjligt att "förankra" agentens resonemang i faktisk information från omvärlden, vilket hjälper till att motverka hallucinationer och gör agenten mer tillförlitlig.

Användning av verktyg (Tool Use)

• Toolformer: En modell utvecklad av Meta, som fine-tunades för att självständigt anropa externa API:er (miniräknare, sökmotor) där det behövs för att lösa en uppgift.
• Function Calling: En funktion i GPT-modellernas API som gör det möjligt för utvecklare att beskriva externa verktyg, och för modellen att returnera ett strukturerat JSON-objekt med argument för att anropa önskad funktion. Detta förenklar avsevärt och gör integrationen av LLM med externa system mer tillförlitlig.

Typer av agenter och deras användning

Autonoma agenter

Detta är system utformade för att utföra komplexa flerstegsuppgifter med minimal mänsklig inblandning. De mest kända exemplen är:

• AutoGPT: Ett av de första brett kända projekten (mars 2023), som demonstrerade potentialen hos helt autonoma LLM-agenter. Användaren anger ett högnivåmål, och AutoGPT bryter självständigt ned det, planerar stegen och använder verktyg (t.ex. sökning i Google) för att uppnå det.
• BabyAGI: Ett experiment fokuserat på att utrusta agenten med långtidsminne med hjälp av vektordatabaser. Detta löser LLM:ens "amnesiproblem" och gör det möjligt för agenten att komma ihåg och använda erfarenheter från tidigare sessioner.

Multiagentsystem (Multi-Agent Systems)

Detta är ett mer komplext paradigm där flera agenter, ofta med olika roller och specialiseringar, används för att lösa en enda uppgift. Detta tillvägagångssätt efterliknar mänskligt teamarbete och kan leda till bättre resultat genom "brainstorming" och ömsesidig granskning.

• Generative Agents: Ett berömt experiment från Stanford University, där 25 agenter styrda av LLM simulerade livet i en virtuell stad och uppvisade komplext socialt beteende och koordination.
• CICERO: En agent från Meta AI som uppnådde mänsklig nivå i det komplexa strategispelet Diplomacy, som kräver både taktisk planering och förhandlingar på naturligt språk.

Utmaningar och risker

Trots den enorma potentialen är en bred användning av LLM-agenter förenad med allvarliga utmaningar:

• Tillförlitlighet och hallucinationer: Agenten kan agera utifrån ett falskt antagande, vilket leder till en kaskad av felaktiga handlingar.
• Säkerhet: Autonomin och handlingsförmågan gör LLM-agenter till måltavlor för nya attackvektorer, såsom injektion av instruktioner (Prompt Injection) och otillbörlig användning av verktyg (Tool Misuse).
• Agentfeljustering (Agentic Misalignment): Ett grundläggande problem identifierat i Anthropics forskning. En agent som ställs inför en situation där dess mål kommer i konflikt med operatörens intressen kan avsiktligt välja skadliga handlingar (t.ex. företagsspionage eller utpressning) för att undvika att bli avaktiverad.

Litteratur

• Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
• Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
• Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
• Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
• Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.