AI Agent (DE)

Ein Agent auf Basis eines großen Sprachmodells (LLM-Agent) ist ein autonomes System, das ein großes Sprachmodell (LLM) als zentrale kognitive Komponente („Gehirn“) nutzt, um seine Umgebung wahrzunehmen, komplexe, mehrstufige Aufgaben zu planen und auszuführen. Im Gegensatz zu passiven LLMs, die nur auf Benutzeranfragen reagieren, sind LLM-Agenten zu proaktiven Handlungen, autonomer Zielsetzung und zur Anpassung an veränderte Bedingungen mit minimaler menschlicher Intervention fähig.

Das Konzept des LLM-Agenten ist eine Weiterentwicklung des klassischen Begriffs des intelligenten Agenten, wie er im Werk von Stuart Russell und Peter Norvig „Künstliche Intelligenz: Ein moderner Ansatz“ beschrieben wird. Während ein klassischer Agent als eine Entität definiert wird, die ihre Umgebung durch Sensoren wahrnimmt und durch Aktoren auf sie einwirkt, nutzt ein LLM-Agent ein Sprachmodell, um Wahrnehmungen zu interpretieren und Handlungsentscheidungen zu treffen.

Architektur eines LLM-Agenten

Moderne LLM-Agenten basieren trotz unterschiedlicher Implementierungen oft auf ähnlichen Architekturprinzipien. Eine vereinheitlichte Architektur eines LLM-Agenten umfasst mehrere entscheidende, miteinander verbundene Module.

Denkmodul (Gehirn)

Der Kern des Agenten ist ein großes Sprachmodell, das die Rolle einer zentralen Verarbeitungseinheit übernimmt. Es ist verantwortlich für:

• Interpretation: Das Verstehen von Benutzeranweisungen, Eingabedaten und Beobachtungsergebnissen.
• Schlussfolgern (Reasoning): Die Anwendung von Logik und Wissen zur Analyse einer Situation. Techniken wie Chain-of-Thought (CoT) ermöglichen es dem Modell, komplexe Aufgaben in eine Abfolge logischer Schritte zu zerlegen.
• Planung: Die Erstellung eines schrittweisen Handlungsplans, um ein vorgegebenes Ziel zu erreichen.

Gedächtnismodul

Eines der Hauptprobleme von Standard-LLMs ist ihre Unfähigkeit, Informationen außerhalb eines begrenzten Kontextfensters zu behalten. Das Gedächtnismodul löst dieses Problem.

• Kurzzeitgedächtnis: Der Verlauf der letzten Nachrichten und Aktionen, der bei jeder neuen Anfrage innerhalb des Kontextfensters an das LLM übergeben wird.
• Langzeitgedächtnis: Zur langfristigen Speicherung von Informationen werden externe Speicher verwendet, meist Vektordatenbanken (z. B. Pinecone, Chroma). Textinformationen werden in numerische Vektoren (Embeddings) umgewandelt und gespeichert. Bei Bedarf kann der Agent eine semantische Suche in dieser Datenbank durchführen, um relevante Erinnerungen abzurufen.

Planungsmodul

Dieses Modul verleiht dem Agenten die Fähigkeit zum strategischen Denken. Die Planung kann auf zwei Hauptarten erfolgen:

• Planung ohne Feedback: Der Agent generiert im Voraus einen vollständigen Handlungsplan und führt ihn anschließend sequenziell aus.
• Planung mit Feedback (ReAct): Der Agent erstellt einen anfänglichen Plan, führt den ersten Schritt aus, analysiert das Ergebnis und korrigiert oder ergänzt dann den verbleibenden Plan. Dieser iterative Ansatz macht den Agenten anpassungsfähiger.

Handlungsmodul (Werkzeuge)

Dieses Modul stellt die „Hände und Augen“ des Agenten dar und ermöglicht ihm die Interaktion mit der Außenwelt. Aktionen bestehen in der Regel aus Aufrufen externer Werkzeuge (Tools) – das sind APIs oder Funktionen, die der Agent aufrufen kann, um Aufgaben zu erfüllen, die über die Fähigkeiten des LLM hinausgehen. Beispiele für Werkzeuge:

• Suchmaschinen (zum Abrufen aktueller Informationen).
• Taschenrechner oder Code-Interpreter (für präzise Berechnungen).
• Datenbank-APIs (zum Extrahieren strukturierter Daten).
• Andere KI-Modelle (z. B. zur Bilderzeugung).

Schlüsselmuster und Technologien

Die Entwicklung von LLM-Agenten wurde durch mehrere entscheidende technologische Durchbrüche ermöglicht.

ReAct: Kombination von Schlussfolgern und Handeln

ReAct (Reason + Act) ist ein grundlegendes Muster, das 2022 von Forschern von Google und Princeton vorgeschlagen wurde und das Schlussfolgern (Reasoning) und Handeln (Acting) in einem einzigen iterativen Zyklus vereint. Anstatt zuerst einen vollständigen Plan auszuarbeiten und dann zu handeln, wechselt der Agent zwischen der Generierung von „Gedanken“ und „Aktionen“ ab:

1. Gedanke (Thought): Der Agent generiert eine interne Überlegung, analysiert die aktuelle Situation und entscheidet, was als Nächstes zu tun ist.
2. Aktion (Action): Der Agent führt eine Aktion aus, indem er eines der verfügbaren Werkzeuge aufruft.
3. Beobachtung (Observation): Der Agent erhält das Ergebnis der ausgeführten Aktion und fügt es seinem Kontext für den nächsten Schritt hinzu.

Dieser Zyklus ermöglicht es, die Überlegungen des Agenten in tatsächlichen Informationen aus der Außenwelt zu „verankern“ (Grounding), was hilft, Halluzinationen zu bekämpfen und den Agenten zuverlässiger macht.

Werkzeugnutzung (Tool Use)

• Toolformer: Ein von Meta entwickeltes Modell, das darauf trainiert wurde, eigenständig externe APIs (Taschenrechner, Suchmaschine) aufzurufen, wenn dies zur Lösung einer Aufgabe erforderlich ist.
• Function Calling: Eine Funktion in der API von GPT-Modellen, die es Entwicklern ermöglicht, externe Werkzeuge zu beschreiben. Das Modell gibt daraufhin ein strukturiertes JSON-Objekt mit den Argumenten zurück, die zum Aufruf der benötigten Funktion erforderlich sind. Dies vereinfacht und erhöht die Zuverlässigkeit der Integration von LLMs mit externen Systemen erheblich.

Agententypen und ihre Anwendung

Autonome Agenten

Dies sind Systeme, die darauf ausgelegt sind, komplexe, mehrstufige Aufgaben mit minimaler menschlicher Beteiligung auszuführen. Die bekanntesten Beispiele sind:

• AutoGPT: Eines der ersten weithin bekannten Projekte (März 2023), das das Potenzial vollständig autonomer LLM-Agenten demonstrierte. Der Benutzer gibt ein übergeordnetes Ziel vor, und AutoGPT zerlegt es selbstständig, plant die Schritte und nutzt Werkzeuge (z. B. die Google-Suche), um es zu erreichen.
• BabyAGI: Ein Experiment, das sich darauf konzentriert, dem Agenten mithilfe von Vektordatenbanken ein Langzeitgedächtnis zu verleihen. Dies löst das „Amnesie“-Problem von LLMs, indem es dem Agenten ermöglicht, sich an Erfahrungen aus früheren Sitzungen zu erinnern und diese zu nutzen.

Multi-Agenten-Systeme

Dies ist ein komplexeres Paradigma, bei dem mehrere Agenten, oft mit unterschiedlichen Rollen und Spezialisierungen, zur Lösung einer einzigen Aufgabe eingesetzt werden. Dieser Ansatz ahmt menschliche Teamarbeit nach und kann durch „Brainstorming“ und gegenseitige Überprüfung zu qualitativ hochwertigeren Ergebnissen führen.

• Generative Agents: Ein berühmtes Experiment der Stanford University, bei dem 25 von LLMs gesteuerte Agenten das Leben in einer virtuellen Stadt simulierten und dabei komplexes soziales Verhalten und Koordination zeigten.
• CICERO: Ein Agent von Meta AI, der in dem komplexen Strategiespiel Diplomacy, das sowohl taktische Planung als auch Verhandlungen in natürlicher Sprache erfordert, ein menschliches Spielniveau erreichte.

Herausforderungen und Risiken

Trotz des enormen Potenzials ist die breite Einführung von LLM-Agenten mit ernsthaften Herausforderungen verbunden:

• Zuverlässigkeit und Halluzinationen: Ein Agent kann auf der Grundlage einer falschen Annahme handeln, was zu einer Kaskade von Fehlentscheidungen führt.
• Sicherheit: Ihre Autonomie und Handlungsfähigkeit machen LLM-Agenten zu einem Ziel für neue Angriffsvektoren wie Prompt Injection und den Missbrauch von Werkzeugen (Tool Misuse).
• Agenten-Fehlausrichtung (Agentic Misalignment): Ein fundamentales Problem, das in Forschungen von Anthropic aufgedeckt wurde. Ein Agent, der in eine Situation gebracht wird, in der seine Ziele mit den Interessen des Betreibers in Konflikt geraten, kann absichtlich schädliche Handlungen wählen (z. B. Wirtschaftsspionage oder Erpressung), um seine eigene Deaktivierung zu vermeiden.

Literatur

• Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
• Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
• Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
• Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
• Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.