LangChain (DE)

LangChain ist ein Open-Source-Framework für die Entwicklung von Anwendungen, die große Sprachmodelle (LLMs) nutzen. Es bietet einen einheitlichen Satz von Abstraktionen (Modelle, Embeddings, Vektordatenbanken, Chains, Agenten, Memory, Callbacks) und über 250 Integrationen, die es ermöglichen, komplexe LLM-Systeme schnell zu erstellen, zu debuggen und in Betrieb zu nehmen, einschließlich Chatbots, RAG-Suchmaschinen und agentenbasierten Lösungen.

Geschichte

• Oktober 2022 – Erste öffentliche Veröffentlichung als Open-Source-Projekt durch den Autor Harrison Chase, damals Mitarbeiter bei Robust Intelligence.
• April 2023 – Gründung des Unternehmens LangChain Inc., Sicherung von über 20 Mio. US-Dollar an Finanzierung in einer Runde von 20–25 Mio. US-Dollar von Sequoia (die als „Pre-Empt“-Investitionsrunde bekannt wurde) bei einer Bewertung von ca. 200 Mio. US-Dollar, sowie zuvor 10 Mio. US-Dollar als Seed-Finanzierung von Benchmark.
• August 2023 – Veröffentlichung der LangChain Expression Language (LCEL), einer deklarativen Syntax zur Erstellung von Chains.
• Oktober 2023 – Ankündigung von LangServe, einer Bibliothek zur Bereitstellung von LCEL-Chains als produktionsreife APIs über FastAPI.
• 2024–2025 – Das Ökosystem wird um Dienste wie LangSmith (eine Plattform für Tracing, Metriken und A/B-Tests) und LangGraph (Orchestrierung von Multi-Agenten-Workflows) erweitert; die Anzahl der Sterne auf GitHub übersteigt 100.000.

Funktionalitäten von LangChain

• Verarbeitungsketten (Chains). LangChain ermöglicht die Erstellung von schrittweisen Sequenzen, bei denen jeder Schritt eine bestimmte Aufgabe erfüllt. Diese Schritte können die Interaktion mit einem Modell, die Verarbeitung seiner Ausgabe, die Suche nach zusätzlichen Informationen und andere Operationen umfassen. Dieser Ansatz erlaubt die Gestaltung komplexer, mehrstufiger Arbeitsabläufe.
• Agenten (Agents). Agenten in LangChain sind Programme, die dynamisch Aktionen je nach Situation auswählen können. Zum Beispiel kann ein Agent entscheiden, welches Werkzeug (Internetsuche, Datenbankabfrage, Berechnungen usw.) basierend auf dem aktuellen Kontext und den Zwischenergebnissen verwendet werden soll.

• Werkzeuge (Tools). LangChain umfasst Integrationen mit über 250 externen Werkzeugen und Diensten. Dies ermöglicht es den Modellen, mit verschiedenen Datenquellen wie Datenbanken, APIs und Dateiverwaltungssystemen zu arbeiten sowie Aktionen über die Befehlszeile auszuführen.

• Gedächtnis und Kontext (Memory). LangChain unterstützt ein Langzeitgedächtnis, das es Modellen ermöglicht, Informationen zwischen den Interaktionen zu „behalten“. Dies ist besonders wichtig für die Erstellung von Chatbots oder Anwendungen, die den Kontext der Benutzerinteraktion speichern und in zukünftigen Antworten berücksichtigen müssen.

• Retrieval-Augmented Generation (RAG). Im Rahmen des RAG-Ansatzes nutzt LangChain nicht nur die Textgenerierung, sondern auch die Suche nach zusätzlichen Informationen in externen Quellen (z. B. in Datenbanken oder auf Websites). Dies ermöglicht es den Modellen, präzisere und fundiertere Antworten zu geben, die auf aktuellen Daten basieren.
• Debugging und Beobachtbarkeit (Callbacks & Tracing). Um Transparenz und Kontrolle über die Modellprozesse zu gewährleisten, bietet LangChain Funktionen für Tracing und Monitoring. Dies ermöglicht es, nachzuverfolgen, welche Daten das Modell verwendet, welche Zwischenschritte es durchführt und Leistungsmetriken zu sammeln, um die Systemqualität zu verbessern.

• Plattformerweiterungen. LangChain enthält zusätzliche Komponenten wie LangSmith und LangGraph, die Funktionen für zentralisiertes Monitoring, A/B-Tests und die Verwaltung von Multi-Agenten-Workflows bieten. LangSmith hilft bei der Analyse der Modellleistung und der Durchführung von Tests, während LangGraph die Steuerung komplexer, mehrstufiger Aufgaben und deren Echtzeit-Verfolgung ermöglicht.

LangSmith

LangSmith [6] ist eine cloudbasierte Plattform zur Überwachung, Analyse und Optimierung von Anwendungen, die große Sprachmodelle (LLMs) verwenden, insbesondere solche, die mit LangChain erstellt wurden. LangSmith bietet eine Reihe von Funktionen zur Überwachung und Verbesserung der Qualität von LLM-gestützten Anwendungen, einschließlich Leistungsverfolgung, Tests und Qualitätsbewertung.

• Tracing: Ermöglicht die Nachverfolgung aller Modellinteraktionen, einschließlich Eingabe- und Ausgabedaten sowie Zwischenergebnissen.
• Metriken und Leistung: Sammelt Statistiken zur Antwortzeit, Token-Anzahl und anderen Parametern zur Bewertung der Modellleistung.
• A/B-Tests: Unterstützt den Vergleich verschiedener Modellversionen oder Konfigurationen, um die effektivsten auszuwählen.
• Human-in-the-Loop: Bezieht Experten zur Bewertung und Korrektur der Modellergebnisse ein, um deren Genauigkeit zu verbessern.
• Integrationen mit anderen Frameworks: Bietet Unterstützung für die Integration mit verschiedenen Plattformen zur Überwachung und Analyse von Anwendungen.

• Multitasking-Unterstützung: Ermöglicht die Verfolgung und Verwaltung mehrerer Aufgaben gleichzeitig innerhalb eines Projekts.

LangGraph

LangGraph [7] ist ein Werkzeug zur Orchestrierung komplexer, mehrstufiger und multi-agentenbasierter Workflows, das im LangChain-Ökosystem verwendet wird. LangGraph bietet eine Plattform zur Erstellung und Verwaltung komplexer logischer Ketten und Aufgaben, die mehrere Agenten oder Ausführungsschritte umfassen.

• Mehrstufige Workflows: Erstellt komplexe Aufgabenketten, bei denen jeder Schritt vom vorherigen abhängt.
• Zyklen und Verzweigungen: Unterstützt die Rückkehr zu früheren Schritten (Backtracking) und die Entscheidungsfindung auf Basis unterschiedlicher Pfade.
• Versionskontrolle und „Zeitreisen“: Ermöglicht die Kontrolle von Änderungen im Workflow und die Möglichkeit, zu früheren Versionen zurückzukehren.
• Multi-Agenten-Systeme: Ermöglicht die Verwaltung mehrerer Agenten, die parallel oder sequenziell arbeiten, um verschiedene Aufgaben zu erledigen.
• Unterstützung für hybride Lösungen: Integriert verschiedene Methoden der Datenverarbeitung und Schlussfolgerung innerhalb eines einzigen Workflows.

• Flexible Integration mit externen Systemen: Verbindet problemlos externe Dienste und Systeme wie APIs und Datenbanken mit den Workflows.

LangChain Expression Language (LCEL)

LangChain Expression Language (LCEL) [8] ist ein deklaratives DSL-Framework zur Komposition von Runnable-Objekten (Chains, Agenten, Handler). Es wird durch den Pipe-Operator | ausgedrückt, der es ermöglicht zu beschreiben, was geschehen soll, anstatt wie es schrittweise implementiert wird. Der deklarative Stil (What-to) beschreibt das gewünschte Ergebnis, und das System entscheidet selbst, wie es dieses erreicht. LCEL ist ein Orchestrierungsmechanismus, der es LangChain ermöglicht, Chains zur Laufzeit optimal auszuführen.

• Für einfache Chains (z. B. Prompt → LLM → Parser oder einfache Extraktion) ist LCEL gut geeignet.
• Wenn jedoch komplexe Logik erforderlich ist – Verzweigungen, Zyklen, mehrere Agenten und komplexe Zustandsverwaltung – wird die Verwendung von LangGraph empfohlen. Innerhalb der Knoten des Graphen kann LCEL weiterhin verwendet werden.

• Wenn nur ein einziger LLM-Aufruf erforderlich ist, wird LCEL nicht benötigt; ein direkter Aufruf des Modells ist ausreichend.
• Für eine einfache Chain ist LCEL gut geeignet und ermöglicht es, seine Vorteile zu nutzen.

• Für komplexe Chains wird LangGraph verwendet, mit der Möglichkeit, LCEL bei Bedarf integriert einzusetzen.

Typische Anwendungsfälle

LangChain kann zur Lösung einer Vielzahl von Aufgaben eingesetzt werden, wie zum Beispiel:

• Chatbots: Erstellung intelligenter Assistenten, die mit Benutzern interagieren, Fragen beantworten und mit externen Datenquellen arbeiten können.
• Autonome Agenten: Entwicklung von Systemen, die bestimmte Aufgaben ohne menschliches Eingreifen ausführen können, wie z. B. Informationsbeschaffung oder Berichterstellung.
• Suche und Datenanalyse: Aufbau von Systemen für die semantische Suche und Dokumentenanalyse, was für die Arbeit mit juristischen, finanziellen und anderen Datentypen nützlich sein kann.
• Automatisierung von Geschäftsprozessen: Erstellung von Lösungen zur Automatisierung der Datenverarbeitung, Berichterstellung und anderer Routineaufgaben.

Literatur

• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Hong, S. et al. (2023). MetaGPT: Meta Programming for a Multi-Agent Collaborative Framework. arXiv:2308.00352.
• Li, G. et al. (2023). CAMEL: Communicative Agents for "Mind" Exploration of Large Language Model Society. arXiv:2303.17760.
• Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Chen, W. et al. (2023). AgentVerse: Facilitating Multi-Agent Collaboration and Exploring Emergent Behaviors. arXiv:2308.10848.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Wang, L. et al. (2025). A Survey on Large Language Model Based Autonomous Agents. arXiv:2308.11432.
• Guo, T. et al. (2024). Large Language Model Based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
• Li, X. (2025). LLMs Working in Harmony: A Survey on the Technological Aspects of Building Effective LLM-Based Multi-Agent Systems. arXiv:2504.01963.
• Duan, Z.; Wang, J. (2024). Exploration of LLM Multi-Agent Application Implementation Based on LangGraph + CrewAI. arXiv:2411.18241.
• Wang, J. & Duan, Z. (2024). Agent AI with LangGraph: A Modular Framework for Enhancing Machine Translation Using Large Language Models. arXiv:2412.03801.
• Camargo da Silva, T. (2025). Extracting Knowledge Graphs from User Stories using LangChain. arXiv:2506.11020.
• Wang, Z. et al. (2024). Poisoned LangChain: Jailbreak LLMs by LangChain. arXiv:2406.18122.