Claude (Anthropic) (DE)

From Systems analysis Wiki
Jump to navigation Jump to search

Claude ist eine Familie multimodaler großer Sprachmodelle (LLM), die von dem Forschungsunternehmen Anthropic entwickelt wurde.

Die Claude-Modelle basieren auf der Transformer-Architektur und werden als KI-Assistenten positioniert, die auf Sicherheit, Nützlichkeit und Ehrlichkeit ausgerichtet sind. Ein zentrales Merkmal ihrer Entwicklung ist die Methode der Constitutional AI („Konstitutionelle KI“), die darauf abzielt, steuerbare und ethisch ausgerichtete Systeme zu schaffen.

Geschichte und Philosophie

Gründung und Mission von Anthropic

Anthropic wurde 2021 von ehemaligen leitenden Mitarbeitern von OpenAI gegründet, darunter die Geschwister Dario[1] und Daniela Amodei[2]. Grund für den Weggang waren Meinungsverschiedenheiten mit der Führung von OpenAI über die Entwicklungsrichtung, insbesondere die Befürchtung, dass die Partnerschaft mit Microsoft und die zunehmende Kommerzialisierung das Engagement für KI-Sicherheit gefährden könnten.

Die Mission von Anthropic lautet: „fortschrittliche KI zum langfristigen Nutzen der Menschheit zu entwickeln und zu unterstützen“. Das Unternehmen ist in den USA als Public Benefit Corporation (PBC) registriert, was es rechtlich dazu verpflichtet, finanzielle Interessen mit dem Gemeinwohl in Einklang zu bringen. Dieser Ansatz wird durch eine einzigartige Verwaltungsstruktur mit dem Long-Term Benefit Trust (LTBT) untermauert, einem unabhängigen Gremium, das befugt ist, die Zusammensetzung des Verwaltungsrats zu beeinflussen, um die Einhaltung der Sicherheitsmission zu gewährleisten.

Philosophie: HHH und Constitutional AI

Das Verhalten der Claude-Modelle basiert auf der HHH-Formel: Helpful, Honest, and Harmless (Hilfreich, Ehrlich und Harmlos). Um diese Prinzipien umzusetzen, hat Anthropic eine eigene Trainingsmethode entwickelt – die Constitutional AI (CAI).

Im Gegensatz zum traditionellen RLHF (Reinforcement Learning from Human Feedback, bestärkendes Lernen durch menschliches Feedback), bei dem menschliche Annotatoren die Antworten des Modells direkt bewerten, verwendet die CAI eine „Verfassung“ – eine Reihe expliziter ethischer Prinzipien, auf deren Grundlage das Modell lernt, seine eigenen Antworten selbstständig zu bewerten und zu korrigieren. Dies macht den Prozess skalierbarer, transparenter und kontrollierbarer.

Architektur und Schlüsseltechnologien

Transformer-basierte Grundlage

Wie andere moderne LLMs nutzt Claude eine Transformer-Decoder-Architektur, die autoregressiv Text Token für Token generiert. Anthropic hat jedoch erhebliche Verbesserungen vorgenommen, um Leistung, Sicherheit und Steuerbarkeit zu erhöhen.

Constitutional AI (CAI)

Der Trainingsprozess mit CAI verläuft in zwei Phasen:

  1. Phase des überwachten Lernens (Supervised Learning): Das Modell generiert Antworten auf Anfragen, und ein anderes Modell – ein Kritiker – bewertet diese anhand der „Verfassung“ und schlägt Korrekturen vor. Auf der Grundlage dieser Korrekturen wird das ursprüngliche Modell weiter trainiert.
  2. Phase des bestärkenden Lernens durch KI-Feedback (RLAIF): Das Modell generiert Antwortpaare, und das Kritikermodell wählt das bessere davon auf der Grundlage der „Verfassung“ aus. Diese Daten werden verwendet, um ein Präferenzmodell (Reward Model) zu trainieren, das dann als Signal für das weitere Training des Hauptmodells mit Bestärkungsalgorithmen dient.

Langer Kontext und Multimodalität

Einer der Hauptvorteile von Claude ist sein sehr großes Kontextfenster. Beginnend mit 100.000 Token bei Claude 2 wurde es auf 200.000 bei Claude 3 und auf 1–2 Millionen Token in den Versionen 3.5 und 4 erweitert. Dies ermöglicht es den Modellen, ganze Bücher, Codebasen oder mehrstündige Transkripte innerhalb einer einzigen Anfrage zu analysieren.

Ab der Claude-3-Familie wurden die Modelle multimodal und erhielten die Fähigkeit, neben Text auch Bilder zu verarbeiten.

Hybrides Denken und Agentenfähigkeiten

Ab den Versionen Claude 3.7 und 4 wurde eine Architektur des hybriden Denkens eingeführt. Sie ermöglicht es den Modellen, zwischen zwei Modi zu wechseln:

  • Schnelle Antworten: Der Standardmodus für einfache Aufgaben.
  • Erweitertes Denken (Extended Thinking): Bei komplexen Aufgaben pausiert das Modell, um „nachzudenken“, indem es interne Argumentationsschritte durchführt, Werkzeuge aufruft (Websuche, Codeausführung) und eine fundiertere Antwort formuliert. Dies macht den Prozess transparenter und zuverlässiger.

Evolution der Claude-Modelle

Claude 1 und 2 (2023)

  • Claude 1 (März 2023): Die erste öffentliche Version. Sie umfasste das Modell Claude Instant für schnelle Aufgaben und eine Flaggschiff-Version mit einem Kontextfenster von 100.000 Token.
  • Claude 2 (Juli 2023): Eine verbesserte Version, die über eine Weboberfläche öffentlich zugänglich wurde. Sie zeigte signifikante Verbesserungen beim Programmieren (71 % bei Codex HumanEval) und in der Mathematik. Im November 2023 wurde die Version Claude 2.1 mit einem Kontextfenster von 200.000 Token veröffentlicht.

Claude 3 (März 2024)

Eine Modellfamilie, die GPT-4 erstmals in einer Reihe von Benchmarks übertraf.

  • Versionen: Haiku (die schnellste), Sonnet (die ausgewogenste) und Opus (die leistungsstärkste).
  • Wichtige Innovationen: Einführung von Multimodalität (Bildanalyse), signifikante Verbesserungen beim schlussfolgernden Denken und Programmieren sowie eine Reduzierung ungerechtfertigter Antwortverweigerungen. Opus erreichte 86,8 % im MMLU-Benchmark.

Claude 3.5 (Juni 2024)

Eine Zwischengeneration, die sich auf die Steigerung von Intelligenz und Geschwindigkeit konzentrierte.

  • Claude 3.5 Sonnet: Übertrifft Claude 3 Opus in der Leistung und ist dabei doppelt so schnell. Einführung der Artifacts-Funktion[3] – ein interaktives Bedienfeld zur Arbeit mit generiertem Code oder Dokumenten.

Claude 3.7 und Claude 4 (2025)

Eine Generation, die auf Agentenfähigkeiten und komplexes schlussfolgerndes Denken ausgerichtet ist.

  • Claude 3.7 Sonnet (Februar 2025): Einführung des hybriden Denkens, das es dem Modell ermöglicht, schnelle Antworten mit tiefgehenden, schrittweisen Überlegungen zu kombinieren.
  • Claude 4 (Mai 2025): Eine Flaggschiff-Familie (Opus 4 und Sonnet 4) mit Fokus auf autonome KI-Agenten. Die Modelle sind in der Lage, mehrstufige Aufgaben auszuführen, mit dem Dateisystem zu arbeiten (über Computer Use), Werkzeuge aufzurufen und lange Arbeitssitzungen (bis zu mehreren Stunden) ohne Leistungsabfall aufrechtzuerhalten. Opus 4 erreichte 72,5 % im anspruchsvollen SWE-bench-Benchmark für Programmierung.

Übersichtstabelle der Claude-Generationen

Evolution der Schlüsselmerkmale der Claude-Modelle
Generation Erscheinungsjahr Hauptversionen Max. Kontextfenster Wichtige Innovationen
Claude 1 2023 Claude, Instant 100.000 Token Erste öffentliche Veröffentlichung, großer Kontext.
Claude 2 2023 Claude 2, 2.1 200.000 Token Verbessertes Programmieren und schlussfolgerndes Denken, öffentliche Verfügbarkeit.
Claude 3 2024 Opus, Sonnet, Haiku 200.000+ Token Multimodalität (Bilder), Überlegenheit gegenüber GPT-4.
Claude 3.5 2024 Sonnet, Haiku 200.000+ Token Steigerung von Geschwindigkeit und Intelligenz, „Artifacts“-Funktion.
Claude 4 / 3.7 2025 Opus, Sonnet 200.000+ Token Hybrides Denken, Agentenfähigkeiten, Werkzeugnutzung.

Anwendung und Verfügbarkeit

Die Claude-Modelle sind über mehrere Kanäle verfügbar:

  • Web-Oberfläche claude.ai: Bietet kostenlosen Zugang (zum Sonnet-Modell) und kostenpflichtige Abonnements (Pro, Max) mit Zugriff auf leistungsstärkere Modelle (Opus) und erweiterten Nutzungsgrenzen.
  • API für Entwickler: Anthropic bietet eine kommerzielle API, die die Integration von Claude in Anwendungen von Drittanbietern ermöglicht. Die Preise variieren je nach Modell (Haiku ist das günstigste, Opus das teuerste).
  • Cloud-Plattformen: Claude ist über Amazon Bedrock und Google Cloud Vertex AI verfügbar, was die Nutzung in Unternehmensumgebungen vereinfacht.
  • Integrationen: Claude ist in beliebte Dienste wie Slack, Notion und Quora (im Chatbot Poe) integriert.

Literatur

Literatur

  • Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
  • Bai, Y. et al. (2022). Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback. arXiv:2204.05862.
  • Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
  • Bulatov, A. et al. (2023). Scaling Transformer to 1M Tokens and Beyond with RMT. arXiv:2304.11062.
  • Jimenez, C. E. et al. (2023). SWE-bench: Can Language Models Resolve Real-World GitHub Issues?. arXiv:2310.06770.
  • Yuan, W. et al. (2024). Self-Rewarding Language Models. arXiv:2401.10020.
  • Yang, A. et al. (2024). Context Parallelism for Scalable Million-Token Inference. arXiv:2411.01783.
  • Miranda, L. J. V. et al. (2024). Hybrid Preferences: Learning to Route Instances for Human vs AI Feedback. arXiv:2410.19133.
  • Chittepu, Y. et al. (2025). Reinforcement Learning from Human Feedback with High-Confidence Safety Constraints. arXiv:2506.08266.
  • Yuan, W. et al. (2025). Process-based Self-Rewarding Language Models. arXiv:2503.03746.
  • Yang, B. et al. (2025). Long Context Windows in Generative AI: An AI Atlas Report. [4] (tech-report, open review).

Einzelnachweise

  1. ↑ „Dario Amodei“. In Wikipedia [1]
  2. ↑ „Daniela Amodei“. In Wikipedia [2]
  3. ↑ „What Are Artifacts and How Do I Use Them? | Anthropic Help Center“.[3]
Retrieved from "https://systems-analysis.info/int/index.php?title=Claude_(Anthropic)_(DE)&oldid=992"