Open-Weight und Closed-Weight-Modelle

From Systems analysis Wiki
Jump to navigation Jump to search

Open-Weight- und Closed-Weight-Modelle sind zwei grundlegend unterschiedliche Ansätze für die Entwicklung und Verbreitung von großen Sprachmodellen (LLM), die eine zentrale Dichotomie im modernen Ökosystem der künstlichen Intelligenz bilden. Die Wahl zwischen diesen Ansätzen beeinflusst die technischen Möglichkeiten, die Wirtschaftlichkeit, die Sicherheit und die zukünftige Entwicklung der KI[1].

Der Unterschied liegt in der Verfügbarkeit der trainierten Parameter (Gewichte) des Modells. Open-Weight-Modelle veröffentlichen ihre Gewichte, was der Community erlaubt, sie zu nutzen, zu modifizieren und lokal bereitzustellen. Closed-Weight-Modelle hingegen halten ihre Gewichte geheim und gewähren den Zugang zu ihren Fähigkeiten ausschließlich über proprietäre APIs[2].

Definitionen und Hauptunterschiede

Open-Weight-Modelle (mit offenen Gewichten)

Open-Weight-Modelle sind Systeme, bei denen die trainierten Parameter (Gewichte) eines neuronalen Netzes öffentlich zur Nutzung, Modifikation und Verbreitung verfügbar sind. Laut der Definition von Andrej Karpathy von OpenAI ist ein solches Modell vergleichbar mit der „Übergabe der Binärdatei eines Betriebssystems“ – die Nutzer erhalten ein funktionsfähiges Produkt, jedoch in der Regel ohne Zugriff auf den Trainingsquellcode oder die Trainingsdaten.

Hauptmerkmale:

  • Lokale Bereitstellung: Die Möglichkeit, das Modell auf eigener Hardware auszuführen, was die volle Kontrolle über Daten und Vertraulichkeit gewährleistet.
  • Feinabstimmung (Fine-Tuning): Die Fähigkeit, das Modell an spezifische Aufgaben und Domänen anzupassen.
  • Transparenz und Audit: Forscher können die internen Mechanismen des Modells untersuchen, um Verzerrungen und Schwachstellen zu identifizieren.

Closed-Weight-Modelle (mit geschlossenen Gewichten)

Closed-Weight-Modelle (auch als proprietäre Modelle bekannt) sind Systeme, deren Parameter ein Geschäftsgeheimnis darstellen und nur über APIs oder eingeschränkte Lizenzen zugänglich sind. Die Entwicklerunternehmen, wie OpenAI und Anthropic, kontrollieren die Architektur, die Trainingsmethoden und die Inferenzmechanismen vollständig. Im technischen Bericht zu GPT-4 wird die Offenlegung von Details explizit verweigert, „angesichts des Wettbewerbsumfelds und der Sicherheitsfolgen von großen Modellen“[3].

Hauptmerkmale:

  • Zentralisierte Kontrolle: Der Entwickler steuert Updates, Sicherheit und Nutzungsrichtlinien.
  • Einfache Nutzung: Der Zugriff über eine API befreit die Nutzer von der Notwendigkeit, eine komplexe Infrastruktur zu verwalten.
  • Intransparenz: Der fehlende Zugang zu den internen Mechanismen macht ein unabhängiges Audit unmöglich und erschwert das Verständnis der Ursachen für fehlerhafte oder voreingenommene Antworten.

Unterschied zu Open Source

Es ist wichtig, zwischen den Begriffen Open-Weight und Open-Source zu unterscheiden. Ein echtes Open-Source-Modell erfordert die Veröffentlichung aller für die Reproduktion notwendigen Artefakte: Gewichte, Architektur, Trainingscode und Datensätze. Die meisten modernen „offenen“ Modelle, wie Llama von Meta, sind open-weight, aber nicht vollständig open-source, da ihre Trainingsdaten und die genauen Trainingsmethoden nicht offengelegt werden.

Vergleichende Analyse: Leistung, Kosten und Innovation

Leistung und Anpassung

Historisch gesehen führten Closed-Weight-Modelle wie GPT-4 in allgemeinen Benchmarks. Die Leistungslücke verringert sich jedoch rapide. Laut dem Stanford AI Index 2025 ist sie im letzten Jahr von 8 % auf 1,7 % gesunken[1]. Leistungsstarke Open-Weight-Modelle wie LLaMA 3.1 405B von Meta und DeepSeek-V3 zeigen vergleichbare und bei einigen Aufgaben (insbesondere beim Programmieren) sogar überlegene Ergebnisse[4].

Der Hauptvorteil von Open-Weight-Modellen liegt in der tiefgreifenden Anpassung. Die Möglichkeit, sie mit spezifischen Daten nachzutrainieren, ermöglicht es ihnen, größere, aber allgemeinere Closed-Weight-Modelle in Nischenbereichen wie Medizin oder Jura zu übertreffen.

Wirtschaftliche Aspekte

  • Trainingskosten: Die Entwicklung von Frontier-Modellen ist extrem kostspielig. Das Training von GPT-4 wird auf über 100 Millionen US-Dollar geschätzt. Open-Weight-Modelle wie DeepSeek-V3 erreichen eine ähnliche Leistung bei Kosten von 5,5 Millionen US-Dollar, was den Zugang zur Erstellung leistungsfähiger Systeme demokratisiert.
  • Nutzungskosten (Inferenz): Closed-Weight-Modelle werden über APIs nach einem Pay-per-Use-Modell abgerechnet, was bei großen Volumina zu hohen Kosten führen kann. Lokal bereitgestellte Open-Weight-Modelle erfordern anfängliche Investitionen in die Infrastruktur, haben aber bei Skalierung deutlich niedrigere Gesamtbetriebskosten (TCO).

Einfluss auf Forschung und Innovation

Open-Weight-Modelle verändern die wissenschaftliche Forschung grundlegend, indem sie Reproduzierbarkeit und demokratisierten Zugang ermöglichen. Forscher weltweit können offene Modelle analysieren, kritisieren und verbessern, was ein dynamisches Ökosystem schafft und den Fortschritt beschleunigt. Geschlossene Modelle hingegen führen zu einer „Reproduzierbarkeitskrise“, da die deklarierten Ergebnisse nicht unabhängig überprüft werden können.

Sicherheit und ethische Dilemmata

Die Sicherheitsfrage ist ein zentrales Dilemma in der Debatte zwischen Offenheit und Kontrolle.

  • Closed-Weight-Ansatz (Zentralisierte Prävention): Entwickler wie OpenAI und Anthropic verfolgen einen präventiven Ansatz. Sie implementieren komplexe Sicherheitsfilter, führen intensives „Red Teaming“ durch und halten sich an strenge Richtlinien wie die Responsible Scaling Policy von Anthropic, die sie dazu verpflichtet, keine Modelle einzusetzen, die bestimmte Risikoschwellen überschreiten[5].
  • Open-Weight-Ansatz (Dezentrale Resilienz): Diese Philosophie, ähnlich der Open-Source-Welt, geht davon aus, dass „viele Augen alle Fehler unbedeutend machen“. Die Community kann Schwachstellen schneller finden und beheben. Dies birgt jedoch auch Risiken: Böswillige Akteure können Modelle ebenso leicht untersuchen, um Schwachstellen zu finden, oder Schutzmechanismen durch Feinabstimmung entfernen.

Studien zeigen, dass die menschliche Absicht und nicht die Verfügbarkeit des Modells der Hauptrisikofaktor ist. 90 % der dokumentierten Missbrauchsfälle von generativer KI stehen im Zusammenhang mit der Ausnutzung erlaubter Funktionen und nicht mit Schäden, die von den Systemen selbst erzeugt werden.

Regulatorische Ansätze: EU und USA

  • EU-KI-Gesetz: Verfolgt einen präventiven, risikobasierten Ansatz. Das Gesetz führt strenge Verpflichtungen für Modelle mit „systemischem Risiko“ ein (die mehr als 1025 FLOPS für das Training benötigen), gewährt jedoch begrenzte Ausnahmen für Open-Source-Modelle, die kein solches Risiko darstellen. Dies schafft einen Anreiz für Transparenz, aber auch regulatorische Komplexität.
  • Ansatz der USA: Basiert auf der Förderung von Innovationen und dem Risikomanagement durch Branchenstandards. Die Executive Order 14110 von Präsident Biden und der nachfolgende Bericht der NTIA empfehlen, von sofortigen Beschränkungen für Open-Weight-Modelle abzusehen und stattdessen ein Überwachungssystem zu schaffen, um Entscheidungen auf der Grundlage von Fakten zu treffen[6].

Schlüsselmodelle und Akteure

Vergleichstabelle der führenden Open-Weight- und Closed-Weight-Modelle
Modelltyp Modell Entwickler Hauptmerkmal
Open-Weight LLaMA 3.1 Meta Hohe Leistung, die den Standard für offene Modelle gesetzt hat; große Community.
Mixtral 8x7B Mistral AI „Mixture of Experts“ (MoE)-Architektur, die hohe Leistung bei geringen Inferenzkosten ermöglicht.
Closed-Weight GPT-4 / GPT-4o OpenAI Historisch führend in der Leistung, starke multimodale Fähigkeiten.
Claude 4 Opus Anthropic Fokus auf Sicherheit und Ethik (Constitutional AI), großes Kontextfenster.

Literatur

  • OpenAI et al. (2023). GPT-4 Technical Report. arXiv:2303.08774.
  • Touvron, H. et al. (2023). Llama 2: Open Foundation and Fine-Tuned Chat Models. arXiv:2307.09288.
  • DeepSeek-AI (2025). DeepSeek-V3 Technical Report. arXiv:2412.19437.
  • Kapoor, S.; Bommasani, R. et al. (2024). On the Societal Impact of Open Foundation Models. arXiv:2403.07918.
  • U.S. NTIA (2024). Dual-Use Foundation Models with Widely Available Model Weights. NTIA Report.
  • Stanford HAI (2025). Artificial Intelligence Index Report 2025. Full PDF.
  • Anthropic (2023). Responsible Scaling Policy. Anthropiс RSP.
  • Klyman, K. et al. (2024). A Design Framework for Open-Source Foundation Model Safety. arXiv:2406.10415.
  • Kembery, E.; Reed, T. (2024). AI Safety Frameworks Should Include Procedure for Model Access Decisions. arXiv:2411.10547.
  • European Commission (2024). General-Purpose AI Models in the AI Act – Q&A. EU AI Act FAQ.
  • Zhang, X. et al. (2025). Mitigating Cyber Risk in the Age of Open-Weight LLMs. arXiv:2505.17109.
  • Biderman, S. et al. (2024). Risks and Opportunities of Open-Source Generative AI. arXiv:2405.08597.

Einzelnachweise

  1. 1.0 1.1 „Artificial Intelligence Index Report 2025“. Stanford University HAI. [1] Abgerufen am 4. Juli 2025.
  2. Karpathy, Andrej. „On Open-sourcing LLMs“. X (formerly Twitter).
  3. „GPT-4 Technical Report“. OpenAI. [2]
  4. „DeepSeek-V2 and DeepSeek-Coder-V2 Technical Report“.
  5. „Anthropic's Responsible Scaling Policy“. Anthropic.
  6. „Dual-Use Foundation Models with Widely Available Model Weights“. U.S. Department of Commerce, NTIA. (2024).