Few-Shot und Zero-Shot

From Systems analysis Wiki
Jump to navigation Jump to search

Few-Shot-Lernen (FSL) und Zero-Shot-Lernen (ZSL) sind Paradigmen des maschinellen Lernens, die darauf abzielen, das Problem des Mangels an gelabelten Daten zu lösen. Sie ermöglichen es Modellen, Wissen auf der Grundlage einer sehr begrenzten Menge an Informationen zu lernen und zu verallgemeinern, was für die Anwendung künstlicher Intelligenz in realen Szenarien entscheidend ist, in denen die Erfassung großer Datensätze unmöglich oder unpraktikabel ist.

Das allgegenwärtige Problem der Datenknappheit

Moderne Modelle des Deep Learning zeigen beeindruckende Ergebnisse, doch ihre Effektivität hängt in der Regel direkt von riesigen Mengen gelabelter Daten ab. Die Erfassung und Annotation solcher Daten ist ein kostspieliger, zeitaufwendiger und oft unmöglicher Prozess. Dieses Problem, auch als „Datenhunger“ bekannt, ist in folgenden Bereichen besonders akut:

  • Diagnose seltener Krankheiten.
  • Spezialisierte industrielle Fertigung.
  • Robotik und Interaktion mit neuen Objekten.
  • Kategorisierung ständig neu erscheinender Produkte oder Themen.

FSL und ZSL bieten eine Lösung, indem sie den Fokus von „Big Data“ auf „Smart Data“ verlagern und sich auf den effizienten Transfer und die Verallgemeinerung von Wissen konzentrieren.

Few-Shot-Lernen (Few-Shot Learning)

Few-Shot-Lernen (FSL) ist ein Paradigma, bei dem ein Modell lernt, neue Klassen auf der Grundlage einer sehr kleinen Anzahl von gelabelten Beispielen (typischerweise 1 bis 5) zu erkennen, die als Support-Set bezeichnet werden.

Die Kernidee

Die Grundidee von FSL besteht nicht nur darin, Merkmale für bestimmte Klassen zu lernen, sondern den Lernprozess selbst zu erlernen (Learning to Learn). Das Modell muss sich schnell an neue, bisher unbekannte Aufgaben anpassen, indem es eine minimale Anzahl von Beispielen verwendet. Dies wird durch die Nutzung von zuvor erworbenem Wissen und Anpassungsstrategien erreicht.

Grundlegende Ansätze im FSL

  • Meta-Lernen („Lernen zu lernen“): Dies ist das vorherrschende Paradigma im FSL. Das Modell wird auf einer Vielzahl unterschiedlicher Aufgaben trainiert, um zu lernen, sich effizient an neue anzupassen.
    • Metrik-basiert: Modelle (z. B. siamesische oder prototypische Netze) lernen, einen Embedding-Raum zu erstellen, in dem der Abstand zwischen Vektoren die semantische Ähnlichkeit widerspiegelt. Die Klassifizierung eines neuen Beispiels erfolgt durch den Vergleich seines Embeddings mit den Embeddings aus dem Support-Set.
    • Optimierungsbasiert: Modelle (z. B. MAML) lernen, eine solche Initialisierung von Parametern zu finden, die ein schnelles Nachtrainieren (innerhalb weniger Gradientenabstiegsschritte) für eine neue Aufgabe ermöglicht.
  • In-Context Learning: Mit dem Aufkommen von großen Sprachmodellen (LLM) wurde ein Ansatz populär, bei dem die Beispiele aus dem Support-Set dem Modell direkt im Prompt zur Verfügung gestellt werden. Das Modell führt während der Inferenz eine Art „implizites Meta-Lernen“ durch, indem es sich an die Aufgabe anpasst, ohne seine Gewichte zu aktualisieren.

Erweiterte Ansätze im FSL

  • One-Shot-Lernen: Dies ist ein Spezialfall des FSL, bei dem die Anzahl der Beispiele für jede Klasse gleich eins ist (K=1 in der „N-way K-shot“-Notation). Klassische Beispiele für Architekturen sind Matching Networks und siamesische Netze (Siamese Networks).
  • Generative Methoden und Daten-Augmentierung: FSL nutzt aktiv generative Modelle (GANs, VAEs, Diffusionsmodelle), um zusätzliche Datenbeispiele zu synthetisieren. Dies ermöglicht die künstliche Erweiterung des Support-Sets und die Verbesserung der Klassifizierungsqualität, insbesondere für seltene oder ungewöhnliche Klassen.
  • Transduktives FSL: Im Gegensatz zum Standardansatz (induktiv) berücksichtigt das Modell bei der Anpassung nicht nur das gelabelte Support-Set, sondern auch die Gesamtheit der ungelabelten Testbeispiele (Queries). Dies ermöglicht es, die Datenstruktur in den Queries zu erfassen, beispielsweise durch Techniken wie Label Propagation, und die Stabilität der Klassifizierung zu erhöhen.

Zero-Shot-Lernen (Zero-Shot Learning)

Zero-Shot-Lernen (ZSL) ist ein Paradigma, bei dem ein Modell in der Lage ist, Klassen zu erkennen, von denen es während der Trainingsphase kein einziges Beispiel gesehen hat.

Die Kernidee

Dies wird durch die Nutzung von semantischer Zusatzinformation erreicht, die sowohl gesehene als auch ungesehene Klassen beschreibt. Das Modell lernt eine Abbildung vom Raum der Eingabemerkmale (z. B. Bilder) in einen gemeinsamen semantischen Raum.

Mechanismen für semantische Informationen

  • Semantische Attribute: Klassen werden durch eine Reihe von menschen-definierten Attributen beschrieben (z. B. für die Klasse „Zebra“: [hat_Streifen, hat_Hufe, ist_Säugetier]).
  • Wort-Einbettungen (Word Embeddings): Klassennamen oder deren textuelle Beschreibungen werden mithilfe von vortrainierten Sprachmodellen (z. B. Word2Vec, BERT) in Embeddings umgewandelt.
  • Prompting in LLMs: Mit dem Aufkommen multimodaler Modelle wie CLIP kann ZSL durch den Vergleich des Embeddings eines Bildes mit den Embeddings von textuellen Klassenbeschreibungen (z. B. „ein Foto eines Hundes“, „ein Foto einer Katze“) durchgeführt werden.

Arten von ZSL: Traditionell, Generalisiert, Induktiv und Transduktiv

  • Traditionelles ZSL: In der Testphase muss das Modell Beispiele nur aus den ungesehenen Klassen klassifizieren.
  • Generalisiertes ZSL (Generalized ZSL, GZSL): Ein realistischeres und komplexeres Szenario, bei dem das Modell Beispiele sowohl aus gesehenen als auch aus ungesehenen Klassen klassifizieren muss. Dies erfordert vom Modell nicht nur, Neues zu erkennen, sondern es auch von bereits Bekanntem zu unterscheiden und dabei dem Bias zugunsten der gesehenen Klassen entgegenzuwirken.
  • Induktives ZSL: Der Standardansatz, bei dem das Modell nur auf den Daten und semantischen Beschreibungen der gesehenen Klassen trainiert wird, ohne jeglichen Zugriff auf Informationen über die ungesehenen Klassen.
  • Transduktives ZSL: Ein fortgeschritteneres Schema, bei dem das Modell während des Trainings ungelabelte Beispiele aus den ungesehenen Klassen verwenden kann. Dies ermöglicht eine frühzeitige Anpassung des semantischen Raums und eine Verbesserung der finalen Qualität.

Generative Ansätze im ZSL

  • Generierung von Merkmalen für ungesehene Klassen: Zur Lösung des Bias-Problems im GZSL werden häufig generative Modelle (VAEs, GANs) eingesetzt. Sie synthetisieren nicht die Bilder selbst, sondern deren Merkmalsvektoren (Embeddings) für die ungesehenen Klassen auf Basis ihrer semantischen Beschreibungen. Dies ermöglicht es, den Datensatz für das Training des finalen Klassifikators auszugleichen.

Vergleichende Analyse und Synergie

Vergleich der Lernparadigmen bei begrenzten Daten
Aspekt Few-Shot-Lernen (FSL) Zero-Shot-Lernen (ZSL)
Kernidee Lernen, sich schnell an neue Klassen auf Basis weniger Beispiele anzupassen. Lernen, neue Klassen auf Basis ihrer semantischen Beschreibungen zu erkennen.
Datenanforderungen für neue Aufgaben/Klassen Einige wenige gelabelte Beispiele (1-5) für jede neue Klasse. Keine gelabelten Beispiele; eine semantische Beschreibung ist erforderlich.
Wissenstransfer Erlernen von prozeduralem Wissen („wie man sich anpasst“) oder eines guten Merkmalsraums. Erlernen semantischer Beziehungen und Attribute, Wissenstransfer über einen gemeinsamen semantischen Raum.
Typische Anwendungsfälle Schnelles Prototyping, Personalisierung, Erkennung seltener Objekte, Robotik. Entdeckung neuer Arten, Kategorisierung aufkommender Themen, Verarbeitung völlig neuer Produkttypen.
  • Unterschied zwischen Zero-Shot-Lernen und Zero-Shot-Prompting: Es ist wichtig, diese Begriffe zu unterscheiden. ZSL ist ein architektonisches Paradigma des maschinellen Lernens, das ein spezielles Modell und semantische Informationen erfordert. Zero-Shot-Prompting ist eine angewandte Technik des Prompt-Engineering, bei der ein großes Sprachmodell (z. B. GPT-4) eine Aufgabe ohne Beispiele im Prompt löst und sich dabei ausschließlich auf sein internes Wissen stützt.
  • Die Rolle des umfangreichen Vortrainings: Der aktuelle Erfolg von FSL und ZSL ist maßgeblich auf leistungsstarke Foundation Models (BERT, CLIP, GPT-4) zurückzuführen. Ihr Vortraining auf riesigen Datenmengen schafft ein universelles und semantisch reichhaltiges Embedding-Frontend, das als hervorragende Grundlage für eine schnelle Anpassung und semantische Inferenz bei Datenknappheit dient.

FSL und ZSL stellen unterschiedliche Punkte auf dem Spektrum der Dateneffizienz dar und werden oft kombiniert eingesetzt. Beispielsweise kann ZSL zur Initialisierung von Repräsentationen verwendet werden, die dann mittels FSL nach-trainiert werden, sobald die ersten Beispiele einer neuen Klasse verfügbar sind.

Führende Forschungsinstitutionen und Akteure

Die Forschung im Bereich FSL und ZSL wird sowohl in akademischen Kreisen als auch in industriellen Forschungslaboren aktiv vorangetrieben.

  • Universitäten: Stanford University, Peking University, National University of Singapore.
  • Industrielle Forschungslabore: Google AI, Meta AI, OpenAI.

Mit dem Aufkommen leistungsstarker Foundation Models hat sich der Forschungsschwerpunkt von der Entwicklung spezialisierter Architekturen für FSL/ZSL auf Methoden zur effizienten Anpassung dieser Modelle verlagert.

Siehe auch

Literatur

  • Finn, C. et al. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. arXiv:1703.03400.
  • Koch, G. et al. (2015). Siamese Neural Networks for One-Shot Image Recognition. PDF.
  • Vinyals, O. et al. (2016). Matching Networks for One Shot Learning. arXiv:1606.04080.
  • Snell, J. et al. (2017). Prototypical Networks for Few-Shot Learning. arXiv:1703.05175.
  • Sung, F. et al. (2018). Learning to Compare: Relation Network for Few-Shot Learning. arXiv:1711.06025.
  • Chen, Y. et al. (2021). Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning. arXiv:2003.04390.
  • Wang, Y. et al. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. arXiv:1904.05046.
  • Xian, Y. et al. (2018). Zero-Shot Learning — A Comprehensive Evaluation of the State of the Art. arXiv:1707.00600.
  • Verma, V. K. et al. (2018). Generalized Zero-Shot Learning via Synthesized Examples. arXiv:1712.03878.
  • Radford, A. et al. (2021). Learning Transferable Visual Models from Natural Language Supervision. arXiv:2103.00020.
  • Xian, Y. et al. (2019). Zero-Shot Learning via Simultaneous Generating and Learning. arXiv:1910.09446.
  • Verma, V. K. et al. (2017). Zero-Shot Learning via Generative Adversarial Training of Class-Conditional Feature Vectors. arXiv:1712.00981.
Retrieved from "https://systems-analysis.info/int/index.php?title=Few-Shot_und_Zero-Shot&oldid=2153"