Few-shot és Zero-shot
Kevés példán alapuló tanulás (Few-shot Learning, FSL) és példa nélküli tanulás (Zero-shot Learning, ZSL) — a gépi tanulás olyan paradigmái, amelyek a címkézett adatok hiányának problémájára kínálnak megoldást. Lehetővé teszik, hogy a modellek rendkívül korlátozott mennyiségű információ alapján tanuljanak és általánosítsák tudásukat, ami kulcsfontosságú a mesterséges intelligencia valós alkalmazásában, ahol nagy adathalmazok gyűjtése lehetetlen vagy nem célszerű.
Az adathiány általánosan elterjedt problémája
A modern mélytanulási modellek lenyűgöző eredményeket mutatnak, hatékonyságuk azonban általában közvetlenül függ a hatalmas mennyiségű címkézett adattól. Az ilyen adatok gyűjtése és annotálása költséges, munkaigényes, és sokszor lehetetlen folyamat. Ez a probléma, amelyet „adatéhségnek" is neveznek, különösen éles az alábbi területeken:
- Ritka betegségek diagnosztikája.
- Speciális ipari gyártás.
- Robotika és ismeretlen tárgyakkal való interakció.
- Folyamatosan megjelenő új termékek vagy témák kategorizálása.
Az FSL és a ZSL megoldást kínál erre, a hangsúlyt a „nagy adatokról" az „okos adatokra" helyezve, a tudás hatékony átadására és általánosítására összpontosítva.
Kevés példán alapuló tanulás (Few-shot Learning)
Few-shot Learning (FSL) — olyan paradigma, amelyben a modell nagyon kevés címkézett példa (általában 1–5) alapján tanulja meg felismerni az új osztályokat; ezeket a példákat támogatókészletnek (support set) nevezzük.
Kulcsgondolat
Az FSL alapgondolata nem csupán az, hogy adott osztályok jellemzőit megtanulja, hanem hogy elsajátítsa magát a tanulás folyamatát (learning to learn). A modellnek gyorsan kell alkalmazkodnia új, korábban ismeretlen feladatokhoz, minimális számú példa segítségével. Ez az előzetesen megszerzett tudás és adaptációs stratégiák felhasználásával érhető el.
Az FSL főbb megközelítései
- Meta-tanulás („Tanulni a tanulást"): Ez az FSL domináns paradigmája. A modell sokféle feladaton tanul, hogy hatékonyan alkalmazkodhasson újakhoz.
- Metrika-alapú: A modellek (pl. sziámi hálók vagy prototipikus hálók) megtanulnak egy embedding-teret felépíteni, ahol a vektorok közötti távolság szemantikai közelséget tükröz. Egy új példa osztályozása úgy történik, hogy embedding-jét összehasonlítják a támogatókészlet embedding-jeivel.
- Optimalizálás-alapú: A modellek (pl. MAML) megtanulják megtalálni azt a paraméter-inicializálást, amely lehetővé teszi az új feladathoz való gyors (néhány gradiens-lépéssel történő) finomhangolást.
- Kontextuson belüli tanulás (In-Context Learning): A nagy nyelvi modellek (LLM) megjelenésével népszerűvé vált az a megközelítés, ahol a támogatókészlet példáit közvetlenül a promptban adják meg a modellnek. A modell „implicit meta-tanulást" végez az inferencia során, a feladathoz alkalmazkodik a súlyok frissítése nélkül.
Kibővített megközelítések az FSL-ben
- One-shot Learning: Az FSL speciális esete, amikor minden osztályhoz egyetlen példa áll rendelkezésre (K=1 az \"N-way K-shot\" jelölésben). Klasszikus architekturális példák: Matching Networks és Siamese Networks.
- Generatív módszerek és adataugmentáció: Az FSL aktívan használ generatív modelleket (GAN, VAE, diffúziós modellek) további adatpéldányok szintetizálásához. Ez lehetővé teszi a támogatókészlet mesterséges bővítését és a klasszifikáció minőségének javítását, különösen ritka vagy szokatlan osztályok esetén.
- Transzduktív FSL: A szokásos (induktív) megközelítéssel ellentétben itt a modell az adaptáció során nemcsak a címkézett támogatókészletet veszi figyelembe, hanem az összes címkézetlen tesztpéldányt (lekérdezést) is. Ez lehetővé teszi a lekérdezések adatstruktúrájának megragadását, például címketerjedési (label propagation) technikák segítségével, és javítja az osztályozás robusztusságát.
Példa nélküli tanulás (Zero-shot Learning)
Zero-shot Learning (ZSL) — olyan paradigma, amelyben a modell képes felismerni olyan osztályokat, amelyekből egyetlen példát sem látott a tanítási fázisban.
Kulcsgondolat
Ezt kiegészítő szemantikai információ felhasználásával érik el, amely mind a látott, mind a nem látott osztályokat leírja. A modell megtanulja a leképezést a bemeneti jellemzőtérből (pl. képek) egy közös szemantikai térbe.
A szemantikai információ mechanizmusai
- Szemantikai attribútumok: Az osztályokat ember által meghatározott attribútumok készlete írja le (pl. a „zebra" osztálynál: [csíkos, patás, emlős]).
- Szóvektoros reprezentációk (Word Embeddings): Az osztályok neveit vagy szöveges leírásait előre betanított nyelvi modellek (pl. Word2Vec, BERT) segítségével embedding-ekké alakítják.
- Prompting LLM-ekben: A multimodális modellek (pl. CLIP) megjelenésével a ZSL elvégezhető úgy, hogy a kép embedding-jét az osztályok szöveges leírásainak embedding-jeivel hasonlítják össze (pl. „fénykép egy kutyáról", „fénykép egy macskáról").
A ZSL típusai: Hagyományos, Általánosított, Induktív és Transzduktív
- Hagyományos ZSL: A tesztelési fázisban a modellnek csak a nem látott osztályokból kell példányokat osztályoznia.
- Általánosított ZSL (Generalized ZSL, GZSL): Reálisabb és összetettebb forgatókönyv, amelyben a modellnek mind látott, mind nem látott osztályokból kell példányokat osztályoznia. Ez megköveteli, hogy a modell ne csak az újat ismerje fel, hanem a már ismert osztályoktól is meg tudja különböztetni, küzdve a látott osztályok felé mutató torzítással.
- Induktív ZSL: Szabványos felállás, ahol a modell kizárólag a látott osztályok adatain és szemantikai leírásain tanul, anélkül hogy bármilyen hozzáférése lenne a nem látott osztályok információihoz.
- Transzduktív ZSL: Fejlettebb séma, amelyben a modell a tanítás során felhasználhatja a nem látott osztályok címkézetlen példányait. Ez lehetővé teszi a szemantikai tér előzetes adaptálását és a végeredmény minőségének javítását.
Generatív megközelítések a ZSL-ben
- Nem látott osztályok jellemzőinek generálása: A GZSL-ben fellépő torzítás kezelésére generatív modelleket (VAE, GAN) alkalmaznak széles körben. Ezek nem magát a képet szintetizálják, hanem a nem látott osztályok jellemzővektorait (embedding-jeit) szemantikai leírásaik alapján. Ez lehetővé teszi az adathalmaz kiegyensúlyozását a végső osztályozó betanításához.
Összehasonlító elemzés és szinergia
| Szempont | Kevés példán alapuló tanulás (FSL) | Példa nélküli tanulás (ZSL) |
|---|---|---|
| Alapgondolat | Megtanulni gyorsan alkalmazkodni az új osztályokhoz néhány példa alapján. | Megtanulni felismerni az új osztályokat szemantikai leírásaik alapján. |
| Adatigény az új feladathoz/osztályhoz | Néhány címkézett példa (1–5) minden új osztályhoz. | Nulla címkézett példa; szemantikai leírás szükséges. |
| Tudástranszfer | Eljárási tudás elsajátítása („hogyan alkalmazkodj") vagy jó jellemzőtér kialakítása. | Szemantikai kapcsolatok és attribútumok elsajátítása, tudástranszfer közös szemantikai téren keresztül. |
| Tipikus felhasználási esetek | Gyors prototipizálás, személyre szabás, ritka objektumok felismerése, robotika. | Új fajok azonosítása, újonnan megjelenő témák kategorizálása, teljesen új termékek feldolgozása. |
Kulcsfontosságú árnyalatok és modern trendek
- A Zero-shot Learning és a Zero-shot Prompting megkülönböztetése: Fontos különbséget tenni e két fogalom között. A ZSL gépi tanulási architekturális paradigma, amely speciális modellt és szemantikai információt igényel. A Zero-shot Prompting egy alkalmazott prompt-engineering technika, ahol egy nagy nyelvi modell (pl. GPT-4) példák nélkül oldja meg a feladatot a promptban, kizárólag belső tudására támaszkodva.
- A nagyméretű előtanítás szerepe: Az FSL és a ZSL modern sikerei nagymértékben köszönhetők a nagy alapmodelleknek (BERT, CLIP, GPT-4). Hatalmas adathalmazokon végzett előtanításuk univerzális és szemantikailag gazdag embedding-frontendet hoz létre, amely kiváló alapot nyújt a gyors adaptációhoz és szemantikai következtetéshez adathiányos körülmények között.
Az FSL és a ZSL az adatfelhasználás hatékonyságának spektrumán különböző pontokat képviselnek, és gyakran együtt alkalmazzák őket. Például a ZSL felhasználható reprezentációk inicializálásához, amelyeket aztán FSL segítségével finomhangolnak, amint megjelennek az új osztály első példányai.
Kulcsfontosságú kutatóintézetek és szereplők
Az FSL és a ZSL területén folyó kutatások aktívan zajlanak mind az akadémiai szférában, mind az ipari laboratóriumokban.
- Egyetemek: Stanford Egyetem, Pekingi Egyetem, Szingapúri Nemzeti Egyetem.
- Ipari laboratóriumok: Google AI, Meta AI, OpenAI.
A hatékony alapmodellek megjelenésével a kutatások fókusza eltolódott az FSL/ZSL specializált architektúráinak fejlesztéséről e modellek hatékony adaptációs módszerei felé.
Irodalom
- Finn, C. et al. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. arXiv:1703.03400.
- Koch, G. et al. (2015). Siamese Neural Networks for One-Shot Image Recognition. PDF.
- Vinyals, O. et al. (2016). Matching Networks for One Shot Learning. arXiv:1606.04080.
- Snell, J. et al. (2017). Prototypical Networks for Few-Shot Learning. arXiv:1703.05175.
- Sung, F. et al. (2018). Learning to Compare: Relation Network for Few-Shot Learning. arXiv:1711.06025.
- Chen, Y. et al. (2021). Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning. arXiv:2003.04390.
- Wang, Y. et al. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. arXiv:1904.05046.
- Xian, Y. et al. (2018). Zero-Shot Learning — A Comprehensive Evaluation of the State of the Art. arXiv:1707.00600.
- Verma, V. K. et al. (2018). Generalized Zero-Shot Learning via Synthesized Examples. arXiv:1712.03878.
- Radford, A. et al. (2021). Learning Transferable Visual Models from Natural Language Supervision. arXiv:2103.00020.
- Xian, Y. et al. (2019). Zero-Shot Learning via Simultaneous Generating and Learning. arXiv:1910.09446.
- Verma, V. K. et al. (2017). Zero-Shot Learning via Generative Adversarial Training of Class-Conditional Feature Vectors. arXiv:1712.00981.
Lásd még
- Nagy nyelvi modellek