In-Context Learning (RO)

Învățarea în context (engl. In-Context Learning, ICL) — este o capacitate fundamentală a modelelor lingvistice mari (LLM) de a învăța sarcini noi „din mers", utilizând doar exemple (demonstrații) furnizate în contextul (promptul) cererii. Caracteristica esențială este că acest proces de adaptare are loc fără actualizarea ponderilor (parametrilor) modelului, adică fără fine-tuning tradițional.\n\nAcest mecanism permite modelelor să demonstreze o flexibilitate remarcabilă, rezolvând sarcini pentru care nu au fost special antrenate. ICL a devenit unul dintre progresele-cheie care au făcut modelele lingvistice mari atât de puternice și versatile.\n\n== Mecanisme de funcționare ==\nÎnțelegerea exactă a modului în care funcționează ICL rămâne un domeniu activ de cercetare, însă există mai multe teorii principale care explică acest fenomen.\n\n=== Transformer ca meta-optimizator ===\nO teorie populară susține că arhitectura Transformer, în cursul pre-antrenării, învață să implementeze algoritmi de învățare în propriile treceri directe (forward passes). Când modelul primește un prompt cu exemple, acesta execută implicit un fel de optimizare pentru rezolvarea sarcinii prezentate, ajustând stările sale interne (activările), nu ponderile.\n\n=== Inferență bayesiană ===\nO altă teorie tratează ICL ca pe o formă de inferență bayesiană. Modelul, pre-antrenat pe volume uriașe de date, deține o reprezentare a priori asupra unui număr mare de concepte. Exemplele din context servesc drept dovezi care permit modelului să rafineze distribuția de probabilitate a posteriori asupra conceptelor latente. Cu alte cuvinte, exemplele ajută modelul să „înțeleagă" care anume dintre miile de sarcini cunoscute trebuie rezolvată în acel moment.\n\n== Tipuri de In-Context Learning ==\nÎn funcție de numărul de exemple furnizate, ICL se împarte în trei tipuri principale.\n\n* Few-shot Learning (învățare pe câteva exemple): Acesta este cel mai răspândit și echilibrat mod de abordare. Modelului i se furnizează câteva (de obicei între 2 și 10) exemple demonstrative.\nExemplu (clasificarea tonalității): \n

Текст: "Какой прекрасный день!"
Тональность: Позитивная

Текст: "Я ненавижу стоять в пробках."
Тональность: Негативная

Текст: "Этот фильм был довольно средним."
Тональность:

\nRăspuns așteptat:\n

Нейтральная

\n\n* One-shot Learning (învățare pe un singur exemplu): Modelului i se oferă un singur exemplu. Acesta este adesea suficient pentru a stabili formatul răspunsului și pentru a îmbunătăți semnificativ performanța față de abordarea zero-shot.\n\n* Zero-shot Learning (învățare fără exemple): Modelului nu i se furnizează exemple, ci doar o instrucțiune sau o descriere a sarcinii. În acest caz, modelul se bazează în totalitate pe cunoștințele dobândite în cursul pre-antrenării.\n\n== Aplicații practice ==\nAplicarea corectă a ICL permite rezolvarea unui spectru larg de sarcini fără dezvoltare costisitoare și fără fine-tuning.\n\n* Pentru sarcini creative și stilistice (generarea de cod într-un anumit stil, scrierea de text în maniera unui anumit autor):\n** Se recomandă Few-shot Learning.\n** Exemplele ajută modelul să surprindă stilul, formatul și structura de ieșire dorite.\n\n* Pentru sarcini simple cu instrucțiuni clare (traducere, sumarizare, răspunsuri la întrebări simple):\n** Adesea este suficient Zero-shot Learning.\n** Modelele moderne se descurcă destul de bine cu astfel de sarcini, dacă acestea au făcut parte din pre-antrenarea lor.\n\n* Pentru sarcini în care formatul de ieșire este important (generarea de JSON, extragerea de entități):\n** Se recomandă One-shot sau Few-shot Learning.\n** Chiar și un singur exemplu poate stabili clar structura necesară a răspunsului, prevenind erorile de formatare.\n\n== Avantaje și dezavantaje ==\n{| class=\"wikitable\"\n|+ Compararea avantajelor și dezavantajelor ICL\n|-\n! Avantaje\n! Dezavantaje\n|-\n|\n* Flexibilitate și viteză: Adaptare instantanee la sarcini noi fără necesitatea reantrenării.\n* Economie de resurse: Nu necesită colectare de date, adnotare și putere de calcul pentru fine-tuning.\n* Accesibilitate: Permite utilizatorilor fără expertiză în ML să configureze modele prin intermediul unor exemple text simple.\n|\n* Limitările ferestrei de context: Numărul de exemple este limitat de lungimea maximă a contextului modelului.\n* Sensibilitate față de exemple: Rezultatul depinde puternic de calitatea, ordinea și formatul demonstrațiilor furnizate.\n* Costuri ridicate la inferență: Prompturile lungi cu multe exemple cresc costul și timpul de generare.\n* Riscuri de securitate: Transmiterea de informații confidențiale ca exemple poate fi nesigură.\n|}\n\n== Comparație cu alte paradigme ==\n=== ICL vs. Fine-tuning ===\nFine-tuning modifică ponderile modelului, „imprimând" în acesta cunoștințe noi. Aceasta transformă modelul într-un expert într-un domeniu restrâns, dar îi reduce flexibilitatea generală. ICL, dimpotrivă, nu modifică ponderile și este mai flexibil, însă poate fi inferior ca performanță pe sarcini înalt specializate care necesită cunoaștere aprofundată a domeniului.\n\n=== ICL vs. RAG (Retrieval-Augmented Generation) ===\nAmbele metode extind contextul modelului, dar în scopuri diferite:\n* ICL utilizează exemple pentru a învăța modelul cum să execute sarcina (demonstrarea abilității).\n* RAG utilizează informații extrase pentru a comunica modelului faptele necesare pentru răspuns (furnizarea de cunoștințe).\nÎn practică, ICL și RAG sunt adesea combinate pentru a obține cele mai bune rezultate.\n\n== Bibliografie ==\n* Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.\n* Dai, D. et al. (2022). Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers. arXiv:2212.10559.\n* Panwar, M.; Ahuja, K.; Goyal, N. (2024). In-Context Learning through the Bayesian Prism. arXiv:2306.04891.\n* Müller, S. et al. (2021). Transformers Can Do Bayesian Inference. arXiv:2112.10510.\n* Garg, S. et al. (2022). What Can Transformers Learn In-Context? A Case Study of Simple Function Classes. arXiv:2208.01066.\n* Min, S. et al. (2022). Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?. arXiv:2202.12837.\n* Wang, X. et al. (2023). Explaining and Finding Good Demonstrations for In-Context Learning. arXiv:2302.13971.\n* Xie, S. et al. (2024). A Survey on In-Context Learning. arXiv:2301.00234.\n* Yu, Z.; Ananiadou, S. (2024). How Do Large Language Models Learn In-Context? Query and Key Matrices of In-Context Heads Are Two Towers for Metric Learning. arXiv:2402.02872.\n* Wibisono, K. C.; Wang, Y. (2024). From Unstructured Data to In-Context Learning: Exploring What Tasks Can Be Learned and When. arXiv:2406.00131.\n* Chan, J. K. et al. (2022). Data Distributional Properties Drive Emergent In-Context Learning in Transformers. arXiv:2205.05055.\n* Hahn, M.; Goyal, N. (2023). A Theory of Emergent In-Context Learning as Implicit Structure Induction. arXiv:2303.07971.\n\n== Note ==\n\n\n\nTemplate:SEOMeta\n