In-Context Learning (EL)

From Systems analysis Wiki
Jump to navigation Jump to search

Μάθηση εντός πλαισίου (αγγλ. In-Context Learning, ICL) — είναι μια θεμελιώδης ικανότητα των μεγάλων γλωσσικών μοντέλων (LLM) να μαθαίνουν νέες εργασίες «επί τόπου», χρησιμοποιώντας μόνο παραδείγματα (επιδείξεις) που παρέχονται εντός του πλαισίου (prompt) του αιτήματος. Το βασικό χαρακτηριστικό είναι ότι αυτή η διαδικασία προσαρμογής συμβαίνει χωρίς ενημέρωση των βαρών (παραμέτρων) του μοντέλου, δηλαδή χωρίς παραδοσιακό fine-tuning[1][2].

Αυτός ο μηχανισμός επιτρέπει στα μοντέλα να επιδεικνύουν εντυπωσιακή ευελιξία, επιλύοντας εργασίες για τις οποίες δεν εκπαιδεύτηκαν ειδικά. Το ICL έγινε μια από τις βασικές돌άξεις που έκανε τα μεγάλα γλωσσικά μοντέλα τόσο ισχυρά και ευέλικτα[3].

Μηχανισμοί λειτουργίας

Η ακριβής κατανόηση του τρόπου λειτουργίας του ICL παραμένει ενεργό πεδίο έρευνας, ωστόσο υπάρχουν αρκετές κυρίαρχες θεωρίες που εξηγούν αυτό το φαινόμενο.

Transformer ως μετα-βελτιστοποιητής

Μια από τις δημοφιλείς θεωρίες υποστηρίζει ότι η αρχιτεκτονική Transformer, κατά τη διάρκεια της προ-εκπαίδευσης, μαθαίνει να υλοποιεί αλγόριθμους μάθησης στα forward passes της. Όταν το μοντέλο λαμβάνει ένα prompt με παραδείγματα, εκτελεί σιωπηλά ένα είδος βελτιστοποίησης για την επίλυση της παρουσιαζόμενης εργασίας, ρυθμίζοντας τις εσωτερικές του καταστάσεις (ενεργοποιήσεις) και όχι τα βάρη[4].

Bayesian inference

Μια άλλη θεωρία θεωρεί το ICL ως μορφή Bayesian inference. Το μοντέλο, προ-εκπαιδευμένο σε τεράστιους όγκους δεδομένων, έχει μια εκ των προτέρων αναπαράσταση πολλών εννοιών. Τα παραδείγματα εντός του πλαισίου χρησιμεύουν ως αποδείξεις που επιτρέπουν στο μοντέλο να εκλεπτύνει την εκ των υστέρων κατανομή πιθανοτήτων του επί κρυφών εννοιών. Με άλλα λόγια, τα παραδείγματα βοηθούν το μοντέλο να «κατανοήσει» ποια ακριβώς από τις χιλιάδες εργασίες που γνωρίζει χρειάζεται να επιλύσει εκείνη τη στιγμή[5].

Τύποι In-Context Learning

Ανάλογα με τον αριθμό των παρεχόμενων παραδειγμάτων, το ICL χωρίζεται σε τρεις βασικούς τύπους.

  • Few-shot Learning (μάθηση με λίγα παραδείγματα): Αυτή είναι η πιο διαδεδομένη και ισορροπημένη προσέγγιση. Στο μοντέλο παρέχονται λίγα (συνήθως από 2 έως 10) επιδεικτικά παραδείγματα.

Παράδειγμα (ταξινόμηση συναισθήματος): 

Текст: "Какой прекрасный день!"
Тональность: Позитивная

Текст: "Я ненавижу стоять в пробках."
Тональность: Негативная

Текст: "Этот фильм был довольно средним."
Тональность:

Αναμενόμενη απάντηση: 

Нейтральная
  • One-shot Learning (μάθηση με ένα παράδειγμα): Στο μοντέλο δίνεται μόνο ένα παράδειγμα. Αυτό συχνά αρκεί για να καθορίσει τη μορφή της απάντησης και να βελτιώσει σημαντικά την απόδοση σε σύγκριση με την προσέγγιση zero-shot.
  • Zero-shot Learning (μάθηση χωρίς παραδείγματα): Στο μοντέλο δεν παρέχονται παραδείγματα, παρά μόνο μια οδηγία ή περιγραφή της εργασίας. Σε αυτή την περίπτωση το μοντέλο βασίζεται αποκλειστικά στις γνώσεις που αποκτήθηκαν κατά τη διάρκεια της προ-εκπαίδευσης.

Πρακτική εφαρμογή

Η σωστή εφαρμογή του ICL επιτρέπει την επίλυση ενός ευρέος φάσματος εργασιών χωρίς δαπανηρή ανάπτυξη και fine-tuning.

  • Για δημιουργικές και υφολογικές εργασίες (παραγωγή κώδικα σε συγκεκριμένο στυλ, συγγραφή κειμένου κατά τον τρόπο συγκεκριμένου συγγραφέα):
    • Συνιστάται το Few-shot Learning.
    • Τα παραδείγματα βοηθούν το μοντέλο να συλλάβει το απαιτούμενο στυλ, μορφή και δομή της εξόδου.
  • Για απλές εργασίες με σαφείς οδηγίες (μετάφραση, περίληψη, απαντήσεις σε απλές ερωτήσεις):
    • Συχνά αρκεί το Zero-shot Learning.
    • Τα σύγχρονα μοντέλα τα καταφέρνουν αρκετά καλά με τέτοιες εργασίες, εφόσον αποτέλεσαν μέρος της προ-εκπαίδευσής τους.
  • Για εργασίες όπου η μορφή της εξόδου είναι σημαντική (παραγωγή JSON, εξαγωγή οντοτήτων):
    • Συνιστάται το One-shot ή το Few-shot Learning.
    • Ακόμα και ένα παράδειγμα μπορεί να καθορίσει με σαφήνεια την απαιτούμενη δομή της απάντησης, αποτρέποντας σφάλματα μορφοποίησης.

Πλεονεκτήματα και μειονεκτήματα

Σύγκριση πλεονεκτημάτων και μειονεκτημάτων του ICL
Πλεονεκτήματα Μειονεκτήματα
  • Ευελιξία και ταχύτητα: Άμεση προσαρμογή σε νέες εργασίες χωρίς ανάγκη επανεκπαίδευσης.
  • Εξοικονόμηση πόρων: Δεν απαιτεί συλλογή δεδομένων, σχολιασμό και υπολογιστική ισχύ για fine-tuning.
  • Προσβασιμότητα: Επιτρέπει σε χρήστες χωρίς εμπειρία στο ML να ρυθμίζουν μοντέλα με απλά παραδείγματα κειμένου.
  • Περιορισμοί παραθύρου πλαισίου: Ο αριθμός των παραδειγμάτων περιορίζεται από το μέγιστο μήκος πλαισίου του μοντέλου.
  • Ευαισθησία στα παραδείγματα: Το αποτέλεσμα εξαρτάται σε μεγάλο βαθμό από την ποιότητα, τη σειρά και τη μορφή των παρεχόμενων επιδείξεων.
  • Υψηλό κόστος κατά τη φάση εξαγωγής: Τα μακριά prompt με πολλά παραδείγματα αυξάνουν το κόστος και τον χρόνο παραγωγής.
  • Κίνδυνοι ασφαλείας: Η μετάδοση εμπιστευτικών πληροφοριών ως παραδείγματα μπορεί να είναι μη ασφαλής.

Σύγκριση με άλλα παραδείγματα

ICL vs. Fine-tuning

Το Fine-tuning (συν-εκπαίδευση) τροποποιεί τα βάρη του μοντέλου, «εντυπώνοντας» σε αυτό νέες γνώσεις. Αυτό κάνει το μοντέλο ειδικό σε ένα στενό τομέα, αλλά μειώνει τη γενική του ευελιξία. Το ICL, αντίθετα, δεν αλλάζει τα βάρη και είναι πιο ευέλικτο, αλλά μπορεί να υπολείπεται σε απόδοση σε εξειδικευμένες εργασίες όπου απαιτείται βαθιά γνώση του τομέα.

ICL vs. RAG (Retrieval-Augmented Generation)

Και οι δύο μέθοδοι επεκτείνουν το πλαίσιο του μοντέλου, αλλά για διαφορετικούς σκοπούς:

  • Το ICL χρησιμοποιεί παραδείγματα για να διδάξει στο μοντέλο πώς να εκτελεί μια εργασία (επίδειξη δεξιότητας).
  • Το RAG χρησιμοποιεί ανακτημένες πληροφορίες για να ενημερώσει το μοντέλο με τα γεγονότα που απαιτούνται για την απάντηση (παροχή γνώσης).

Στην πράξη, το ICL και το RAG συνδυάζονται συχνά για την επίτευξη των καλύτερων αποτελεσμάτων.

Βιβλιογραφία

  • Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
  • Dai, D. et al. (2022). Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers. arXiv:2212.10559.
  • Panwar, M.; Ahuja, K.; Goyal, N. (2024). In-Context Learning through the Bayesian Prism. arXiv:2306.04891.
  • Müller, S. et al. (2021). Transformers Can Do Bayesian Inference. arXiv:2112.10510.
  • Garg, S. et al. (2022). What Can Transformers Learn In-Context? A Case Study of Simple Function Classes. arXiv:2208.01066.
  • Min, S. et al. (2022). Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?. arXiv:2202.12837.
  • Wang, X. et al. (2023). Explaining and Finding Good Demonstrations for In-Context Learning. arXiv:2302.13971.
  • Xie, S. et al. (2024). A Survey on In-Context Learning. arXiv:2301.00234.
  • Yu, Z.; Ananiadou, S. (2024). How Do Large Language Models Learn In-Context? Query and Key Matrices of In-Context Heads Are Two Towers for Metric Learning. arXiv:2402.02872.
  • Wibisono, K. C.; Wang, Y. (2024). From Unstructured Data to In-Context Learning: Exploring What Tasks Can Be Learned and When. arXiv:2406.00131.
  • Chan, J. K. et al. (2022). Data Distributional Properties Drive Emergent In-Context Learning in Transformers. arXiv:2205.05055.
  • Hahn, M.; Goyal, N. (2023). A Theory of Emergent In-Context Learning as Implicit Structure Induction. arXiv:2303.07971.

Παραπομπές

  1. ↑ What is In-Context Learning (ICL)? // Lakera.ai
  2. ↑ In-Context Learning (ICL) // Hopsworks.ai
  3. ↑ In-Context Learning, In Context // The Gradient
  4. ↑ Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent as Meta-Optimizers // arXiv, 2022.
  5. ↑ Understanding In-Context Learning // Stanford Human-Centered AI, 2023.
Retrieved from "https://systems-analysis.info/int/index.php?title=In-Context_Learning_(EL)&oldid=3199"