Chain-of-Verification (EL)

Chain-of-Verification (CoVe) — είναι μια μέθοδος που προτάθηκε για τη μείωση των ψευδαισθήσεων (παραγωγή πραγματικά εσφαλμένων αλλά εύλογων απαντήσεων) στα μεγάλα γλωσσικά μοντέλα (LLM). Η προσέγγιση, που αναπτύχθηκε από ομάδα ερευνητών της Meta AI υπό την καθοδήγηση του Shehzaad Dhuliawala και παρουσιάστηκε στην εργασία «Chain-of-Verification Reduces Hallucination in Large Language Models» (2023), ανήκει στην κατηγορία μεθόδων αυτο-επαλήθευσης και αυτο-διόρθωσης (self-verification) LLM. Η βασική ιδέα του CoVe είναι η σταδιακή επαλήθευση της παραγόμενης απάντησης από το ίδιο το μοντέλο χωρίς τη χρήση εξωτερικών πηγών. Αυτό ωθεί το σύστημα να αφιερώνει περισσότερη «λογική» προσπάθεια στην αυτο-ανάλυση της απάντησης και στη διόρθωση των δικών του σφαλμάτων, πριν παρουσιάσει την απάντηση στον χρήστη.

Υπόβαθρο: ψευδαισθήσεις στα γλωσσικά μοντέλα

Τα μεγάλα γλωσσικά μοντέλα (LLM) πάσχουν συχνά από το φαινόμενο των «ψευδαισθήσεων» – παραγωγή απαντήσεων που φαίνονται εύλογες αλλά είναι πραγματικά εσφαλμένες. Το πρόβλημα αυτό αναγνωρίζεται ευρέως ως άλυτο στον τομέα του NLP: ακόμη και σύγχρονα μοντέλα μπορούν να παρέχουν ψευδείς πληροφορίες με υψηλή βεβαιότητα, παραπλανώντας τους χρήστες. Για παράδειγμα, ένα μοντέλο μπορεί να «επινοήσει» πειστικά ένα ανύπαρκτο γεγονός ή να μπερδέψει βιογραφικά στοιχεία γνωστής προσωπικότητας. Καθώς τέτοια πραγματικά σφάλματα είναι δύσκολο να εντοπιστούν χωρίς λεπτομερή έλεγχο, οι ερευνητές αναπτύσσουν ενεργά μεθόδους για τη μείωση των ψευδαισθήσεων στις απαντήσεις των LLM.

Στάδια της μεθόδου CoVe

Η μέθοδος Chain-of-Verification υλοποιείται μέσω τεσσάρων διαδοχικών βημάτων:

1. Παραγωγή βασικής απάντησης. Το μοντέλο χωρίς ειδικές οδηγίες παράγει μια αρχική απάντηση στο αρχικό ερώτημα (βασική υπόθεση απάντησης). Αυτή η προκαταρκτική απάντηση χρησιμεύει ως σημείο εκκίνησης και μπορεί να περιέχει ψευδαισθήσεις που πρόκειται να εντοπιστούν στα επόμενα βήματα.
2. Σχεδιασμός ερωτήσεων επαλήθευσης. Έχοντας το αρχικό ερώτημα και την παραγόμενη απάντηση, το μοντέλο διατυπώνει μια λίστα διευκρινιστικών ερωτήσεων που ελέγχουν την πραγματική ορθότητα των ισχυρισμών της βασικής απάντησης. Αυτές οι verification questions στοχεύουν στα βασικά γεγονότα της απάντησης και βοηθούν στον εντοπισμό πιθανών σφαλμάτων ή ανακριβειών.
3. Εκτέλεση ελέγχου (επαλήθευση). Στη συνέχεια το μοντέλο απαντά διαδοχικά και ανεξάρτητα σε κάθε μία από τις διατυπωμένες ερωτήσεις επαλήθευσης, προσπαθώντας να μην βασίζεται στην αρχική απάντηση για να αποφύγει την προκατάληψη. Οι ληφθείσες απαντήσεις συγκρίνονται με την αρχική απάντηση για τον εντοπισμό αντιφάσεων ή σφαλμάτων: έτσι εντοπίζονται τα τμήματα της αρχικής απάντησης που δεν επαληθεύονται από τα γεγονότα.
4. Διαμόρφωση τελικής απάντησης. Τέλος, βάσει των εντοπισμένων αποκλίσεων, το μοντέλο παράγει μια διορθωμένη οριστική απάντηση. Σε αυτή την απάντηση ενσωματώνονται διορθώσεις λαμβάνοντας υπόψη τα αποτελέσματα της επαλήθευσης, γεγονός που αυξάνει την πραγματική της ακρίβεια και μειώνει την πιθανότητα ψευδαισθήσεων.

Κάθε ένα από αυτά τα στάδια εκτελείται μέσω πρόσθετων ερωτημάτων στο ίδιο LLM, αλλά με διαφορετικές οδηγίες. Δηλαδή, το μοντέλο αναλαμβάνει διαδοχικά τον ρόλο του απαντώντος, στη συνέχεια του ελεγκτή (διατυπώνει ερωτήσεις και απαντά σε αυτές), και τέλος του επιμελητή της τελικής εξόδου.

Παραλλαγές υλοποίησης της επαλήθευσης

Οι συγγραφείς της μεθόδου δοκίμασαν διάφορες λειτουργίες υλοποίησης του βήματος επαλήθευσης, που διαφέρουν ως προς τον τρόπο υποβολής και λήψης απαντήσεων στις ερωτήσεις επαλήθευσης:

• Συνδυαστική προσέγγιση (Joint). Το μοντέλο παράγει τόσο τις ερωτήσεις επαλήθευσης όσο και τις απαντήσεις σε αυτές στο πλαίσιο ενός και μόνου ερωτήματος. Αυτή η παραλλαγή είναι λιγότερο προτιμητέα, καθώς το μοντέλο, απαντώντας αμέσως, μπορεί να παράγει ψευδαισθήσεις και να επαναλαμβάνει σφάλματα της αρχικής απάντησης λόγω μεροληψίας.
• Διβηματική προσέγγιση (2-Step). Οι ερωτήσεις επαλήθευσης παράγονται πρώτα με ξεχωριστό ερώτημα, και στη συνέχεια σε επόμενο ερώτημα το μοντέλο απαντά στη διαμορφωμένη λίστα ερωτήσεων. Ο διαχωρισμός των σταδίων βοηθά στην αποφυγή της επίδρασης της αρχικής απάντησης κατά την παραγωγή ερωτήσεων.
• Διαχωρισμένη επαλήθευση (Factored). Το μοντέλο απαντά ξεχωριστά σε κάθε ερώτηση επαλήθευσης, χρησιμοποιώντας πολλά διαδοχικά ερωτήματα (ένα ανά ερώτηση). Αυτή η προσέγγιση αποτρέπει την απλή αντιγραφή αποσπασμάτων της αρχικής απάντησης: οι απαντήσεις στις ερωτήσεις επαλήθευσης διατυπώνονται αυτόνομα, γεγονός που μειώνει τον κίνδυνο επανάληψης της αρχικής ψευδαίσθησης. Το μειονέκτημα είναι το αυξημένο υπολογιστικό κόστος, καθώς ο αριθμός των ερωτημάτων αυξάνεται ανάλογα με τον αριθμό των ερωτήσεων.
• Διαχωρισμένη επαλήθευση με αναθεώρηση (Factored + Revise). Μετά τη λήψη απαντήσεων σε όλες τις ερωτήσεις επαλήθευσης, το μοντέλο εκτελεί ένα πρόσθετο στάδιο σύγκρισης και αναθεώρησης. Μέσω ξεχωριστού ερωτήματος συγκρίνει τα ληφθέντα γεγονότα με την αρχική απάντηση και επισημαίνει ρητά τις ασυμφωνίες, μετά την οποία παράγει την τελική απάντηση με διορθώσεις. Αυτό το πρόσθετο βήμα αναγκάζει το σύστημα να αναλύσει προσεκτικότερα τις αποκλίσεις και να ενσωματώσει τις διορθωμένες πληροφορίες στην οριστική έξοδο.

Πειραματικά αποτελέσματα

Η μέθοδος Chain-of-Verification δοκιμάστηκε σε μια σειρά εργασιών ευαίσθητων στην πραγματική ακρίβεια των απαντήσεων. Μεταξύ αυτών ήταν: ερωτήσεις απαρίθμησης γεγονότων από βάση γνώσης (λίστες από το Wikidata και κατηγορίες της Wikipedia), ερωτήσεις πολλαπλών απαντήσεων από διαφορετικά τμήματα κειμένου (MultiSpanQA), καθώς και εργασίες παραγωγής εκτεταμένου κειμένου (π.χ. βιογραφίες).

Τα αποτελέσματα έδειξαν σημαντική μείωση των ψευδαισθήσεων σε όλους τους τύπους εργασιών κατά τη χρήση του CoVe σε σύγκριση με τα αρχικά μοντέλα χωρίς αυτο-επαλήθευση. Ιδιαίτερα αποτελεσματική αποδείχθηκε η παραλλαγή factored + revise – διαχωρισμένη επαλήθευση με τελική αντιπαραβολή γεγονότων. Αυτή η προσέγγιση έδωσε τους καλύτερους δείκτες ακρίβειας: για παράδειγμα, στην εργασία παραγωγής βιογραφικού κειμένου η εφαρμογή του CoVe στο μοντέλο LLaMA-65B (LLM 65 δισεκατομμυρίων παραμέτρων) αύξησε τη μετρική πραγματικότητας FactScore από ~63,7 σε ~71,4 βαθμούς. Η αύξηση του FactScore υποδηλώνει ότι οι τελικές απαντήσεις άρχισαν να περιέχουν περισσότερα επαληθευμένα γεγονότα και λιγότερες επινοημένες πληροφορίες.

Επιπλέον, το LLM με ενσωματωμένη αλυσίδα επαλήθευσης κατάφερε να ξεπεράσει ακόμη και ορισμένα πιο ισχυρά ή ειδικά εξοπλισμένα συστήματα. Έτσι, το LLAMA-65B με CoVe έδειξε υψηλότερο FactScore από το ChatGPT (μοντέλο της OpenAI) και ξεπέρασε το Perplexity.ai — ένα μοντέλο εμπλουτισμένο με αναζήτηση στο διαδίκτυο για πραγματική υποστήριξη απαντήσεων. Αυτό είναι αξιοσημείωτο, καθώς το Perplexity χρησιμοποιεί εξωτερικές πηγές για αναζήτηση πληροφοριών, ενώ το CoVe επιτυγχάνει βελτίωση ποιότητας βασιζόμενο αποκλειστικά στις εσωτερικές ικανότητες του ίδιου του μοντέλου για συλλογισμό και αυτο-επαλήθευση. Βέβαια, στα πιο σπάνια γεγονότα (όπου απαιτούνται εξειδικευμένες γνώσεις) ένα σύστημα ανάκτησης τύπου Perplexity εξακολουθεί να διατηρεί πλεονέκτημα, ωστόσο στην πλειονότητα των ερωτήσεων το CoVe έδωσε πιο ακριβείς απαντήσεις.

Περιορισμοί και προοπτικές

Θα πρέπει να σημειωθεί ότι αν και το Chain-of-Verification μειώνει αισθητά το ποσοστό ψευδαισθήσεων, δεν είναι σε θέση να τις εξαλείψει πλήρως. Το μοντέλο μπορεί ακόμα να κάνει λάθη αν οι ερωτήσεις επαλήθευσης δεν κάλυψαν κάποια εσφαλμένη λεπτομέρεια ή αν το ίδιο το LLM δεν γνωρίζει το σωστό γεγονός. Επιπλέον, το CoVe αυξάνει τον υπολογιστικό φόρτο: για ένα μόνο ερώτημα χρήστη απαιτείται η εκτέλεση πολλαπλών διαδοχικών κλήσεων στο μοντέλο (παραγωγή απάντησης, παραγωγή ερωτήσεων, απαντήσεις σε αυτές, τελική σύνθεση), ενώ ένα συνηθισμένο μοντέλο απαντά σε ένα μόνο βήμα. Ωστόσο, οι συγγραφείς δείχνουν ότι ως προς το συνολικό κόστος το CoVe είναι συγκρίσιμο με άλλες πολυβηματικές προσεγγίσεις εντοπισμού ψευδαισθήσεων και παραμένει μια πρακτική λύση.

Στην εργασία τους, οι ερευνητές της Meta AI υπέδειξαν πιθανές κατευθύνσεις βελτίωσης της μεθόδου. Ένας από τους προφανείς δρόμους είναι να συνδυαστεί το CoVe με τη χρήση εξωτερικών εργαλείων, για παράδειγμα με σύνδεση μονάδας αναζήτησης στο διαδίκτυο ή βάσεων γνώσης στο στάδιο της επαλήθευσης. Αυτό θα επέτρεπε τη λήψη αξιόπιστων πληροφοριών εκ των έξω και την ακόμα πιο αξιόπιστη επιβεβαίωση ή διάψευση γεγονότων από την αρχική απάντηση. Έτσι, το Chain-of-Verification αποτελεί βήμα προς πιο υπεύθυνα και ακριβή συστήματα ΑΙ: καταδεικνύει ότι αναγκάζοντας το μοντέλο να επανεξετάσει κριτικά τη δική του απάντηση, μπορεί να βελτιωθεί ουσιαστικά η ποιότητά της και να μειωθεί η διάδοση επινοημένων γεγονότων στο παραγόμενο κείμενο.

Παραπομπές

• Πρωτότυπο άρθρο «Chain-of-Verification Reduces Hallucination in Large Language Models» στο arXiv
• Άρθρο «Chain-of-Verification Reduces Hallucination in Large Language Models» στο ACL Anthology
• Chain of Verification (CoVe) — Understanding & Implementation — άρθρο στο Medium

Βιβλιογραφία

• Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495.
• Manakul, P. et al. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv:2303.08896.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Ling, Z. et al. (2023). Deductive Verification of Chain-of-Thought Reasoning. arXiv:2306.03872.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.