Multi-agent prompting (EL)

Πολυπρακτορικό prompting (αγγλ. multi-agent prompting) — είναι μια μέθοδος στην инженерία prompt και στα συστήματα τεχνητής νοημοσύνης, κατά την οποία πολλαπλοί αυτόνομοι πράκτορες βασισμένοι σε μεγάλα γλωσσικά μοντέλα (LLM) αλληλεπιδρούν μεταξύ τους για την επίλυση σύνθετων προβλημάτων μέσω δομημένης ανταλλαγής οδηγιών και απαντήσεων.

Με άλλα λόγια, ένα πολυπρακτορικό σύστημα αποτελείται από πολλούς LLM-πράκτορες, οι οποίοι εργάζονται από κοινού σε ένα σύνθετο ερώτημα του χρήστη, κατανέμοντας τα στάδια συλλογισμού (subtasks) μεταξύ πρακτόρων με διαφορετικούς «ρόλους» και αρμοδιότητες. Ο κύριος στόχος αυτής της προσέγγισης είναι η υπέρβαση των περιορισμών ενός μεμονωμένου μοντέλου σε σύνθετες εργασίες μέσω συλλογικής επίλυσης. Η χρήση πολλαπλών αλληλεπιδρώντων πρακτόρων αποσκοπεί στη βελτίωση της ποιότητας συλλογισμού, της πραγματολογικής ακρίβειας και της αξιοπιστίας της απάντησης. Ένα σημαντικό χαρακτηριστικό είναι η αυστηρή οδηγητικότητα: σε κάθε LLM ανατίθεται συγκεκριμένος ρόλος ή εργασία στο πλαίσιο του γενικού σχήματος επίλυσης.

Μέθοδοι και αρχιτεκτονικά πρότυπα

Οι ερευνητές έχουν προτείνει μια σειρά από σχήματα πολυπρακτορικού prompting, που διαφέρουν ως προς τη φύση της αλληλεπίδρασης των πρακτόρων και τους ρόλους τους.

Ρολικό μοντέλο εμπειρογνωμόνων

Ένας ή περισσότεροι πράκτορες ορίζονται ως εμπειρογνώμονες τομέα με στενή εξειδίκευση. Για παράδειγμα, σε μια πολυπρακτορική ομάδα, διαφορετικοί πράκτορες μπορούν να εκπροσωπούν διαφορετικά πεδία γνώσης (φυσικός, χημικός, βιολόγος) ή διαφορετικά στάδια επίλυσης προβλήματος (σχεδιαστής, εκτελεστής, κριτής). Αυτή η προσέγγιση επιτρέπει την υλοποίηση αποτελεσματικού few-shot prompting, όπου κάθε πράκτορας-εμπειρογνώμονας λαμβάνει παραδείγματα-επιδείξεις στον τομέα του, βελτιώνοντας τη συνολική απόδοση.

Αυτοδιόρθωση και κριτική (Self-reflection)

Ενας πράκτορας μπορεί να λειτουργεί ως «κριτής» ή να αναστοχάζεται πάνω στις λύσεις ενός άλλου πράκτορα ή στις δικές του προηγούμενες απαντήσεις. Η στρατηγική self-reflection ή self-refinement συνίσταται στο ότι το LLM αρχικά παράγει μια απάντηση, και στη συνέχεια το ίδιο ή ένα άλλο μοντέλο την αναλύει και διορθώνει τα λάθη. Αυτό επιτρέπει την επαναληπτική βελτίωση του τελικού αποτελέσματος.

Συζητήσεις μεταξύ πρακτόρων

Ανταγωνιστική παραλλαγή του πολυπρακτορικού prompting, που αφορά την οργάνωση συζήτησης ή αντιπαράθεσης μεταξύ πολλαπλών LLM. Στο σχήμα LLM-Debate δύο ή περισσότεροι πράκτορες συζητούν για τη σωστή απάντηση σε ένα πρόβλημα (π.χ. μαθηματικό) και κριτικάρουν αμοιβαία τα επιχειρήματά τους. Αυτή η μορφή συζήτησης βελτιώνει την ικανότητα του μοντέλου για λογική συλλογιστική και αυξάνει την πραγματολογική ακρίβεια των απαντήσεων σε σύγκριση με μεμονωμένη επίλυση.

Σχεδιασμός και αποσύνθεση εργασιών

Ενας πράκτορας επιτελεί τη λειτουργία του σχεδιαστή, διαιρώντας ένα σύνθετο ερώτημα σε μια ακολουθία βημάτων ή υποεργασιών, που στη συνέχεια επιλύονται από αυτόν ή από άλλους πράκτορες. Μεθοδολογίες όπως ReAct και Reflexion υλοποιούν μια τέτοια αρχή επαναληπτικού σχεδιασμού με ανατροφοδότηση. Το LLM αρχικά παράγει ένα σχέδιο επίλυσης πριν προχωρήσει στην εκτέλεσή του, κάτι που βοηθά στη διαχείριση μεγάλων αλυσίδων συλλογισμού.

Πολυπροσωπική συνεργασία

Αντί για διαφορετικά μοντέλα, μπορεί να χρησιμοποιηθεί ένα και μόνο LLM, υποχρεώνοντάς το να «υποδύεται» πολλούς πράκτορες με διαφορετικές προσωπικές ρυθμίσεις ή απόψεις. Στην προσέγγιση multi-persona self-collaboration ένα μοντέλο κατά τη διάρκεια του διαλόγου αναλαμβάνει διαδοχικά πολλούς ρόλους και διεξάγει συζήτηση σαν να μιλά με τον εαυτό του. Αν και έρευνες δείχνουν ότι ξεχωριστοί ανεξάρτητοι πράκτορες παρέχουν υψηλότερη αποτελεσματικότητα, αυτή η μέθοδος επιτρέπει την προσομοίωση μιας ομάδας εμπειρογνωμόνων εντός ενός μόνο LLM.

Εφαρμογές και αποτελέσματα

Η προσέγγιση του πολυπρακτορικού prompting έχει αποδείξει την αποτελεσματικότητά της σε μια σειρά τομέων, όπου τα μεμονωμένα LLM αντιμετώπιζαν δυσκολίες.

Μαθηματικός και λογικός συλλογισμός

Η χρήση πολλαπλών πρακτόρων αυξάνει αισθητά την ακρίβεια σε εργασίες που απαιτούν πολυβηματική συλλογιστική (σύνθετη αριθμητική, μαθηματικές αποδείξεις, λογικά παζλ). Στην εργασία Du et al. (2023) η πολυπρακτορική «δεβατική» προσέγγιση βελτίωσε το αποτέλεσμα σε σύγκριση με έναν μεμονωμένο πράκτορα. Η ανάλυση έδειξε ότι καθώς αυξάνεται ο αριθμός των πρακτόρων που συμμετέχουν στη συζήτηση, η ακρίβεια της απάντησης αυξάνεται.

Επιστημονικές και τεχνικές εργασίες

Για σύνθετα θεματικά προβλήματα (φυσική, χημεία) προτάθηκε η μέθοδος CoMM (Collaborative Multi-Agent, Multi-Reasoning-Path Prompting), στην οποία πολλαπλοί LLM-πράκτορες με διαφορετικούς ρόλους (εμπειρογνώμονες) εφαρμόζουν παράλληλα διαφορετικές στρατηγικές συλλογισμού. Σε δοκιμές με προβλήματα φυσικής πανεπιστημιακού επιπέδου, το CoMM ξεπέρασε αισθητά βασικές προσεγγίσεις όπως το chain-of-thought, κάνοντας λιγότερα λάθη σε τύπους και υπολογισμούς.

Δημιουργία και αποσφαλμάτωση κώδικα

Στον τομέα του προγραμματισμού, τα πολυπρακτορικά συστήματα χρησιμοποιούνται για τη βελτίωση της ποιότητας κώδικα και τη μείωση του αριθμού σφαλμάτων. Το σύστημα PromptV χρησιμοποιεί πολλαπλούς πράκτορες για τη διαδοχική συγγραφή, επαλήθευση και διόρθωση κώδικα Verilog. Η κατανομή ρόλων (δημιουργία, αναθεώρηση, δοκιμή) βελτίωσε την ικανότητα του μοντέλου να ανιχνεύει και να διορθώνει σφάλματα, με αποτέλεσμα το ποσοστό των επιτυχώς μεταγλωττιζόμενων λύσεων να ανέλθει στο 96,5% σε ένα από τα benchmark.

Αναζήτηση και ανάλυση πληροφοριών

Τα πολυπρακτορικά συστήματα είναι ιδιαίτερα χρήσιμα για ανοιχτά, ελάχιστα δομημένα ερωτήματα. Η εταιρεία Anthropic ανέπτυξε πολυπρακτορική λειτουργία για το μοντέλο Claude, σχεδιασμένη για διαδικτυακή έρευνα. Σε αυτό το σύστημα, ο κύριος πράκτορας αναλύει το ερώτημα και δημιουργεί πολλαπλούς παράλληλους πράκτορες-υποεργασίες, καθένας από τους οποίους πραγματοποιεί αναζήτηση σε διαφορετικές πτυχές του θέματος. Αυτή η αρχιτεκτονική αντιμετώπιζε σύνθετες ερωτήσεις αναζήτησης κατά 90% αποτελεσματικότερα σε σύγκριση με ένα μεμονωμένο μοντέλο Claude.

Ταξινόμηση κειμένου και εργασίες NLP

Για εργασίες NLP αναπτύχθηκε η αρχή-προσανατολισμένη τεχνική prompt (Principle-Based Prompting). Σε αυτή τη μεθοδολογία, οι LLM-πράκτορες αρχικά παράγουν ένα σύνολο «αρχών» (κανόνων επίλυσης), και στη συνέχεια ένας πράκτορας οριστικοποίησης επιλέγει τις καλύτερες από αυτές, βάσει των οποίων ένας άλλος πράκτορας πραγματοποιεί την ταξινόμηση. Αυτή η προσέγγιση αύξησε το μετρικό macro-F1 κατά 1,5–19% σε σύγκριση με βασικές μεθόδους, πλησιάζοντας σε ποιότητα την κλασική εκπαίδευση σε παραδείγματα (few-shot).

Περιορισμοί και προβλήματα

Υπολογιστική πολυπλοκότητα και κόστος

Το κύριο μειονέκτημα είναι η δραματικά αυξημένη υπολογιστική επιβάρυνση. Κάθε πράκτορας απαιτεί τη δική του συνεδρία παραγωγής, κάτι που οδηγεί σε σημαντική κατανάλωση token και πόρων. Σύμφωνα με στοιχεία της Anthropic, το σύστημά τους καταναλώνει κατά μέσο όρο 4 φορές περισσότερα token ανά συνομιλία, και σε ορισμένες περιπτώσεις έως και 15 φορές περισσότερα. Αυτό καθιστά την εφαρμογή της προσέγγισης δικαιολογημένη μόνο για εργασίες υψηλής αξίας.

Πολυπλοκότητα σχεδιασμού και συντονισμού

Για επιτυχή λειτουργία απαιτείται προσεκτική μηχανική βελτιστοποίηση των prompt: είναι απαραίτητο να ορίζεται με σαφήνεια ο ρόλος κάθε πράκτορα, η μορφή ανταλλαγής μηνυμάτων και τα κριτήρια τερματισμού. Διαφορετικά, οι πράκτορες ενδέχεται να διπλοτυπούν εργασίες, να εισέρχονται σε ατέρμονη αναζήτηση ή να δημιουργούν άχρηστες υποεργασίες.

Ασφάλεια και αξιοπιστία

Εμφανίζονται νέα διανύσματα επίθεσης. Ερευνητές απέδειξαν το φαινόμενο Prompt Infection (μόλυνση prompt), κατά το οποίο ένα κακόβουλο τμήμα οδηγιών από έναν πράκτορα μεταδίδεται σε έναν άλλο, εξαπλωνόμενο σε ολόκληρη την αλυσίδα συλλογισμού σαν ιός. Μια τέτοια επίθεση LLM-to-LLM αναδεικνύει την ευπάθεια των πολυπρακτορικών συστημάτων σε κρυφές ενέσεις και χειραγωγήσεις, κάτι που απαιτεί την ανάπτυξη ειδικών μέτρων προστασίας, όπως η επισήμανση της εξόδου κάθε πράκτορα (LLM Tagging).

Παραπομπές

• «How we built our multi-agent research system» — λεπτομερής ανάλυση από την Anthropic
• «More Agents Is All You Need» — επιστημονικό άρθρο για την αποτελεσματικότητα των συνόλων πρακτόρων

Βιβλιογραφία

• Chen, P. et al. (2024). CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving. arXiv:2404.17729.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Mi, Y. et al. (2024). PromptV: Leveraging LLM-Powered Multi-Agent Prompting for High-Quality Verilog Generation. arXiv:2412.11014.
• Wei, P. et al. (2024). Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification. arXiv:2502.07165.
• Lee, D.; Tiwari, A. (2024). Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems. arXiv:2410.07283.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Li, G. et al. (2024). Multi-LLM Debate: Framework, Principles, and Interventions. PDF.
• Du, N. et al. (2023). Improving Factuality and Reasoning in Language Models through Multi-Agent Debate. arXiv:2305.14325.