Multi-Agent Debate (HE)

From Systems analysis Wiki
Jump to navigation Jump to search

דיון רב-סוכנים (באנגלית: multi-agent debate) – גישה בתחום מודלי שפה גדולים (LLM), שבה מספר סוכנים מתקיימים (מופעים של מודל שפה) דנים יחד בפתרון משימה נתונה, תוך החלפת טיעונים וניסיונות תשובה. מטרת תהליך זה — לגבש באופן קולקטיבי את התשובה המדויקת והמנומקת ביותר לשאלה שהוצגה. הגישה מבוססת על רעיון «חברת המוחות», שבה מודלים שונים בודקים ומשלימים את מסקנותיהם של זה את זה[1]. מחקרים הראו כי דיון רב-סוכנים מאפשר לשפר משמעותית את הדיוק ואת האמינות של התשובות בהשוואה לשיטת יצירת תשובה בודדת: התשובה הסופית שהתקבלה לאחר דיון בין סוכנים עובדתית מדויקת יותר ומצליחה טוב יותר במשימות הדורשות חשיבה[1]. בפרט, ניתן לצפות בירידה במספר ה-hallucinations ("עובדות" שאינן קיימות) ובעלייה בהצלחות במשימות בדיקה קשות בעת שימוש באסטרטגיה זו[1].

הרעיון לגייס מספר בינות מלאכותיות לדיון נשען על עבודות בתחום בטיחות הבינה המלאכותית. בשנת 2018 הציעה קבוצת חוקרים מ-OpenAI (ג. אירווינג, פ. כריסטיאנו, ד. אמודיי) את הקונספט AI safety via debate – אימון סוכנים באמצעות דיונים תחרותיים, שבהם שני יריבים מבוססי מודל מציגים לסירוגין טיעונים קצרים, ושופט אנושי מחליט מי מהם הציג מידע אמין ומועיל יותר[2]. הוצע כי באסטרטגיה אופטימלית, דיונים כאלה יאפשרו ל-AI לענות על שאלות קשות ביותר, תוך שדורשים מהשופט רק להעריך את אמינות הטיעונים[2]. בשנים שלאחר מכן, עם הופעתם של LLM חזקים, החל עיקרון הדיון בין מודלים לשמש ישירות לשיפור איכות תשובות המודלים עצמם – כבר ללא שתתפות חובה של אדם, אלא עם בחירה אוטומטית של הפתרון הטוב ביותר. מערכות LLM רב-סוכניות מודרניות משתמשות בדיאלוג בין עותקים או מודלים שונים כדי לתקן שגיאות זה של זה ולהגיע יחד לתוצאה מנומקת יותר.

הליך הדיון הרב-סוכני

בתרחיש של דיון רב-סוכנים, מספר מודלים-סוכנים עובדים במקביל על אותה משימה. בדרך כלל, תחילה כל סוכן מקבל את השאלה או המשימה המקורית, ולאחר מכן כל סוכן מייצר באופן עצמאי את תשובתו שלו. לאחר מכן מתקיימת סדרה של סבבי תקשורת בין הסוכנים: בכל סבב כל המשתתפים מחליפים את פתרונותיהם הנוכחיים, וכל סוכן מקבל את תשובות האחרים כהקשר נוסף שעל בסיסו הוא מדייק או משפר את תשובתו בסבב הבא[3]. מחזור כזה נמשך מספר חזרות (בדרך כלל מוגדר מספר קבוע של סבבים או עד השגת הסכמה ברורה), ולאחר מכן התהליך נעצר ומוצגת התשובה הסופית. הדיון מדמה דיון אנושי, ומאפשר למודלים לבקר את תשובות זה את זה ולשלב את יכולות החשיבה שלהם לשיפור איכות הפתרון[3]. לדוגמה, Yilun Du ועמיתיו (MIT ו-Google Brain) השתמשו בניסויים ב-3 מופעים של מודל שפה שדנו בבעיה במשך 2 סבבים (מספר סבבים גדול יותר הוגבל בשל עלויות זמן וחישוב); הוכח כי גם בדיאלוג מוגבל זה, התשובות הסופיות השתפרו בניכר, ועם עלייה במספר הסוכנים או הסבבים, הדיוק המשיך לגדול (אם כי עם תשואה פוחתת)[1].

הליך הדיון הרב-סוכני מתממש לחלוטין בשלב ה-inference באמצעות prompt-ים מיוחדים לארגון הדיאלוג בין מודלים מאומנים כבר. משמעות הדבר היא שהשיטה אינה מצריכה fine-tuning של ה-LLM עצמם וניתן ליישמה אפילו על "קופסאות שחורות" - מספיק שיש גישה ליצירת טקסט של המודלים ולתאם את תקשורתם לפי תבנית שנקבעה מראש[1][4].

לקביעת התשובה הסופית לאחר מספר סבבים משתמשים בגישות שונות. אחד ממנגנוני הפשוטים ביותר הוא הצבעה: בסוף הסוכנים יכולים להציע באופן עצמאי את פתרונותיהם הסופיים, ולאחר מכן נבחר הגרסה שנתמכת על ידי רובם (או, למשל, התשובה המופיעה בתדירות הגבוהה ביותר)[4]. גישה אחרת היא לדרוש קונסנסוס, כלומר להמשיך את הדיון עד שכל המודלים יגיעו לאותה תשובה[4]. לבסוף, ניתן לגייס סוכן-שופט נפרד: אם רשת נוירונים נפרדת מאומנת להעריך תשובות, או אחד הסוכנים שניחן בתפקיד בורר. השופט עוקב אחר מהלך הדיון ובוחר את טיעונו של מי שהיה משכנע או מדויק ביותר[4]. בחירת מנגנון קבלת ההחלטות משפיעה על מאפייני המערכת: הצבעה או קונסנסוס פשוטים ליישום אך עלולים לקבע שגיאות קבוצתיות, ואילו השופט-מעריך (בפרט המאומן לזיהוי התשובה הנכונה) מסוגל תיאורטית לחלץ את הפתרון הנכון אפילו בנוכחות סתירות בין סוכנים. אולם גם לגישת השיפוט יש קשיים – לדוגמה, אם מודל זהה לזה של המשתתפים משמש כשופט, הוא עלול בלא משים להיטות לטובת סגנון הטיעון המוכר של אחד הסוכנים[4].

וריאנטים של תצורת סוכנים ותקשורת

מערכות רב-סוכניות עם LLM יכולות להשתנות בהרכבן ובאופן האינטראקציה של הסוכנים. תצורה הומוגנית מניחה שכל הסוכנים הם עותקים של אותו מודל (או מודלים ברמה דומה), ואילו הטרוגנית כוללת מודלים שונים בסוג או בגודל. במקרה ההומוגני, לכל המשתתפים יכולות דומות, ואי-הסכמות ביניהם יתעוררו רק בשל יצירת תשובות סטוכסטית או תנאי התחלה שונים (לדוגמה, הבדלים ב-prompt-ים). בגישה ההטרוגנית ניתן לגייס בו-זמנית מודלים חזקים וחלשים, מה שמאפשר פוטנציאלית לסוכנים מסוימים לפצות על חסרונות האחרים. כך, מחקרים מראים שאינטראקציה בין LLM שונים מובילה לכך שמודלים חלשים יותר משפרים את פתרונותיהם כשהם מקבלים משוב ממודלים חזקים יותר[3]. דוגמה מובהקת — דיון משותף בין מודלי השפה ChatGPT (GPT-4) ו-Google Bard בפתרון משימת מילים מתמטית: כל אחד מהמודלים הללו בנפרד נתן תשובה שגויה, אולם בתהליך הדיון הצליחו להצביע אחד לשני על שגיאות ובסופו של דבר לאשר את הפתרון הנכון, תוך שימוש בנקודות החוזק של כל אחד[1]. יחד עם זאת, הטרוגניות טומנת בחובה גם סיכונים: חוסר איזון משמעותי ביכולות עלול להוביל לדומיננטיות של מודל אחד, ואם לרוב הסוכנים יש אמונה שגויה משותפת או bias שגוי, הדיון עלול להתכנס במהירות לתשובה אחידה אך שגויה — תופעה שנקראת אפקט «תא הד»[4]. ניתוח תיאורטי (Estornell & Liu, NeurIPS 2024) הראה כי כאשר המודלים דומים מאוד, הדיון עלול להיכבות בדינמיקה סטטית, שבה כל המשתתפים חוזרים על דעת הרוב, אפילו אם היא מבוססת על שגיאה משותפת בנתוניהם[4]. לפיכך, במערכות הטרוגניות, בחירה קפדנית של סוכנים חשובה — למשל, בוחרים מודלים ברמת ידע דומה, כדי שאף אחד לא ישלוט ולא יוליך את האחרים שולל[4].

היבט נוסף הוא מבנה התקשורת בין הסוכנים. ביישומים בסיסיים משתמשים בטופולוגיה מקושרת לחלוטין של תקשורת: בכל סבב כל סוכן מקבל את תשובות כל האחרים. חילופי "כולם לכולם" כאלה ממקסמים את המידע הזמין, אך יוצרים עלויות משמעותיות — נפח ההקשר גדל ביחס למספר הסוכנים, מה שמכביד את החישובים. חלופה היא טופולוגיה דלילה, המגבילה את מי שכל סוכן מחליף עמו מידע ישירות. לדוגמה, ניתן לסדר סוכנים בצורת גרף-רשת (טבעת, עץ וכו'), שבו כל אחד מקבל תשובות רק משכניו. מחקר של Google (Li et al., 2024) מצא כי הגבלת הקישוריות של רשת הסוכנים יכולה להפחית משמעותית את עלויות הייצור מבלי להרע, ולעיתים אף תוך שיפור האיכות של הפתרון בהשוואה לדיון מקושר לחלוטין[3]. בניסויים עם מודלי GPT-3.5 ו-Mistral, הסכמה הדלילה של דיוני "שכנים" נתנה דיוק זהה או גבוה יותר במשימות (כולל מתמטיקה), תוך הפחתת מספר ה-token-ים הממוצע של ההקשר בשלב בסדר גודל[3]. תוצאה זו מצביעה על כך שהחלפת הודעות מיותרת אינה תמיד נחוצה – מספיק לארגן נכון את אינטראקציות המפתח בין הסוכנים כדי שיגיעו לפתרון הנכון בעלות נמוכה יותר.

בנוסף לטופולוגיה, אפשריים פורמטים שונים של ניהול הדיון. לדוגמה, ניתן להטיל על סוכנים שונים תפקידים שונים: חלקם משמשים כ"מחוללי רעיונות", אחרים — כ"מבקרים" או "בודקי" פתרונות[4]. גישת תפקידים זו שואפת לדמות חלוקת עבודה, שבה כל סוכן מתמחה במשימה מסוימת (לדוגמה, אחד מציע השערה, השני בודק עובדות, השלישי מעריך עקביות לוגית). גרסה נוספת היא דיון בסבב (round-robin): הסוכנים אינם מדברים בו-זמנית אלא בתורות, מחליפים ביניהם תפקידי דובר ומגיב בסדר קבוע[4]. זה דומה לדיון פורמלי שבו רשות הדיבור ניתנת למשתתפים לפי נוהל, מה שיכול להבטיח השתתפות שוויונית של כל הסוכנים. גישה נוספת היא ויסות דינמי של אי-הסכמות: המערכת יכולה לחזק במיוחד או להחליש את מידת אי-ההסכמה בין תשובות הסוכנים בכל סבב[4]. לדוגמה, ניתן לעודד שבשלבים הראשוניים יהיה פיזור מרבי בין התשובות (לכיסוי השערות שונות), ועם ההתקרבות לסיום, הן יתכנסו. מנגנון כזה הוצע בעבודתו של Chang (2024) למניעת הסכמה מוקדמת מדי: הוא שומר על רמה מתונה של סתירות בין הסוכנים, ומעודד הופעת טיעונים חדשים ודיון עמוק יותר[4].

יתרונות ויעילות הגישה

דיונים רב-סוכניים משכו תשומת לב בזכות יכולתם לשפר את הביצועים של מודלי שפה במשימות מורכבות. שורה שלמה של מחקרים עצמאיים בשנים 2023-2024 אישרו כי קבוצה של LLM המתקיימים בינם לבין עצמם יכולה לעלות באיכות התשובה על מודל בודד העובד על אותה משימה. בפרט, הוצגו שיפורים בתחומים הדורשים חשיבה מורכבת: ממחשבות מתמטיות ועד תכנות וסיכום טקסט. כך, Yin ועמיתיו (2023), Chan ועמיתיו (2023), Chen ועמיתיו (2024) ואחרים מציינים כי מערכות רב-סוכניות מנצחות בבטחה LLM בודדים במשימות חשבון, יצירת קוד ואפילו ביצירת סיכומי מסמכים[4]. הסיבה — גיוון נקודות המבט: כל סוכן יכול להבחין בפרטים או שגיאות שהאחרים פספסו ולספק משוב לעמיתיו. ביקורת הדדית וחילופי השערות שונות מובילים לבחינה מקיפה יותר של המשימה[4], וכתוצאה מכך התשובה הסופית מדויקת ואמינה יותר.

לדוגמה, חוקרים מ-MIT ו-Google Brain בראשות Yilun Du הציגו ב-ICML 2024 עבודה בשם «Improving factuality and reasoning in language models through multiagent debate», שבה הוצגה שיפור משמעותי באיכות הפתרונות עם הוספת דיון בין שלושה מופעים של מודל[1]. לפי תוצאותיהם, הליך הדיון הרב-סוכני אפשר להשיג מדדים גבוהים יותר בסדרת משימות בהשוואה לשימוש בודד רגיל באותו מודל: דיוק פתרון משימות מתמטיות ואסטרטגיות עלה, ומספר השגיאות העובדתיות ירד[1]. בפרט, הגישה הרב-סוכנית שיפרה את תוצאות המודל במבחני חשיבה מתמטית, בדיקת עובדות ואפילו במשימות הדורשות תכנון אסטרטגי[1]. המחברים מציינים כי "התשובה הסופית שנוצרה לאחר דיון רב-סבובי כזה יוצאת גם עובדתית מדויקת יותר וגם מצליחה יותר בפתרון משימות חשיבה"[1]. להלן המחשה המשווה את דיוק ביצוע משימות שונות על ידי המודל בנפרד ועם שימוש בדיון רב-סוכני.

השוואת דיוק על מספר משימות עבור יצירה חד-משתמשית (כחול) ועבור מצב דיון רב-סוכני (אדום). הגישה הרב-סוכנית (multi-agent debate) מפגינה דיוק גבוה יותר בתחומים שונים, לרבות שאלות עובדתיות (ביוגרפיות), מבחן ידע MMLU, בדיקת נכונות מהלכי שחמט, פתרון ביטויים חשבוניים, משימות מתמטיות ברמת בית ספר (GSM8K) ואיתור מהלך שחמט אופטימלי[1]. לפי נתוני הגרף, הדיון מחזק במיוחד את יכולות המודל במשימות אסטרטגיות מורכבות (לדוגמה, חיפוש מהלך אופטימלי בשחמט) ומפחית ניכר את שיעור השגיאות בחישובים מתמטיים ובשאלות ידע עובדתי.

יתרון נוסף של הגישה הרב-סוכנית הוא התגברות על מגבלות הבקרה העצמית הבודדת של המודל. LLM בודדים נוקטים לעיתים קרובות בטכניקת self-reflection (השתקפות עצמית), שבה המודל בעצמו מעריך ומתקן את תשובתו הראשונית. אולם התגלה כי שיטה זו נוטה לבעיית "degeneration-of-thought" — ניוון חשיבה: אם המודל האמין בתשובה הראשונית, בבדיקה עצמית הוא אינו מייצר רעיונות עקרונית חדשים, אפילו אם הפתרון המקורי שגוי[5]. במילים אחרות, המודל נוטה להיתקע על הפתרון הראשון שחשב עליו, ולדחות חלופות[5]. דיונים רב-סוכניים מסייעים להסיר אפקט זה: מספר סוכנים שווי-מעמד יכולים בתחילה להציע השערות שונות ולאחר מכן לחלוק בעקביות על טיעוני זה את זה, מה שמעודד חיפוש נתיבי חשיבה לא שגרתיים. Tian Liang ועמיתיו (EMNLP 2024) כינו את הסכמה הרב-סוכנית שלהם MAD (Multi-Agent Debate) והראו כי היא אכן מעודדת חשיבה דיברגנטית (מגוונת) של המודלים ומשפרת תוצאות במשימות הדורשות עיבוד מעמיק של הבעיה[5]. ביישומם, מספר סוכנים מתווכחים לפי עיקרון "עין תחת עין" (כל אחד בתורו מתנגד לטיעוני האחר), ומעל התהליך עומד שופט עזר הניהל את הדיון ובוחר את ההחלטה הסופית[5]. ניסויי Liang ועמיתיו הוכיחו את יעילות הגישה על מערכות בדיקה קשות — במשימות תרגום commonsense (תרגום משפטים תוך התחשבות בשכל ישר סמוי) ובחשבון נגד-אינטואיטיבי (חידות מתמטיות עם תנאים שנראים לא הגיוניים במבט ראשון), הדיון הרב-סוכני נתן תשובות מדויקות יותר מהשיטות הסטנדרטיות[5]. הניתוח גם חשף כי לתוצאה הטובה ביותר, יש להפסיק את הדיונים באופן אדפטיבי, מבלי להגיע לאורך מופרז, ולשמור רק על רמת סכסוך מתונה בין הסוכנים — התנהגות אגרסיבית מדי, או להפך, מסכימה מדי, מחמירה את התוצאות[5].

הגישה הרב-סוכנית הוכחה כשימושית לא רק למשימות שאלות-תשובות אופייניות. היא מוצאת שימוש בתחומים נוספים, לדוגמה, להתנהגות בטוחה ועקבית יותר של מודלים. מחקרים מסוימים משתמשים בדיוני סוכנים במשימות מידור וגיבוש כללים: מספר LLM יכולים לדון האם תשובה נתונה מקובלת לפי נורמות אתיות, ובכך לספק זה לזה feedback בעת למידה בחיזוק. צוין כי דיונים מסוגלים לייצר אותות הערכה עדינים ומנומקים יותר, שמסייעים בכוונון מודלים לבטיחות ושימושיות[3]. כמו כן, נעשו ניסיונות להרחיב למשימות מולטי-מודליות — לדוגמה, כאשר חלק מהסוכנים מתארים תמונה, ואחרים בודקים את ההתאמה של התיאור לתמונה. בעבודה של Google (2024) הוצגה הצלחת הרחבה כזו: הגישה המולטי-מודלית שיפרה תוצאות גם במשימות טקסטואליות בלבד וגם בהבנה מולטי-מודלית של תמונות, ומדגימה את האוניברסליות של "חברת המוחות"[3]. מעניין שהאינטראקציה במסגרת הדיונים יכולה להעלות את רמת המודלים החלשים יותר, כאמור. לדוגמה, כאשר LLM בעלי עוצמה שונה משתתפים בדיון כללי, «מודלים חלשים יותר מתחזקים בהדרגה, תוך אימוץ אסטרטגיות מוצלחות מהחזקים יותר»[3]. כך, המערכת הרב-סוכנית לא רק פותרת את המשימה שניתנה, אלא גם משמשת כמנגנון למידה קולקטיבי של מודלים אחד מהשני.

מגבלות ובעיות פתוחות

למרות היתרונות המשמעותיים, דיונים רב-סוכניים מתמודדים עם מספר קשיים ומגבלות. אחת המרכזיות היא עתירות משאבים גבוהה של גישה זו. לארגון הדיון נדרש לקרוא שוב ושוב ליצירת טקסט אצל מודלים גדולים: אם משתתפים n סוכנים ב-T סבבים, סך מספר הפניות ל-LLM גדל פי n x T לעומת תשובה אחת. יתרה מזאת, בכל סבב המודל חייב לעבד כהקשר לא רק את השאלה המקורית, אלא גם את כל הרפליקות מסבבים קודמים (תשובות כל הסוכנים). כך, עם עלייה במספר הסוכנים והסבבים, נפח הקלט ההקשרי גדל באופן אקספוננציאלי, ומוביל לאפקט context explosion — גלישה מחלון ההקשר והגדלת עלויות העיבוד[3]. בניסויים מתועד כי הוספת אפילו 2-3 סבבי דיון מעלה משמעותית את סך מספר ה-token-ים של ההקשר שעל המודל לקרוא, ובהתאם גם את זמן התגובה. תיאורטית איכות הפתרון משתפרת עם עלייה במספר החזרות, אך בפועל עבודות רבות מציינות תשואה פוחתת לאחר מספר סבבים: לעיתים קרובות האפקט המרבי מושג בסבב השני-שלישי, ולאחר מכן דיונים נוספים עלולים להוביל לחזרה על אותם טיעונים או אפילו לירידה בדיוק בשל רוויית ההקשר[4]. לדוגמה, Xi ועמיתיו (2023) הראו עלייה בדיוק רק עד הסבב ה-2 של הדיון, ולאחר מכן ירידה, ובאופן דומה Liu ו-Li עם עמיתיהם (2024) מדווחים על שיא האיכות ב-~4 סבבים, שלאחריהם מחזורים נוספים רק מפריעים[4]. כך, קביעת משך הדיון האופטימלי היא משימה לא פשוטה: דיון קצר מדי עלול שלא לממש את מלוא הפוטנציאל של השכל הקולקטיבי, ואילו ארוך מדי — לגרום לרעש מידע ועומס הקשר.

בעיה נוספת היא סיכוני הסכמה קבוצתית על תשובה שגויה. אם כל הסוכנים בעלי ניסיון דומה ומשוכנעים שגויה בעובדה כלשהי, הם עלולים לחזק את הטעות של זה את זה. מתרחש אפקט תא ההד: במהלך הדיון המודלים מגיעים לקונסנסוס, אך לא משום שמצאו את האמת, אלא בעקבות אישור ה-bias המשותף הראשוני. תוצאות תיאורטיות (Estornell & Liu, 2024) מצביעות על כך שכאשר המודלים זהים, הדיונים עלולים להתדרדר לסטגנציה, חוזרים על דעת הרוב ללא הופעת רעיונות חדשים[4]. מסוכן במיוחד כאשר רוב זה חולק שגיאה משותפת, שהוטמעה, לדוגמה, בנתוני האימון — אז תוצאת כל הדיון תהיה שגויה[6][4]. לצורך התגברות על בעיה זו מוצעות שיטות התערבות מיוחדות (diversity-pruning): בכל סבב נחתכות אלגוריתמית תשובות דומות מדי, ומעוררים סוכנים לייצר גרסאות שונות עם ה-entropy מידע מרבי[6]. זה מפחית את הסבירות שכל התשובות יהיו וריאציות של אותה שגיאה. תרגיל אחר — גילוי והפרכת אמונות שגויות (misconception refutation): המערכת מנסה לזהות אוטומטית הנחות משותפות של הסוכנים ומטיל ספק ממוקד באלה שעלולות להיות שגויות[6]. בעבודת Estornell & Liu הוצע קבוצה של שלוש התערבויות כאלה — מלבד האמורות, גם quality-pruning (ברירת הטיעונים הרלוונטיים והאיכותיים ביותר בכל שלב) — והוצג כי שילובם מגדיל ניכר את יעילות הדיונים ומונע נטייה לתא הד[6][6].

לבסוף, יש לציין כי יציבות ויכולת ניבוי של דיונים רב-סוכניים עדיין רחוקות מהאידיאל. בחלק מהניסויים, הדיונים הובילו לתוצאות לא יציבות — ריצות שונות של אותו דיון יכלו להתכנס לתשובות שונות, או שהתשובה המצרפית הייתה גרועה יותר מאצל מודל בודד ללא דיונים[4]. Wang ועמיתיו (2024) ו-Smit ועמיתיו (2023) ציינו באופן עצמאי מקרים שבהם הוספת סוכנים החמירה את הביצועים, מה שמצביע על גבול עדין בין ביקורת שימושית לויכוחים הרסניים[4]. זיהוי התנאים שבהם הגישה הרב-סוכנית מועילה בבירור נותר נושא למחקר. השאלות הפתוחות הן: כיצד להחליט אוטומטית מתי להפסיק את הדיון ולקבע את התשובה, כדי לא להחמיץ את היתרון ולא לצלול לוויכוח אינסופי, ובאיזה אופן לקבל החלטה קולקטיבית — באמצעות הצבעה, קונסנסוס או בעזרת שופט חיצוני — באופן האמין ביותר לסוגי משימות שונים[4]. גם בעיית הבטיחות והשליטה במערכות רב-סוכניות עומדת בחריפות: יש לוודא שסוכנים לא יחד יייצרו תוכן לא רצוי או רעיל ולא יחזקו נטיות מזיקות של זה את זה. שאלות אלו, בפרט הנוגעות לבטיחות ולמדרוג, מוכרות כרלוונטיות ומורכבות[4]. סקירות עכשוויות מציינות כי נדרשים מחקרים נוספים המוקדשים לפיתוח כללי עצירה אמינים לדיונים, להערכת המדרגיות של הגישה עם עלייה במספר הסוכנים והסבבים, וכן להטמעת שיטות המבטיחות אמינות ונכונות של התשובה שהתקבלה קולקטיבית[4]. פתרון משימות אלה יאפשר להפוך את הדיונים הרב-סוכניים לכלי חזק ואוניברסלי עוד יותר ליצירת מערכות בינה מלאכותית חכמות ובטוחות יותר.

קישורים

  • Improving Factuality and Reasoning in Language Models with Multiagent Debate — דף הפרויקט
  • AI safety via debate — המאמר המקורי של OpenAI
  • Improving Multi-Agent Debate with Sparse Communication Topology — מאמר על אופטימיזציית תקשורת
  • Literature Review Of Multi-Agent Debate For Problem-Solving — סקירת ספרות
  • Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate — מאמר על MAD
  • Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions — מאמר NeurIPS 2024

ספרות

  • Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
  • Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
  • Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
  • Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
  • Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
  • Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
  • Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
  • Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
  • Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
  • Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
  • La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.

הערות

  1. ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 «Improving Factuality and Reasoning in Language Models with Multiagent Debate». composable-models.github.io. [1]
  2. ↑ 2.0 2.1 Irving, Geoffrey et al. «AI safety via debate». arXiv. [2]
  3. ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8 Liu, Xiang Lisa et al. «Improving Multi-Agent Debate with Sparse Communication Topology». arXiv. [3]
  4. ↑ 4.00 4.01 4.02 4.03 4.04 4.05 4.06 4.07 4.08 4.09 4.10 4.11 4.12 4.13 4.14 4.15 4.16 4.17 4.18 4.19 4.20 4.21 4.22 «Literature Review Of Multi-Agent Debate For Problem-Solving». arXiv. [4]
  5. ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Liang, Tian et al. «Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate». ACL Anthology. [5]
  6. ↑ 6.0 6.1 6.2 6.3 6.4 «Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions». NeurIPS 2024. [6]
Retrieved from "https://systems-analysis.info/int/index.php?title=Multi-Agent_Debate_(HE)&oldid=4634"