--- title: "Self-consistency prompting (HE)" source: "https://systems-analysis.info/int/Self-consistency_prompting_(HE)" wiki: "systems-analysis.info/int" article: "Self-consistency_prompting_(HE)" language: "he" categories: - "Category:Hebrew" - "Category:Large language models" - "Category:Machine learning" - "Category:Prompt engineering" revision_id: 6640 wiki_created_at: 2026-09-07T00:08:15Z wiki_modified_at: 2026-09-07T00:08:15Z downloaded_at: 2026-09-07T23:14:58Z --- # Self-consistency prompting (HE) **פענוח עקבי עצמי** (באנגלית: *Self-Consistency Prompting, SC*) — הוא שיטה או אסטרטגיית פענוח ב-prompt engineering, המיועדת לשיפור הדיוק והאמינות של מודלי שפה גדולים (LLM) בפתרון משימות הדורשות הסקה רב-שלבית, כגון חידות חשבוניות ולוגיות[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1). השיטה הוצעה על ידי חוקרים מ-Google Research בשנת 2022 כשיפור של טכניקת ה-Chain-of-Thought (CoT). הרעיון המרכזי הוא שלא להסתפק בפלט יחיד "חמדני", אלא במקום זאת לייצר מספר וריאציות שונות של הסקות לאותה השאלה, ולאחר מכן לבחור את התשובה הסופית שמופיעה בתדירות הגבוהה ביותר בין הווריאציות. הגישה מבוססת על עיקרון אינטואיטיבי: אם המודל, תוך כדי הסקה בדרכים שונות, מגיע שוב ושוב לאותה תוצאה, אזי תוצאה זו סביר מאוד שהיא הנכונה[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1). ## הקשר ורקע שיטת Self-Consistency היא פיתוח ישיר של טכניקת **Chain-of-Thought (CoT)**. טכניקת CoT, שהוצעה על ידי Wei ושותפים (2022), שיפרה משמעותית את יכולת ה-LLM לפתור משימות מורכבות, על ידי עידוד המודל לפרט במפורש את שלבי הפתרון[\[2\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wei2022-2). עם זאת, בפיאמוש הבסיסי של CoT נעשה שימוש ב"פענוח חמדני" (*greedy decoding*), שבו בכל שלב נבחר ה-token הבא בעל ההסתברות הגבוהה ביותר. הדבר יוצר מגבלה: אם המודל עושה שגיאה בשלב מוקדם, הוא אינו יכול לסטות מאותה מסלול שגוי ולתקנו. Self-Consistency הוצע לפתרון בעיה זו בדיוק[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1). ## מנגנון הפעולה אלגוריתם Self-Consistency מחליף את הגישה החמדנית הדטרמיניסטית בנוהל של "דגימה ולאחריה צבירה", ומורכב מהשלבים הבאים[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1): 1. **יצירת מספר מסלולי הסקה**: במקום תשובה אחת, המודל מייצר מספר פעמים (לדוגמה, עד 40 פעמים) פתרון לאותה השאילתה, תוך שימוש בשיטת ה-chain-of-thought. לקבלת מסלולי הסקה מגוונים נעשה שימוש בשיטות פענוח סטוכסטיות, כגון temperature sampling (עם פרמטר טמפרטורה \> 0). 2. **צבירה ובחירת תשובה**: מכל שרשראות ההסקה שנוצרו מחלצים רק את התשובות הסופיות (לדוגמה, ערך מספרי). לאחר מכן בוחרים בתשובה המופיעה בתדירות הגבוהה ביותר. תשובה זו מוגשת כתשובה הסופית. גישה זו מחקה את עקרון "האנסמבל העצמי", שבו פלטים מרובים של אותו המודל משמשים להגברת האמינות ולהחלקת שגיאות אקראיות[\[3\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-portkey_summary-3). ## יעילות ותוצאות במחקר המקורי הדגים Self-Consistency עלייה משמעותית בדיוק על מספר benchmark-ים פופולריים, בעיקר במשימות הדורשות הסקה חשבונית ולוגית. - על benchmark המשימות המתמטיות **GSM8K** עלה הדיוק של המודל PaLM-540B מ-56.6% (עם CoT) ל-**74.4%** (עם Self-Consistency), המהווה עלייה של **17.8%**. - על משימות חשבוניות אחרות, כגון **SVAMP** ו-**AQuA**, העלייה הייתה **+11.0%** ו-**+12.2%** בהתאמה. - על משימות הדורשות לוגיקה ושכל ישר, כגון **StrategyQA**, השיפור היה **+6.4%**[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1). יישום Self-Consistency אפשר לקבוע שיאי ביצועים חדשים (*state-of-the-art*) על benchmark-ים רבים בעת שימוש במודלים גדולים כגון GPT-3 175B ו-PaLM 540B[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-wang2022-1). ## יתרונות ומגבלות ### יתרונות - **שיפור הדיוק**: משפר באופן משמעותי את התוצאות במשימות הדורשות הסקה מורכבת רב-שלבית. - **אמינות**: השיטה עמידה יותר לשגיאות שעלולות להתרחש בשרשרת הסקה בודדת. - **פשטות יישום**: אינה דורשת אימון נוסף או שינוי ארכיטקטורת המודל. ניתן לממש את השיטה כ"עטיפה" פשוטה סביב מודל קיים. ### מגבלות - **עלויות חישוביות גבוהות**: החיסרון העיקרי הוא הצורך ביצירה חוזרת של תשובה מספר פעמים (לדוגמה, 10, 20 או 40 פעמים) לאותה שאילתה, מה שמגדיל באופן פרופורציונלי את העלות ואת זמן הפלט. - **ישימות מוגבלת**: השיטה הסטנדרטית יעילה ביותר למשימות בעלות פורמט תשובה מוגדר בבירור (לדוגמה, מספר, "כן/לא", בחירה מרשימה), שבהן קל לבצע הצבעה רוב. היא פחות ישימה למשימות בעלות יצירה פתוחה (כתיבת חיבורים, סיכום), שבהן התשובות ייחודיות בטבען. - **סיכון לשגיאה שיטתית**: אם המודל מייצר באופן שיטתי הסקות שגויות המתכנסות במקרה לאותה תשובה שגויה, Self-Consistency לא רק שלא יתקן את השגיאה, אלא אף יחזק את הביטחון בה. ## פיתוח השיטה: Universal Self-Consistency מגבלת השיטה הבסיסית על משימות בעלות תשובה בפורמט חופשי טופלה במחקרים מאוחרים יותר. בסוף שנת 2023 הציעה קבוצת חוקרים מ-Google DeepMind את הגישה **Universal Self-Consistency (USC)**[\[4\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-chen2023_usc-4). ב-USC, במקום הצבעה פשוטה על תשובות סופיות לצורך צבירה, משתמשים ב-LLM עצמו כ"שופט". המודל מייצר מספר וריאציות מלאות של פתרון, ולאחר מכן מקבל prompt חדש עם בקשה לבחור מביניהן את ה"עקבי ביותר" או ה"איכותי ביותר". גישה זו מאפשרת ליישם את עקרונות העקביות העצמית על משימות בעלות פורמט תשובה פתוח ויצירתי[\[5\]](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_note-deepmind_usc-5). ## קישורים חיצוניים - Self-Consistency Improves Chain of Thought Reasoning in Language Models — המאמר המדעי המקורי מ-Google Research. - Self-Consistency — מדריך ב-Prompt Engineering Guide. ## ביבליוגרפיה - Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models*. arXiv:2203.11171. - Wei, J. et al. (2022). *Chain-of-Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903. - Aggarwal, P. et al. (2023). *Let's Sample Step by Step: Adaptive-Consistency for Efficient Reasoning and Coding with LLMs*. arXiv:2305.11860. - Chen, X. et al. (2023). *Universal Self-Consistency with Large Language Models*. arXiv:2311.17311. - Knappe, T. et al. (2024). *Semantic Self-Consistency: Enhancing Language Model Reasoning via Semantic Weighting*. arXiv:2410.07839. - Liang, X. et al. (2024). *Internal Consistency and Self-Feedback in Large Language Models: A Survey*. arXiv:2407.14507. - Li, T. et al. (2024). *Improving Faithfulness of Large Language Models in Summarization via Sliding Generation and Self-Consistency*. arXiv:2407.21443. - Byerly, A.; Khashabi, D. (2024). *How Effective Is Self-Consistency for Long-Context Problems?*. arXiv:2411.01101. - Novikova, J. et al. (2025). *Consistency in Language Models: Current Landscape, Challenges, and Future Directions*. arXiv:2505.00268. - Admoni, S. et al. (2025). *Towards Large Language Models with Self-Consistent Natural Language Explanations*. arXiv:2506.07523. ## הערות 1. ↑ [1.0](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-0) [1.1](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-1) [1.2](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-2) [1.3](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-3) [1.4](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-4) [1.5](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wang2022_1-5) Wang, X., Wei, J., Schuurmans, D., et al. (2022). «Self-Consistency Improves Chain of Thought Reasoning in Language Models». *arXiv*. [1] 2. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-wei2022_2-0) Wei, J., Wang, X., Schuurmans, D., et al. (2022). «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models». *NeurIPS 2022*. 3. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-portkey_summary_3-0) «Self-Consistency Improves Chain of Thought Reasoning in Language Models - Summary». *Portkey*. [2] 4. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-chen2023_usc_4-0) Chen, X., et al. (2023). «Universal Self-Consistency with Large Language Models». *arXiv*. [3] 5. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(HE)#cite_ref-deepmind_usc_5-0) «Universal Self-Consistency with Large Language Models». *Google DeepMind Publications*. [4]