--- title: "Self-consistency prompting (KO)" source: "https://systems-analysis.info/int/Self-consistency_prompting_(KO)" wiki: "systems-analysis.info/int" article: "Self-consistency_prompting_(KO)" language: "ko" categories: - "Category:Korean" - "Category:Large language models" - "Category:Machine learning" - "Category:Prompt engineering" revision_id: 6645 wiki_created_at: 2026-09-07T00:08:20Z wiki_modified_at: 2026-09-07T00:08:20Z downloaded_at: 2026-09-07T23:14:59Z --- # Self-consistency prompting (KO) **자기 일관성 디코딩** (영어: *Self-Consistency Prompting, SC*) — 이것은 프롬프트 엔지니어링에서의 디코딩 방법 또는 전략으로, 산술 및 논리 퍼즐과 같이 다단계 추론이 필요한 작업을 수행할 때 대형 언어 모델(LLM)의 정확성과 신뢰성을 높이기 위해 설계되었습니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1). 이 방법은 2022년 Google Research의 연구자들이 Chain-of-Thought(CoT) 기법의 개선안으로 제안하였습니다. 핵심 아이디어는 단 하나의 "탐욕적" 추론 결과에 머무르지 않고, 동일한 질문에 대해 다양한 추론 경로를 여러 개 생성한 다음, 그 중에서 가장 자주 등장하는 최종 답변을 선택하는 것입니다. 이 접근법은 직관적인 원칙에 근거합니다: 모델이 서로 다른 경로로 추론하면서 같은 결과에 반복적으로 도달한다면, 그 결과가 올바를 가능성이 높다는 것입니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1). ## 배경 및 전제 Self-Consistency 방법은 **Chain-of-Thought (CoT)** 기법을 직접적으로 발전시킨 것입니다. Wei 외 (2022)가 제안한 CoT 기법은 모델이 풀이 단계를 명시적으로 작성하도록 유도함으로써 LLM이 복잡한 문제를 해결하는 능력을 크게 향상시켰습니다[\[2\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wei2022-2). 그러나 기본 CoT 구현에서는 각 단계마다 가장 확률 높은 다음 token을 선택하는 "탐욕적 디코딩"(*greedy decoding*)이 사용됩니다. 이로 인해 한계가 생깁니다: 모델이 초기 단계에서 실수를 저지르면, 그 잘못된 경로에서 벗어나 수정할 수 없게 됩니다. Self-Consistency는 바로 이 문제를 해결하기 위해 제안되었습니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1). ## 작동 메커니즘 Self-Consistency 알고리즘은 결정론적 탐욕적 접근 방식을 "샘플링 후 집계" 절차로 대체하며, 다음 단계로 구성됩니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1): 1. **여러 추론 경로 생성**: 하나의 답변 대신, 모델은 동일한 질문에 대해 chain-of-thought 방식을 사용하여 여러 번(예: 최대 40회) 풀이를 생성합니다. 다양한 추론 경로를 얻기 위해 온도 샘플링(temperature \> 0 파라미터 사용)과 같은 확률적 디코딩 방법이 적용됩니다. 2. **집계 및 답변 선택**: 생성된 모든 추론 체인에서 최종 답변(예: 숫자 값)만 추출합니다. 그런 다음 이 답변들 중에서 가장 자주 등장하는 것을 선택합니다. 이 답변이 최종 결과로 출력됩니다. 이 접근법은 "자기 앙상블" 원칙을 모방합니다. 동일한 모델의 여러 추론 결과를 활용하여 신뢰성을 높이고 우연한 오류를 완화하는 것입니다[\[3\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-portkey_summary-3). ## 효과 및 결과 원본 연구에서 Self-Consistency는 여러 인기 benchmark에서, 특히 산술 및 논리 추론이 필요한 작업에서 상당한 정확도 향상을 보여주었습니다. - 수학 문제 benchmark **GSM8K**에서 PaLM-540B 모델의 정확도는 56.6%(CoT 적용 시)에서 **74.4%**(Self-Consistency 적용 시)로 상승하여 **17.8%**의 향상을 기록하였습니다. - **SVAMP**와 **AQuA** 등 다른 산술 문제에서의 향상은 각각 **+11.0%**와 **+12.2%**였습니다. - **StrategyQA**와 같이 논리 및 상식 추론이 필요한 작업에서는 **+6.4%**의 개선이 이루어졌습니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1). Self-Consistency의 적용은 GPT-3 175B 및 PaLM 540B와 같은 대형 모델을 사용할 때 다수의 benchmark에서 새로운 최고 성능(*state-of-the-art*) 기록을 수립하게 해주었습니다[\[1\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-wang2022-1). ## 장점 및 한계 ### 장점 - **정확도 향상**: 복잡한 다단계 추론이 필요한 작업에서 결과를 크게 향상시킵니다. - **신뢰성**: 단일 추론 체인에서 발생할 수 있는 오류에 더 강건합니다. - **구현 용이성**: 추가적인 학습이나 모델 아키텍처 변경이 필요하지 않습니다. 기존 모델을 감싸는 간단한 "래퍼"로 구현할 수 있습니다. ### 한계 - **높은 연산 비용**: 주요 단점은 하나의 요청에 대해 여러 번(예: 10, 20, 또는 40회) 답변을 생성해야 한다는 것으로, 이는 추론 비용과 시간을 비례적으로 증가시킵니다. - **제한적인 적용 범위**: 표준 방법은 답변 형식이 명확하게 정의된 작업(예: 숫자, "예/아니오", 목록에서의 선택지)에 가장 효과적이며, 다수결 투표를 쉽게 수행할 수 있습니다. 답변이 본질적으로 고유한 형태를 가지는 개방형 생성 작업(에세이 작성, 요약)에는 잘 적용되지 않습니다. - **체계적 오류의 위험**: 모델이 우연히 동일한 잘못된 답변으로 수렴하는 잘못된 추론을 체계적으로 생성한다면, Self-Consistency는 오류를 수정하지 못할 뿐만 아니라 오히려 그에 대한 확신을 강화시킬 수 있습니다. ## 방법의 발전: Universal Self-Consistency 자유 형식 답변 작업에서의 기본 방법의 한계는 후속 연구에서 다루어졌습니다. 2023년 말, Google DeepMind의 연구자 그룹은 **Universal Self-Consistency (USC)** 접근법을 제안하였습니다[\[4\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-chen2023_usc-4). USC에서는 최종 답변에 대한 단순 다수결 투표 대신, LLM 자체를 "심판"으로 사용하여 집계합니다. 모델은 여러 개의 완전한 풀이 방안을 생성한 다음, 그 중에서 "가장 일관된" 또는 "가장 품질이 높은" 것을 선택해 달라는 새 프롬프트를 받습니다. 이 접근법은 자기 일관성의 원칙을 개방적이고 창의적인 형식의 답변 작업에도 적용할 수 있게 해줍니다[\[5\]](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_note-deepmind_usc-5). ## 외부 링크 - Self-Consistency Improves Chain of Thought Reasoning in Language Models — Google Research의 원본 논문. - Self-Consistency — Prompt Engineering Guide의 가이드. ## 참고 문헌 - Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models*. arXiv:2203.11171. - Wei, J. et al. (2022). *Chain-of-Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903. - Aggarwal, P. et al. (2023). *Let's Sample Step by Step: Adaptive-Consistency for Efficient Reasoning and Coding with LLMs*. arXiv:2305.11860. - Chen, X. et al. (2023). *Universal Self-Consistency with Large Language Models*. arXiv:2311.17311. - Knappe, T. et al. (2024). *Semantic Self-Consistency: Enhancing Language Model Reasoning via Semantic Weighting*. arXiv:2410.07839. - Liang, X. et al. (2024). *Internal Consistency and Self-Feedback in Large Language Models: A Survey*. arXiv:2407.14507. - Li, T. et al. (2024). *Improving Faithfulness of Large Language Models in Summarization via Sliding Generation and Self-Consistency*. arXiv:2407.21443. - Byerly, A.; Khashabi, D. (2024). *How Effective Is Self-Consistency for Long-Context Problems?*. arXiv:2411.01101. - Novikova, J. et al. (2025). *Consistency in Language Models: Current Landscape, Challenges, and Future Directions*. arXiv:2505.00268. - Admoni, S. et al. (2025). *Towards Large Language Models with Self-Consistent Natural Language Explanations*. arXiv:2506.07523. ## 각주 1. ↑ [1.0](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-0) [1.1](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-1) [1.2](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-2) [1.3](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-3) [1.4](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-4) [1.5](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wang2022_1-5) Wang, X., Wei, J., Schuurmans, D., et al. (2022). «Self-Consistency Improves Chain of Thought Reasoning in Language Models». *arXiv*. [1] 2. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-wei2022_2-0) Wei, J., Wang, X., Schuurmans, D., et al. (2022). «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models». *NeurIPS 2022*. 3. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-portkey_summary_3-0) «Self-Consistency Improves Chain of Thought Reasoning in Language Models - Summary». *Portkey*. [2] 4. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-chen2023_usc_4-0) Chen, X., et al. (2023). «Universal Self-Consistency with Large Language Models». *arXiv*. [3] 5. [↑](https://systems-analysis.info/int/Self-consistency_prompting_(KO)#cite_ref-deepmind_usc_5-0) «Universal Self-Consistency with Large Language Models». *Google DeepMind Publications*. [4]