Self-consistency prompting (KO)

자기 일관성 디코딩 (영어: Self-Consistency Prompting, SC) — 이것은 프롬프트 엔지니어링에서의 디코딩 방법 또는 전략으로, 산술 및 논리 퍼즐과 같이 다단계 추론이 필요한 작업을 수행할 때 대형 언어 모델(LLM)의 정확성과 신뢰성을 높이기 위해 설계되었습니다. 이 방법은 2022년 Google Research의 연구자들이 Chain-of-Thought(CoT) 기법의 개선안으로 제안하였습니다.

핵심 아이디어는 단 하나의 "탐욕적" 추론 결과에 머무르지 않고, 동일한 질문에 대해 다양한 추론 경로를 여러 개 생성한 다음, 그 중에서 가장 자주 등장하는 최종 답변을 선택하는 것입니다. 이 접근법은 직관적인 원칙에 근거합니다: 모델이 서로 다른 경로로 추론하면서 같은 결과에 반복적으로 도달한다면, 그 결과가 올바를 가능성이 높다는 것입니다.

배경 및 전제

Self-Consistency 방법은 Chain-of-Thought (CoT) 기법을 직접적으로 발전시킨 것입니다. Wei 외 (2022)가 제안한 CoT 기법은 모델이 풀이 단계를 명시적으로 작성하도록 유도함으로써 LLM이 복잡한 문제를 해결하는 능력을 크게 향상시켰습니다. 그러나 기본 CoT 구현에서는 각 단계마다 가장 확률 높은 다음 token을 선택하는 "탐욕적 디코딩"(greedy decoding)이 사용됩니다. 이로 인해 한계가 생깁니다: 모델이 초기 단계에서 실수를 저지르면, 그 잘못된 경로에서 벗어나 수정할 수 없게 됩니다. Self-Consistency는 바로 이 문제를 해결하기 위해 제안되었습니다.

작동 메커니즘

Self-Consistency 알고리즘은 결정론적 탐욕적 접근 방식을 "샘플링 후 집계" 절차로 대체하며, 다음 단계로 구성됩니다:

1. 여러 추론 경로 생성: 하나의 답변 대신, 모델은 동일한 질문에 대해 chain-of-thought 방식을 사용하여 여러 번(예: 최대 40회) 풀이를 생성합니다. 다양한 추론 경로를 얻기 위해 온도 샘플링(temperature > 0 파라미터 사용)과 같은 확률적 디코딩 방법이 적용됩니다.
2. 집계 및 답변 선택: 생성된 모든 추론 체인에서 최종 답변(예: 숫자 값)만 추출합니다. 그런 다음 이 답변들 중에서 가장 자주 등장하는 것을 선택합니다. 이 답변이 최종 결과로 출력됩니다.

이 접근법은 "자기 앙상블" 원칙을 모방합니다. 동일한 모델의 여러 추론 결과를 활용하여 신뢰성을 높이고 우연한 오류를 완화하는 것입니다.

효과 및 결과

원본 연구에서 Self-Consistency는 여러 인기 benchmark에서, 특히 산술 및 논리 추론이 필요한 작업에서 상당한 정확도 향상을 보여주었습니다.

• 수학 문제 benchmark GSM8K에서 PaLM-540B 모델의 정확도는 56.6%(CoT 적용 시)에서 74.4%(Self-Consistency 적용 시)로 상승하여 17.8%의 향상을 기록하였습니다.
• SVAMP와 AQuA 등 다른 산술 문제에서의 향상은 각각 +11.0%와 +12.2%였습니다.
• StrategyQA와 같이 논리 및 상식 추론이 필요한 작업에서는 +6.4%의 개선이 이루어졌습니다.

Self-Consistency의 적용은 GPT-3 175B 및 PaLM 540B와 같은 대형 모델을 사용할 때 다수의 benchmark에서 새로운 최고 성능(state-of-the-art) 기록을 수립하게 해주었습니다.

장점 및 한계

장점

• 정확도 향상: 복잡한 다단계 추론이 필요한 작업에서 결과를 크게 향상시킵니다.
• 신뢰성: 단일 추론 체인에서 발생할 수 있는 오류에 더 강건합니다.
• 구현 용이성: 추가적인 학습이나 모델 아키텍처 변경이 필요하지 않습니다. 기존 모델을 감싸는 간단한 "래퍼"로 구현할 수 있습니다.

한계

• 높은 연산 비용: 주요 단점은 하나의 요청에 대해 여러 번(예: 10, 20, 또는 40회) 답변을 생성해야 한다는 것으로, 이는 추론 비용과 시간을 비례적으로 증가시킵니다.
• 제한적인 적용 범위: 표준 방법은 답변 형식이 명확하게 정의된 작업(예: 숫자, "예/아니오", 목록에서의 선택지)에 가장 효과적이며, 다수결 투표를 쉽게 수행할 수 있습니다. 답변이 본질적으로 고유한 형태를 가지는 개방형 생성 작업(에세이 작성, 요약)에는 잘 적용되지 않습니다.
• 체계적 오류의 위험: 모델이 우연히 동일한 잘못된 답변으로 수렴하는 잘못된 추론을 체계적으로 생성한다면, Self-Consistency는 오류를 수정하지 못할 뿐만 아니라 오히려 그에 대한 확신을 강화시킬 수 있습니다.

방법의 발전: Universal Self-Consistency

자유 형식 답변 작업에서의 기본 방법의 한계는 후속 연구에서 다루어졌습니다. 2023년 말, Google DeepMind의 연구자 그룹은 Universal Self-Consistency (USC) 접근법을 제안하였습니다.

USC에서는 최종 답변에 대한 단순 다수결 투표 대신, LLM 자체를 "심판"으로 사용하여 집계합니다. 모델은 여러 개의 완전한 풀이 방안을 생성한 다음, 그 중에서 "가장 일관된" 또는 "가장 품질이 높은" 것을 선택해 달라는 새 프롬프트를 받습니다. 이 접근법은 자기 일관성의 원칙을 개방적이고 창의적인 형식의 답변 작업에도 적용할 수 있게 해줍니다.

외부 링크

• Self-Consistency Improves Chain of Thought Reasoning in Language Models — Google Research의 원본 논문.
• Self-Consistency — Prompt Engineering Guide의 가이드.

참고 문헌

• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Aggarwal, P. et al. (2023). Let's Sample Step by Step: Adaptive-Consistency for Efficient Reasoning and Coding with LLMs. arXiv:2305.11860.
• Chen, X. et al. (2023). Universal Self-Consistency with Large Language Models. arXiv:2311.17311.
• Knappe, T. et al. (2024). Semantic Self-Consistency: Enhancing Language Model Reasoning via Semantic Weighting. arXiv:2410.07839.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Li, T. et al. (2024). Improving Faithfulness of Large Language Models in Summarization via Sliding Generation and Self-Consistency. arXiv:2407.21443.
• Byerly, A.; Khashabi, D. (2024). How Effective Is Self-Consistency for Long-Context Problems?. arXiv:2411.01101.
• Novikova, J. et al. (2025). Consistency in Language Models: Current Landscape, Challenges, and Future Directions. arXiv:2505.00268.
• Admoni, S. et al. (2025). Towards Large Language Models with Self-Consistent Natural Language Explanations. arXiv:2506.07523.