---
title: "Prompt and context — 프롬프트와 컨텍스트"
source: "https://systems-analysis.info/int/Prompt_and_context_%E2%80%94_%ED%94%84%EB%A1%AC%ED%94%84%ED%8A%B8%EC%99%80_%EC%BB%A8%ED%85%8D%EC%8A%A4%ED%8A%B8"
wiki: "systems-analysis.info/int"
article: "Prompt_and_context_—_프롬프트와_컨텍스트"
language: "ko"
categories:
  - "Category:Korean"
  - "Category:Large language models"
  - "Category:Machine learning"
  - "Category:Prompt engineering"
revision_id: 5997
wiki_created_at: 2026-09-06T23:56:56Z
wiki_modified_at: 2026-09-06T23:56:56Z
downloaded_at: 2026-09-07T23:11:28Z
---

# Prompt and context — 프롬프트와 컨텍스트

**프롬프트**와 **컨텍스트**는 대형 언어 모델(LLM)을 위한 prompt 엔지니어링의 근본적인 개념입니다.

컨텍스트는 프롬프트의 핵심 구성 요소로서, LLM이 정확하고 관련성 있으며 유용한 응답을 생성하는 능력을 결정합니다. 효과적인 prompt 엔지니어링은 대부분 현대 LLM의 한계를 극복하면서 올바른 컨텍스트를 적절한 시점에 수집, 필터링, 구조화하여 모델에 제공하는 기술에 달려 있습니다.

## 프롬프트의 정의

**프롬프트**(영어: *prompt*)란 LLM이 응답을 생성하기 위해 제공받는 완전한 입력 데이터의 집합입니다. 단순한 질문이나 명령이 아니라, 다음을 포함할 수 있는 구조화된 텍스트입니다:

- **지시사항(Instructions):** 모델에게 무엇을 해야 하는지, 어떤 형식·스타일·어조로 수행해야 하는지에 대한 직접적인 안내.
- **핵심 요청(Query):** 사용자의 직접적인 질문 또는 주요 과제에 대한 설명.
- **컨텍스트(Context):** 요청을 올바르게 수행하는 데 필요한 추가 정보.
- **예시(Few-shot examples):** 유사한 과제에서 원하는 응답 형식이나 스타일을 보여주는 시범.

프롬프트의 품질과 완성도는 LLM 응답의 관련성, 정확성, 유용성을 직접적으로 결정합니다.

## 컨텍스트의 정의

**컨텍스트**란 prompt 엔지니어링의 맥락에서 **프롬프트 내부**에 포함된 정보 중, 모델이 과제·상황의 특수성·사용자의 기대를 더 잘 이해하도록 돕지만 모델의 원래 학습 데이터의 일부는 **아닌** 모든 정보를 의미합니다. 컨텍스트는 적절한 응답을 생성하는 데 필요한 상황적 세부 사항을 제공합니다.

컨텍스트에 포함될 수 있는 것:

- 이전 대화 이력(챗봇의 경우).
- 외부 소스(문서, 데이터베이스, 웹페이지)에서 추출한 데이터 — RAG의 기반.
- 사용자 정보(프로필, 선호도).
- 현재 과제 또는 상황의 구체적인 세부 사항.
- 유사한 과제 수행 예시(few-shot prompting의 일부).

프롬프트에서 제공되는 컨텍스트와, 모델이 사전 학습 과정에서 습득한 일반 지식을 구분하는 것이 중요합니다. Prompt 엔지니어링은 특히 **상황적** 컨텍스트를 효과적으로 제공하는 데 초점을 맞춥니다.

## 상호관계와 영향

**프롬프트와 컨텍스트**는 transformer 작동의 근본적인 개념으로, 모델이 입력 데이터를 어떻게 인식하고 무엇을 바탕으로 결과를 생성하는지를 결정합니다. 아키텍처 측면에서 transformer는 '프롬프트'와 '컨텍스트'를 특별히 구분하지 않습니다 — 둘 다 입력 token 시퀀스의 일부로서 embedding으로 변환되고, 위치 정보로 보강되며, self-attention 레이어에 의해 통합적으로 처리됩니다.

프롬프트와 컨텍스트는 불가분의 관계에 있습니다: **컨텍스트는 프롬프트의 구성 요소입니다**.

- **컨텍스트가 프롬프트를 구성합니다:** 엔지니어는 프롬프트에 포함할 관련 컨텍스트를 선별하고 구조화합니다.
- **컨텍스트가 모델을 안내합니다:** 제공된 정보를 통해 LLM은 가능한 응답의 범위를 좁히고, 관련 측면에 집중하며, 환각(hallucination)을 방지할 수 있습니다.
- **컨텍스트의 품질이 응답의 품질을 결정합니다:** 불충분하거나 관련 없거나 모순된 컨텍스트는 부정확하고 일반적이거나 잘못된 응답으로 이어집니다. 정확하고 완전한 컨텍스트는 생성의 구체성과 유용성을 높입니다.
- **지시사항 해석에 대한 영향:** 컨텍스트는 프롬프트 내 일반적인 지시사항의 해석을 구체화하거나 변경할 수 있습니다.

프롬프트의 효과는 엔지니어가 얼마나 성공적으로 관련 컨텍스트를 수집, 필터링하여 모델에 제공했느냐에 크게 달려 있습니다.

## 컨텍스트의 유형

컨텍스트는 다양한 기준에 따라 분류할 수 있습니다:

**출처에 따라:**

- 사용자 제공: 사용자의 명시적 입력, 질문 또는 과제 설명.
- 대화 이력: 사용자와 어시스턴트의 이전 메시지(단기 기억).
- 추출된(Retrieved) 컨텍스트: RAG를 통해 외부 소스(문서, DB, 웹)에서 가져온 데이터.
- 프로필/지식 베이스: 사용자 또는 도메인에 관한 장기 정보.
- 정적/지시적: 엔지니어가 프롬프트 템플릿에 내장한 정보(지시사항, 예시, 역할 정의).

**동적 특성에 따라:**

- 정적 컨텍스트: 프롬프트의 변하지 않는 부분(지시사항, 정의, 예시). 전반적인 과제를 정의합니다.
- 동적 컨텍스트: 요청마다 변하는 정보(사용자 데이터, RAG 결과, 현재 시간). 구체적인 세부 사항을 제공합니다.

**저장 기간(기억)에 따라:**

- 단기 컨텍스트: 현재 대화 세션의 이력.
- 장기 컨텍스트: 저장 및 검색 메커니즘이 필요한, 사용자 또는 이전 상호작용에 관한 저장된 데이터.

## 컨텍스트 관리

효과적인 컨텍스트 관리는 LLM의 컨텍스트 윈도우 제한을 고려할 때 prompt 엔지니어링의 핵심 과제입니다. 주요 방법:

- **RAG:** 대용량 정보 처리에 가장 널리 사용되는 방법. 방대한 지식 베이스에서 가장 관련성 높은 단편만을 동적으로 찾아 프롬프트에 포함할 수 있습니다. 벡터 데이터베이스와 효과적인 검색 메커니즘(어휘적 또는 의미적)이 필요합니다.
- **청킹(Chunking):** RAG를 통한 인덱싱과 후속 검색을 위해 대형 문서를 의미적으로 연관된 또는 고정 크기의 조각으로 분할하는 방법.
- **요약(Summarization):** 제한된 컨텍스트 윈도우 내에서 핵심 의미를 전달하기 위해 긴 대화 이력이나 방대한 문서를 압축하는 방법.
- **메모리 관리(Memory Management):** 챗봇과 에이전트에서 대화 이력을 저장하고 검색하기 위한 다양한 전략 활용(예: LangChain의 ConversationBufferMemory, ConversationSummaryBufferMemory).
- **슬라이딩 윈도우(Sliding Window):** 컨텍스트에 최근 N개의 대화 메시지만 유지하는 방법.
- **필터링 및 우선순위 지정:** 최종 프롬프트 조합 전에 중요도(예: 검색 시 제공된 관련성 점수)를 기반으로 가장 관련성 높은 컨텍스트 단편을 선별하는 방법.

## 프롬프트 엔지니어링에서 컨텍스트의 역할

- **관련성 향상:** 컨텍스트를 통해 모델은 사용자의 요청과 상황에 정확히 부합하는 응답을 생성할 수 있습니다.
- **환각 감소:** 사실 정보 제공(RAG를 통해)은 모델이 사실을 지어내지 않고 해당 정보에 의존하도록 유도합니다.
- **개인화:** 사용자 컨텍스트(선호도, 이력)를 통해 응답을 맞춤화할 수 있습니다.
- **상태 관리:** 대화 및 다단계 프로세스에서 컨텍스트(이력)는 모델의 이전 단계에 대한 연속성과 인식을 보장합니다.
- **모델 지식 한계 극복:** RAG를 통해 모델은 학습 이후 발생한 사건이나 특정/비공개 데이터에 관한 질문에 답할 수 있습니다.

## 한계

- 컨텍스트 윈도우 한도: 현대 모델에서 1~2백만 token까지 증가했음에도 불구하고, 이러한 규모의 처리는 비용이 많이 들고 느릴 수 있습니다. 효과적인 압축 및 선별 전략(RAG, 요약)이 필요합니다.
- 관련 컨텍스트 검색: RAG의 효과는 검색 품질에 달려 있습니다. 잘못 추출된 컨텍스트는 모델을 혼란에 빠뜨릴 수 있습니다("쓰레기 입력 - 쓰레기 출력").
- "무관심의 골짜기"(Valley of Meh): 매우 긴 프롬프트의 중간에 위치한 정보는 모델에 의해 무시될 수 있습니다. 프롬프트 구조화가 필요합니다(예: "샌드위치 기법").
- 컨텍스트 인젝션 위험: 컨텍스트가 신뢰할 수 없는 소스(예: 웹페이지)에서 추출될 경우 악의적인 지시사항(prompt injection)이 포함될 수 있습니다.

## 참고 문헌

- Lewis, P. et al. (2020). *Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks*. arXiv:2005.11401.
- Wei, J. et al. (2022). *Chain of Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903.
- Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models*. arXiv:2203.11171.
- Kojima, T. et al. (2022). *Large Language Models are Zero-Shot Reasoners*. arXiv:2205.11916.
- Chen, S. et al. (2023). *Extending Context Window of Large Language Models via Positional Interpolation*. arXiv:2306.15595.
- Schick, T. et al. (2023). *Toolformer: Language Models Can Teach Themselves to Use Tools*. arXiv:2302.04761.
- Besta, M. et al. (2023). *Graph of Thoughts: Solving Elaborate Problems with Large Language Models*. arXiv:2308.09687.
- Packer, C. et al. (2023). *MemGPT: Towards LLMs as Operating Systems*. arXiv:2310.08560.
- Wang, Y. et al. (2023). *Self-Instruct: Aligning Language Models with Self-Generated Instructions*. arXiv:2212.10560.
- Sahoo, P. et al. (2024). *A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications*. arXiv:2402.07927.
- Kim, S. H. et al. (2024). *Theanine: Revisiting Memory Management in Long-term Conversations with Timeline-augmented Response Generation*. arXiv:2406.10996.
- Chen, S. et al. (2024). *StruQ: Defending Against Prompt Injection with Structured Queries*. arXiv:2402.06363.
- Zhong, M. et al. (2024). *Understanding the RoPE Extensions of Long-Context LLMs: An Attention Perspective*. arXiv:2406.13282.
- Han, H. et al. (2025). *Retrieval-Augmented Generation with Graphs (GraphRAG)*. arXiv:2501.00309.
- Self-Instruct (2025). *Aligning Language Models with Self-Generated Instructions*. arXiv:2212.10560.

## 같이 보기

- 대형 언어 모델
- 컨텍스트 윈도우
- 벡터 데이터베이스
- LangChain