---
title: "Prompt dan Konteks"
source: "https://systems-analysis.info/int/Prompt_dan_Konteks"
wiki: "systems-analysis.info/int"
article: "Prompt_dan_Konteks"
language: "id"
categories:
  - "Category:Indonesian"
  - "Category:Large language models"
  - "Category:Machine learning"
  - "Category:Prompt engineering"
revision_id: 6010
wiki_created_at: 2026-09-06T23:57:07Z
wiki_modified_at: 2026-09-06T23:57:07Z
downloaded_at: 2026-09-07T23:11:32Z
---

# Prompt dan Konteks

**Prompt** dan **konteks** merupakan konsep fundamental dalam prompt engineering untuk large language model (LLM).

Konteks adalah komponen yang sangat penting dalam prompt, yang menentukan kemampuan LLM untuk menghasilkan jawaban yang akurat, relevan, dan bermanfaat. Prompt engineering yang efektif sebagian besar merupakan seni dalam mengumpulkan, menyaring, menyusun, dan menyajikan konteks yang tepat kepada model pada saat yang diperlukan, sekaligus mengatasi keterbatasan LLM modern.

## Definisi Prompt

**Prompt** (Inggris: *prompt*) — adalah kumpulan lengkap data masukan yang diberikan kepada LLM untuk menghasilkan respons. Ini bukan sekadar pertanyaan atau perintah, melainkan teks terstruktur yang dapat mencakup:

- **Instruksi:** Petunjuk langsung kepada model tentang apa yang harus dilakukan, dalam format, gaya, atau nada apa.
- **Permintaan Utama (Query):** Pertanyaan langsung dari pengguna atau deskripsi tugas utama.
- **Konteks:** Informasi tambahan yang diperlukan untuk menyelesaikan permintaan dengan benar.
- **Contoh (Few-shot examples):** Demonstrasi format atau gaya respons yang diinginkan pada tugas serupa.

Kualitas dan kelengkapan prompt secara langsung menentukan relevansi, akurasi, dan kegunaan respons LLM.

## Definisi Konteks

**Konteks** dalam kerangka prompt engineering adalah informasi apa pun **di dalam prompt** yang membantu model memahami tugas, kekhususan situasi, atau ekspektasi pengguna dengan lebih baik, tetapi **bukan merupakan** bagian dari data pelatihan awalnya. Konteks menyediakan detail situasional yang diperlukan untuk menghasilkan respons yang memadai.

Konteks dapat mencakup:

- Riwayat dialog sebelumnya (dalam chatbot).
- Data yang diambil dari sumber eksternal (dokumen, basis data, halaman web) — dasar dari RAG.
- Informasi tentang pengguna (profil, preferensi).
- Detail spesifik dari tugas atau situasi saat ini.
- Contoh penyelesaian tugas serupa (sebagai bagian dari few-shot prompting).

Penting untuk membedakan antara konteks yang disediakan dalam prompt dengan pengetahuan umum yang diperoleh model selama pra-pelatihannya. Prompt engineering berfokus pada penyampaian konteks **situasional** yang efektif.

## Keterkaitan dan Pengaruh

**Prompt dan konteks** adalah konsep fundamental dalam cara kerja transformer, yang menentukan bagaimana model memproses data masukan dan berdasarkan apa model menghasilkan keluaran. Secara arsitektur, transformer tidak membedakan secara khusus antara "prompt" dan "konteks" — keduanya merupakan bagian dari urutan token masukan yang diubah menjadi embedding, diperkaya dengan informasi posisi, dan diproses secara keseluruhan oleh lapisan self-attention.

Prompt dan konteks saling terkait erat: **konteks merupakan bagian integral dari prompt**.

- **Konteks membentuk prompt:** Seorang engineer memilih dan menyusun konteks yang relevan untuk dimasukkan ke dalam prompt.
- **Konteks membimbing model:** Informasi yang disediakan memungkinkan LLM mempersempit ruang kemungkinan jawaban, fokus pada aspek yang relevan, dan menghindari halusinasi.
- **Kualitas konteks menentukan kualitas respons:** Konteks yang tidak memadai, tidak relevan, atau bertentangan menghasilkan jawaban yang tidak akurat, umum, atau salah. Konteks yang akurat dan lengkap meningkatkan spesifisitas dan kegunaan hasil generasi.
- **Pengaruh pada interpretasi instruksi:** Konteks dapat memperjelas atau mengubah interpretasi instruksi umum dalam prompt.

Efektivitas prompt sebagian besar bergantung pada seberapa berhasil seorang engineer mengumpulkan, menyaring, dan menyajikan konteks yang relevan kepada model.

## Jenis-Jenis Konteks

Konteks dapat diklasifikasikan berdasarkan berbagai kriteria:

**Berdasarkan sumber:**

- Disediakan oleh pengguna: Masukan eksplisit dari pengguna, pertanyaan, atau deskripsi tugasnya.
- Dari riwayat dialog: Pesan-pesan sebelumnya dari pengguna dan asisten (memori jangka pendek).
- Diambil (Retrieved): Data dari sumber eksternal (dokumen, basis data, web) menggunakan RAG.
- Dari profil/basis pengetahuan: Informasi jangka panjang tentang pengguna atau domain tertentu.
- Statis/Instruktif: Informasi yang ditanamkan oleh engineer ke dalam template prompt (instruksi, contoh, definisi peran).

**Berdasarkan dinamika:**

- Konteks statis: Bagian prompt yang tidak berubah (instruksi, definisi, contoh). Menentukan tugas secara umum.
- Konteks dinamis: Informasi yang berubah dari permintaan ke permintaan (data pengguna, hasil RAG, waktu saat ini). Menyediakan detail spesifik.

**Berdasarkan durasi penyimpanan (Memori):**

- Konteks jangka pendek: Riwayat sesi dialog saat ini.
- Konteks jangka panjang: Data tersimpan tentang pengguna atau interaksi sebelumnya, yang memerlukan mekanisme penyimpanan dan pengambilan.

## Manajemen Konteks

Manajemen konteks yang efektif adalah tugas utama dalam prompt engineering, terutama mengingat keterbatasan context window LLM. Metode-metode utama:

- **RAG:** Metode paling umum untuk menangani volume informasi yang besar. Memungkinkan pencarian dinamis dan penyertaan hanya fragmen paling relevan dari basis pengetahuan yang luas ke dalam prompt. Memerlukan basis data vektor dan mekanisme pencarian yang efektif (leksikal atau semantik).
- **Chunking:** Pembagian dokumen besar menjadi bagian-bagian yang terhubung secara semantik atau berukuran tetap untuk diindeks dan kemudian diambil melalui RAG.
- **Sumarisasi:** Pemadatan riwayat dialog yang panjang atau dokumen bervolume besar untuk menyampaikan makna utama dalam context window yang terbatas.
- **Manajemen Memori (Memory Management):** Penggunaan berbagai strategi untuk menyimpan dan mengambil riwayat dialog dalam chatbot dan agen (misalnya, ConversationBufferMemory, ConversationSummaryBufferMemory dalam LangChain).
- **Sliding Window:** Mempertahankan hanya N pesan dialog terakhir dalam konteks.
- **Penyaringan dan Prioritisasi:** Pemilihan fragmen konteks paling relevan berdasarkan tingkat kepentingannya (misalnya, menggunakan skor relevansi dari hasil pencarian) sebelum menyusun prompt final.

## Peran Konteks dalam Prompt Engineering

- **Peningkatan Relevansi:** Konteks memungkinkan model menghasilkan respons yang tepat sesuai dengan permintaan dan situasi pengguna.
- **Pengurangan Halusinasi:** Penyediaan informasi faktual (melalui RAG) mendorong model untuk mengandalkannya, bukan mengarang fakta.
- **Personalisasi:** Konteks tentang pengguna (preferensi, riwayat) memungkinkan adaptasi respons.
- **Manajemen Status:** Dalam dialog dan proses multi-langkah, konteks (riwayat) memastikan kesinambungan dan kesadaran model tentang langkah-langkah sebelumnya.
- **Mengatasi Keterbatasan Pengetahuan Model:** RAG memungkinkan model menjawab pertanyaan tentang peristiwa yang terjadi setelah pelatihannya, atau tentang data yang spesifik/privat.

## Keterbatasan

- Batas Context Window: Meskipun telah ditingkatkan hingga 1–2 juta token pada model-model terkini, pemrosesan volume sebesar itu bisa mahal dan lambat. Memerlukan strategi kompresi dan seleksi yang efektif (RAG, sumarisasi).
- Pencarian Konteks yang Relevan: Efektivitas RAG bergantung pada kualitas pencarian. Konteks yang salah diambil dapat membingungkan model ("sampah masuk - sampah keluar").
- "Lembah Ketidakpedulian" (Valley of Meh): Informasi yang terletak di tengah prompt yang sangat panjang dapat diabaikan oleh model. Memerlukan penataan prompt (misalnya, "teknik sandwich").
- Risiko Context Injection: Jika konteks diambil dari sumber yang tidak tepercaya (misalnya, halaman web), konteks tersebut mungkin mengandung instruksi berbahaya (prompt injection).

## Literatur

- Lewis, P. et al. (2020). *Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks*. arXiv:2005.11401.
- Wei, J. et al. (2022). *Chain of Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903.
- Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models*. arXiv:2203.11171.
- Kojima, T. et al. (2022). *Large Language Models are Zero-Shot Reasoners*. arXiv:2205.11916.
- Chen, S. et al. (2023). *Extending Context Window of Large Language Models via Positional Interpolation*. arXiv:2306.15595.
- Schick, T. et al. (2023). *Toolformer: Language Models Can Teach Themselves to Use Tools*. arXiv:2302.04761.
- Besta, M. et al. (2023). *Graph of Thoughts: Solving Elaborate Problems with Large Language Models*. arXiv:2308.09687.
- Packer, C. et al. (2023). *MemGPT: Towards LLMs as Operating Systems*. arXiv:2310.08560.
- Wang, Y. et al. (2023). *Self-Instruct: Aligning Language Models with Self-Generated Instructions*. arXiv:2212.10560.
- Sahoo, P. et al. (2024). *A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications*. arXiv:2402.07927.
- Kim, S. H. et al. (2024). *Theanine: Revisiting Memory Management in Long-term Conversations with Timeline-augmented Response Generation*. arXiv:2406.10996.
- Chen, S. et al. (2024). *StruQ: Defending Against Prompt Injection with Structured Queries*. arXiv:2402.06363.
- Zhong, M. et al. (2024). *Understanding the RoPE Extensions of Long-Context LLMs: An Attention Perspective*. arXiv:2406.13282.
- Han, H. et al. (2025). *Retrieval-Augmented Generation with Graphs (GraphRAG)*. arXiv:2501.00309.
- Self-Instruct (2025). *Aligning Language Models with Self-Generated Instructions*. arXiv:2212.10560.

## Lihat Juga

- Large language model
- Context window
- Basis data vektor
- LangChain