--- title: "Generated Knowledge Prompting (CS)" source: "https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)" wiki: "systems-analysis.info/int" article: "Generated_Knowledge_Prompting_(CS)" language: "cs" categories: - "Category:Czech" - "Category:Large language models" - "Category:Machine learning" - "Category:Prompt engineering" revision_id: 2579 wiki_created_at: 2026-09-06T23:06:24Z wiki_modified_at: 2026-09-06T23:06:24Z downloaded_at: 2026-09-07T22:52:14Z --- # Generated Knowledge Prompting (CS) **Generated Knowledge Prompting** (**GKP**, **prompting s generováním znalostí**) — je metoda prompt-inženýrství vyvinutá pro zlepšení schopnosti velkých jazykových modelů (LLM) řešit úlohy vyžadující uvažování a opírání se o faktické znalosti[\[1\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2022acl-1). Základní myšlenka GKP spočívá v tom, aby model provedl úlohu ve dvou fázích: nejprve vygeneroval sadu relevantních faktů k tématu dotazu a poté, opíraje se o tyto znalosti, formuloval konečnou odpověď[\[2\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2021arxiv-2). Tento přístup umožňuje LLM aktivovat a využívat své vnitřní, *parametrizované* znalosti, které jsou implicitně zakódovány v miliardách parametrů, ale při standardních dotazech jsou často nedostupné. GKP řeší problém, kdy modely „nevědí, co vědí", a pomáhá jim propojit různorodé fakty pro vytvoření správného závěru[\[2\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2021arxiv-2). ## Historie a původ Metoda **Generated Knowledge Prompting** byla poprvé představena ve vědeckém článku „*Generated Knowledge Prompting for Commonsense Reasoning*", připraveném skupinou výzkumníků pod vedením **Jiachenga Liua** (Jiacheng Liu). Původní verze práce byla zveřejněna v archivu preprintů *arXiv* 15. října 2021 a konečná verze byla představena na prestižní konferenci *Association for Computational Linguistics* (ACL) v roce 2022[\[1\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2022acl-1). GKP se stal jednou z prvních a nejvýznamnějších metod, které navrhly změnu paradigmatu interakce s LLM — přesunutí důrazu z jednorázové generace odpovědi na dvoustupňový kognitivní proces. ## Dvoustupňový mechanismus fungování Mechanismus GKP rozděluje složitou úlohu na dva jednodušší dílčí procesy: extrakci relevantních informací a jejich následné využití pro odvozování. ### Fáze 1: Generování znalostí (Knowledge Generation) V první fázi se používá jazykový model („generátor znalostí") k vytvoření několika (M) fragmentů znalostí relevantních k původní otázce. Tento proces je iniciován pomocí techniky few-shot prompting, kdy je modelu poskytnuto několik příkladů pro učení „v kontextu". Prompt pro generování znalostí má přesně definovanou strukturu: 1. **Instrukce**: Obecný pokyn, například: „Vygeneruj několik faktů k tématu". 2. **Demonstrační příklady**: Několik dvojic „otázka–znalost" napsaných člověkem. Tyto příklady hrají kriticky důležitou roli, protože učí model, jaký typ informací je považován za užitečný. Přitom vygenerovaná znalost nesmí obsahovat samotnou odpověď přímo. 3. **Nová otázka**: Původní dotaz uživatele, pro který je třeba vygenerovat znalosti. Pro jednu otázku se generuje *M* variant znalostí (v původní práci M=20), aby byl pro druhou fázi získán různorodý soubor faktů[\[1\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2022acl-1). ### Fáze 2: Integrace znalostí a formování odpovědi (Knowledge Integration) Ve druhé fázi se používá jiný jazykový model („model pro odvozování"), který může pracovat v režimu *zero-shot* nebo být doladěn na konkrétní úlohu. Proces integrace probíhá následovně: 1. **Augmentace dotazu**: Původní otázka (*q*) je postupně kombinována s každým z *M* vygenerovaných fragmentů znalostí (*km*). Výsledkem je *M+1* augmentovaných dotazů (včetně původní otázky bez znalostí). 2. **Hodnocení a výběr odpovědi**: Model pro odvozování vyhodnocuje podmíněnou pravděpodobnost každého možného variantu odpovědi (*a*) pro každý augmentovaný dotaz. Konečnou odpovědí se stává ten variant, který získal nejvyšší hodnocení pravděpodobnosti alespoň u jednoho z dotazů. Tento dvoustupňový mechanismus zavádí jakýsi metakognitivní proces: „*Před odpovědí se zamysli a formuluj, co o tomto tématu víš*\\. ## Účinnost a výsledky testování Účinnost GKP byla ověřena na řadě akademických benchmarků pro hodnocení uvažování na základě zdravého rozumu. Metoda prokázala výrazné zlepšení výkonu ve srovnání se základními přístupy. | Název benchmarku | Úloha | Přesnost základního modelu (%) | Přesnost s GKP (%) | Přírůstek (%) | |-----------------------|------------------------|--------------------------------|--------------------|---------------| | **NumerSense** | Numerický zdravý rozum | 64.05 | 72.47 | +8.42 | | **CommonsenseQA** | Obecný zdravý rozum | 39.89 | 47.26 | +7.37 | | **CommonsenseQA 2.0** | Obecný zdravý rozum | 70.20 | 73.03 | +2.83 | | **QASC** | Vědecký zdravý rozum | 76.74 | 80.33 | +3.59 | Přehled výsledků GKP na hlavních benchmarcích (data z Liu et al., 2022)[\[1\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-liu2022acl-1) Největší přírůstek je pozorován v režimu *zero-shot*, což prokazuje schopnost GKP efektivně aktivovat vnitřní znalosti modelu bez dodatečného dolaďování. ## Srovnávací analýza s jinými technikami ### GKP vs. Chain-of-Thought (CoT) Klíčový rozdíl mezi GKP a Chain-of-Thought (CoT) spočívá v typu generovaných informací: - **GKP** generuje **deklarativní znalosti** — fakta, definice, tvrzení o světě (*„co"*). Poskytuje modelu dodatečný kontext. - **CoT** generuje **procedurální znalosti** — logické kroky, výpočty, posloupnost závěrů (*„jak"*). Poskytuje modelu cestu uvažování. GKP tedy poskytuje faktografický základ, zatímco CoT poskytuje logickou strukturu odvozování[\[3\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-wei2022cot-3). ### GKP vs. Retrieval-Augmented Generation (RAG) Na rozdíl od GKP využívá metoda Retrieval-Augmented Generation (RAG) externí, neparametrizované zdroje znalostí. - **GKP** využívá **vnitřní znalosti**, které si model osvojil během trénování. Nutí model „*vzpomenout si*\\ na to, co již ví. - **RAG** využívá **externí znalosti** z databází, dokumentů nebo internetu. Nutí model „*vyhledávat*\\ informace ve vnějším světě. Volba mezi GKP a RAG závisí na úloze: GKP je účinný, pokud jsou požadované znalosti obecně známé a dobře zastoupené v trénovacích datech, zatímco RAG je nenahraditelný pro úzce specializovaná, aktuální nebo proprietární data. ## Omezení a rizika - **Problém „halucinací"**: Hlavní riziko GKP — možnost generování nesprávných faktů. Pokud model v první fázi vygeneruje nepravdivé tvrzení, ve druhé fázi bude přijato jako pravdivé, což povede k sebejisté, ale zcela chybné odpovědi. - **Výpočetní náklady**: Metoda vyžaduje opakované volání LLM (M+1 volání pro jeden dotaz), což výrazně zvyšuje dobu odezvy (*latency*) a náklady na provoz ve srovnání se standardním promptingem. - **Složitost tvorby promptů**: Účinnost GKP silně závisí na kvalitě *few-shot* příkladů, jejichž tvorba je netriviálním a pracným úkolem. ## Vývoj a hybridní přístupy Myšlenky obsažené v GKP se staly katalyzátorem pro vývoj složitějších a spolehlivějších technik promptingu, jako jsou: - **Hint-before-Solving (HSP)**: Přímý ideový nástupce GKP, který aplikuje dvoustupňový princip („nejprve znalost, pak akce") nikoli na jednoduchou odpověď, ale na složitější proces uvažování v CoT[\[4\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-hsp2024-4). - **Verify-and-Edit (VE)**: Hybridní framework, který je odpovědí na problém „halucinací" v GKP a CoT. VE nejprve generuje řetězec uvažování (jako CoT), poté automaticky ověřuje klíčové fakty pomocí externího vyhledávání (jako RAG) a upravuje uvažování před generováním konečné odpovědi[\[5\]](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_note-zhao2023ve-5). ## Odkazy - Generated Knowledge Prompting v Průvodci prompt inženýrstvím ## Literatura - Liu, J. et al. (2021). *Generated Knowledge Prompting for Commonsense Reasoning*. arXiv:2110.08387 - Liu, J. et al. (2022). *Generated Knowledge Prompting for Commonsense Reasoning*. In \*Proc. ACL 2022\*. ACL:2022 - Wei, J. et al. (2022). *Chain-of-Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903 - Wang, X. et al. (2022). *Self-Consistency Improves Chain-of-Thought Reasoning in Language Models*. arXiv:2203.11171 - Fu, J. et al. (2024). *Hint-before-Solving Prompting: Guiding LLMs to Effectively Utilize Encoded Knowledge*. arXiv:2402.14310 - Zhao, R. et al. (2023). *Verify-and-Edit: A Knowledge-Enhanced Chain-of-Thought Framework*. arXiv:2305.03268 - Lin, B. et al. (2020). *NumerSense: Probing Numerical Commonsense Knowledge of Pre-trained Language Models*. Dataset page - Talmor, A. et al. (2019). *CommonsenseQA: A Question-Answering Challenge Targeting Commonsense Knowledge*. ACL paper - Khot, T. et al. (2019). *QASC: A Dataset for Question Answering via Sentence Composition*. arXiv:1910.11473 - Mu, J. et al. (2023). *Learning to Compress Prompts with Gist Tokens*. arXiv:2304.08467 ## Poznámky 1. ↑ [1.0](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2022acl_1-0) [1.1](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2022acl_1-1) [1.2](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2022acl_1-2) [1.3](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2022acl_1-3) Liu, J., Liu, A., Lu, X., et al. (2022). «Generated Knowledge Prompting for Commonsense Reasoning». *Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics*. [1] 2. ↑ [2.0](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2021arxiv_2-0) [2.1](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-liu2021arxiv_2-1) Liu, J., Liu, A., Lu, X., et al. (2021). «Generated Knowledge Prompting for Commonsense Reasoning». *arXiv preprint arXiv:2110.08387*. [2] 3. [↑](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-wei2022cot_3-0) Wei, J., Wang, X., Schuurmans, D., et al. (2022). «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models». *arXiv preprint arXiv:2201.11903*. [3] 4. [↑](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-hsp2024_4-0) Katz, O., Maman, Y., et al. (2024). «Hint-before-Solving Prompting: Guiding LLMs to Effectively Utilize Scaffolding». *arXiv preprint arXiv:2402.14310*. [4] 5. [↑](https://systems-analysis.info/int/Generated_Knowledge_Prompting_(CS)#cite_ref-zhao2023ve_5-0) Zhao, R., Zhang, J., et al. (2023). «Verify-and-Edit: A Knowledge-Enhanced Chain-of-Thought Framework». *arXiv preprint arXiv:2305.03268*. [5]