Prompt (language models) (TL)

Prompt (mula sa Ingles na prompt — «pahiwatig» o «tekstwal na kahilingan») sa konteksto ng malalaking modelo ng wika (LLM) — ito ang tekstong input o instruksyon na ibinibigay ng gumagamit sa modelo upang makabuo ng kinakailangang sagot. Binubuo ng prompt ang gawain para sa modelo, kasama ang mga kinakailangang kondisyon, konteksto, at mga halimbawa. Ang bisa ng modelo ay malaki ang nakasalalay sa kalidad ng ginawang prompt.

Ang disiplina na nag-aaral ng mga pamamaraan ng pagbuo at pag-optimize ng mga tekstwal na kahilingan ay tinatawag na prompt engineering. Ang layunin nito — ang makakuha mula sa mga AI-modelo ng pinaka-angkop, tumpak at ligtas na mga sagot. Ang maayos na nabuo na prompt ay nagtatakda sa modelo ng «ruta» ng pagpapatupad ng gawain, tinutulungan itong linawin ang kinakailangang konteksto at ang nais na resulta.

Kasaysayan ng pag-unlad ng pamamaraan

Ang ideya ng pamamahala ng gawi ng LLM sa pamamagitan ng mga tekstwal na pahiwatig ay umunlad habang lumalaki ang mga kakayahan ng mga modelo mismo.

Mga unang yugto (GPT-2)

Noong 2019 pa, ipinakita ng mga mananaliksik ng OpenAI na ang malalaking pre-trained na modelo ng wika, tulad ng GPT-2, ay may kakayahang malutas ng mga bagong gawain nang walang karagdagang pagsasanay, kung ang mga ito ay ibubuod sa anyo ng teksto. Ang gawa na «Language Models are Unsupervised Multitask Learners» ay nagmarka ng isang mahalagang pagbabago: sa halip na mag-fine-tune ng modelo para sa bawat gawain, naging sapat na ang bumuo ng malinaw na instruksyon para sa input nito.

Breakthrough sa GPT-3 at In-Context Learning

Ang tunay na breakthrough ay nangyari nang mailabas ang modelo na GPT-3 noong 2020. Sa 175 bilyong parameter, ipinakita ng GPT-3 ang kakayahan sa in-context learning — ang pag-aaral ng bagong gawain «on the fly» mula sa ilang mga halimbawa na ibinibigay nang direkta sa teksto ng kahilingan. Ang mode na ito ng operasyon ay tinawag na few-shot learning («pag-aaral sa ilang halimbawa») at nagpakita na ang pagpapalaki ng laki ng modelo ay nagdudulot ng mataas na kalidad ng pagpapatupad ng mga NLP-gawain nang walang anumang pag-aayos ng mga timbang.

Paglitaw ng Chain-of-Thought (CoT)

Ang karagdagang pag-unlad noong 2022 ay nauugnay sa pagpapabuti ng kakayahan ng mga modelo sa kumplikadong lohikal na pangangatuwiran. Iminungkahi ang mga espesyal na pahiwatig sa format ng chain-of-thought prompting. Sa mga ganitong prompt, ang modelo ay tumatanggap hindi lamang ng tanong, kundi pati na rin ng isang halimbawa ng sunud-sunod, hakbang-hakbang na pangangatuwiran bago ang sagot. Ito ay kapansin-pansing nagpataas ng katumpakan ng mga solusyon sa mga aritmetika at lohikal na gawain. Ipinakita ng pananaliksik ni Kojima at ng kanyang mga kasamahan na ang modelo ay maaaring pukawin sa pangangatuwiran kahit walang mga halimbawa (zero-shot), sa pamamagitan lamang ng pagdaragdag sa dulo ng kahilingan ng parirala na «Mag-isip tayo nang hakbang-hakbang».

Multimodal na mga prompt

Ang konsepto ng mga prompt ay lumampas sa hangganan ng teksto. Noong 2022, sa paglitaw ng mga modelo na DALL-E 2 at Stable Diffusion, ang mga kahilingan ng gumagamit sa natural na wika ay naging unibersal na interface para sa pagbuo ng mga larawan, at kalaunan — ng musika at video.

Mga uri at teknik ng paggamit ng mga prompt

Mayroong ilang pangunahing uri at teknik ng mga prompt, na madalas na pinagsama-sama.

Zero-shot prompting (Direktang kahilingan)

Ang modelo ay tumatanggap lamang ng instruksyon o tanong nang walang anumang mga halimbawa. Sa mode na ito, ang LLM ay umaasa sa kanyang pangkalahatang kaalaman na nakuha sa pre-training. Angkop para sa mga simpleng gawain, tulad ng pagsasalin o pagbubuod ng teksto.

Few-shot prompting (Pag-aaral sa mga halimbawa)

Sa karagdagan sa instruksyon, ang prompt ay naglalaman ng isa o ilang mga halimbawa na may mga input at inaasahang output. Ang modelo ay «natututo on the fly» mula sa mga sample na ito at inilalapat ang natutunan na lohika sa bagong kahilingan. Ang pamamaraang ito, na nagpapatupad ng in-context learning, ay kapansin-pansing nagpapataas ng katumpakan sa mga gawain kung saan mahalaga ang isang tiyak na format o istilo ng sagot.

Tanikala ng pangangatuwiran (Chain-of-Thought, CoT)

Isang espesyal na uri ng prompt para sa mga gawain na nangangailangan ng kumplikadong pangangatuwiran (matematika, lohika). Ang prompt ay naglalaman ng hakbang-hakbang na pagpapaliwanag o plano ng solusyon bago ang panghuling sagot. Pinipilit nito ang modelo na hayagang buuin ang proseso ng pangangatuwiran, na kapansin-pansing nagpapabuti ng kalidad ng resulta.

Pag-aayos ng pahiwatig (Prompt Tuning)

Isang teknik kung saan sa halip na manu-manong pagsulat ng prompt ay gumagamit ng awtomatikong na-optimize na pahiwatig. Ang prompt ay kinakatawan bilang isang hanay ng mga espesyal na naaral na token (patuloy na vector), na idinaragdag sa kahilingan ng gumagamit. Sa pamamagitan ng pagsasanay lamang sa maliit na vector-prompt na ito, maaaring i-adapt ang isang malaking «frozen» na modelo sa isang bagong gawain na may pinakamaliit na gastos sa pagkukumpute.

Prompt engineering bilang isang disiplina

Paglitaw ng propesyon

Ang paglago ng mga kakayahan ng LLM ay humantong sa paglitaw ng bagong espesyalisasyon — prompt engineer. Ang mga espesyalistang ito ay nagbubuo at nagde-debug ng mga tekstwal na pahiwatig upang makuha ang kinakailangang gawi mula sa AI. Gumagamit ang mga prompt engineer ng kaalaman sa larangan ng lingguwistika, lohika, at sikolohiya upang buuin ang mga input data sa pinaka-epektibong paraan. Noong 2022–2023, lumitaw ang mga unang bakanteng posisyon para sa tungkuling ito, na nagpapakita ng mataas na pangangailangan para sa mga kasanayan ng epektibong pakikipag-ugnayan sa mga AI-sistema.

Hinaharap ng propesyon at automation

Ang larangan ay mabilis na umuunlad, at ang kinabukasan nito ay paksa ng talakayan. Ang mga pananaliksik noong 2024, halimbawa mula sa VMware, ay nagpakita na ang AI mismo ay may kakayahang sa pamamagitan ng paghahanap at pag-optimize ay makahanap ng mga epektibong pagbubuo ng mga kahilingan, na madalas na lumalagpas sa mga ginawa ng tao. Ito ay nagsilang ng opinyon na ang manu-manong prompt engineering ay maaaring maging pansamantalang kababalaghan, at sa paglipas ng panahon, ang mga tool para sa awtomatikong pagpili ng mga pahiwatig ay magiging pamantayan. Gayunpaman, sa kasalukuyan noong 2025, ang kadalubhasaan sa larangan ng prompt engineering ay nananatiling hinihangad.

Mga larangan ng paggamit

• Pagproseso ng natural na wika: Mga klasikong NLP-gawain, tulad ng awtomatikong pagbubuod ng mga dokumento, makina na pagsasalin, pagsagot sa mga tanong, at pagkuha ng impormasyon.
• Mga chat-bot at virtual assistant: Tinutulungan ng mga prompt na itakda ang papel, istilo ng komunikasyon, at format ng mga sagot, na ginagawang mas konsistente at kapaki-pakinabang ang mga sistema ng diyalogo.
• Pagbuo ng code: Ang mga modelo, tulad ng OpenAI Codex, ay may kakayahang sumulat ng code ng programa ayon sa paglalarawan sa natural na wika, na nagpapabilis ng pagpapaunlad.
• Pagsusuri ng data: Sa tulong ng mga prompt, maaaring i-configure ang modelo upang kumuha ng mga insight mula sa mga hindi nakaistraktura na tekstwal na ulat o bumuo ng mga hipotesis.
• Edukasyon: Paglikha ng mga matalinong tutor na bumubuo ng mga gawain, nagpapaliwanag ng mga kumplikadong konsepto, at sinusuri ang mga sagot na isinasaalang-alang ang antas ng paghahanda ng mag-aaral.
• Mga malikhaing industriya: Pagbuo ng mga teksto, mga artistikong larawan, musika, at mga senaryo ayon sa detalyadong paglalarawan.

Mapanganib na paggamit at mga kahinaan (Prompt Injection)

Ang pagiging bukas ng interface ng LLM ay humantong sa paglitaw ng bagong klase ng mga pag-atake — prompt injection («paglusot ng pahiwatig»). Ang isang masamang aktor ay bumubuo ng espesyal na mapanganib na kahilingan na nagpipilit sa modelo na labagin ang mga orihinal na instruksyon nito o ilabas ang nakatagong impormasyon. Tinitingnan ng mga eksperto ito bilang isang uri ng pag-atake na katulad ng «code injection», kung saan sa halip na code ay «iniksyon» ang mga mapanlinlang na tekstwal na instruksyon sa sistema.

Mga uri ng pag-atake

• Jailbreak: Isang pag-atake na nagpapahintulot sa modelo na «makatakas» mula sa ipinataw na mga limitasyon (halimbawa, mga patakaran sa moderasyon) at bumuo ng ipinagbabawal na nilalaman. Isang kilalang halimbawa ay ang DAN-prompt (Do Anything Now), na nagpipilit sa ChatGPT na sumagot nang walang censura.
• Prompt Leaking: Ang isang espesyal na kahilingan ay nagpipilit sa modelo na ilabas ang mga fragment ng nakatagong system prompt nito.
• Token Smuggling: Ang mapanganib na instruksyon ay nagbabalatkayo bilang isang walang masamang bahagi ng kahilingan (halimbawa, isang fragment ng code), upang maiwasan ang mga filter at maprovoke ang hindi nais na gawi.

Ang mga pag-atakeng ito ay nagdudulot ng seryosong problema, dahil ang mga tradisyonal na pamamaraan ng cybersecurity ay hindi angkop para sa mga banta na nauugnay sa interpretasyon ng natural na wika.

Mga Sanggunian

• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
• Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
• Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
• Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
• Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [5].
• Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
• Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.