Prompt (language models) (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

พรอมต์ (จากภาษาอังกฤษ prompt — «คำแนะนำ» หรือ «คำขอในรูปแบบข้อความ») ในบริบทของโมเดลภาษาขนาดใหญ่ (LLM) คือข้อความนำเข้าหรือคำสั่งที่ผู้ใช้ป้อนให้กับโมเดลเพื่อสร้างคำตอบที่ต้องการ[1] พรอมต์กำหนดงานให้กับโมเดล รวมถึงเงื่อนไขที่จำเป็น บริบท และตัวอย่างต่าง ๆ ประสิทธิภาพของโมเดลขึ้นอยู่กับคุณภาพของพรอมต์ที่เขียนขึ้นเป็นอย่างมาก

สาขาวิชาที่ศึกษาวิธีการพัฒนาและปรับปรุงคำขอในรูปแบบข้อความเรียกว่า prompt engineering (วิศวกรรมพรอมต์) เป้าหมายของสาขานี้คือการได้รับคำตอบที่มีความเกี่ยวข้องสูงสุด แม่นยำ และปลอดภัยจากโมเดล AI[2] พรอมต์ที่เขียนได้อย่างเหมาะสมจะกำหนด «เส้นทาง» การทำงานให้กับโมเดล ช่วยให้ระบุบริบทและผลลัพธ์ที่ต้องการได้ชัดเจนยิ่งขึ้น[1]

ประวัติความเป็นมาของแนวทาง

แนวคิดในการควบคุมพฤติกรรมของ LLM ด้วยคำแนะนำในรูปแบบข้อความพัฒนาขึ้นควบคู่กับความสามารถที่เพิ่มขึ้นของโมเดลเอง

ช่วงแรก (GPT-2)

ในปี 2019 นักวิจัยจาก OpenAI ได้แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่ที่ผ่านการ pretrain แล้ว เช่น GPT-2 สามารถแก้ปัญหาใหม่ ๆ ได้โดยไม่ต้องฝึกเพิ่มเติม หากกำหนดปัญหานั้นในรูปแบบข้อความ งานวิจัยชื่อ «Language Models are Unsupervised Multitask Learners» ได้ชี้ให้เห็นการเปลี่ยนแปลงเชิงหลักการ: แทนที่จะ fine-tune โมเดลสำหรับงานแต่ละอย่าง การเขียนคำสั่งที่ชัดเจนในส่วนนำเข้าก็เพียงพอแล้ว[3]

การก้าวกระโดดครั้งสำคัญกับ GPT-3 และ In-Context Learning

การก้าวกระโดดที่แท้จริงเกิดขึ้นเมื่อ GPT-3 เปิดตัวในปี 2020 ด้วยพารามิเตอร์ 175 พันล้านตัว GPT-3 แสดงให้เห็นความสามารถในการเรียนรู้เชิงบริบท (in-context learning) — การรับรู้งานใหม่ «ทันที» จากตัวอย่างไม่กี่รายการที่ให้ไว้โดยตรงในข้อความของคำขอ[3] รูปแบบการทำงานนี้ได้รับชื่อว่า few-shot learning («การเรียนรู้จากตัวอย่างจำนวนน้อย») และแสดงให้เห็นว่าการขยายขนาดโมเดลนำไปสู่คุณภาพสูงในการทำงาน NLP โดยไม่ต้องปรับน้ำหนักใด ๆ

การเกิดขึ้นของ Chain-of-Thought (CoT)

พัฒนาการต่อมาในปี 2022 เกี่ยวข้องกับการปรับปรุงความสามารถของโมเดลในการให้เหตุผลเชิงซับซ้อน มีการเสนอคำแนะนำพิเศษในรูปแบบของห่วงโซ่การให้เหตุผล (chain-of-thought prompting) ในพรอมต์ประเภทนี้ โมเดลจะได้รับไม่เพียงแค่คำถาม แต่ยังได้รับตัวอย่างการให้เหตุผลแบบลำดับขั้นตอนก่อนคำตอบด้วย วิธีนี้ช่วยเพิ่มความแม่นยำในการแก้โจทย์คณิตศาสตร์และตรรกะอย่างเห็นได้ชัด[2] งานวิจัยของ Kojima และเพื่อนร่วมงานแสดงให้เห็นว่าสามารถกระตุ้นให้โมเดลให้เหตุผลได้แม้ไม่มีตัวอย่าง (zero-shot) เพียงแค่เพิ่มวลี «ลองคิดทีละขั้นตอน» ต่อท้ายคำขอ[2]

พรอมต์แบบมัลติโมดัล

แนวคิดของพรอมต์ขยายออกไปเกินกว่าข้อความ ในปี 2022 เมื่อ DALL-E 2 และ Stable Diffusion ปรากฏขึ้น คำขอของผู้ใช้ในภาษาธรรมชาติกลายเป็นอินเทอร์เฟซสากลสำหรับการสร้างภาพ และต่อมาสำหรับดนตรีและวิดีโอด้วย

ประเภทและเทคนิคการใช้พรอมต์

มีประเภทและเทคนิคพื้นฐานหลายอย่างของพรอมต์ที่มักใช้ร่วมกัน

Zero-shot prompting (การสืบค้นตรง)

โมเดลได้รับเพียงคำสั่งหรือคำถามโดยไม่มีตัวอย่างใด ๆ ในรูปแบบนี้ LLM อาศัยความรู้ทั่วไปที่ได้รับในระหว่างการ pretrain เหมาะสำหรับงานง่าย ๆ เช่น การแปลภาษาหรือการสรุปข้อความ[1]

Few-shot prompting (การเรียนรู้จากตัวอย่าง)

นอกจากคำสั่งแล้ว พรอมต์ยังรวมตัวอย่างหนึ่งรายการหรือมากกว่าที่มีข้อมูลนำเข้าและผลลัพธ์ที่คาดหวัง โมเดล «เรียนรู้ทันที» จากตัวอย่างเหล่านี้และนำตรรกะที่รับรู้มาไปใช้กับคำขอใหม่ วิธีนี้ซึ่งนำ in-context learning ไปใช้งาน ช่วยเพิ่มความแม่นยำอย่างมีนัยสำคัญในงานที่รูปแบบหรือสไตล์ของคำตอบมีความสำคัญ[1]

ห่วงโซ่การให้เหตุผล (Chain-of-Thought, CoT)

พรอมต์ประเภทพิเศษสำหรับงานที่ต้องการการให้เหตุผลเชิงซับซ้อน (คณิตศาสตร์ ตรรกะ) คำแนะนำจะรวมการวิเคราะห์ทีละขั้นตอนหรือแผนการแก้ปัญหาก่อนคำตอบสุดท้าย วิธีนี้บังคับให้โมเดลจัดโครงสร้างกระบวนการให้เหตุผลอย่างชัดเจน ซึ่งช่วยเพิ่มคุณภาพของผลลัพธ์อย่างมีนัยสำคัญ[2]

Prompt Tuning (การปรับแต่งคำแนะนำ)

เทคนิคที่ใช้คำแนะนำที่ปรับปรุงโดยอัตโนมัติแทนการเขียนพรอมต์ด้วยตนเอง พรอมต์จะแสดงในรูปแบบของชุด token ที่ฝึกได้แบบพิเศษ (เวกเตอร์ต่อเนื่อง) ที่เพิ่มเข้ากับคำขอของผู้ใช้ การฝึกเพียงเวกเตอร์พรอมต์ขนาดเล็กนี้ทำให้สามารถปรับโมเดลขนาดใหญ่ที่ «แช่แข็ง» ให้เข้ากับงานใหม่ได้ด้วยต้นทุนการคำนวณขั้นต่ำ[2]

Prompt Engineering - วิศวกรรมพรอมต์ในฐานะสาขาวิชา

การเกิดขึ้นของอาชีพ

ความสามารถที่เพิ่มขึ้นของ LLM นำไปสู่การเกิดขึ้นของความเชี่ยวชาญใหม่ — วิศวกรพรอมต์ ผู้เชี่ยวชาญเหล่านี้พัฒนาและปรับแต่งคำแนะนำในรูปแบบข้อความเพื่อให้ได้พฤติกรรมที่ต้องการจาก AI วิศวกรพรอมต์ใช้ความรู้ด้านภาษาศาสตร์ ตรรกะ และจิตวิทยาเพื่อจัดโครงสร้างข้อมูลนำเข้าอย่างมีประสิทธิภาพสูงสุด[2] ในช่วงปี 2022–2023 ตำแหน่งงานแรกสำหรับตำแหน่งนี้เริ่มปรากฏขึ้น สะท้อนให้เห็นความต้องการสูงสำหรับทักษะการโต้ตอบกับระบบ AI อย่างมีประสิทธิภาพ

อนาคตของอาชีพและการทำงานอัตโนมัติ

สาขานี้พัฒนาอย่างรวดเร็ว และอนาคตของมันเป็นหัวข้อที่ถกเถียงกัน งานวิจัยในปี 2024 เช่น จาก VMware แสดงให้เห็นว่า AI เองสามารถค้นหาการกำหนดคำขอที่มีประสิทธิภาพผ่านการลองและปรับปรุง ซึ่งมักเหนือกว่าที่มนุษย์เขียน[4] สิ่งนี้ทำให้เกิดมุมมองว่า prompt engineering แบบใช้มือทำอาจเป็นปรากฏการณ์ชั่วคราว และในที่สุดเครื่องมือเลือกคำแนะนำอัตโนมัติจะกลายเป็นมาตรฐาน อย่างไรก็ตาม ณ ปี 2025 ความเชี่ยวชาญด้าน prompt engineering ยังคงเป็นที่ต้องการอยู่

ขอบเขตการประยุกต์ใช้

  • การประมวลผลภาษาธรรมชาติ: งาน NLP แบบคลาสสิก เช่น การสรุปเอกสารอัตโนมัติ การแปลภาษาด้วยเครื่อง การตอบคำถาม และการดึงข้อมูล
  • แชทบอทและผู้ช่วยเสมือน: พรอมต์ช่วยกำหนดบทบาท สไตล์การสื่อสาร และรูปแบบคำตอบ ทำให้ระบบสนทนามีความสม่ำเสมอและเป็นประโยชน์มากขึ้น
  • การสร้างโค้ด: โมเดลเช่น OpenAI Codex สามารถเขียนโค้ดโปรแกรมตามคำอธิบายในภาษาธรรมชาติ ซึ่งช่วยเร่งการพัฒนา
  • การวิเคราะห์ข้อมูล: ด้วยพรอมต์สามารถตั้งค่าโมเดลให้ดึง insight จากรายงานข้อความที่ไม่มีโครงสร้างหรือสร้างสมมติฐาน
  • การศึกษา: การสร้างติวเตอร์อัจฉริยะที่สร้างแบบฝึกหัด อธิบายแนวคิดซับซ้อน และตรวจสอบคำตอบโดยคำนึงถึงระดับความรู้ของผู้เรียน
  • อุตสาหกรรมสร้างสรรค์: การสร้างข้อความ ภาพศิลปะ ดนตรี และบทภาพยนตร์ตามคำอธิบายโดยละเอียด

การใช้งานที่เป็นอันตรายและช่องโหว่ (Prompt Injection)

ความเปิดกว้างของอินเทอร์เฟซ LLM นำไปสู่การเกิดขึ้นของประเภทการโจมตีใหม่ — การแทรกคำแนะนำ (prompt injection) ผู้โจมตีกำหนดคำขอที่เป็นอันตรายแบบพิเศษที่บังคับให้โมเดลละเมิดคำสั่งเริ่มต้นหรือเปิดเผยข้อมูลที่ซ่อนอยู่[2] ผู้เชี่ยวชาญมองว่านี่เป็นรูปแบบหนึ่งของการโจมตีแบบ «การแทรกโค้ด» โดยแทนที่จะเป็นโค้ด คำสั่งข้อความที่เป็นอันตรายจะ «ถูกฉีด» เข้าสู่ระบบ

ประเภทของการโจมตี

  • Jailbreak: การโจมตีที่ทำให้โมเดล «หลุดออก» จากกรอบข้อจำกัดที่กำหนดไว้ (เช่น นโยบายการกลั่นกรอง) และสร้างเนื้อหาที่ต้องห้าม ตัวอย่างที่รู้จักกันดีคือ DAN-prompt (Do Anything Now) ที่บังคับให้ ChatGPT ตอบโดยไม่มีการเซ็นเซอร์
  • Prompt Leaking: คำขอพิเศษบังคับให้โมเดลเปิดเผยส่วนหนึ่งของ system prompt ที่ซ่อนอยู่
  • Token Smuggling: คำสั่งที่เป็นอันตรายถูกปลอมแปลงให้ดูเหมือนส่วนที่ไม่เป็นอันตรายของคำขอ (เช่น ส่วนหนึ่งของโค้ด) เพื่อหลีกเลี่ยงตัวกรองและกระตุ้นพฤติกรรมที่ไม่พึงประสงค์

การโจมตีเหล่านี้เป็นปัญหาร้ายแรง เนื่องจากวิธีการรักษาความปลอดภัยทางไซเบอร์แบบดั้งเดิมไม่ได้รับการออกแบบมาสำหรับภัยคุกคามที่เกี่ยวข้องกับการตีความภาษาธรรมชาติ

บรรณานุกรม

  • Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
  • Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
  • Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
  • Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
  • Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
  • Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
  • Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
  • Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [5].
  • Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
  • Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.

หมายเหตุ

  1. 1.0 1.1 1.2 1.3 «Prompt Engineering for AI Guide». Google Cloud. [1]
  2. 2.0 2.1 2.2 2.3 2.4 2.5 2.6 «Техника подсказок». Википедия. [2]
  3. 3.0 3.1 Brown, Tom B., et al. «Language Models are Few-Shot Learners». arXiv:2005.14165 [cs.CL], 28 мая 2020 г. [3]
  4. «AI Prompt Engineering Is Dead». IEEE Spectrum. [4]