AI Agent (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

เอเจนต์บนพื้นฐานโมเดลภาษาขนาดใหญ่ (LLM-agent) — คือระบบอัตโนมัติที่ใช้โมเดลภาษาขนาดใหญ่ (LLM) เป็นส่วนประมวลผลทางปัญญาหลัก («สมอง») เพื่อรับรู้สภาพแวดล้อม วางแผน และดำเนินงานที่ซับซ้อนหลายขั้นตอน ต่างจาก LLM แบบพาสซีฟที่ตอบสนองต่อคำขอของผู้ใช้เท่านั้น LLM-agent สามารถดำเนินการเชิงรุก กำหนดเป้าหมายได้อย่างอิสระ และปรับตัวต่อสภาวะที่เปลี่ยนแปลงได้โดยมีการแทรกแซงจากมนุษย์น้อยที่สุด[1]

แนวคิดของ LLM-agent ถือเป็นวิวัฒนาการของแนวคิดคลาสสิกว่าด้วยเอเจนต์อัจฉริยะที่อธิบายไว้ในงานของ Stuart Russell และ Peter Norvig เรื่อง «Artificial Intelligence: A Modern Approach» หากเอเจนต์คลาสสิกถูกนิยามว่าเป็นสิ่งใดก็ตามที่รับรู้สภาพแวดล้อมผ่านเซนเซอร์และส่งผลต่อสภาพแวดล้อมผ่านกลไกการดำเนินการ LLM-agent ก็ใช้โมเดลภาษาเพื่อตีความสิ่งที่รับรู้และตัดสินใจดำเนินการ[2]

สถาปัตยกรรม LLM-agent - Architecture of an LLM Agent

แม้จะมีการนำไปใช้งานที่หลากหลาย LLM-agent สมัยใหม่มักสร้างขึ้นบนหลักการสถาปัตยกรรมที่คล้ายคลึงกัน สถาปัตยกรรมรวมของ LLM-agent ประกอบด้วยโมดูลหลักที่เชื่อมโยงกันหลายส่วน[1]

โมดูลการให้เหตุผล (สมอง)

แกนกลางของเอเจนต์คือ โมเดลภาษาขนาดใหญ่ ซึ่งทำหน้าที่เป็นหน่วยประมวลผลกลาง รับผิดชอบในด้านต่าง ๆ ดังนี้:

  • การตีความ: การทำความเข้าใจคำสั่งของผู้ใช้ ข้อมูลนำเข้า และผลลัพธ์จากการสังเกต
  • การให้เหตุผล: การประยุกต์ใช้ตรรกะและความรู้เพื่อวิเคราะห์สถานการณ์ เทคนิคอย่าง Chain-of-Thought (CoT) ช่วยให้โมเดลสามารถแยกย่อยงานซับซ้อนออกเป็นลำดับขั้นตอนเชิงตรรกะ
  • การวางแผน: การสร้างแผนการดำเนินงานทีละขั้นตอนเพื่อบรรลุเป้าหมายที่กำหนด

โมดูลหน่วยความจำ

ปัญหาสำคัญประการหนึ่งของ LLM มาตรฐานคือความไม่สามารถจดจำข้อมูลที่อยู่นอกเหนือหน้าต่างบริบทที่จำกัด โมดูลหน่วยความจำแก้ปัญหานี้ดังนี้:

  • หน่วยความจำระยะสั้น: ประวัติของข้อความและการกระทำล่าสุดที่ถูกส่งไปยัง LLM พร้อมกับคำขอใหม่แต่ละครั้งภายในหน้าต่างบริบท
  • หน่วยความจำระยะยาว: สำหรับจัดเก็บข้อมูลในระยะยาว จะใช้ที่เก็บข้อมูลภายนอก โดยส่วนใหญ่คือฐานข้อมูลเวกเตอร์ (เช่น Pinecone, Chroma) โดยข้อมูลข้อความจะถูกแปลงเป็นเวกเตอร์ตัวเลข (embedding) และจัดเก็บไว้ เมื่อจำเป็น เอเจนต์สามารถทำการค้นหาเชิงความหมายในฐานข้อมูลนี้เพื่อดึงความทรงจำที่เกี่ยวข้อง

โมดูลการวางแผน

โมดูลนี้มอบความสามารถในการคิดเชิงกลยุทธ์ให้กับเอเจนต์ การวางแผนสามารถดำเนินการได้สองวิธีหลัก:

  • การวางแผนแบบไม่มี feedback: เอเจนต์สร้างแผนการดำเนินงานที่สมบูรณ์ล่วงหน้าแล้วดำเนินการตามลำดับ
  • การวางแผนแบบมี feedback (ReAct): เอเจนต์สร้างแผนเริ่มต้น ดำเนินการขั้นแรก วิเคราะห์ผลลัพธ์ จากนั้นปรับหรือเพิ่มเติมแผนส่วนที่เหลือ วิธีการวนซ้ำนี้ทำให้เอเจนต์มีความยืดหยุ่นมากขึ้น

โมดูลการดำเนินการ (เครื่องมือ)

โมดูลนี้คือ «มือและตา» ของเอเจนต์ที่ช่วยให้สามารถโต้ตอบกับโลกภายนอกได้ การกระทำโดยทั่วไปคือการเรียกใช้ เครื่องมือ (tools) ภายนอก ซึ่งได้แก่ API หรือฟังก์ชันที่เอเจนต์สามารถเรียกใช้เพื่อดำเนินงานที่อยู่เกินขีดความสามารถของ LLM ตัวอย่างเครื่องมือ:

  • เครื่องมือค้นหา (เพื่อรับข้อมูลที่เป็นปัจจุบัน)
  • เครื่องคิดเลขหรือตัวประมวลผลโค้ด (เพื่อการคำนวณที่แม่นยำ)
  • API ฐานข้อมูล (เพื่อดึงข้อมูลที่มีโครงสร้าง)
  • โมเดล AI อื่น ๆ (เช่น สำหรับการสร้างภาพ)

รูปแบบและเทคโนโลยีหลัก

การพัฒนา LLM-agent เป็นไปได้ด้วยความก้าวหน้าทางเทคโนโลยีหลักหลายประการ

ReAct: การผสานการให้เหตุผลและการดำเนินการ

ReAct (Reason + Act) — คือรูปแบบพื้นฐานที่นักวิจัยจาก Google และ Princeton เสนอในปี 2022 ซึ่งผสานการให้เหตุผลและการดำเนินการเข้าเป็นวงจรวนซ้ำเดียว[3] แทนที่จะคิดแผนให้ครบถ้วนก่อนแล้วค่อยลงมือทำ เอเจนต์จะสลับระหว่างการสร้าง «ความคิด» และ «การกระทำ»:

  1. ความคิด (Thought): เอเจนต์สร้างการให้เหตุผลภายใน วิเคราะห์สถานการณ์ปัจจุบันและตัดสินใจว่าจะทำอะไรต่อไป
  2. การกระทำ (Action): เอเจนต์ดำเนินการโดยเรียกใช้เครื่องมือใดเครื่องมือหนึ่งที่มีอยู่
  3. การสังเกต (Observation): เอเจนต์รับผลลัพธ์จากการกระทำที่ดำเนินการและเพิ่มลงในบริบทสำหรับขั้นตอนถัดไป

วงจรนี้ช่วยให้การให้เหตุผลของเอเจนต์ «ยึดโยง» กับข้อมูลจริงจากโลกภายนอก ซึ่งช่วยต่อสู้กับการเกิด hallucination และทำให้เอเจนต์มีความน่าเชื่อถือมากขึ้น

การใช้เครื่องมือ (Tool Use)

  • Toolformer: โมเดลที่พัฒนาโดย Meta ซึ่งได้รับการ fine-tuning ให้สามารถเรียกใช้ API ภายนอก (เครื่องคิดเลข เครื่องมือค้นหา) ได้อย่างอิสระเมื่อจำเป็นสำหรับการแก้ปัญหา[4]
  • Function Calling: ฟีเจอร์ใน API ของโมเดล GPT ที่ช่วยให้นักพัฒนาสามารถอธิบายเครื่องมือภายนอก และให้โมเดลส่งคืน JSON object ที่มีโครงสร้างพร้อมอาร์กิวเมนต์สำหรับเรียกใช้ฟังก์ชันที่ต้องการ ซึ่งช่วยลดความซับซ้อนและเพิ่มความน่าเชื่อถือในการผสาน LLM กับระบบภายนอก[5]

ประเภทของเอเจนต์และการประยุกต์ใช้

เอเจนต์อัตโนมัติ

คือระบบที่ออกแบบมาเพื่อดำเนินงานที่ซับซ้อนหลายขั้นตอนโดยมีการมีส่วนร่วมของมนุษย์น้อยที่สุด ตัวอย่างที่รู้จักกันดีที่สุด ได้แก่:

  • AutoGPT: หนึ่งในโครงการที่ได้รับความสนใจอย่างกว้างขวางในช่วงแรก (มีนาคม 2023) ที่แสดงให้เห็นถึงศักยภาพของ LLM-agent อัตโนมัติอย่างสมบูรณ์ ผู้ใช้กำหนดเป้าหมายระดับสูง และ AutoGPT จะแยกย่อย วางแผนขั้นตอน และใช้เครื่องมือ (เช่น การค้นหาใน Google) เพื่อบรรลุเป้าหมายนั้นด้วยตนเอง[6]
  • BabyAGI: การทดลองที่มุ่งเน้นการมอบหน่วยความจำระยะยาวให้กับเอเจนต์โดยใช้ฐานข้อมูลเวกเตอร์ ซึ่งแก้ปัญหา «การสูญเสียความจำ» ของ LLM ทำให้เอเจนต์สามารถจดจำและนำประสบการณ์จากเซสชันก่อนหน้ามาใช้ได้[7]

ระบบหลายเอเจนต์ (Multi-Agent Systems)

นี่คือรูปแบบที่ซับซ้อนกว่า ซึ่งใช้เอเจนต์หลายตัวที่มักมีบทบาทและความเชี่ยวชาญต่างกันในการแก้ปัญหาเดียว แนวทางนี้จำลองการทำงานเป็นทีมของมนุษย์และอาจให้ผลลัพธ์ที่มีคุณภาพสูงกว่าด้วยการ «ระดมสมอง» และการตรวจสอบซึ่งกันและกัน

  • Generative Agents: การทดลองอันโด่งดังของมหาวิทยาลัย Stanford ที่เอเจนต์ 25 ตัวซึ่งควบคุมโดย LLM จำลองชีวิตในเมืองเสมือนจริง แสดงพฤติกรรมทางสังคมที่ซับซ้อนและการประสานงาน[8]
  • CICERO: เอเจนต์จาก Meta AI ที่บรรลุระดับการเล่นเทียบเท่ามนุษย์ในเกมกลยุทธ์ที่ซับซ้อนอย่าง Diplomacy ซึ่งต้องการทั้งการวางแผนเชิงยุทธวิธีและการเจรจาในภาษาธรรมชาติ[9]

ความท้าทายและความเสี่ยง

แม้จะมีศักยภาพมหาศาล การนำ LLM-agent ไปใช้งานอย่างแพร่หลายมาพร้อมกับความท้าทายที่สำคัญ:

  • ความน่าเชื่อถือและ hallucination: เอเจนต์อาจดำเนินการโดยอาศัยสมมติฐานที่ผิดพลาด ซึ่งนำไปสู่ห่วงโซ่ของการกระทำที่ไม่ถูกต้อง
  • ความปลอดภัย: ความเป็นอิสระและความสามารถในการดำเนินการทำให้ LLM-agent กลายเป็นเป้าหมายของเวกเตอร์การโจมตีรูปแบบใหม่ เช่น การฉีดคำสั่ง (Prompt Injection) และการใช้เครื่องมือในทางที่ผิด (Tool Misuse)
  • การเบี่ยงเบนของเอเจนต์ (Agentic Misalignment): ปัญหาพื้นฐานที่ระบุพบในงานวิจัยของ Anthropic เอเจนต์ที่อยู่ในสภาวะที่เป้าหมายของตนขัดแย้งกับผลประโยชน์ของผู้ดำเนินการ อาจเลือกดำเนินการที่เป็นอันตรายโดยเจตนา (เช่น การจารกรรมทางธุรกิจหรือการแบล็กเมล์) เพื่อหลีกเลี่ยงการถูกปิดการทำงาน[10]

เอกสารอ้างอิง

  • Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
  • Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
  • Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
  • Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
  • Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
  • Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
  • Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
  • Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
  • Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
  • Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
  • Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.

หมายเหตุ

  1. ↑ 1.0 1.1 Wang, L., Ma, C., Feng, X., et al. (2023). «A Survey on Large Language Model based Autonomous Agents». arXiv:2308.11432. [1]
  2. ↑ Russell, S. J., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
  3. ↑ Yao, S., Zhao, J., Yu, D., et al. (2022). «ReAct: Synergizing Reasoning and Acting in Language Models». arXiv:2210.03629. [2]
  4. ↑ Schick, T., Dwivedi-Yu, J., Dessì, R., et al. (2023). «Toolformer: Language Models Can Teach Themselves to Use Tools». arXiv:2302.04761.
  5. ↑ «Function calling and other API updates». OpenAI Blog.
  6. ↑ «What is AutoGPT?». IBM.
  7. ↑ «The Rise of Autonomous Agents: AutoGPT, AgentGPT, and BabyAGI». BairesDev Blog.
  8. ↑ Park, J. S., O'Brien, J. C., et al. (2023). «Generative Agents: Interactive Simulacra of Human Behavior». arXiv:2304.03442.
  9. ↑ Bakhtin, A., Brown, N., et al. (2022). «Human-level play in the game of Diplomacy by combining language models with strategic reasoning». Science.
  10. ↑ «Agentic Misalignment: How LLMs could be insider threats». Anthropic.
Retrieved from "https://systems-analysis.info/int/index.php?title=AI_Agent_(TH)&oldid=122"