Tree of Thoughts (ToT) (TH)

Tree of Thoughts (ToT) (ต้นไม้แห่งความคิด) — คือ framework นวัตกรรมสำหรับการจัดการกระบวนการให้เหตุผลของโมเดลภาษาขนาดใหญ่ (LLM) ที่ช่วยให้โมเดลสามารถแก้ปัญหาอย่างมีสติโดยการสำรวจเส้นทางการให้เหตุผลหลายเส้นทางอย่างเป็นระบบ แนวคิดนี้ถูกนำเสนอในปี 2023 โดยนักวิจัยจากมหาวิทยาลัย Princeton และ Google DeepMind

ToT เป็นการขยายและสรุปรวมของเทคนิค Chain of Thought (CoT) ที่ได้รับความนิยม ต่างจาก CoT ที่กระบวนการให้เหตุผลเป็นลำดับขั้นตอนเชิงเส้นตรงเพียงหนึ่งเดียว ToT จัดระบบกระบวนการคิดในรูปแบบต้นไม้ โดยแต่ละโหนดคือสถานะขั้นกลาง («ความคิด») และกิ่งก้านคือเส้นทางการพัฒนาการให้เหตุผลที่เป็นไปได้ต่าง ๆ วิธีนี้ช่วยให้โมเดลสามารถสำรวจตัวเลือกหลายอย่างพร้อมกัน ประเมินความมีแนวโน้มของแต่ละตัวเลือก ย้อนกลับไปยังขั้นตอนก่อนหน้าเมื่อพบทางตัน (backtracking) และตัดสินใจเลือกอย่างมีสติ

หลักการทำงาน

Framework ToT จัดกระบวนการแก้ปัญหาในลักษณะการค้นหาในต้นไม้สถานะ การทำงานของมันอาศัยการปฏิสัมพันธ์แบบวนซ้ำของส่วนประกอบหลักสี่อย่าง:

1. การแบ่งย่อยปัญหาเป็น «ความคิด»: ปัญหาต้นทางถูกแบ่งออกเป็นขั้นตอนย่อย ๆ ที่เรียกว่า «ความคิด» ต่างจาก CoT ที่ «ความคิด» เป็นเพียง token ถัดไป ใน ToT «ความคิด» คือหน่วยที่มีความหมายเชิงความหมาย (เช่น สมการในโจทย์คณิตศาสตร์ หรือย่อหน้าในแผนงานเขียน) ที่นำไปสู่คำตอบ

2. การสร้างความคิด: ในแต่ละขั้นตอน โมเดลจะสร้าง «ความคิด» ถัดไปที่เป็นไปได้หลายอย่าง (กิ่งก้าน) สำหรับสถานะปัจจุบัน (โหนดในต้นไม้) โดยใช้กลยุทธ์สองแบบ:

• การสุ่มตัวอย่าง (sample): โมเดลสร้างตัวเลือกต่อเนื่องหลายอย่างอย่างอิสระ เหมาะสำหรับงานสร้างสรรค์ที่ต้องการความหลากหลายของแนวคิด
• การเสนอ (propose): โมเดลสร้างตัวเลือกแบบต่อเนื่อง ซึ่งมีประสิทธิภาพมากกว่าสำหรับงานที่มีพื้นที่คำตอบจำกัด

3. การประเมินสถานะ: «ความคิด» ที่ถูกสร้างขึ้นจะถูกประเมินโดย LLM เองเพื่อกำหนดความมีแนวโน้ม การประเมินอาจเป็นตัวเลข (เช่น ในระดับ 0 ถึง 1) หรือแบบหมวดหมู่ («แน่ใจ», «เป็นไปได้», «เป็นไปไม่ได้») นี่คือฟังก์ชัน heuristic ที่นำทางการค้นหาไปยังกิ่งที่มีแนวโน้มดี

4. อัลกอริทึมการค้นหา: ใช้อัลกอริทึมการค้นหาแบบคลาสสิกสำหรับการสำรวจต้นไม้แห่งความคิดอย่างเป็นระบบ:

• การค้นหาแบบกว้างก่อน (BFS): สำรวจโหนดทั้งหมดในระดับเดียวกันก่อนจะเลื่อนไประดับถัดไป รับประกันการพบเส้นทางที่สั้นที่สุด แต่ต้องการหน่วยความจำมากกว่า
• การค้นหาแบบลึกก่อน (DFS): สำรวจกิ่งหนึ่งจนสุดก่อนจะย้อนกลับและลองกิ่งอื่น ประหยัดหน่วยความจำมากกว่าและเหมาะกับงานที่มีพื้นที่ค้นหาลึกแต่ไม่กว้างเกินไป

Framework นี้จำลองการคิดของมนุษย์ในการแก้ปัญหา โดยผสมผสานการสร้างไอเดียแบบสัญชาตญาณ (ด้วย LLM) กับการวางแผนและการพิจารณาตัวเลือกอย่างมีสติและเป็นระบบ

การเปรียบเทียบกับวิธีการให้เหตุผลอื่น ๆ

ToT เทียบกับ Chain of Thought (CoT)

ToT เป็นการสรุปรวมโดยตรงของ CoT หาก CoT สามารถแสดงเป็นต้นไม้ที่มีความกว้างกิ่งเท่ากับ 1 แล้ว ToT ช่วยให้สำรวจต้นไม้ที่มีความกว้างใด ๆ ก็ได้ นี่ให้ข้อได้เปรียบหลัก:

• การสำรวจทางเลือก: ToT สามารถพิจารณาเส้นทางการแก้ปัญหาหลายเส้นทาง ในขณะที่ CoT ถูกจำกัดไว้ที่เส้นทางเชิงเส้นเดียว
• ความสามารถในการย้อนกลับ: ToT ช่วยให้โมเดล «ย้อนกลับ» ได้หากกิ่งการให้เหตุผลตกอยู่ในทางตัน ซึ่งไม่สามารถทำได้ใน CoT
• การวางแผนแบบองค์รวม: ToT ช่วยให้ตัดสินใจเชิงกลยุทธ์โดยอาศัยการประเมินขั้นตอนอนาคตหลายขั้นตอน

ToT เทียบกับ Self-Consistency

Self-Consistency สร้าง Chain of Thought อิสระหลายอันและเลือกคำตอบที่พบบ่อยที่สุดโดยการลงคะแนน วิธีนี้ช่วยเพิ่มความน่าเชื่อถือของ CoT แต่เช่นเดียวกับ CoT ก็ไม่ช่วยให้สำรวจโครงสร้างกิ่งก้านของการแก้ปัญหาได้ ในทางกลับกัน ToT อาจแสดงการปรับปรุงที่มีนัยสำคัญมากกว่าในงานวางแผนที่ซับซ้อน ซึ่งไม่เพียงแต่การพยายามอิสระเท่านั้น แต่ความสัมพันธ์ระหว่างกันก็มีความสำคัญด้วย

ผลลัพธ์เชิงทดลอง

ผู้เขียน ToT ได้แสดงประสิทธิภาพของมันในสามงานที่ต้องการการวางแผนหรือการค้นหาที่ไม่ตรงไปตรงมา

• Game of 24: ปริศนาคณิตศาสตร์ที่ต้องสร้างเลข 24 จากตัวเลขสี่ตัวที่กำหนดโดยใช้การดำเนินการเลขคณิตพื้นฐาน การ prompt มาตรฐานด้วย GPT-4 มีอัตราความสำเร็จ 7.3% Chain of Thought — 4% ToT ที่ใช้การค้นหาแบบกว้างก่อน (b=5) บรรลุความสำเร็จ 74% ซึ่งดีกว่า CoT ถึง 18.5 เท่า
• การเขียนเชิงสร้างสรรค: ในงานการสร้างข้อความที่เชื่อมโยงกันสี่ย่อหน้าโดยมีประโยคสุดท้ายที่กำหนดไว้ ข้อความที่สร้างด้วย ToT ได้รับคะแนนความสอดคล้องเฉลี่ย 7.56 จาก 10 ในขณะที่ CoT — 6.15 ในการเปรียบเทียบ 41 จาก 100 ครั้ง ผู้คนชอบข้อความที่ ToT สร้าง เทียบกับ 21 ครั้งสำหรับ CoT
• ปริศนาอักษรไขว้ขนาดเล็ก (5x5): ToT ตอบคำที่ถูกต้อง 60% ในขณะที่ CoT — เพียง 1%

ข้อจำกัดและทิศทางในอนาคต

แม้จะมีผลลัพธ์ที่น่าประทับใจ แต่ framework ToT มีข้อจำกัดบางประการ:

• ความซับซ้อนในการคำนวณ: ToT ต้องการทรัพยากรการคำนวณมากกว่าอย่างมีนัยสำคัญ (มากกว่า 5–100 เท่าของ token) เมื่อเทียบกับวิธีมาตรฐาน เนื่องจากต้องสร้างและประเมิน «ความคิด» จำนวนมาก
• ความซับซ้อนในการนำไปใช้: การนำ ToT ไปใช้ต้องใช้ความพยายามทางวิศวกรรมอย่างมากในการสร้างและปรับแต่งส่วนประกอบทั้งหมด ได้แก่ ตัวสร้างความคิด ตัวประเมินสถานะ และอัลกอริทึมการค้นหา
• การพึ่งพาคุณภาพของการประเมิน: ประสิทธิภาพของ framework ทั้งหมดขึ้นอยู่กับความสามารถของ LLM ในการประเมินสถานะขั้นกลางอย่างเหมาะสม ซึ่งไม่ได้รับประกันเสมอไป

การวิจัยในอนาคตมุ่งเน้นไปที่การเพิ่มประสิทธิภาพ การทำให้การปรับให้เหมาะสมเป็นแบบอัตโนมัติ และการรวม ToT เข้ากับวิธีการอื่น ๆ เช่น Reinforcement Learning เพื่อสร้าง agent ที่ฉลาดและอัตโนมัติมากขึ้น

ลิงก์

• คลังข้อมูลอย่างเป็นทางการของ Tree of Thoughts บน GitHub
• Tree of Thoughts (ToT) — คู่มือบน Prompt Engineering Guide

เอกสารอ้างอิง

• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Ling, Z. et al. (2023). Deductive Verification of Chain of Thought Reasoning. arXiv:2306.03872.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Lanham, T. et al. (2023). Measuring Faithfulness in Chain-of-Thought Reasoning. arXiv:2307.13702.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.