LLM cost optimization — การปรับปรุงประสิทธิภาพต้นทุนการใช้งาน LLM
การปรับปรุงประสิทธิภาพต้นทุนการใช้งานโมเดลภาษาขนาดใหญ่ (LLM) — คือชุดของกลยุทธ์และวิธีการทางเทคนิคที่มุ่งลดทรัพยากรด้านการคำนวณและการเงินที่จำเป็นสำหรับการฝึกสอน การ fine-tuning และโดยเฉพาะอย่างยิ่งการประมวลผล (inference) ของโมเดลภาษาขนาดใหญ่ ความสำคัญของสาขานี้มาจากต้นทุนมหาศาลทั้งในด้านการพัฒนาและการดำเนินงาน LLM
ตัวอย่างเช่น การฝึกสอนโมเดล GPT-3 ที่มี 175 พันล้านพารามิเตอร์ ประเมินว่ามีค่าใช้จ่ายประมาณ $4.6 ล้าน บนโครงสร้างพื้นฐาน GPU บนคลาวด์[1] และต้องใช้พลังงานไฟฟ้า 1.3 ล้าน kWh[2] อย่างไรก็ตาม ค่าใช้จ่ายหลักมักเกิดขึ้นในขั้นตอน inference จากการประเมิน ค่าใช้จ่ายการดำเนินงานรายวันในการรองรับบริการ ChatGPT ช่วงต้นปี 2023 อยู่ที่ประมาณ $700,000 (ประมาณ $0.0036 ต่อคำขอหนึ่งครั้ง) ซึ่งสูงกว่าค่าใช้จ่ายในการฝึกสอนครั้งเดียวหลายเท่า[3]
การปรับปรุงประสิทธิภาพในขั้นตอนการฝึกสอนและการเลือกโมเดล
การจัดการต้นทุนอย่างมีประสิทธิภาพเริ่มต้นจากการตัดสินใจพื้นฐานที่เกิดขึ้นก่อนขั้นตอน inference
กฎการขยายขนาด: ขนาดโมเดล vs. ปริมาณข้อมูล
หนึ่งในความก้าวหน้าสำคัญในการทำความเข้าใจเศรษฐศาสตร์การฝึกสอน LLM คือ กฎการขยายขนาดแบบ Chinchilla ที่นักวิจัยจาก DeepMind นำเสนอในปี 2022 พวกเขาแสดงให้เห็นว่าเพื่อการใช้งบประมาณการคำนวณอย่างเหมาะสมที่สุด ควรฝึกสอนโมเดลด้วยข้อมูลจำนวนมากกว่าที่เคยทำมาอย่างมีนัยสำคัญ[4]
ในอดีตมีการสันนิษฐานว่าประสิทธิภาพเพิ่มขึ้นส่วนใหญ่จากการเพิ่มจำนวนพารามิเตอร์ อย่างไรก็ตาม งานวิจัย Chinchilla แสดงให้เห็นว่าโมเดล Chinchilla (70 พันล้านพารามิเตอร์) ที่ฝึกสอนบน 1.4 ล้านล้าน token มีคุณภาพเหนือกว่าโมเดลขนาดใหญ่กว่ามากอย่าง GPT-3 (175 พันล้านพารามิเตอร์) ที่ฝึกสอนบน token เพียงประมาณ 300 พันล้าน[5] อัตราส่วนที่แนะนำคือประมาณ 20 token ของข้อมูลฝึกสอนต่อพารามิเตอร์หนึ่งตัวของโมเดล แนวทางนี้ช่วยสร้างโมเดลที่กะทัดรัดและมีประสิทธิภาพมากขึ้น ลดทั้งต้นทุนการฝึกสอนและ inference ในภายหลัง
การ Fine-tuning และประสิทธิผลของมัน
แทนที่จะฝึกสอนโมเดลจากศูนย์ซึ่งมีค่าใช้จ่ายสูง การ fine-tuning โมเดลโอเพนซอร์สที่มีอยู่แล้ว (เช่น ตระกูล LLaMA, Falcon) กลายเป็นแนวปฏิบัติที่แพร่หลายมากขึ้น เพื่อลดต้นทุนลงอีก จึงมีการใช้วิธีการ Parameter-Efficient Fine-Tuning (PEFT)
วิธีที่ได้รับความนิยมมากที่สุดคือ LoRA (Low-Rank Adaptation) ซึ่งช่วยให้ปรับโมเดลได้โดยอัปเดตเพียงพารามิเตอร์เพิ่มเติมจำนวนน้อย งานวิจัยแสดงให้เห็นว่า LoRA สามารถลดต้นทุน fine-tuning ได้หลายสิบเปอร์เซ็นต์ (ถึง ~68% ในบางสถานการณ์) โดยมีผลกระทบต่อคุณภาพน้อยมาก[6]
การลดขนาดโมเดล (Model Compression)
ทิศทางการปรับปรุงประสิทธิภาพที่สำคัญที่สุดคือการลดขนาดทางกายภาพของโมเดลในขณะที่รักษาประสิทธิภาพไว้
การกลั่นความรู้ (Knowledge Distillation)
การกลั่นความรู้ คือกระบวนการที่โมเดล "ครู" ขนาดใหญ่และทรงพลังถูกใช้เพื่อฝึกสอนโมเดล "นักเรียน" ที่กะทัดรัดกว่า โดยนักเรียนจะเรียนรู้การเลียนแบบคำตอบของครูบนชุดข้อมูลขนาดใหญ่ เพื่อรับถ่ายทอด "ความรู้" ของครู วิธีนี้ช่วยให้ได้คุณภาพที่เทียบเคียงได้ในงานเฉพาะด้วยต้นทุนที่น้อยกว่ามาก ตัวอย่างเช่น โมเดล DeepSeek-R1 ถูก distill สำเร็จจาก 671 พันล้านพารามิเตอร์ลงเหลือ 70 พันล้าน และแม้แต่ 1.5 พันล้านพารามิเตอร์ โดยมีการสูญเสียคุณภาพในระดับที่ยอมรับได้สำหรับแอปพลิเคชันจำนวนมาก[7]
การ Quantization
Quantization คือกระบวนการลดความแม่นยำเชิงตัวเลขที่ใช้แทนน้ำหนักของโมเดล แทนที่จะใช้ตัวเลขทศนิยม 32 บิตหรือ 16 บิตแบบมาตรฐาน จะใช้จำนวนเต็ม 8 บิตหรือแม้แต่ 4 บิตแทน
- Quantization แบบ 8 บิต ลดขนาดโมเดลลงประมาณ 50% โดยมีการสูญเสียความแม่นยำประมาณ 1%
- Quantization แบบ 4 บิต ลดขนาดโมเดลลง 75% ในขณะที่ยังคงรักษาคุณภาพการอนุมานที่สามารถแข่งขันได้[7]
เมื่อมีการรองรับจากฮาร์ดแวร์ (เช่น ใน GPU รุ่นใหม่จาก Nvidia) และไลบรารีซอฟต์แวร์ (เช่น TensorRT) quantization สามารถเร่ง inference ได้ 2–4 เท่า[8]
การปรับปรุงประสิทธิภาพในขั้นตอน Inference
เมื่อโมเดลได้รับการฝึกสอนและนำไปใช้งานแล้ว ค่าใช้จ่ายส่วนใหญ่เกี่ยวข้องกับการใช้งานประจำวัน
การรวมคำขอเป็นกลุ่ม (Batching)
Batching คือการรวมคำขอของผู้ใช้หลายรายการเป็น "batch" เดียวเพื่อประมวลผลพร้อมกันบน GPU ซึ่งช่วยเพิ่มการใช้งานฮาร์ดแวร์และปริมาณงานโดยรวมอย่างมีนัยสำคัญ สำหรับ LLM ที่การสร้างคำตอบเกิดขึ้นทีละ token วิธีที่มีประสิทธิภาพสูงสุดคือ continuous/in-flight batching วิธีนี้ช่วยให้สามารถเพิ่มคำขอใหม่เข้า batch ได้แบบไดนามิกเมื่อคำขออื่นในนั้นเสร็จสิ้น ซึ่งขจัดเวลาว่างและเพิ่มการโหลด GPU ให้สูงสุด[9]
การ Cache ค่าคีย์และค่า (KV Cache)
ในโมเดล transformer การสร้าง token ใหม่แต่ละตัวต้องการข้อมูลเกี่ยวกับ token ทั้งหมดก่อนหน้า เพื่อหลีกเลี่ยงการเติบโตแบบเอ็กซ์โพเนนเชียลของการคำนวณ จึงมีการใช้ KV Cache ระบบจะบันทึกผลลัพธ์กลางของการคำนวณจากกลไก attention สำหรับ context ที่ประมวลผลไปแล้วและนำกลับมาใช้ใหม่ ทำให้การสร้างลำดับยาวและบทสนทนาหลายรอบมีประสิทธิภาพมากขึ้นอย่างมีนัยสำคัญ[7]
การปรับปรุงประสิทธิภาพกลไก Attention
การจัดเก็บ KV Cache ต้องการหน่วยความจำจำนวนมาก เพื่อลดปริมาณนี้ จึงได้มีการพัฒนารูปแบบกลไก attention ที่ปรับปรุงแล้ว:
- Multi-Query Attention (MQA): หัว attention ทั้งหมดใช้ชุดค่าคีย์และค่าร่วมกันชุดเดียว
- Grouped-Query Attention (GQA): การประนีประนอมระดับกลาง โดยหัว attention แบ่งออกเป็นกลุ่ม และแต่ละกลุ่มใช้ชุดค่าคีย์และค่าร่วมกัน
บริษัท Meta ได้นำ GQA ไปใช้สำเร็จในโมเดล LLaMA 2 ซึ่งช่วยเพิ่มประสิทธิภาพ inference อย่างมีนัยสำคัญเมื่อทำงานกับ context ยาว โดยไม่สูญเสียคุณภาพอย่างมีนัยสำคัญ[10]
การปรับปรุงประสิทธิภาพโครงสร้างพื้นฐานและสถาปัตยกรรมระบบ
ระบบไฮบริดและ Retrieval-Augmented Generation (RAG)
ไม่ใช่ทุกงานที่ต้องการโมเดลที่ใหญ่ที่สุดและทรงพลังที่สุด แนวทาง ไฮบริด หรือ แบบ cascade คือการใช้โมเดลขนาดเล็กและราคาถูกสำหรับคำของ่ายๆ และเฉพาะในกรณีที่ล้มเหลวหรือสำหรับงานที่ซับซ้อนจึงส่งคำขอไปยังโมเดลขนาดใหญ่และมีราคาแพง
กรณีเฉพาะที่มีประสิทธิภาพสูงของแนวทางนี้คือ Retrieval-Augmented Generation (RAG) ในสถาปัตยกรรมนี้ LLM สามารถมีขนาดค่อนข้างกะทัดรัดได้ เนื่องจากใช้ข้อมูลที่เป็นปัจจุบันจากฐานความรู้ภายนอก (เช่น เอกสารองค์กรหรือระบบค้นหา) เพื่อตอบคำถาม วิธีนี้ไม่เพียงลดข้อกำหนดด้านขนาดโมเดล แต่ยังแก้ปัญหาการสร้างข้อมูลเท็จ (hallucination) การนำโมเดลเฉพาะทางขนาด 70 พันล้านพารามิเตอร์พร้อม RAG ไปใช้งานบนโครงสร้างพื้นฐานภายในองค์กรอาจ ถูกกว่า 2–4 เท่า เมื่อเทียบกับการใช้ API GPT-4 บนคลาวด์[11]
หมายเหตุ
- ↑ «OpenAI's GPT-3 Language Model: A Technical Overview». Lambda Labs. [1]
- ↑ «The Energy Footprint of Humans and Large Language Models». Communications of the ACM. [2]
- ↑ «The Inference Cost Of Search Disruption - Large Language Model Cost Analysis». SemiAnalysis. [3]
- ↑ Hoffmann, J., et al. (2022). «Training Compute-Optimal Large Language Models». arXiv:2203.15556.
- ↑ Chow, T. (2024). «Three Kuhnian Revolutions in ML Training». Substack. [4]
- ↑ «A Study to Evaluate the Impact of LoRA Fine-tuning on the Performance of Non-functional Requirements Classification». arXiv:2503.07927. (2025).
- ↑ 7.0 7.1 7.2 «LLM Inference Optimization: How to Speed Up, Cut Costs, and Scale AI Models». deepsense.ai. [5]
- ↑ Jin, H., et al. (2024). «GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers».
- ↑ «Continuous vs dynamic batching for AI inference». Baseten Blog. [6]
- ↑ «What is grouped query attention?». IBM. [7]
- ↑ «Inferencing on-premises with Dell Technologies». Dell Technologies Analyst Paper. [8]