Large language model — โมเดลภาษาขนาดใหญ่
โมเดลภาษาขนาดใหญ่ (large language model, LLM) — คือประเภทของโมเดล Machine Learning ที่นำไปใช้งานด้วย Neural Network เชิงลึกซึ่งมีพารามิเตอร์จำนวนมาก (โดยทั่วไปหลายพันล้านตัวขึ้นไป) และได้รับการฝึกบนข้อมูลข้อความปริมาณมหาศาล คำว่า «ขนาดใหญ่» ในบริบทนี้หมายถึงทั้งขนาดของพารามิเตอร์และปริมาณของชุดข้อมูลฝึกสอน ซึ่งในระบบสมัยใหม่มีขนาดถึงหลาย petabyte และหลายล้านล้าน token LLM ได้รับการฝึกเป็นหลักด้วยวิธีการแบบ self-/semi-supervised โดยการทำนาย token ถัดไปในลำดับ และด้วยเหตุนี้จึงเรียนรู้รูปแบบทางสถิติของภาษา การเพิ่มขึ้นของพารามิเตอร์ ข้อมูล และขั้นตอนการคำนวณนำไปสู่การปรับปรุงคุณภาพที่คาดการณ์ได้ ซึ่งได้รับการยืนยันโดย scaling laws
หลังจากการปรากฏตัวของ BERT (2017) และโดยเฉพาะอย่างยิ่ง GPT-3 (2020) แนวทาง LLM ได้กลายเป็นแนวทางหลักในการประมวลผลภาษาธรรมชาติ โมเดลสมัยใหม่ (GPT-4o, Claude 3, Gemini 1.5, LLaMA 3 และอื่น ๆ) โดยไม่ต้องปรับแต่งพิเศษสามารถเขียนข้อความและโค้ด แปลภาษา สรุปความ ตอบคำถาม และสร้างสายโซ่การให้เหตุผล โดยเวอร์ชันที่เป็น multimodal สามารถวิเคราะห์ภาพ เสียง และวิดีโอได้ การปรับโมเดลให้เข้ากับงานประยุกต์ทำได้ด้วยการ fine-tuning หรือ prompt engineering และ in-context learning ควบคู่ไปกับความสำเร็จ LLM ยังสืบทอดอคติและข้อผิดพลาดจากข้อมูลต้นทาง มีแนวโน้มที่จะ «ประดิษฐ์ข้อมูลเท็จ» และต้องการทรัพยากรการคำนวณขนาดใหญ่ ดังนั้นการวิจัยในปัจจุบันจึงมุ่งเน้นไปที่การปรับพฤติกรรม การกรองชุดข้อมูล และสถาปัตยกรรมที่ประหยัดพลังงาน
สถาปัตยกรรม
ใน LLM สมัยใหม่มักใช้สถาปัตยกรรม Transformer (ทรานส์ฟอร์เมอร์) – เครือข่ายที่มีกลไก self-attention โมเดล Transformer ถูกเสนอครั้งแรกในบทความ Attention is All You Need โดยนักพัฒนาจาก Google ในปี 2017
สถาปัตยกรรม Transformer — คือโครงสร้าง Neural Network พื้นฐานสำหรับการทำงานกับลำดับ ซึ่งประกอบด้วยโมดูลเชิงตรรกะสองส่วน — encoder (เข้ารหัสข้อมูลขาเข้า) และ decoder (สร้างข้อมูลขาออก) โดยรับลำดับเป็นข้อมูลนำเข้า สร้างการแทนค่าเวกเตอร์ (embedding) จากนั้นเพิ่มเวกเตอร์ positional encoding หลังจากนั้นชุดของสมาชิกโดยไม่คำนึงถึงลำดับจะถูกส่งเข้าส่วนเข้ารหัส (ประมวลผลแบบขนาน) แล้วส่วนถอดรหัสจะรับส่วนหนึ่งของลำดับนั้นและผลลัพธ์จากส่วนเข้ารหัสเป็นข้อมูลนำเข้า ผลลัพธ์ที่ได้คือลำดับขาออกใหม่
ส่วนเข้ารหัสของ Transformer ประกอบด้วยหลายชั้นที่เหมือนกัน ส่วนถอดรหัสก็มีโครงสร้างคล้ายกัน Transformer เองคือลำดับของโมเดล attention ที่แปลงลำดับเวกเตอร์ต้นทางเป็นลำดับใหม่ที่แต่ละสมาชิกคำนึงถึงบริบทของสมาชิกอื่น ๆ encoder สร้างการแทนค่าแฝงของข้อมูลนำเข้าโดยเก็บรักษาข้อมูลเกี่ยวกับความสัมพันธ์ระหว่างสมาชิก decoder บนพื้นฐานของการแทนค่าแฝงสร้างลำดับ embedding ใหม่สำหรับ token ขาออก จากนั้นโดยใช้โมเดลภาษาจะสร้างสมาชิกขาออกสุดท้ายบนพื้นฐานของ embedding เหล่านั้น
เนื่องจาก Transformer ถูกพัฒนาขึ้นในตอนแรกสำหรับงานอย่างการแปลเครื่อง สถาปัตยกรรมจึงประกอบด้วย encoder (ประมวลผลข้อความนำเข้า เช่น ประโยคต้นทาง) และ decoder (สร้างข้อมูลขาออก เช่น คำแปล) อย่างไรก็ตาม โมเดลภาษาจำนวนมากใช้เฉพาะส่วน decoder ที่ทำงานในโหมด autoregressive
Transformer ถูกนำมาใช้ในสามการกำหนดค่าหลัก ซึ่งแต่ละอย่างใช้ encoder และ decoder ต่างกันและมุ่งเน้นงานคนละประเภท:
- Encoder-Transformer (แบบสองทิศทาง) เรียนรู้การกู้คืนส่วนของข้อความที่ซ่อนไว้โดยตั้งใจ จึงเหมาะสำหรับงาน «การทำความเข้าใจ» ได้แก่ การจำแนกประเภท การดึงข้อเท็จจริง และการค้นหาเชิงความหมาย
- Decoder-Transformer (แบบ autoregressive) ปรับให้เหมาะสมกับการทำนาย token ถัดไปและใช้ในงานที่ต้องการข้อมูลขาออกแบบสตรีม ได้แก่ ตัวแทนบทสนทนา การเติมโค้ดอัตโนมัติ และการสร้างสรรค์
- สถาปัตยกรรม encoder + decoder แบบสมบูรณ์ รวมทั้งสองแนวทาง โดย encoder สร้างการแทนค่าของข้อความนำเข้าทั้งหมด และ decoder โดยอาศัยสิ่งนั้นสร้างผลลัพธ์ทีละขั้นตอน การกำหนดค่านี้มีประสิทธิภาพสูงสุดสำหรับการแปลเครื่อง การสรุปความ และระบบถาม-ตอบ
การ Tokenization
การ Tokenization — คือขั้นตอนเริ่มต้นที่สำคัญของการประมวลผลข้อความใน LLM ในขั้นตอนนี้สตริงอักขระต่อเนื่องจะถูกแบ่งออกเป็นหน่วยย่อย — token การ tokenization ทำหน้าที่แปลงลำดับอักขระให้เป็นลำดับของสมาชิกที่มีโครงสร้างเพื่อให้ Neural Network ทำงานได้อย่างมีประสิทธิภาพ
จากมุมมองทางภาษาศาสตร์ การ tokenization อาจสอดคล้องกับกระบวนการแยกหน่วยภาษาขั้นต่ำที่มีความหมายอิสระหรือหน้าที่ในตัวเอง เช่น คำ morpheme หรือส่วนประกอบของคำ อย่างไรก็ตาม บ่อยครั้ง token ก็เป็นเพียงลำดับอักขระที่พบบ่อยทางสถิติ ดังนั้นจึงสำคัญที่จะไม่ประเมินความสมเหตุสมผลทางภาษาศาสตร์ของทุกtoken สูงเกินไป ขึ้นอยู่กับรูปแบบที่เลือก token อาจเป็น: คำเต็ม, คำย่อย, อักขระเดี่ยว, หรือเครื่องหมายพิเศษ (เช่น เครื่องหมายเริ่มต้นและสิ้นสุดลำดับ)
การ tokenization ช่วยให้:
- จำกัดขนาดคลังคำศัพท์ให้อยู่ในขนาดที่จัดการได้
- ประมวลผลคำที่หายากและคำใหม่ได้อย่างถูกต้อง
- ให้การแมปข้อความกับลำดับตัวระบุตัวเลขที่ชัดเจน
สำหรับการแบ่งข้อความจะใช้อัลกอริทึมแบบ subword โดยที่พบมากที่สุดได้แก่ Byte Pair Encoding (BPE), WordPiece และ UnigramLM แต่ละอัลกอริทึมสร้างคลังคำจากส่วนที่พบบ่อยที่สุดในชุดข้อมูลและใช้เพื่อแบ่งข้อความนำเข้าใด ๆ ตามลำดับ
หลังจากขั้นตอน tokenization แต่ละหน่วยของข้อความ — token — จะถูกแปลงเป็นการแทนค่าตัวเลขที่ Neural Network เข้าใจได้ กระบวนการนี้ประกอบด้วยขั้นตอนต่อเนื่องหลายขั้น:
- การแปลง token เป็นตัวระบุ: token แต่ละตัวถูกจับคู่กับดัชนีตัวเลขที่ไม่ซ้ำกันบนพื้นฐานของคลังคำ token ที่สร้างไว้ล่วงหน้า token ข้อความถูกแทนที่ด้วยตัวระบุตัวเลขที่ไม่ซ้ำกัน (ID) โดย ID แต่ละตัวคือหมายเลขของ token ในคลังคำที่สร้างไว้ล่วงหน้า ซึ่งช่วยให้ Neural Network ทำงานกับตัวเลขแทนคำ
- การแปลงตัวระบุเป็น embedding: สำหรับตัวระบุ token แต่ละตัว จะมีการดึงหรือคำนวณเวกเตอร์มิติคงที่ที่สอดคล้องกัน — embedding การแทนค่าตัวเลขหลายมิตินี้แทนที่ ID และมีข้อมูลเกี่ยวกับความหมายและคุณสมบัติบริบทของ token อยู่แล้ว embedding ทั้งหมดมีความยาวเท่ากันเพื่อความสะดวกในการประมวลผล
- การเพิ่ม positional encoding: เนื่องจากสถาปัตยกรรม Transformer โดยตัวมันเองไม่คำนึงถึงลำดับของสมาชิก จึงมีการเพิ่ม positional encoding เข้ากับ embedding ซึ่งให้ข้อมูลเกี่ยวกับตำแหน่งของ token ในลำดับ กล่าวอีกนัยหนึ่ง ด้วยสิ่งนี้โมเดลจึง "รู้" ว่า token ใดอยู่อันดับแรก สอง สาม และต่อ ๆ ไปในประโยค
- การสร้าง input matrix: ที่ผลลัพธ์จะได้เมทริกซ์มิติ
[длина последовательности × размерность эмбеддинга]ซึ่งทำหน้าที่เป็นการแทนค่าเริ่มต้นของข้อความและส่งเป็นข้อมูลนำเข้าให้กับ Neural Network โดยเฉพาะบล็อก self-attention ของ Transformer แต่ละแถวของเมทริกซ์นี้สอดคล้องกับ token หนึ่งตัว และเวกเตอร์ที่บรรจุอยู่นั้นมีทั้งความหมายเชิงความหมายของมัน (embedding) และข้อมูลเกี่ยวกับตำแหน่งในข้อความ (positional encoding)
Текст → Токены → Идентификаторы → Эмбеддинги + Позиционные кодировки → Вход в модель
กลไก Attention
กลไก attention (attention mechanism) — คือองค์ประกอบสำคัญของสถาปัตยกรรม Transformer ที่ช่วยให้สามารถคำนึงถึงความสัมพันธ์ระหว่าง token โดยไม่ขึ้นกับระยะระหว่างกันในลำดับ หลังจากที่ข้อความนำเข้าถูกแปลงเป็นลำดับของเวกเตอร์แล้ว ลำดับนี้จะถูกส่งไปยังองค์ประกอบหลักของ Transformer — บล็อก attention (attention block)
กลไก attention คือวิธีที่ Neural Network กำหนดว่าควรให้ความสนใจกับส่วนใดของข้อมูลนำเข้ามากขึ้นเมื่อประมวลผลแต่ละสมาชิกในลำดับ ด้วยกลไกนี้เวกเตอร์ของส่วนต่าง ๆ ของข้อความสามารถโต้ตอบกันได้ เสริมด้วยข้อมูลและอัปเดตค่าโดยคำนึงถึงบริบทโดยรอบ ด้วยเหตุนี้โมเดลจึงสามารถจับทั้งความสัมพันธ์ในเชิงท้องถิ่นและระยะไกลระหว่าง token ได้อย่างมีประสิทธิภาพ ซึ่งช่วยเพิ่มความสามารถในการตีความโครงสร้างข้อความที่ซับซ้อนอย่างมีนัยสำคัญ
ในภาษาธรรมชาติความหมายของคำหรือวลีไม่ได้ถูกกำหนดแบบแยกส่วน — มันขึ้นอยู่กับบริบท หมายถึงคำและโครงสร้างอื่น ๆ โดยรอบ ใน Neural Network ข้อความถูกเข้ารหัสผ่านการแทนค่าเวกเตอร์ — embedding ที่สะท้อนคุณสมบัติทางคำศัพท์และไวยากรณ์ของ token ในเชิงตัวเลข หากไม่มีกลไก attention โดยตรง (เหมือนใน Transformer) ข้อมูลบริบทจะสูญหายในระยะทางไกล (เหมือนในโมเดลธรรมดา) หรือส่งผ่านตามลำดับ ซึ่งมีประสิทธิภาพน้อยกว่าในการจับความสัมพันธ์ระยะไกล อย่างไรก็ตาม ในภาษาธรรมชาติความหมายของคำหรือโครงสร้างทางไวยากรณ์เป็นแบบไดนามิก และการตีความต้องปรับตัวตามบริบท กลไก attention ทำการ contextualize การแทนค่าเวกเตอร์ ซึ่งหมายความว่า' (หรือเพียง :):
- token แต่ละตัว «ประเมิน» ความสำคัญของตนเองเทียบกับ token อื่น ๆ ในประโยค
- ในกระบวนการอัปเดต การแทนค่าเวกเตอร์ได้รับการเสริมด้วยข้อมูลร่วมกัน สะท้อนความสัมพันธ์ทางไวยากรณ์ บทบาทเชิงความหมาย และบริบทเชิงหน้าที่
ผลจากการแลกเปลี่ยนข้อมูลนี้ เวกเตอร์ที่อัปเดตจะเริ่มเข้ารหัสไม่เพียงแต่ความหมายของ token เอง แต่ยังรวมถึงความสัมพันธ์ทางไวยากรณ์ (syntax) บทบาทในสถานการณ์ที่อธิบาย (semantics) และความหมายโดยรวมในบริบท (pragmatics)
Входные векторы токенов (с позициями) → Механизм Внимания (Взаимодействие векторов) → Контекстуализированные векторы токенов (Векторы обогащенные информацией о связях с другими токенами)
การนำกลไก Attention ไปใช้ในทางเทคนิค
โครงสร้างภายในของกลไก attention ประกอบด้วยขั้นตอนและองค์ประกอบการคำนวณสำคัญหลายอย่าง สำหรับเวกเตอร์นำเข้าแต่ละตัวจะสร้างเวกเตอร์สามตัวได้แก่ Query (คำถาม), Key (คีย์) และ Value (ค่า) บนพื้นฐานของการโต้ตอบกันจะคำนวณน้ำหนัก attention ซึ่งจากนั้นใช้เพื่อให้ได้การแทนค่าเวกเตอร์ที่อัปเดตและมีบริบทแล้ว แนวทางที่นิยมคือการใช้สถาปัตยกรรม Multi-Head Attention เพื่อประมวลผลข้อมูลแบบขนาน
Query (คำถาม), Key (คีย์), Value (ค่า)
พื้นฐานของการคำนวณกลไก attention คือการแปลงเวกเตอร์นำเข้าแต่ละตัว (ซึ่งเป็นผลรวมของ embedding ของ token และ positional encoding ของมัน) ให้เป็นการแทนค่าเวกเตอร์สามแบบที่แตกต่างกัน ได้แก่ Query (Q), Key (K) และ Value (V)
ในเชิงแนวคิด เวกเตอร์ทั้งสามนี้ทำหน้าที่ดังนี้ในกลไก attention:
- Query (คำถาม): แทนเวกเตอร์ของ token ปัจจุบันที่เริ่มกระบวนการค้นหาข้อมูลที่เกี่ยวข้องในลำดับ อาจมองได้ว่าเป็น "คำถาม" หรือ "หัววัด" ที่ใช้ประเมินความสำคัญของ token อื่น ๆ เทียบกับ token ปัจจุบัน
- Key (คีย์): ทำหน้าที่เป็นตัวระบุหรือ "ป้ายกำกับ" ที่อธิบายลักษณะของเนื้อหาของ token แต่ละตัว เวกเตอร์ Query (Q) ของ token ปัจจุบันถูกเปรียบเทียบกับเวกเตอร์ Key (K) ทั้งหมดในลำดับ (รวมถึงของตนเอง) เพื่อกำหนดระดับความสอดคล้องหรือความเกี่ยวข้องของพวกมัน
- Value (ค่า): บรรจุข้อมูลจริงหรือการแทนค่าที่เกี่ยวข้องกับ token แต่ละตัวที่จะส่งต่อไป หลังจากคำนวณน้ำหนัก attention บนพื้นฐานของการโต้ตอบระหว่าง Query และ Key แล้ว น้ำหนักเหล่านี้จะถูกนำไปใช้กับเวกเตอร์ Value เพื่อสร้างการแทนค่าถ่วงน้ำหนักสุดท้ายซึ่งเป็นผลลัพธ์ของกลไก attention สำหรับ token นั้น
การฝึก LLM
การฝึก LLM เกิดขึ้นเป็นหลักในสองขั้นตอน:
- การฝึกล่วงหน้า (Pretraining) ในขั้นตอนนี้โมเดลได้รับการฝึกบนชุดข้อมูลข้อความขนาดใหญ่ที่ไม่มีป้ายกำกับโดยใช้วิธี self-supervised learning งานคือการทำนาย token ถัดไปในลำดับ (autoregression) หรือการกู้คืนส่วนที่ซ่อนไว้ (masked learning) การฝึกล่วงหน้าช่วยให้โมเดลเรียนรู้รูปแบบทางสถิติของภาษาอย่างกว้างขวาง ไวยากรณ์ ข้อเท็จจริงเกี่ยวกับโลก และรูปแบบพื้นฐานของการให้เหตุผล
- การ Fine-tuning หลังจากการฝึกล่วงหน้า โมเดลจะถูกฝึกเพิ่มเติมบนข้อมูลเฉพาะทางเพื่อทำงานเฉพาะ เช่น การสร้างคำตอบ การจำแนกข้อความ หรือการปฏิบัติตามคำสั่ง แนวทางสมัยใหม่ประกอบด้วย:
- การ fine-tuning บน dataset ที่มีป้ายกำกับ (supervised fine-tuning)
- การเรียนรู้เสริมแรงด้วยข้อเสนอแนะของมนุษย์ (RLHF, reinforcement learning from human feedback) เพื่อปรับพฤติกรรมของโมเดลให้สอดคล้องกับตัวชี้วัดเป้าหมายด้านคุณภาพ ความปลอดภัย และความเป็นประโยชน์
ปัญหาและข้อจำกัด
แม้จะมีความก้าวหน้าที่น่าประทับใจ แต่ LLM สมัยใหม่ก็มีปัญหาและข้อจำกัดหลายประการ:
I. ข้อจำกัดด้านการคำนวณและสถาปัตยกรรม
- ค่าใช้จ่ายด้านการคำนวณสูง: การฝึกและการดำเนินงาน LLM ต้องการกำลังการคำนวณ เวลา และพลังงานอย่างมาก ซึ่งนำไปสู่ต้นทุนทางเศรษฐกิจและสิ่งแวดล้อมที่สูง นอกจากนี้ ลักษณะ autoregressive ของการสร้าง (การสร้าง token ตามลำดับ) จำกัดการประมวลผลแบบขนานและทำให้ความเร็วของการประมวลผลช้าลงเมื่อเทียบกับแนวทางที่ไม่ใช่ autoregressive
- ข้อจำกัดความยาว context: สถาปัตยกรรม Transformer มีการพึ่งพิงแบบกำลังสองของต้นทุนการคำนวณและความต้องการหน่วยความจำต่อความยาวลำดับ สิ่งนี้บังคับให้ต้องกำหนดขีดจำกัดคงที่ (หน้าต่าง context) สำหรับปริมาณข้อความที่โมเดลสามารถประมวลผลได้ในคราวเดียว ส่งผลให้เอกสารขนาดยาวถูกตัดและสูญเสียข้อมูลนอกหน้าต่าง
II. ปัญหาความน่าเชื่อถือและความแม่นยำของการสร้าง
- การประดิษฐ์ข้อมูลเท็จ (Hallucination): การสร้างข้อมูลที่ผิดเป็นข้อเท็จจริงแต่ฟังดูน่าเชื่อถือ ซึ่งเกี่ยวข้องกับการที่โมเดลไม่มีความเข้าใจโลกจริง การพึ่งพิงรูปแบบทางสถิติในข้อมูล และไม่สามารถตรวจสอบความถูกต้องของสิ่งที่สร้างขึ้น
- การสะสมข้อผิดพลาด (Error Propagation): กระบวนการที่ข้อผิดพลาดที่เกิดขึ้นในระยะแรกของการสร้างขยายตัวและนำไปสู่ความไม่แม่นยำที่เพิ่มขึ้นในขั้นตอนต่อ ๆ ไป ลดคุณภาพโดยรวมและความสอดคล้องของข้อความ
- ความสามารถในการจัดการแบบ compositional ที่จำกัด: ความยากลำบากกับงานที่ต้องการการอนุมานเชิงตรรกะหลายขั้นตอนหรือการคำนวณที่แม่นยำ (เช่น การคูณตัวเลขหลายหลัก การแก้ปริศนา) ความแม่นยำของโมเดลในงานดังกล่าวลดลงอย่างรวดเร็วตามความซับซ้อนที่เพิ่มขึ้นเนื่องจากลักษณะ autoregressive ของการสร้าง
- การซ้ำซาก: แนวโน้มที่จะทำซ้ำคำหรือวลีมากเกินไป ลดความมีข้อมูลและความอ่านออกของข้อความ ซึ่งเกี่ยวข้องกับลักษณะของการฝึกและอัลกอริทึมการถอดรหัส (การเลือก token ถัดไป)
- คำสาป Reversal (Reversal Curse): ความไม่สามารถของโมเดลในการสรุปความรู้ในทิศทางย้อนกลับโดยอัตโนมัติ หลังจากเรียนรู้ข้อความ "A คือ B" โมเดลมักไม่สามารถสรุป "B คือ A" ได้
- การแลกเปลี่ยน "ความสร้างสรรค์-ความแม่นยำ": ความจำเป็นในการสร้างสมดุลระหว่างการสร้างคำตอบที่หลากหลายและเป็นต้นฉบับกับการรักษาความแม่นยำเชิงข้อเท็จจริง การเพิ่มด้านหนึ่งมักส่งผลเสียต่ออีกด้าน เช่น ความสร้างสรรค์สูงอาจสัมพันธ์กับการเพิ่มขึ้นของการประดิษฐ์ข้อมูลเท็จ
III. ปัญหาด้านการโต้ตอบและการควบคุม:
- ความสามารถในการควบคุมต่ำ: ความยากลำบากในการควบคุมสไตล์ น้ำเสียง เนื้อหาของข้อความที่สร้างขึ้น หรือการปฏิบัติตามคำสั่งที่ซับซ้อนอย่างแม่นยำ ความสามารถในการควบคุมขึ้นอยู่กับคุณภาพของคำสั่งนำเข้า (prompt) และวิธีการ fine-tuning อย่างมาก
- ความไวต่อการกำหนดสูตร: การเปลี่ยนแปลงเล็กน้อยใน prompt นำเข้าอาจนำไปสู่คำตอบที่แตกต่างกันอย่างมีนัยสำคัญ แม้ว่าความหมายของ prompt จะยังคงเดิม สิ่งนี้ทำให้การได้รับผลลัพธ์ที่เสถียรและคาดการณ์ได้เป็นเรื่องยาก
IV. ด้านจริยธรรมและสังคม:
- ปัญหาอคติและความเป็นธรรม: โมเดลอาจทำซ้ำและขยายอคติทางสังคม ความเป็นอคติ หรือความเป็นพิษที่มีอยู่ในข้อมูลฝึก การรับประกันความเป็นธรรมและความปลอดภัยของโมเดลเป็นงานที่ซับซ้อน
- ปัญหาการปรับพฤติกรรม (LLM Alignment): ปัญหาทั่วไปมากกว่าที่รวมประเด็นก่อนหน้า นี่คืองานในการทำให้พฤติกรรมของโมเดลสอดคล้องกับค่านิยม เจตนา และมาตรฐานจริยธรรมของมนุษย์ รวมถึงการต่อสู้กับอคติ การประดิษฐ์ข้อมูลเท็จ การสร้างเนื้อหาที่เป็นอันตราย และการเพิ่มความสามารถในการควบคุม
- ความเสี่ยงจากการใช้งานในทางที่ผิด: ความเป็นไปได้ในการใช้ LLM เพื่อสร้างและเผยแพร่ข้อมูลเท็จ การหลอกลวงทางอินเทอร์เน็ต สแปม โค้ดที่เป็นอันตราย หรือการสร้างข้อความปลอมที่น่าเชื่อถือ ซึ่งเป็นภัยคุกคามต่อความปลอดภัยของข้อมูลและส่วนบุคคล รวมถึงบ่อนทำลายความไว้วางใจในสังคม
ลิงก์อ้างอิง:
- «Большая языковая модель» // Википедия (Русская версия)
- Large Language Model // Wikipedia (English version)
- Grand Modèle de Langage // Wikipédia (Version française)
- Sprachmodell // Wikipedia (Deutsche version)
- Naveed H. и др. // A Comprehensive Overview of Large Language Models // arXiv:2307.06435, 2023
วรรณกรรม
- Vaswani, A. et al. (2017). Attention Is All You Need. arXiv:1706.03762.
- Devlin, J. et al. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. arXiv:1810.04805.
- Brown, T. et al. (2020). Language Models Are Few-Shot Learners. arXiv:2005.14165.
- Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
- Hoffmann, J. et al. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
- Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
- Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
- Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.
- OpenAI. (2023). GPT-4 Technical Report. arXiv:2303.08774.
- Touvron, H. et al. (2024). The Llama 3 Herd of Models. arXiv:2407.21783.