GPT (OpenAI) (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

GPT (Generative Pre-trained Transformer) — คือกลุ่มของโมเดลภาษาขนาดใหญ่ (LLM) ที่พัฒนาโดยบริษัท OpenAI โมเดล GPT สร้างขึ้นบนสถาปัตยกรรม transformer และใช้แนวคิดของการเรียนรู้เบื้องต้นแบบ generative: ในขั้นตอนแรก โมเดลจะได้รับการฝึกอบรมบนคลังข้อความขนาดใหญ่โดยไม่มีการระบุป้ายกำกับอย่างชัดเจน จากนั้นจึงสามารถ fine-tuning สำหรับงานเฉพาะได้ สำหรับรุ่นหลัง (ตั้งแต่ GPT‑5 เป็นต้นไป) OpenAI ยังใช้คำว่า ระบบรวม (unified system) เนื่องจากผลิตภัณฑ์รวมโหมดตอบสนองแบบเร็ว โหมดการใช้เหตุผลเชิงลึก (reasoning) และ router เข้าด้วยกัน[1]

ชื่อเรียก

ตัวย่อ GPT ย่อมาจาก Generative Pre-trained Transformer (ตัวแปลงสัญญาณที่ผ่านการฝึกอบรมเบื้องต้นแบบ Generative)

  • Generative (เชิงสร้างสรรค์): หมายความว่าโมเดลสามารถสร้างเนื้อหาใหม่ได้ เช่น ข้อความ
  • Pre-trained (ผ่านการฝึกอบรมเบื้องต้น)'':' ระบุว่าโมเดลผ่านขั้นตอนการฝึกอบรมเริ่มต้นที่ครอบคลุมบนชุดข้อมูลขนาดใหญ่ (เช่น ข้อความจากอินเทอร์เน็ต) หลังจากการฝึกอบรมเบื้องต้น โมเดลมักสามารถ fine-tuning เพิ่มเติมเพื่อทำงานเฉพาะที่ซับซ้อนยิ่งขึ้นได้
  • Transformer'':' เป็นชื่อของสถาปัตยกรรมเครือข่ายประสาทเทียมเฉพาะ ซึ่งเป็นนวัตกรรมสำคัญที่เป็นพื้นฐานของ GPT และโมเดล AI สมัยใหม่อื่นๆ อีกมากมาย

คุณลักษณะหลักของ GPT คือการฝึกอบรมในรูปแบบ autoregressive — โมเดลทำนาย token ถัดไปโดยอาศัยบริบทก่อนหน้า นั่นคือโมเดลเรียนรู้ที่จะเพิ่มความน่าจะเป็นของ token ถัดไปโดยรู้ลำดับของ token ก่อนหน้า ในระหว่างการฝึกอบรม จะมีการลดความผิดพลาดในการทำนายองค์ประกอบถัดไป ซึ่งช่วยให้สามารถสร้างข้อความที่มีความสอดคล้องและการเชื่อมโยงสูง

กระบวนการสร้างข้อความใน GPT

โมเดล GPT สร้างข้อความตามลำดับ ทีละ token ตามแนวทางแบบวนซ้ำดังต่อไปนี้:

  • รับลำดับข้อความเริ่มต้นเป็นอินพุต (prompt, seed text)
  • คำนวณการแจกแจงความน่าจะเป็นบน token ทั้งหมดในคำศัพท์สำหรับองค์ประกอบถัดไปของข้อความ
  • เลือก token ถัดไป:
    • ไม่ว่าจะเป็นตามความน่าจะเป็นสูงสุด (greedy selection)
    • หรือด้วยวิธี stochastic sampling
    • หรือโดยใช้กลยุทธ์การกรองพิเศษ (top-k, top-p)
  • เพิ่ม token ที่เลือกเข้าไปในลำดับปัจจุบัน
  • ลำดับที่อัปเดตแล้วจะถูกป้อนกลับเข้าสู่โมเดลเพื่อทำนาย token ถัดไป

สถาปัตยกรรม Transformer: การประมวลผลข้อความ

กระบวนการประมวลผลข้อมูลภายใน transformer เพื่อทำนาย token ถัดไปประกอบด้วยขั้นตอนหลักหลายประการ:

  • Tokenization (การแบ่ง token) ข้อความอินพุตจะถูกแบ่งออกเป็น token — หน่วยข้อความขนาดเล็กซึ่งอาจเป็นคำ ส่วนของคำ หรือเครื่องหมายวรรคตอน ในโมเดล GPT-3 เช่น คำศัพท์ประกอบด้วย token ประมาณ 50,257 token
  • Embeddings ของ token แต่ละ token จะถูกแปลงเป็นเวกเตอร์ที่มีความยาวคงที่โดยใช้เมทริกซ์ embedding (W_E) เวกเตอร์เข้ารหัสความหมายของ token: token ที่มีความหมายใกล้เคียงกันจะอยู่ใกล้กันในพื้นที่หลายมิติ ในโมเดล GPT-3 ขนาด embedding คือ 12,288
  • การประมวลผลในชั้น transformer
    • Attention Blocks (บล็อก attention): แต่ละ token จะมีปฏิสัมพันธ์กับ token อื่นๆ ในลำดับ กลไก attention ช่วยให้สามารถคำนึงถึงบริบทและตีความความหมายของคำได้อย่างถูกต้อง
    • Feed-Forward Layers (ชั้น fully connected): หลังจาก attention แต่ละ token จะถูกประมวลผลแยกกันผ่านเครือข่ายประสาทเทียมสองชั้นที่มีการกระตุ้นแบบไม่เชิงเส้น
  • การแปลงกลับและ Softmax หลังจากทุกชั้น เวกเตอร์ที่ผ่านการประมวลผลจะถูกแปลงกลับสู่พื้นที่ token โดยใช้เมทริกซ์ (W_U) ซึ่งมักเป็นเวอร์ชัน transpose ของ W_E เวกเตอร์ logit ที่ได้จะถูก normalize ด้วยฟังก์ชัน Softmax เพื่อให้ได้การแจกแจงความน่าจะเป็นบน token ทั้งหมด
  • การเลือก token ถัดไป (Sampling) token ถัดไปจะถูกเลือกตามการแจกแจงความน่าจะเป็น พารามิเตอร์ temperature ควบคุมความสุ่มในการเลือก: ที่ temperature เป็น 0 จะเลือก token ที่มีความน่าจะเป็นสูงสุด ที่ temperature สูงกว่าจะเพิ่มโอกาสในการเลือกตัวเลือกที่มีความน่าจะเป็นน้อยกว่า ซึ่งส่งเสริมความหลากหลายของข้อความมากขึ้น

โมเดล GPT

  • GPT-1 (2018): โมเดลแรกของตระกูล; decoder-only transformer 12 ชั้น; การฝึกอบรมสองขั้นตอน (pre-training + fine-tuning บนงาน NLP)
  • GPT-2 (2019): พารามิเตอร์ 1.5 พันล้าน; ฝึกอบรมบนคลัง WebText; สามารถสร้างข้อความยาวที่สอดคล้องกันได้เป็นครั้งแรก; ปรับปรุงคุณภาพการสร้าง zero-shot ประกาศเมื่อวันที่ 14 กุมภาพันธ์ 2019 เวอร์ชันเต็ม (1.5 พันล้าน) เผยแพร่เมื่อวันที่ 5 พฤศจิกายน 2019 ด้วยเหตุผลด้านความปลอดภัย
  • GPT-3 (2020): พารามิเตอร์ 175 พันล้าน; การฝึกอบรมขนาดใหญ่บนชุดข้อมูลรวมของ Common Crawl, Books, Wikipedia; พัฒนาความสามารถ few-shot และ zero-shot อย่างเด่นชัด
  • GPT-3.5 (2022): เวอร์ชันกลางระหว่าง GPT-3 และ GPT-4; การปฏิบัติตามคำสั่งที่ดีขึ้นด้วยการฝึกอบรมโดยใช้ข้อเสนอแนะจากมนุษย์ (RLHF) ในเวอร์ชัน text-davinci-003 และ gpt-3.5-turbo; context window สูงสุด 4,096 token ในเวอร์ชันแรก และสูงสุด 16,385 token ในเวอร์ชันหลัง (gpt-3.5-turbo-16k และ gpt-3.5-turbo ที่อัปเดต)
  • GPT-4 (2023): โมเดล multimodal ที่รับข้อความและกราฟิกเป็นอินพุต (การรองรับรูปภาพถูก deploy ในภายหลังหลังจากการเปิดตัวด้วยข้อความ); context window 8,192 token ในเวอร์ชันพื้นฐาน และ 32,768 token ในตัวแปร GPT-4-32k; การปรับปรุงความแม่นยำ ความทนทาน และตรรกะการใช้เหตุผลอย่างมีนัยสำคัญ
  • GPT-4 Turbo (2023): เวอร์ชันที่ปรับปรุงของ GPT-4; context window ขยายเป็น 128,000 token; ลด latency และต้นทุนการดำเนินการ
  • GPT-4o (2024): โมเดล multimodal รุ่นใหม่ (ข้อความ รูปภาพ เสียง) ที่มีสถาปัตยกรรมเครือข่ายประสาทเดียว; ความเร็วและความแม่นยำในการตอบสนองสูงมาก; context window 128,000 token
  • GPT-4.5 (2025): research preview; ใน system card OpenAI ระบุว่าโมเดล \"builds on GPT-4o\"[2][3]; การเข้าใจคำขอของผู้ใช้ที่ดีขึ้น ลดจำนวนข้อผิดพลาด; context window 128,000 token ในระบบ API โมเดล gpt-4.5-preview ถูกประกาศว่า deprecated เมื่อวันที่ 14 เมษายน 2025 และถูกปิดใช้งานเมื่อวันที่ 14 กรกฎาคม 2025[4]
  • GPT-4.1 (2025): เวอร์ชันที่ปรับปรุงของตระกูล GPT-4 ที่มี context window สูงสุด 1 ล้าน token; รับข้อความและรูปภาพเป็นอินพุต ให้ผลลัพธ์เป็นข้อความ[5] เปิดตัวพร้อมกันสามตัวแปร: GPT-4.1, GPT-4.1 mini, GPT-4.1 nano
  • GPT-5 (2025): ระบบรวมที่มีโหมดตอบสนองแบบเร็วและการใช้เหตุผลเชิงลึก; context window ประมาณ 400,000 token; ลด hallucination อย่างเห็นได้ชัดในงานที่เกี่ยวข้องกับข้อเท็จจริง
  • GPT-5.1 (2025): adaptive reasoning, การปรับปรุงใน coding และ long-context retention
  • GPT-5.2 (2025): เน้นการทำงานระดับมืออาชีพ; โหมด Pro สำหรับงาน frontier; บนพื้นฐาน GPT-5.2 มีการเปิดตัว GPT-5.2-Codex แบบ agentic
  • GPT-5.3-Codex (2026): โมเดล coding แบบ agentic ที่รวมความสามารถ coding และ reasoning; เร็วกว่ารุ่นก่อน 25%
  • GPT-5.3 Instant (2026): การอัปเดตโมเดลสนทนาที่ใช้บ่อยที่สุดอย่าง ChatGPT; เปิดตัวเมื่อวันที่ 3 มีนาคม 2026 ปรับปรุงความแม่นยำเชิงข้อเท็จจริง คุณภาพการค้นหาเว็บ ความลื่นไหลของการสนทนา และลดจำนวนการปฏิเสธที่ซ้ำซ้อนและข้อสงวนที่มากเกินไป ใน API มีให้บริการในชื่อ gpt-5.3-chat-latest[6]
  • GPT-5.4 (2026): frontier model ของ OpenAI สำหรับการทำงานระดับมืออาชีพ ที่เปิดตัวเมื่อวันที่ 5 มีนาคม 2026; เป็นโมเดล general-purpose รุ่นแรกของ OpenAI ที่มีความสามารถ native computer-use ใน API gpt-5.4 ได้รับการแนะนำให้เป็นโมเดลเริ่มต้นสำหรับงาน general-purpose และ coding หลากหลายประเภท[7][8]

GPT-1

โมเดลแรก GPT-1 ถูกนำเสนอโดย OpenAI ในปี 2018 ในงานวิจัย \"Improving Language Understanding by Generative Pre-Training\" โมเดลนี้เป็น decoder-only transformer 12 ชั้น[9] และสร้างขึ้นบนพื้นฐานสถาปัตยกรรม transformer การฝึกอบรม GPT-1 ผ่านสองขั้นตอน: ขั้นตอนการฝึกอบรมเบื้องต้นแบบ generative ที่ไม่มีการกำกับดูแล (pre-training) ตามด้วยขั้นตอนการปรับแต่งแบบมีการกำกับดูแล (fine-tuning)

ในขั้นตอนการฝึกอบรมเบื้องต้น โมเดลได้รับการฝึกอบรมบนคลัง BookCorpus ที่ประกอบด้วยหนังสือที่ยังไม่ได้ตีพิมพ์มากกว่า 7,000 เล่มในหลากหลายแนวทาง ลักษณะพิเศษของคลังนี้คือมีข้อความที่ต่อเนื่องยาวนาน ซึ่งมีความสำคัญอย่างยิ่งต่อการสร้างความสามารถในการประมวลผลความสัมพันธ์ในข้อความที่ซับซ้อนและยาวนานของโมเดล

ในขั้นตอน fine-tuning โมเดลได้รับการปรับให้เหมาะกับการแก้ปัญหาเฉพาะด้านในการประมวลผลภาษาธรรมชาติ รวมถึง:

  • การตอบคำถาม (Question Answering, QA) — การสร้างคำตอบที่ถูกต้องบนพื้นฐานของบริบทข้อความที่กำหนด
  • การรู้จำการอนุมานข้อความ (Natural Language Inference, NLI) — การกำหนดความสัมพันธ์ทางตรรกะระหว่างข้อความสองชิ้น: การอนุมาน ความขัดแย้ง หรือความเป็นกลาง
  • การประเมินความคล้ายคลึงทางความหมาย (Semantic Textual Similarity) — การวัดระดับความใกล้เคียงทางความหมายระหว่างลำดับข้อความสองชุด

ด้วยแนวทางนี้ GPT-1 แสดงให้เห็นถึงความเหนือกว่าอย่างมีนัยสำคัญเหนือโมเดลก่อนหน้าบน benchmark มาตรฐานหลายตัวสำหรับงานการทำความเข้าใจข้อความ

การพัฒนา GPT-1 แสดงให้เห็นถึงความสำเร็จและการค้นพบสำคัญหลายประการในด้าน NLP:

  • ประสิทธิภาพของการฝึกอบรมเบื้องต้นแบบ generative ได้รับการยืนยันเชิงประจักษ์ว่าการฝึกอบรมเบื้องต้นบนคลังข้อความขนาดใหญ่ที่ไม่มีป้ายกำกับช่วยให้โมเดลสามารถรับการแสดงภาษาแบบทั่วไปซึ่งเหมาะสำหรับการนำไปใช้ในงานต่างๆ ต่อไปโดยไม่จำเป็นต้องเปลี่ยนสถาปัตยกรรมพื้นฐาน
  • ความเป็นสากลของสถาปัตยกรรม transformer การใช้ decoder transformer หลายชั้นช่วยให้โมเดลสามารถประมวลผลความสัมพันธ์ระยะยาวในข้อความได้สำเร็จ ซึ่งก่อนหน้านี้เป็นเรื่องยากสำหรับโมเดลที่ใช้เครือข่ายประสาทเทียมแบบ recurrent
  • การลดการพึ่งพาการระบุป้ายกำกับข้อมูล งานวิจัยยืนยันว่าการฝึกอบรมเบื้องต้นขนาดใหญ่บนข้อมูลที่ไม่มีป้ายกำกับสามารถลดปริมาณข้อมูลที่มีป้ายกำกับซึ่งจำเป็นสำหรับการบรรลุคุณภาพสูงในงานเป้าหมายได้อย่างมาก
  • รากฐานสำหรับการพัฒนาในภายหลัง ผลลัพธ์ของ GPT-1 วางรากฐานแนวคิดและเทคนิคสำหรับโมเดลรุ่นต่อๆ มาของตระกูล GPT (GPT-2, GPT-3 และต่อๆ ไป)

GPT-2

โมเดล GPT-2 ถูกประกาศโดย OpenAI เมื่อวันที่ 14 กุมภาพันธ์ 2019 มันมีขนาดเกินกว่ารุ่นก่อนหน้าอย่างมีนัยสำคัญ: เวอร์ชันเต็มของโมเดลมีพารามิเตอร์ประมาณ 1.5 พันล้านตัว ด้วยเหตุผลด้านความปลอดภัย OpenAI เผยแพร่เฉพาะตัวแปรขนาดเล็กของโมเดลในตอนแรก; เวอร์ชันเต็ม (1.5 พันล้านพารามิเตอร์) เปิดตัวเมื่อวันที่ 5 พฤศจิกายน 2019 ต่างจาก GPT-1 ที่ฝึกอบรมบนคลัง BookCorpus (~5 GB), GPT-2 ได้รับการฝึกอบรมบนคลัง WebText ที่รวบรวมขึ้นเป็นพิเศษขนาดประมาณ 40 GB ซึ่งรวมข้อมูลข้อความจากแหล่งอินเทอร์เน็ตที่มีคุณภาพสูง การเพิ่มขนาดทั้งของโมเดลและข้อมูลการฝึกอบรมทำให้ GPT-2 ปรับปรุงคุณภาพการสร้างข้อความได้อย่างมีนัยสำคัญ: มันแสดงให้เห็นถึงความสามารถในการสร้างบทความ เรื่องราว และแม้แต่ข้อความในงานวรรณกรรมที่มีความสอดคล้อง

GPT-2 ใช้สถาปัตยกรรม autoregressive transformer-decoder คล้ายกับ GPT-1 โดยไม่มีการเปลี่ยนแปลงที่สำคัญ โมเดลประกอบด้วย self-attention 48 ชั้น มีขนาด hidden state เป็น 1,600 และมีพารามิเตอร์ประมาณ 1.5 พันล้านตัว จำนวน attention head คือ 25 (โดยรักษาขนาด 64 ต่อ head ที่สืบทอดมาจาก GPT-1: 1,600 ÷ 64 = 25) การฝึกอบรมดำเนินการบนงานการทำนาย token ถัดไปบนพื้นฐานของบริบทก่อนหน้าโดยใช้กลไก attention แบบ masked

หนึ่งในความแตกต่างหลักของ GPT-2 คือโมเดลแสดงให้เห็นประสิทธิภาพสูงในโหมด zero-shot learning เป็นครั้งแรก — ความสามารถในการแก้ปัญหาใหม่โดยไม่ต้องผ่านการ fine-tuning อย่างชัดเจนบนตัวอย่างสำหรับงานเหล่านั้น โมเดลได้รับการฝึกอบรมบนคลังข้อความทั่วไปขนาดใหญ่และไม่ได้รับการฝึกอบรมเฉพาะทางบนข้อมูลของงานเฉพาะ การประเมินดำเนินการในโหมด zero-shot ซึ่งโมเดลทำงานโดยอาศัยเพียงความรู้ที่ได้รับในกระบวนการฝึกอบรมเบื้องต้น ในบางงานการ model ภาษา GPT-2 บรรลุคุณภาพที่เทียบได้หรือเหนือกว่าผลลัพธ์ของโมเดลที่ได้รับการฝึกอบรมเป็นพิเศษบนชุดข้อมูลเฉพาะทาง (เช่น Wikipedia ข้อความข่าว หนังสือ)

GPT-3

โมเดล GPT-3 ถูกนำเสนอโดย OpenAI ในเดือนมิถุนายน 2020 (บทความบน arXiv ปรากฏเมื่อวันที่ 28 พฤษภาคม 2020 เปิดการเข้าถึง API แบบ beta เมื่อวันที่ 11 มิถุนายน 2020) มันกลายเป็นขั้นตอนต่อไปในการพัฒนา generative transformer หลังจาก GPT-2 และโดดเด่นด้วยการปรับขนาดสถาปัตยกรรมเป็น 175 พันล้านพารามิเตอร์ ซึ่งทำให้เป็นโมเดลภาษาที่ใหญ่ที่สุดในขณะนั้น

สถาปัตยกรรมของ GPT-3 ยังคงเหมือนเดิมเป็นส่วนใหญ่ — autoregressive transformer-decoder หลายชั้นโดยไม่มีการเปลี่ยนแปลงพื้นฐาน การปรับปรุงประสิทธิภาพหลักทำได้โดยการเพิ่มจำนวนชั้น ความกว้างของ hidden layer และขนาดการฝึกอบรม โมเดลได้รับการฝึกอบรมบนการรวมกันของคลังข้อความขนาดใหญ่หลายชุด รวมถึง Common Crawl, WebText2, Books1, Books2 และ Wikipedia ปริมาณข้อมูลรวมมีประมาณ 570 GB ขึ้นไป (570 GB มาจากส่วนที่ผ่านการกรองของ Common Crawl ซึ่งครองส่วนใหญ่ในชุดข้อมูลการฝึกอบรม)

หนึ่งในคุณสมบัติหลักของ GPT-3 คือความสามารถในการ few-shot learning และ zero-shot learning: โมเดลสามารถดำเนินการงานประมวลผลภาษาธรรมชาติที่หลากหลาย รวมถึงการแปล การสรุป การตอบคำถาม การเขียนเรียงความ และแม้แต่การเขียนโปรแกรม โดยอาศัยเพียงตัวอย่างไม่กี่ตัวอย่างในคำขอข้อความหรือไม่มีตัวอย่างเลย

GPT-3.5

โมเดล GPT-3.5 ถูกนำเสนอโดย OpenAI ในช่วงปลายปี 2022 ในฐานะส่วนหนึ่งของการพัฒนาเชิงวิวัฒนาการของตระกูล GPT มันสร้างขึ้นบนสถาปัตยกรรมของ autoregressive transformer-decoder ที่ปรับขนาดแล้วซึ่งใช้ใน GPT-3 พร้อมการปรับปรุงในคุณภาพการสร้างข้อความ การประมวลผลบริบท และความสามารถในการปฏิบัติตามคำสั่งที่ซับซ้อน จำนวนพารามิเตอร์ที่แน่นอนของ GPT-3.5 ไม่ได้รับการเปิดเผยอย่างเป็นทางการ; เชื่อว่าเวอร์ชัน davinci มีขนาดใกล้เคียงกับ GPT-3 (175 พันล้าน) อย่างไรก็ตามพารามิเตอร์ที่แน่นอนของเวอร์ชัน gpt-3.5-turbo ไม่เป็นที่ทราบ

การฝึกอบรม GPT-3.5 รวมถึงการใช้วิธีการ Reinforcement Learning from Human Feedback (RLHF) ที่ขยายออกในเวอร์ชัน text-davinci-003 และ gpt-3.5-turbo ในขณะที่เวอร์ชันเก่ากว่า text-davinci-002 ได้รับการฝึกอบรมโดยใช้ supervised fine-tuning (SFT) แทน RLHF โมเดลได้รับการฝึกอบรมบนคลังข้อความขยายซึ่งรวมถึง Common Crawl, Books, WebText และแหล่งคุณภาพสูงอื่นๆ context window ในเวอร์ชันยอดนิยมยุคแรก (gpt-3.5-turbo) คือ 4,096 token; ต่อมา OpenAI ได้เปิดตัวเวอร์ชันที่อัปเดตพร้อม context สูงสุด 16,385 token[10]

ในทางปฏิบัติ GPT-3.5 ได้รับการปรับให้เหมาะกับการแก้ปัญหาในงาน NLP หลากหลายประเภท เช่น:

  • การสร้างข้อความที่สอดคล้องและมีตรรกะ
  • การตอบคำถาม (QA) และการทำความเข้าใจบริบท
  • การปฏิบัติตามคำสั่งหลายขั้นตอน
  • การรักษาบริบทระยะยาวที่ดีขึ้นในการสนทนา

บนพื้นฐาน GPT-3.5 มีการเปิดตัวเวอร์ชันสำคัญหลายตัวสำหรับวัตถุประสงค์ต่างๆ:

  • text-davinci-002 — โมเดลแรกที่เปิดให้สาธารณชนใช้งานบนพื้นฐาน GPT-3.5 ที่ปรับให้เหมาะสำหรับการสร้างและการปฏิบัติตามคำสั่ง (ฝึกอบรมด้วย SFT)
  • text-davinci-003 — เวอร์ชันที่ปรับปรุงพร้อมความสามารถในการใช้เหตุผลและการสร้างข้อความที่ซับซ้อนมากขึ้น (ฝึกอบรมด้วย RLHF)
  • gpt-3.5-turbo — เวอร์ชัน GPT-3.5 ที่มีประสิทธิภาพสูงสุดและประหยัดที่สุด ใช้ในบริการ ChatGPT ตั้งแต่ปลายปี 2022

GPT-4

โมเดล GPT-4 ถูกนำเสนอโดย OpenAI เมื่อวันที่ 14 มีนาคม 2023 ในงานวิจัย "GPT-4 Technical Report" มันกลายเป็นขั้นตอนต่อไปในการพัฒนาตระกูลโมเดลภาษา โดยนำเสนอการปรับปรุงที่สำคัญในด้านการทำความเข้าใจข้อความ การสร้างคำตอบที่มีความหมายและสร้างสรรค์ รวมถึงการประมวลผลข้อมูล multimodal จำนวนพารามิเตอร์ที่แน่นอนและรายละเอียดสถาปัตยกรรมของโมเดลไม่ได้รับการเปิดเผยอย่างเป็นทางการ — รายงานทางเทคนิค GPT-4 ระบุอย่างชัดเจนว่าข้อมูลเกี่ยวกับสถาปัตยกรรม ขนาดโมเดล ฮาร์ดแวร์ ต้นทุนการคำนวณสำหรับการฝึกอบรม และการสร้าง dataset ไม่ได้รับการเผยแพร่[11] ตามการประเมินภายนอกที่ไม่เป็นทางการ GPT-4 อาจใช้แนวทาง Mixture of Experts (MoE) และมีขนาดรวมประมาณ ~1.8 ล้านล้านพารามิเตอร์ อย่างไรก็ตาม OpenAI ไม่ได้ยืนยันหรือปฏิเสธตัวเลขเหล่านี้อย่างเป็นทางการ[12]

GPT-4 เป็นโมเดล multimodal ที่สามารถรับทั้งข้อความและรูปภาพเป็นอินพุต ควรสังเกตว่าในช่วงการเปิดตัวครั้งแรกในเดือนมีนาคม 2023 มีเพียง modality ข้อความเท่านั้นที่พร้อมใช้งาน การรองรับการป้อนรูปภาพถูก deploy ในภายหลัง context window คือ 8,192 token ในเวอร์ชันพื้นฐาน และ 32,768 token ในตัวแปร GPT-4-32k โมเดลใช้วิธีการ RLHF (Reinforcement Learning from Human Feedback)

การฝึกอบรม GPT-4 ดำเนินการบนการรวมกันของคลังข้อความและ multimodal ขนาดใหญ่ รายละเอียดเฉพาะเกี่ยวกับข้อมูลการฝึกอบรม ฮาร์ดแวร์ และวิธีการไม่ได้รับการเปิดเผยในสิ่งพิมพ์อย่างเป็นทางการของ OpenAI

การฝึกอบรมเกิดขึ้นในหลายขั้นตอน:

  • การฝึกอบรมเบื้องต้นแบบไม่มีการกำกับดูแลขนาดใหญ่บนข้อความและรูปภาพ
  • supervised fine-tuning บนงานเฉพาะ
  • ขั้นตอนสุดท้ายของการฝึกอบรมด้วย reinforcement learning จากข้อเสนอแนะของมนุษย์ (RLHF) เพื่อเพิ่มความน่าเชื่อถือ ความปลอดภัย และคุณภาพการตีความคำสั่ง

บนพื้นฐาน GPT-4 มีการเปิดตัวเวอร์ชันหลักหลายตัว:

  • GPT-4 (มีนาคม 2023): เวอร์ชันพื้นฐานที่รองรับการป้อนข้อความ (การรองรับรูปภาพถูกเพิ่มในภายหลัง); context window 8,192 token; รวมถึงการเปิดตัวตัวแปร GPT-4-32k ที่มี context 32,768 token
  • GPT-4 Turbo (พฤศจิกายน 2023): การปรับเปลี่ยน GPT-4 ที่ปรับปรุงแล้วพร้อม context window ขยายเป็น 128,000 token[13]; ลดต้นทุนการคำนวณและเพิ่มความเร็วในการสร้าง; รองรับโหมดการเรียกใช้ฟังก์ชัน (function calling) และการแสดงผล JSON
  • GPT-4o (พฤษภาคม 2024): เวอร์ชัน multimodal รุ่นใหม่; ในการประกาศตอนเปิดตัวถูกวางตำแหน่งเป็น omni model ที่สามารถทำงานกับข้อความ รูปภาพ และเสียงแบบ real-time (ต่างจาก GPT-4 Turbo ที่ modality ต่างๆ ถูกให้บริการโดยโมดูลแยกต่างหาก); ในขณะที่โมเดล API พื้นฐาน gpt-4o อธิบายว่าเป็น text+image input, text output; context window 128,000 token
  • GPT-4.5 (กุมภาพันธ์ 2025): research preview; ใน system card OpenAI ระบุอย่างชัดเจนว่าโมเดล \"builds on GPT-4o\"[3]; การสร้างข้อความที่ซับซ้อนที่ดีขึ้น ความแม่นยำในการปฏิบัติตามคำสั่งที่สูงขึ้น และระดับ hallucination ที่ลดลง; context window 128,000 token อธิบายว่าเป็น \"โมเดลล่าสุดของ OpenAI ที่ไม่มี chain-of-thought\" (ชื่อรหัส — Orion)[14] ในระบบ API โมเดล gpt-4.5-preview ถูกประกาศว่า deprecated เมื่อวันที่ 14 เมษายน 2025 และถูกปิดใช้งานเมื่อวันที่ 14 กรกฎาคม 2025[4]
  • GPT-4.1 (เมษายน 2025): เวอร์ชันเสถียรพร้อมการขยาย context อย่างรุนแรงเป็น 1,047,576 token; รับข้อความและรูปภาพเป็นอินพุต ให้ผลลัพธ์เป็นข้อความ[15]; เปิดตัวพร้อมกันสามตัวแปร (GPT-4.1, GPT-4.1 mini, GPT-4.1 nano); เดิมเข้าถึงได้เฉพาะผ่าน API ต่อมาถูก deploy ใน ChatGPT

GPT-5

วันที่ 7 สิงหาคม 2025 OpenAI เปิดตัว GPT‑5 ในฐานะโมเดล \"ที่ฉลาด เร็ว และมีประโยชน์ที่สุด\" ในขณะนั้น พร้อมโหมดการใช้เหตุผลเชิงลึกในตัว (thinking) และมุ่งเน้นที่สถานการณ์จริง — การเขียน การเขียนโปรแกรม การดูแลสุขภาพ และการเข้าใจแบบ multimodal GPT‑5 ค่อยๆ กลายเป็นโมเดลเริ่มต้นสำหรับผู้ใช้ ChatGPT ที่เข้าสู่ระบบส่วนใหญ่ โดยแทนที่โมเดลตระกูล GPT‑4/4o และ o‑series ที่ใช้ก่อนหน้า[16]

GPT‑5 ถูกนำไปใช้งานเป็น ระบบรวม ที่มีสองโหมดการทำงานหลัก: การตอบสนองแบบเร็วและประหยัดสำหรับคำขอประจำวัน (เรียกได้ว่า gpt‑5 main) และการใช้เหตุผลเชิงลึกสำหรับงานที่ซับซ้อน (เรียกได้ว่า gpt‑5 thinking) การเลือกโหมดเกิดขึ้นโดยอัตโนมัติด้วย router ที่คำนึงถึงประเภทของการสนทนา ความซับซ้อนของคำขอ ความต้องการเครื่องมือ และคำแนะนำอย่างชัดเจนจากผู้ใช้ (เช่น \"think step by step\" หรือ \"analyze in depth\") ใน ChatGPT ผู้ใช้สามารถเข้าถึงโหมด Auto / Instant / Thinking / Pro; ตัวแปร mini และ nano เป็นหลักสำหรับ API model ในขณะที่ mini ในผลิตภัณฑ์สำหรับผู้ใช้อาจถูกใช้เป็น fallback หลังจากใช้ขีดจำกัดหมด[17]

ผ่าน API มีการให้บริการขนาดและการกำหนดค่า GPT‑5 หลายแบบ; ในเอกสาร OpenAI ระบุตัวแปรหลักว่า gpt‑5, gpt‑5‑mini และ gpt‑5‑nano (ทั้งหมดรองรับข้อความและข้อมูลภาพ) context window รวมสูงสุดสำหรับตระกูล GPT‑5 ใน API มีประมาณ 400,000 token (โดยแบ่งงบประมาณสำหรับการป้อนข้อมูลและการใช้เหตุผล/เอาต์พุต) โดยขีดจำกัดเฉพาะอาจแตกต่างกันขึ้นอยู่กับตัวแปรโมเดลและผลิตภัณฑ์ที่เลือก[18]

ใน benchmark การค้นหาเว็บและข้อเท็จจริงหลายตัว GPT‑5 แสดงให้เห็นการลดลงอย่างเห็นได้ชัดของความถี่ hallucination และข้อผิดพลาดเมื่อเทียบกับโมเดล GPT‑4o และโมเดล \"thinking\" รุ่นก่อนหน้าของ OpenAI ในการประกาศอย่างเป็นทางการ OpenAI ระบุการประเมินการลดข้อผิดพลาดประมาณ 45% เมื่อเทียบกับ GPT-4o และประมาณ 80% เมื่อเทียบกับ o3 ในโหมด thinking — ผลลัพธ์เหล่านี้ได้มาในเงื่อนไขเฉพาะ: โดยเปิดใช้งานการค้นหาเว็บบน prompt ที่ไม่ระบุตัวตนซึ่งเป็นตัวแทนของ traffic การผลิตของ ChatGPT[19]

GPT-5.1

โมเดล GPT-5.1 ถูกนำเสนอโดย OpenAI เมื่อวันที่ 12 พฤศจิกายน 2025 ในฐานะการวนซ้ำที่สำคัญครั้งแรกหลังจาก GPT-5 พื้นฐาน มุ่งเน้นที่การปรับปรุงการโต้ตอบประจำวัน การสนทนา และความสามารถในการปรับตัว โมเดลยังคงรักษาระบบรวมที่มีโหมดเร็ว (GPT-5.1 Instant) และการใช้เหตุผลเชิงลึก (GPT-5.1 Thinking) แต่แนะนำ adaptive reasoning: โมเดลจะกำหนดปริมาณการคำนวณแบบ dynamic ขึ้นอยู่กับความซับซ้อนของคำขอ ซึ่งทำให้เร็วกว่าอย่างเห็นได้ชัดสำหรับงานง่ายๆ โดยไม่สูญเสียคุณภาพสำหรับงานที่ซับซ้อน

การฝึกอบรม GPT-5.1 สร้างขึ้นบนพื้นฐาน GPT-5 ด้วยขั้นตอน post-training เพิ่มเติม รวมถึง RLHF ที่ขยาย มุ่งเน้นที่ความเป็นธรรมชาติของน้ำเสียงและลดความ \"เย็นชา\" ของคำตอบ context window ใน API คือ 400,000 token เอาต์พุตสูงสุด — 128,000 token[20] มีการรองรับการ cache prompt แบบขยายนานสูงสุด 24 ชั่วโมง ซึ่งช่วยลดต้นทุนและ latency อย่างมีนัยสำคัญในการสนทนาหลายขั้นตอน[21]

คุณสมบัติหลัก:

  • GPT-5.1 Instant — โหมดหลักสำหรับงานประจำวัน; ใช้ adaptive reasoning เป็นครั้งแรกเพื่อกำหนดว่าเมื่อใดควร \"คิด\" ก่อนตอบคำถามที่ซับซ้อนกว่า[21]
  • GPT-5.1 Thinking — การจัดสรรเวลาการใช้เหตุผลแบบ adaptive; ตามข้อมูลของ OpenAI บนการกระจายงาน ChatGPT ที่เป็นตัวแทน โมเดลเร็วกว่าประมาณสองเท่าสำหรับงานที่ง่ายที่สุดและช้ากว่าประมาณสองเท่าสำหรับงานที่ยากที่สุดเมื่อเทียบกับ GPT-5 Thinking[21]
  • ปรับปรุง multimodality (ข้อความ + vision)
  • ปรับปรุง coding และ agentic scenarios รวมถึงประสิทธิภาพในงานง่ายๆ ด้วย adaptive reasoning และ extended prompt caching[22]

GPT-5.2

โมเดล GPT-5.2 ถูกเปิดตัวเมื่อวันที่ 11 ธันวาคม 2025 ในฐานะ \"โมเดลที่มีความสามารถมากที่สุดของซีรีส์สำหรับการทำงานระดับมืออาชีพและการเรียนรู้\" นี่คือวิวัฒนาการของ GPT-5.1 โดยเน้นที่มูลค่าทางเศรษฐกิจ: การสร้างตาราง การนำเสนอ โค้ดที่ซับซ้อน งาน end-to-end ยังคงรักษาสถาปัตยกรรมรวมพร้อมโหมด Instant, Thinking และ Pro ใหม่ (สำหรับงานที่ต้องการ compute สูงสุดและเวลาการใช้เหตุผลมากขึ้น)

การฝึกอบรมรวมถึงคลังที่อัปเดตพร้อม knowledge cutoff เดือนสิงหาคม 2025 instruction-tuning ที่เข้มงวดขึ้น และ RLHF เพื่อลดข้อผิดพลาดในสถานการณ์หลายขั้นตอน Context — 400K token (128K max output) โมเดลกลายเป็นที่เชื่อถือได้มากขึ้นในสถานการณ์ระดับมืออาชีพ พร้อมความแม่นยำเชิงข้อเท็จจริงและการใช้เครื่องมือที่ดีขึ้น

บนพื้นฐาน GPT-5.2 เมื่อวันที่ 18 ธันวาคม 2025 มีการเปิดตัว GPT-5.2-Codex เฉพาะทาง — โมเดล coding แบบ agentic ที่มีการบีบอัด context ที่ดีขึ้น (context compaction) รองรับ Windows ความปลอดภัยทางไซเบอร์ที่เสริมแกร่ง และ long-horizon reasoning (งานนานหลายชั่วโมง)

ณ วันที่ 13 กุมภาพันธ์ 2026 หลังจากการยกเลิกโมเดลเก่าบางรุ่น GPT-5.2 กลายเป็นโมเดลเริ่มต้นชั่วคราวใน ChatGPT อย่างไรก็ตาม ในต้นเดือนมีนาคม 2026 บทบาทนี้ถูกส่งต่อไปยัง GPT‑5.3 Instant และ GPT‑5.4[17]

GPT-5.3-Codex

GPT-5.3-Codex ถูกนำเสนอเมื่อวันที่ 5 กุมภาพันธ์ 2026 ในฐานะ \"โมเดล coding แบบ agentic ที่ทรงพลังที่สุดในปัจจุบัน\" นี่คือการรวมความสามารถ frontier coding ของ GPT-5.2-Codex เข้ากับ professional reasoning ของ GPT-5.2 ในโมเดลเดียวที่เร็วกว่ารุ่นก่อน 25%

โมเดลสามารถดำเนินการงานของนักพัฒนาได้แทบทุกชนิด: long-running workflows, research, tool use, การดำเนินการโค้ด, interactive steering (ผู้ใช้สามารถเข้าแทรกแซงแบบ real-time โดยไม่สูญเสีย context) เวอร์ชันแรกของโมเดลถูกใช้โดยทีม OpenAI เพื่อ debug การฝึกอบรมของตัวเอง การ deploy และการประเมินผล

ผลลัพธ์หลัก ณ วันที่ประกาศ 5 กุมภาพันธ์ 2026: Terminal-Bench ~77.3%, OSWorld-Verified ~64.7%, SWE-Bench Pro ~56.8% ในการเปิดตัว GPT-5.4 ในภายหลังเมื่อวันที่ 5 มีนาคม 2026 OpenAI ได้ให้ผลลัพธ์ OSWorld-Verified 74.0% ที่อัปเดตแล้วสำหรับ GPT-5.3-Codex เมื่อใช้พารามิเตอร์ API ใหม่ที่รักษาความละเอียดภาพต้นฉบับ[23][7]

เมื่อวันที่ 12 กุมภาพันธ์ 2026 OpenAI ยังได้เปิดตัว GPT-5.3-Codex-Spark — เวอร์ชัน ultra-fast แบบ compact ที่ทำในความร่วมมือกับ Cerebras ซึ่งปรับให้เหมาะสำหรับ real-time: มากกว่า 1,000 token ต่อวินาที, text-only, context 128K ในตอนเริ่มต้นนี่คือการ rollout สำหรับผู้ใช้ ChatGPT Pro ใน Codex และ API design partners จำนวนน้อย ไม่ใช่โมเดล API ที่เปิดให้ใช้งานอย่างกว้างขวาง[24]

GPT-5.4

วันที่ 5 มีนาคม 2026 OpenAI นำเสนอ GPT‑5.4 ในฐานะ frontier model ใหม่สำหรับการทำงานระดับมืออาชีพ GPT‑5.4 รวมจุดแข็งของการเปิดตัวล่าสุดของ OpenAI ใน reasoning, coding และ agentic workflows และเป็นครั้งแรกสำหรับสายผลิตภัณฑ์หลักที่ได้รับความสามารถ computer use ในตัว พร้อมกัน OpenAI ยังเปิดตัว GPT‑5.4 Pro — ตัวแปรสำหรับงานที่ยากที่สุด โดยใช้การคำนวณมากขึ้นและการใช้เหตุผลที่นานกว่า[7]

ใน API โมเดล gpt-5.4 อธิบายว่าเป็นโมเดลที่แนะนำเป็นค่าเริ่มต้นสำหรับงาน general-purpose และ coding หลากหลายประเภท; context window มี 1,050,000 token เอาต์พุตสูงสุด — 128,000 token โมเดลรับข้อความและรูปภาพเป็นอินพุตและให้ผลลัพธ์เป็นข้อความ[8][25]

ใน ChatGPT โหมด Auto ณ วันที่ 7 มีนาคม 2026 สลับโดยอัตโนมัติระหว่าง GPT‑5.3 Instant และ GPT‑5.4 Thinking ในขณะที่ GPT‑5.4 Pro มีให้บริการเป็นโหมด high-capability แยกต่างหาก สำหรับผู้ใช้ ChatGPT ที่เข้าสู่ระบบ โมเดลเริ่มต้นคือ GPT‑5.3[17]

พัฒนาการของโมเดล GPT

พัฒนาการของโมเดล GPT
รุ่น ปีที่เปิดตัว จำนวนพารามิเตอร์ ขนาดคลังข้อความ คุณสมบัติหลัก
GPT-1 2018 ≈117–124 ล้าน[26] ≈5 GB (BooksCorpus) การฝึกอบรมเบื้องต้นแบบ generative บนคลังขนาดใหญ่; การฝึกอบรมสองขั้นตอน (pre-training + fine-tuning)
GPT-2 2019 1.5 พันล้าน ≈40 GB (WebText) การสร้างข้อความที่ปรับปรุงอย่างมีนัยสำคัญ; แสดงพฤติกรรม zero-shot ที่เข้มแข็ง; เผยแพร่โมเดลบางส่วนในตอนแรก
GPT-3 2020 175 พันล้าน ≈570 GB (Common Crawl, WebText2 และอื่นๆ) in-context learning ขนาดใหญ่; ความสามารถ few-shot และ zero-shot ที่เด่นชัดโดยไม่ต้อง fine-tuning
GPT-3.5 2022 ไม่เปิดเผย (เวอร์ชัน davinci คาดว่าประมาณ ~175 พันล้าน) >570 GB + คลังเพิ่มเติมและ instruction tuning ปรับปรุงความเสถียรและการปฏิบัติตามคำสั่ง; พื้นฐานของ ChatGPT เวอร์ชันแรก
GPT-4 2023 ไม่เปิดเผย[27] ไม่เปิดเผย Multimodality (ข้อความ + รูปภาพ); ความแม่นยำที่เพิ่มขึ้นและความทนทานต่อ hallucination; context 8k/32k token
GPT-4 Turbo 2023 ไม่เปิดเผย อ้างอิงจากการฝึกอบรม GPT-4 (รายละเอียดไม่เปิดเผย) เพิ่ม context เป็น 128,000 token; ปรับปรุงความเร็วและต้นทุนการสร้าง
GPT-4o 2024 ไม่เปิดเผย ข้อมูล multimodal (ข้อความ รูปภาพ เสียง) การประมวลผล multimodal ด้วยเครือข่ายประสาทเทียมเดียว; ความเร็วในการตอบสนองสูง
GPT-4.5 2025 ไม่เปิดเผย คลังข้อความและ multimodal ที่ขยายแล้ว Research preview บนพื้นฐาน GPT-4o; ลดข้อผิดพลาด; deprecated ภายในปี 2026
GPT-4.1 2025 ไม่เปิดเผย คลังที่อัปเดตแล้ว Context สูงสุด 1,047,576 token; ข้อความ + รูปภาพเป็นอินพุต ข้อความเป็นเอาต์พุต
GPT-5 2025 (สิงหาคม) ไม่เปิดเผย คลัง multimodal ขนาดใหญ่ ระบบรวมพร้อมโหมดตอบสนองแบบเร็วและการใช้เหตุผล; context ~400K token; ลด hallucination
GPT-5.1 2025 (พฤศจิกายน) ไม่เปิดเผย คลัง GPT-5 ที่ขยายแล้ว + RLHF Adaptive reasoning; prompt caching 24 ชั่วโมง; ปรับปรุงใน coding
GPT-5.2 2025 (ธันวาคม) ไม่เปิดเผย Knowledge cutoff เดือนสิงหาคม 2025 โหมด Pro; professional knowledge work; GPT-5.2-Codex (agentic coding)
GPT-5.3-Codex 2026 (กุมภาพันธ์) ไม่เปิดเผย ข้อมูลที่อัปเดตแล้ว + self-improvement data เร็วกว่า 25%; full-spectrum agent; interactive steering
GPT-5.3-Codex-Spark 2026 (กุมภาพันธ์) ไม่เปิดเผย แบบ compact >1000 t/s บน Cerebras; real-time coding; context 128K
GPT-5.3 Instant 2026 (มีนาคม) ไม่เปิดเผย ไม่เปิดเผย การอัปเดตโมเดลสนทนาที่ใช้บ่อยที่สุดอย่าง ChatGPT; ปรับปรุง factuality, web search และ conversational flow
GPT-5.4 2026 (มีนาคม) ไม่เปิดเผย ไม่เปิดเผย frontier model ใหม่สำหรับการทำงานระดับมืออาชีพ; native computer use; โมเดลเริ่มต้นใน API สำหรับ general-purpose และงาน coding ส่วนใหญ่
GPT-5.4 Pro 2026 (มีนาคม) ไม่เปิดเผย ไม่เปิดเผย ตัวแปร GPT-5.4 ที่มี compute มากขึ้นสำหรับงานที่ยากที่สุด

พารามิเตอร์สถาปัตยกรรมของโมเดล GPT

พารามิเตอร์สถาปัตยกรรมของโมเดล GPT
โมเดล ปีที่เปิดตัว จำนวนพารามิเตอร์ จำนวนชั้น ขนาด hidden state จำนวน attention head Context window ขนาดคลังข้อมูลการฝึกอบรม
GPT-1 2018 ≈117–124 ล้าน 12 768 12 512 token ≈5 GB (BooksCorpus)
GPT-2 2019 1.5 พันล้าน 48 1,600 25 1,024 token ≈40 GB (WebText)
GPT-3 2020 175 พันล้าน 96 12,288 96 2,048 token ≈570 GB (Common Crawl + WebText2 + อื่นๆ)
GPT-3.5 2022 ไม่เปิดเผย (เวอร์ชัน davinci คาดว่าประมาณ ~175 พันล้าน) (ประมาณใกล้เคียงกับ GPT-3) (ประมาณใกล้เคียงกับ GPT-3) (ไม่เปิดเผย) สูงสุด 4,096 token (รุ่นแรก); สูงสุด 16,385 token (รุ่นหลัง) Common Crawl ที่ขยายแล้ว + dataset เพิ่มเติมและ instruction tuning
GPT-4 2023 ไม่เปิดเผย (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) 8,192 token (พื้นฐาน); 32,768 (GPT-4-32k) ไม่เปิดเผย
GPT-4 Turbo 2023 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) สูงสุด 128,000 token เวอร์ชันที่ปรับปรุงของ GPT-4 (รายละเอียดคลังไม่เปิดเผย)
GPT-4o 2024 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) สูงสุด 128,000 token ข้อมูล multimodal: ข้อความ รูปภาพ เสียง
GPT-4.5 2025 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) สูงสุด 128,000 token คลังข้อความและ multimodal ที่อัปเดตแล้ว
GPT-4.1 2025 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) สูงสุด 1,047,576 token Multimodality; การฝึกอบรมที่ปรับขนาดโดยเน้น context ยาว
GPT-5 2025 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) สูงสุด ≈400,000 token (context รวม) คลัง multimodal ขนาดใหญ่ (รายละเอียดไม่เปิดเผย)
GPT-5.4 2026 (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) (ไม่เปิดเผย) 1,050,000 token; 128,000 max output ไม่เปิดเผย

ลิงก์อ้างอิง

  • \"Improving language understanding with unsupervised learning\", OpenAI, 11 มิถุนายน 2018
  • \"Better language models and their implications\", OpenAI, 14 กุมภาพันธ์ 2019
  • \"GPT-2: 6-month follow-up\", OpenAI, 20 สิงหาคม 2019
  • \"GPT-2: 1.5B release\", OpenAI, 5 พฤศจิกายน 2019
  • \"Language models are few-shot learners\", OpenAI, 28 พฤษภาคม 2020
  • \"OpenAI API\", OpenAI, 11 มิถุนายน 2020
  • \"Introducing ChatGPT\", OpenAI, 30 พฤศจิกายน 2022
  • \"Function calling and other API updates\", OpenAI, 13 มิถุนายน 2023
  • \"GPT-4\", OpenAI, 14 มีนาคม 2023
  • \"New models and developer products announced at DevDay\", OpenAI, 6 พฤศจิกายน 2023
  • \"Hello GPT-4o\", OpenAI, 13 พฤษภาคม 2024
  • \"Introducing GPT-4.1 in the API\", OpenAI, 14 เมษายน 2025
  • \"Introducing GPT-4.5\", OpenAI, 27 กุมภาพันธ์ 2025
  • \"Introducing GPT-5\", OpenAI, 7 สิงหาคม 2025
  • \"GPT-5.1: A smarter, more conversational ChatGPT\", OpenAI, 12 พฤศจิกายน 2025
  • \"Introducing GPT-5.2\", OpenAI, 11 ธันวาคม 2025
  • \"Introducing GPT-5.2-Codex\", OpenAI, 18 ธันวาคม 2025
  • \"Introducing GPT-5.3-Codex\", OpenAI, 5 กุมภาพันธ์ 2026
  • \"Introducing GPT-5.3-Codex-Spark\", OpenAI, 12 กุมภาพันธ์ 2026
  • \"GPT-5.3 Instant: Smoother, more useful everyday conversations\", OpenAI, 3 มีนาคม 2026
  • \"Introducing GPT-5.4\", OpenAI, 5 มีนาคม 2026
  • \"Using GPT-5.4\", OpenAI Developers
  • \"Models\", OpenAI API
  • \"Deprecations\", OpenAI API
  • \"GPT-5.3 and GPT-5.4 in ChatGPT\", OpenAI Help Center
  • \"Retiring GPT-4o and other ChatGPT models\", OpenAI Help Center

หมายเหตุ

  1. ↑ OpenAI. «Introducing GPT-5» (7 августа 2025). https://openai.com/index/introducing-gpt-5/
  2. ↑ OpenAI. «Introducing GPT-4.5» (2025). https://openai.com/index/introducing-gpt-4-5/
  3. ↑ 3.0 3.1 OpenAI. GPT-4.5 System Card (27 февраля 2025). https://cdn.openai.com/gpt-4-5-system-card-2272025.pdf
  4. ↑ 4.0 4.1 OpenAI Developers. Deprecations. https://developers.openai.com/api/docs/deprecations/
  5. ↑ OpenAI. «Introducing GPT-4.1 in the API» (2025).
  6. ↑ OpenAI. «GPT-5.3 Instant: Smoother, more useful everyday conversations» (3 марта 2026). https://openai.com/index/gpt-5-3-instant/
  7. ↑ 7.0 7.1 7.2 OpenAI. «Introducing GPT-5.4» (5 марта 2026). https://openai.com/index/introducing-gpt-5-4/
  8. ↑ 8.0 8.1 OpenAI Developers. «Using GPT-5.4». https://developers.openai.com/api/docs/guides/latest-model/
  9. ↑ Radford, A. et al. (2018). Improving Language Understanding by Generative Pre-Training. https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf
  10. ↑ OpenAI отмечала, что обновлённый GPT-3.5 Turbo «now comes by default with 16k context».
  11. ↑ OpenAI. «GPT-4 Technical Report» (2023). arXiv:2303.08774.
  12. ↑ Эти оценки основаны на данных, опубликованных SemiAnalysis и подтверждённых рядом независимых источников.
  13. ↑ Анонсирована на DevDay OpenAI 6 ноября 2023 года; общая доступность — с 9 апреля 2024 года.
  14. ↑ Кодовое имя Orion и характеристика «последняя модель без chain-of-thought» фигурировали в roadmap-коммуникации Сэма Альтмана и ряде медиа-публикаций (Reuters, The Verge), но не в самом launch post GPT-4.5.
  15. ↑ OpenAI. «Introducing GPT-4.1 in the API» (2025).
  16. ↑ OpenAI. «Introducing GPT-5» (7 августа 2025).
  17. ↑ 17.0 17.1 17.2 OpenAI Help Center. «GPT-5.3 and GPT-5.4 in ChatGPT». https://help.openai.com/en/articles/11909943-gpt-53-and-54-in-chatgpt
  18. ↑ OpenAI API documentation. Models: GPT-5.
  19. ↑ OpenAI. «Introducing GPT-5» (2025). Условия тестирования: «with web search enabled on anonymized prompts representative of ChatGPT production traffic».
  20. ↑ OpenAI Developers. Models: GPT-5.1. https://developers.openai.com/api/docs/models/gpt-5.1
  21. ↑ 21.0 21.1 21.2 OpenAI. «GPT-5.1: A smarter, more conversational ChatGPT» (12 ноября 2025). https://openai.com/index/gpt-5-1/
  22. ↑ OpenAI. «GPT-5.1 for developers» (2025). https://openai.com/index/gpt-5-1-for-developers/
  23. ↑ OpenAI. «Introducing GPT-5.3-Codex» (5 февраля 2026). https://openai.com/index/introducing-gpt-5-3-codex/
  24. ↑ OpenAI. «Introducing GPT-5.3-Codex-Spark» (12 февраля 2026). https://openai.com/index/introducing-gpt-5-3-codex-spark/
  25. ↑ OpenAI Developers. Models: GPT-5.4. https://developers.openai.com/api/docs/models/gpt-5.4
  26. ↑ Точное число параметров GPT-1 в разных источниках варьируется; исходная публикация не указывает число явно. Цифра ≈117 млн широко цитируется, а ≈124 млн фигурирует в ряде поздних материалов.
  27. ↑ По неофициальным внешним оценкам (SemiAnalysis и др.), возможно MoE-архитектура с суммарным масштабом ~1,8 трлн параметров; OpenAI эти данные не подтверждала.

วรรณกรรม

  • Radford, A. et al. (2018). Improving Language Understanding by Generative Pre-Training. PDF.
  • Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
  • Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
  • Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
  • Chen, M. et al. (2021). Evaluating Large Language Models Trained on Code. arXiv:2107.03374.
  • Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
  • Hoffmann, J. et al. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
  • Bai, Y. et al. (2022). Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback. arXiv:2204.05862.
  • OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
  • Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.
Retrieved from "https://systems-analysis.info/int/index.php?title=GPT_(OpenAI)_(TH)&oldid=2480"