GPT (OpenAI) (CS)
GPT (Generative Pre-trained Transformer) — je rodina velkých jazykových modelů (LLM) vyvinutá společností OpenAI. Modely GPT jsou postaveny na architektuře transformerů a realizují paradigma generativního předtrénování: v první fázi se model učí na rozsáhlých korpusech textů bez explicitního označení, poté může být doladěn pro konkrétní úlohy. Pro pozdější generace (počínaje GPT‑5) OpenAI také používá označení jednotný systém (unified system), protože produkt kombinuje rychlý režim odpovědí, režim hloubkového uvažování (reasoning) a směrovač[1].
Název
Zkratka GPT se rozkládá jako Generative Pre-trained Transformer (Generativní Předtrénovaný Transformer).
- Generativní (Generative): znamená, že model je schopen vytvářet (generovat) nový obsah, například text.
- Předtrénovaný (Pre-trained): označuje, že model prochází rozsáhlou počáteční fází učení na velkém objemu dat (například textech z internetu). Po předtrénování může být model obvykle dále „doladěn" (fine-tuned) pro provádění specifičtějších úloh.
- Transformer (Transformer): název konkrétní architektury neuronové sítě, která je klíčovou inovací stojící za GPT a mnoha dalšími moderními modely umělé inteligence.
Hlavní vlastností GPT je, že trénink probíhá v autoregresní formě — model předpovídá následující token na základě předcházejícího kontextu. Model se tedy učí maximalizovat pravděpodobnost následujícího tokenu, přičemž zná posloupnost předchozích tokenů. Při tréninku se minimalizuje chyba předpovídání následujícího prvku, což umožňuje generovat texty s vysokou koherencí a soudržností.
Proces generování textu v GPT
Model GPT generuje text sekvenčně, token po tokenu, podle následujícího iterativního schématu:
- Přijme na vstup počáteční textovou posloupnost (prompt, seed text).
- Vypočítá pravděpodobnostní rozdělení přes všechny tokeny slovníku pro následující prvek textu.
- Vybere následující token:
- buď podle nejvyšší pravděpodobnosti (hladový výběr),
- nebo metodou stochastického vzorkování (sampling),
- nebo s použitím speciálních filtrovacích strategií (top-k, top-p).
- Přidá vybraný token k aktuální posloupnosti.
- Aktualizovaná posloupnost je znovu přivedena na vstup modelu pro předpověď následujícího tokenu.
Architektura transformeru: zpracování textu
Proces zpracování dat uvnitř transformeru pro předpověď následujícího tokenu zahrnuje několik hlavních fází:
- Tokenizace (Tokenization). Vstupní text je rozdělen na tokeny — malé jednotky textu, které mohou být slovy, částmi slov nebo interpunkčními znaménky. Slovník modelu GPT-3 například zahrnuje přibližně 50 257 tokenů.
- Embedding tokenů (Embeddings). Každý token je převeden na vektor pevné délky pomocí matice embeddingů (W_E). Vektory kódují význam tokenů: sémanticky blízké tokeny jsou umístěny blízko sebe ve vícerozměrném prostoru. V modelu GPT-3 je dimenzionalita embeddingů 12 288.
- Zpracování ve vrstvách transformeru.
- Bloky pozornosti (Attention Blocks): Každý token interaguje s ostatními tokeny posloupnosti. Mechanismus pozornosti umožňuje zohledňovat kontext a správně interpretovat významy slov.
- Plně propojené vrstvy (Feed-Forward Layers): Po mechanismu pozornosti je každý token zpracován samostatně přes dvouvrstvou neuronovou síť s nelineární aktivací.
- Zpětná transformace a Softmax. Po všech vrstvách je zpracovaný vektor převeden zpět do prostoru tokenů pomocí matice (W_U), která je často transponovanou verzí W_E. Výsledný vektor logitů je normalizován pomocí funkce Softmax pro získání pravděpodobnostního rozdělení přes všechny tokeny.
- Výběr následujícího tokenu (Sampling). Následující token je vybrán na základě pravděpodobnostního rozdělení. Parametr teploty (temperature) řídí náhodnost výběru: při teplotě 0 je vybrán nejpravděpodobnější token, při vyšších teplotách se zvyšuje pravděpodobnost výběru méně pravděpodobných variant, což podporuje větší rozmanitost textu.
Modely GPT
- GPT-1 (2018): první model rodiny; 12vrstvý decoder-only transformer; dvoustupňový trénink (předtrénování + doladění na úlohách NLP).
- GPT-2 (2019): 1,5 mld parametrů; trénink na korpusu WebText; poprvé schopen generovat dlouhé soudržné texty; zlepšení kvality zero-shot generování. Oznámen 14. února 2019, plná verze (1,5 mld) zveřejněna 5. listopadu 2019 z bezpečnostních důvodů.
- GPT-3 (2020): 175 mld parametrů; rozsáhlý trénink na kombinaci Common Crawl, Books, Wikipedia; výrazný rozvoj schopností few-shot a zero-shot.
- GPT-3.5 (2022): přechodná verze mezi GPT-3 a GPT-4; lepší následování instrukcí díky tréninku s lidskou zpětnou vazbou (RLHF) ve verzích text-davinci-003 a gpt-3.5-turbo; kontextové okno až 4 096 tokenů v raných verzích a až 16 385 tokenů v pozdějších (gpt-3.5-turbo-16k a aktualizovaném gpt-3.5-turbo).
- GPT-4 (2023): multimodální model s textovým a grafickým vstupem (podpora obrázků byla nasazena později, po textovém spuštění); kontextové okno 8 192 tokenů v základní verzi a 32 768 tokenů ve variantě GPT-4-32k; výrazné zvýšení přesnosti, robustnosti a logiky uvažování.
- GPT-4 Turbo (2023): optimalizovaná verze GPT-4; rozšířené kontextové okno na 128 000 tokenů; nižší latence a náklady na provoz.
- GPT-4o (2024): multimodální model nové generace (text, obrázky, zvuk) s jednotnou neuronovou architekturou; velmi vysoká rychlost a přesnost odpovědí; kontextové okno 128 000 tokenů.
- GPT-4.5 (2025): výzkumný náhled (research preview); v system card OpenAI uvádí, že model „builds on GPT-4o"[2][3]; zlepšené porozumění uživatelským dotazům, snížení počtu chyb; kontextové okno 128 000 tokenů. V API byl model
gpt-4.5-previewoznačen jako deprecated 14. dubna 2025 a odpojen 14. července 2025[4]. - GPT-4.1 (2025): vylepšená verze rodiny GPT-4 s kontextovým oknem až 1 mil. tokenů; přijímá text a obrázky na vstupu, vydává text[5]. Vydán současně ve třech variantách: GPT-4.1, GPT-4.1 mini, GPT-4.1 nano.
- GPT-5 (2025): jednotný systém s režimy rychlé odpovědi a hloubkového uvažování; kontextové okno přibližně 400 000 tokenů; výrazné snížení halucinací u faktografických úloh.
- GPT-5.1 (2025): adaptivní reasoning, zlepšení v coding a long-context retention.
- GPT-5.2 (2025): důraz na profesionální práci; režim Pro pro frontier-úlohy; na základě GPT-5.2 vydána agentní GPT-5.2-Codex.
- GPT-5.3-Codex (2026): agentní coding-model spojující coding-schopnosti a reasoning; o 25 % rychlejší než předchůdci.
- GPT-5.3 Instant (2026): aktualizace nejpoužívanějšího konverzačního modelu ChatGPT; vydána 3. března 2026. Zlepšena faktická přesnost, kvalita webového vyhledávání, plynulost dialogu a snížen počet zbytečných odmítnutí a nadměrných výhrad. V API dostupný jako
gpt-5.3-chat-latest[6]. - GPT-5.4 (2026): frontier-model OpenAI pro profesionální práci, představený 5. března 2026; první general-purpose model OpenAI s native computer-use capabilities. V API je
gpt-5.4doporučen jako výchozí model pro široké spektrum general-purpose a coding-úloh[7][8].
GPT-1
První model, GPT-1, byl představen společností OpenAI v roce 2018 v práci \"Improving Language Understanding by Generative Pre-Training\". Model byl 12vrstvý decoder-only transformer[9] a byl postaven na architektuře transformerů. Trénink GPT-1 probíhal ve dvou fázích: fáze nekontrolovaného generativního předtrénování (pre-training), po níž následovala fáze řízeného doladění (fine-tuning).
V průběhu předtrénování se model učil na korpusu BookCorpus obsahujícím více než 7 000 nevydaných knih různých žánrů. Zvláštností tohoto korpusu byla přítomnost dlouhých nepřerušovaných úryvků textu, což bylo klíčové pro rozvoj schopnosti modelu zpracovávat složité a rozsáhlé textové závislosti.
V fázi doladění byl model přizpůsoben pro řešení specializovaných úloh zpracování přirozeného jazyka, včetně:
- Odpovídání na otázky (Question Answering, QA) — formulace správné odpovědi na základě zadaného textového kontextu;
- Rozpoznávání textové implikace (Natural Language Inference, NLI) — určení logického vztahu mezi dvěma texty: implikace, rozporu nebo neutrálnosti;
- Hodnocení sémantické podobnosti (Semantic Textual Similarity) — měření míry významové blízkosti mezi dvěma textovými posloupnostmi.
Díky tomuto přístupu GPT-1 prokázal výraznou nadřazenost nad předchozími modely na řadě standardních benchmarků pro úlohy porozumění textu.
Vývoj GPT-1 demonstroval řadu klíčových úspěchů a poznatků v oblasti zpracování přirozeného jazyka (NLP):
- Efektivita generativního předtrénování. Bylo empiricky potvrzeno, že předtrénování na rozsáhlých korpusech neoznačeného textu umožňuje modelu získat univerzální jazykové reprezentace vhodné pro následné použití v různých aplikačních úlohách bez nutnosti zásadních architekturních změn.
- Univerzálnost architektury transformerů. Použití vícevrstvého dekoderového transformeru umožnilo modelu úspěšně zpracovávat dlouhodobé závislosti v textu, což bylo dříve obtížné pro modely založené na rekurentních neuronových sítích.
- Snížení závislosti na označených datech. Práce potvrdila, že rozsáhlé předtrénování na neoznačených datech může výrazně snížit objem označených dat potřebných k dosažení vysoké kvality u cílových úloh.
- Základ pro další rozvoj. Výsledky GPT-1 položily koncepční a technické základy pro následující verze modelů rodiny GPT (GPT-2, GPT-3 a dále).
GPT-2
Model GPT-2 byl oznámen společností OpenAI 14. února 2019. Výrazně překonal svého předchůdce co do velikosti: plná verze modelu obsahovala přibližně 1,5 miliardy parametrů. Z bezpečnostních důvodů OpenAI zpočátku zveřejnila pouze zmenšené varianty modelu; plná verze (1,5 mld parametrů) byla vydána 5. listopadu 2019. Na rozdíl od GPT-1, který byl trénován na korpusu BookCorpus (~5 GB), byl GPT-2 trénován na speciálně sestaveném korpusu WebText o objemu přibližně 40 GB, zahrnujícím textová data z internetových zdrojů s vysokou úrovní kvality. Zvětšení jak velikosti modelu, tak objemu trénovacích dat umožnilo GPT-2 výrazně zlepšit kvalitu generování textu: model prokazoval schopnost vytvářet věcné články, příběhy a dokonce soudržné úryvky beletristické prózy.
GPT-2 používal architekturu autoregresního dekoderového transformeru, analogickou GPT-1, bez zásadních změn. Model se skládal z 48 vrstev vlastní pozornosti (self-attention), měl velikost skrytého stavu 1600 a obsahoval přibližně 1,5 miliardy parametrů. Počet hlav pozornosti byl 25 (při zachování velikosti 64 na hlavu, zděděné z GPT-1: 1600 ÷ 64 = 25). Trénink byl prováděn na úloze předpovídání následujícího tokenu na základě předchozího kontextu s použitím maskovaného mechanismu pozornosti.
Jedním z hlavních odlišností GPT-2 bylo to, že model poprvé prokázal vysokou efektivitu v režimu zero-shot learning — schopnosti řešit nové úlohy bez explicitního doladění na příkladech pro tyto úlohy. Model byl trénován na rozsáhlém korpusu obecných textů a neprocházel specializovaným tréninkem na datech konkrétních úloh. Hodnocení probíhalo v režimu zero-shot, při němž model plnil úlohy výhradně na základě znalostí získaných v průběhu předtrénování. V řadě úloh jazykového modelování GPT-2 dosahoval kvality srovnatelné nebo převyšující výsledky modelů speciálně trénovaných na specializovaných datových sadách (například Wikipedie, zpravodajské texty, knihy).
GPT-3
Model GPT-3 byl představen společností OpenAI v červnu 2020 (článek na arXiv se objevil 28. května 2020, beta přístup k API byl otevřen 11. června 2020). Stal se dalším krokem ve vývoji generativních transformerů po GPT-2 a vyznačoval se rozšířením architektury na 175 miliard parametrů, čímž se stal v té době největším jazykovým modelem.
Architektura GPT-3 zůstala v základu stejná — vícevrstvý autoregresní dekoderový transformer bez zásadních změn. Hlavní zlepšení výkonu bylo dosaženo zvýšením počtu vrstev, šířky skrytých vrstev a rozsahu tréninku. Model byl trénován na kombinaci několika rozsáhlých textových korpusů, včetně Common Crawl, WebText2, Books1, Books2 a Wikipedie. Celkový objem dat byl přibližně 570 GB a více (570 GB připadá na filtrovanou část Common Crawl dominující v trénovací směsi).
Jednou z hlavních vlastností GPT-3 byla jeho schopnost few-shot learning a zero-shot learning: model dokázal plnit široké spektrum úloh zpracování přirozeného jazyka, včetně překladu, sumarizace, odpovídání na otázky, psaní esejí a dokonce programování, a to na základě pouhých několika příkladů v textovém dotazu nebo zcela bez příkladů.
GPT-3.5
Model GPT-3.5 byl představen společností OpenAI koncem roku 2022 jako součást evolučního rozvoje rodiny GPT. Byl postaven na základě architektury rozšířeného autoregresního dekoderového transformeru použité v GPT-3, se zlepšeními v kvalitě generování textu, zpracování kontextu a schopnosti následovat složité instrukce. Přesný počet parametrů GPT-3.5 nebyl oficiálně zveřejněn; předpokládá se, že davinci-verze jsou svou velikostí srovnatelné s GPT-3 (175 mld), ale přesné parametry verze gpt-3.5-turbo nejsou známy.
Trénink GPT-3.5 zahrnoval rozšířené použití metod učení zpětnovazebního posilování na základě lidské zpětné vazby (Reinforcement Learning from Human Feedback, RLHF) ve verzích text-davinci-003 a gpt-3.5-turbo. Přitom starší verze text-davinci-002 byla trénována pomocí supervised fine-tuning (SFT), nikoli RLHF. Model byl trénován na rozšířených textových korpusech zahrnujících Common Crawl, Books, WebText a další vysoce kvalitní zdroje. Kontextové okno v raných populárních verzích (gpt-3.5-turbo) bylo 4 096 tokenů; následně OpenAI vydala aktualizované verze s kontextem až 16 385 tokenů[10].
V praxi byl GPT-3.5 přizpůsoben pro řešení širokého okruhu úloh zpracování přirozeného jazyka, jako jsou:
- Generování soudržného a logického textu;
- Odpovídání na otázky (QA) a porozumění kontextu;
- Následování víceúrovňových instrukcí;
- Zlepšené udržování dlouhodobého kontextu v dialozích.
Na základě GPT-3.5 bylo vydáno několik klíčových verzí určených pro různé účely:
- text-davinci-002 — první veřejně dostupný model založený na GPT-3.5, optimalizovaný pro generování a sledování instrukcí (trénován pomocí SFT).
- text-davinci-003 — vylepšená verze s ještě větší schopností uvažování a generování složitých textů (trénována s použitím RLHF).
- gpt-3.5-turbo — nejvýkonnější a nejúspornější verze GPT-3.5, používaná ve službě ChatGPT od konce roku 2022.
GPT-4
Model GPT-4 byl představen společností OpenAI 14. března 2023 v práci "GPT-4 Technical Report". Stal se dalším krokem ve vývoji rodiny jazykových modelů a přinesl výrazná zlepšení v oblasti porozumění textu, generování smysluplných a kreativních odpovědí a zpracování multimodálních dat. Přesný počet parametrů a architekturní detaily modelu nebyly oficiálně zveřejněny — technická zpráva GPT-4 výslovně uvádí, že informace o architektuře, velikosti modelu, hardwaru, výpočetních nákladech na trénink a sestavení datasetů nejsou zveřejněny[11]. Podle neoficiálních externích odhadů mohl GPT-4 používat přístup Mixture of Experts (MoE) a mít celkový rozsah přibližně ~1,8 bilionu parametrů, avšak OpenAI tyto číselné údaje oficiálně nepotvrdila ani nevyvrátila[12].
GPT-4 je multimodální model schopný přijímat na vstupu jak text, tak obrázky. Je třeba poznamenat, že v době původního spuštění v březnu 2023 byla dostupná pouze textová modalita; podpora vstupu obrázků byla nasazena později. Kontextové okno bylo 8 192 tokenů v základní verzi a 32 768 tokenů ve variantě GPT-4-32k. Model využíval metody RLHF (učení zpětnovazebního posilování na základě lidské zpětné vazby).
Trénink GPT-4 probíhal na kombinaci rozsáhlých textových a multimodálních korpusů. Konkrétní detaily trénovacích dat, hardwaru a metodologie nejsou zveřejněny v oficiálních publikacích OpenAI.
Trénink probíhal v několika fázích:
- rozsáhlé nekontrolované předtrénování na textech a obrázcích,
- řízené doladění (supervised fine-tuning) na specializovaných úlohách,
- závěrečná fáze učení zpětnovazebního posilování na základě lidské zpětné vazby (RLHF) pro zvýšení spolehlivosti, bezpečnosti a kvality interpretace instrukcí.
Na základě GPT-4 bylo vydáno několik hlavních verzí:
- GPT-4 (březen 2023): základní verze s podporou textového vstupu (podpora obrázků přidána později); kontextové okno 8 192 tokenů; vydána také varianta GPT-4-32k s kontextem 32 768 tokenů.
- GPT-4 Turbo (listopad 2023): optimalizovaná modifikace GPT-4 s rozšířeným kontextovým oknem na 128 000 tokenů[13]; snížené výpočetní náklady a zrychlené generování; podpora režimů volání funkcí (function calling) a JSON výstupu.
- GPT-4o (květen 2024): multimodální verze nové generace; v launch-oznámení byla prezentována jako omni-model schopný pracovat s textem, obrázky a zvukem v reálném čase (na rozdíl od GPT-4 Turbo, kde různé modality obsluhovala samostatná moduly); přičemž základní API-model
gpt-4oje popsán jako text+image input, text output; kontextové okno 128 000 tokenů. - GPT-4.5 (únor 2025): výzkumný náhled (research preview); v system card OpenAI výslovně uvádí, že model „builds on GPT-4o"[3]; zlepšené generování složitých textů, zvýšená přesnost plnění instrukcí a snížená míra halucinací; kontextové okno 128 000 tokenů. Byl popisován jako „poslední model OpenAI bez chain-of-thought" (kódové označení — Orion)[14]. V API byl model
gpt-4.5-previewoznačen jako deprecated 14. dubna 2025 a odpojen 14. července 2025[4]. - GPT-4.1 (duben 2025): stabilní verze s radikálním rozšířením kontextu na 1 047 576 tokenů; přijímá text a obrázky na vstupu, vydává text[15]; vydán současně ve třech variantách (GPT-4.1, GPT-4.1 mini, GPT-4.1 nano); zpočátku dostupný pouze přes API, později nasazen v ChatGPT.
GPT-5
7. srpna 2025 OpenAI představila GPT‑5 jako svůj tehdejší „nejchytřejší, nejrychlejší a nejužitečnější" model, s vestavěným režimem hloubkového uvažování (thinking) a zaměřením na praktické scénáře — psaní, programování, práci se zdravotními informacemi a multimodální porozumění. GPT‑5 se postupně stala výchozím modelem pro většinu přihlášených uživatelů ChatGPT, čímž vytlačila dříve používané modely rodiny GPT‑4/4o a o‑série.[16]
GPT‑5 je realizován jako jednotný systém se dvěma hlavními režimy provozu: rychlé, úsporné odpovědi pro každodenní dotazy (přibližně gpt‑5 main) a hloubkové uvažování pro složité úlohy (přibližně gpt‑5 thinking). Výběr režimu probíhá automaticky pomocí směrovače, který zohledňuje typ dialogu, složitost dotazu, potřebu nástrojů a explicitní podněty uživatele (například „think step by step" nebo „analyze in depth"). V ChatGPT má uživatel k dispozici režimy Auto / Instant / Thinking / Pro; varianty mini a nano jsou především API-modely, přičemž mini může být v uživatelském produktu použit jako záložní po vyčerpání limitu[17].
Prostřednictvím programového rozhraní je poskytováno několik velikostí a konfigurací GPT‑5; v dokumentaci OpenAI jsou jako hlavní varianty uvedeny gpt‑5, gpt‑5‑mini a gpt‑5‑nano (všechny podporují text a vizuální data). Maximální celkové kontextové okno pro rodinu GPT‑5 v API je přibližně 400 000 tokenů (s rozdělením rozpočtů na vstup a uvažování/výstup), přičemž konkrétní limity se mohou lišit v závislosti na zvolené variantě modelu a produktu[18].
V řadě benchmarků webového vyhledávání a faktografických benchmarků GPT‑5 vykazuje výrazné snížení frekvence halucinací a chyb ve srovnání s modely GPT‑4o a staršími „thinking"-modely OpenAI. V oficiálním oznámení OpenAI uváděla odhady snížení chyb přibližně o 45 % ve srovnání s GPT-4o a přibližně o 80 % ve srovnání s o3 v thinking-režimu — tyto výsledky byly získány za specifických podmínek: se zapnutým webovým vyhledáváním na anonymizovaných promptech reprezentativních pro produkční provoz ChatGPT[19].
GPT-5.1
Model GPT-5.1 byl představen společností OpenAI 12. listopadu 2025 jako první významná iterace po základním GPT-5, zaměřená na zlepšení každodenní interakce, konverzační přirozenosti a adaptability. Model zachovává jednotný systém s rychlým režimem (GPT-5.1 Instant) a hloubkovým uvažováním (GPT-5.1 Thinking), ale zavádí adaptivní myšlení (adaptive reasoning): model dynamicky určuje objem výpočtů v závislosti na složitosti dotazu, což ho činí výrazně rychlejším u jednoduchých úloh bez ztráty kvality u složitých.
Trénink GPT-5.1 byl postaven na základě GPT-5 s dodatečnou fází post-tréninku zahrnující rozšířený RLHF, zaměření na přirozenost tónu a snížení „chladnosti" odpovědí. Kontextové okno v API je 400 000 tokenů, maximální výstup — 128 000 tokenů[20]. Přibyła podpora rozšířeného ukládání promptů do mezipaměti až na 24 hodin, což výrazně snižuje náklady a latenci při víceúrovňových dialozích[21].
Klíčové vlastnosti:
- GPT-5.1 Instant — hlavní režim pro každodenní úlohy; poprvé využívá adaptive reasoning k určení, kdy je vhodné „přemýšlet" před odpovědí na složitější dotaz[21].
- GPT-5.1 Thinking — adaptivní přidělování času na uvažování; podle údajů OpenAI je model na reprezentativním rozložení úloh ChatGPT přibližně dvakrát rychlejší u nejjednodušších úloh a přibližně dvakrát pomalejší u nejtěžších ve srovnání s GPT-5 Thinking[21].
- Zlepšená multimodalita (text + vision).
- Vylepšeny coding- a agentic-scénáře a také efektivita u jednoduchých úloh díky adaptive reasoning a extended prompt caching[22].
GPT-5.2
Model GPT-5.2 byl vydán 11. prosince 2025 jako „nejschopnější model série pro profesionální práci a vzdělávání". Jde o evoluci GPT-5.1 s důrazem na ekonomickou hodnotu: generování tabulek, prezentací, složitého kódu, end-to-end úloh. Zachovává jednotnou architekturu s režimy Instant, Thinking a novým Pro (pro úlohy vyžadující maximální výpočetní výkon a čas na uvažování).
Trénink zahrnoval aktualizovaný korpus s knowledge cutoff srpen 2025, posílený instruction-tuning a RLHF pro snížení chyb ve víceúrovňových scénářích. Kontext — 400K tokenů (128K max output). Model se stal spolehlivějším v profesionálních scénářích, s lepší faktografickou přesností a využíváním nástrojů.
Na základě GPT-5.2 byla 18. prosince 2025 vydána specializovaná GPT-5.2-Codex — agentní coding-model se zlepšenou kompresí kontextu (context compaction), podporou Windows, posílenou kybernetickou bezpečností a long-horizon reasoning (úlohy trvající až několik hodin).
K 13. únoru 2026, po vyřazení řady starých modelů z provozu, se GPT-5.2 dočasně stala výchozím modelem v ChatGPT. Nicméně již začátkem března 2026 tuto roli převzaly GPT‑5.3 Instant a GPT‑5.4[17].
GPT-5.3-Codex
GPT-5.3-Codex byl představen 5. února 2026 jako „nejmocnější agentní coding-model současnosti". Jde o spojení frontier-coding schopností GPT-5.2-Codex s profesionálním reasoning GPT-5.2 v jediném modelu, který je o 25 % rychlejší než předchůdci.
Model je schopen plnit prakticky jakékoli vývojářské úlohy: long-running workflows, výzkum, využití nástrojů, spouštění kódu, interactive steering (uživatel může zasahovat v reálném čase bez ztráty kontextu). Rané verze modelu využíval tým OpenAI pro ladění vlastního tréninku, nasazení a evaluací.
Klíčové výsledky v době oznámení 5. února 2026: Terminal-Bench ~77,3 %, OSWorld-Verified ~64,7 %, SWE-Bench Pro ~56,8 %. V pozdějším vydání GPT-5.4 ze 5. března 2026 OpenAI uvedla aktualizovaný výsledek OSWorld-Verified 74,0 % pro GPT-5.3-Codex při použití nového API-parametru zachovávajícího původní rozlišení obrázku[23][7].
12. února 2026 OpenAI také vydala GPT-5.3-Codex-Spark — kompaktní ultra-fast verzi ve spolupráci s Cerebras, optimalizovanou pro reálný čas: více než 1000 tokenů za sekundu, text-only, kontext 128K. Na začátku šlo o rollout pro uživatele ChatGPT Pro v Codex a malý počet API design partnerů, nikoli o obecně dostupný API-model[24].
GPT-5.4
5. března 2026 OpenAI představila GPT‑5.4 jako nový frontier-model pro profesionální práci. GPT‑5.4 spojuje silné stránky posledních vydání OpenAI v oblasti reasoning, coding a agentic workflows a jako první v hlavní produktové řadě získal vestavěné možnosti computer use. Současně OpenAI vydala GPT‑5.4 Pro — variantu pro nejnáročnější úlohy využívající více výpočetních zdrojů a delší dobu uvažování[7].
V API je model gpt-5.4 popsán jako výchozí doporučený pro široké spektrum general-purpose a coding-úloh; kontextové okno je 1 050 000 tokenů, maximální výstup — 128 000 tokenů. Model přijímá text a obrázky na vstupu a vydává text na výstupu[8][25].
V ChatGPT režim Auto k 7. březnu 2026 automaticky přepíná mezi GPT‑5.3 Instant a GPT‑5.4 Thinking, zatímco GPT‑5.4 Pro je dostupný jako samostatný high-capability režim. Pro přihlášené uživatele ChatGPT je výchozím modelem GPT‑5.3[17].
Vývoj modelů GPT
| Generace | Rok vydání | Počet parametrů | Velikost textového korpusu | Klíčové vlastnosti |
|---|---|---|---|---|
| GPT-1 | 2018 | ≈117–124 mil.[26] | ≈5 GB (BooksCorpus) | Generativní předtrénování na rozsáhlých korpusech; dvoustupňový trénink (pre-training + fine-tuning) |
| GPT-2 | 2019 | 1,5 mld | ≈40 GB (WebText) | Výrazně zlepšené generování textu; demonstrace silného zero-shot chování; zpočátku částečné zveřejnění modelu |
| GPT-3 | 2020 | 175 mld | ≈570 GB (Common Crawl, WebText2 a další) | Rozsáhlé in-context learning; výrazné schopnosti few-shot a zero-shot učení bez doladění |
| GPT-3.5 | 2022 | Nezveřejněno (davinci-verze předположительно ~175 mld) | >570 GB + další korpusy a instruction tuning | Zlepšená stabilita a sledování instrukcí; základ raných verzí ChatGPT |
| GPT-4 | 2023 | Nezveřejněno[27] | Nezveřejněno | Multimodalita (text + obrázky); zvýšená přesnost a odolnost vůči halucinacím; kontext 8k/32k tokenů |
| GPT-4 Turbo | 2023 | Nezveřejněno | Vychází z tréninku GPT-4 (detaily nezveřejněny) | Rozšíření kontextu na 128 000 tokenů; optimalizace rychlosti a nákladů generování |
| GPT-4o | 2024 | Nezveřejněno | Multimodální data (text, obrázky, zvuk) | Jednotné neuronové multimodální zpracování; vysoká rychlost odezvy |
| GPT-4.5 | 2025 | Nezveřejněno | Rozšířené textové a multimodální korpusy | Research preview na základě GPT-4o; snížení chyb; deprecated do roku 2026 |
| GPT-4.1 | 2025 | Nezveřejněno | Aktualizované korpusy | Kontext až 1 047 576 tokenů; text + obrázky na vstupu, text na výstupu |
| GPT-5 | 2025 (srpen) | Nezveřejněno | Rozsáhlé multimodální korpusy | Jednotný systém s režimy rychlé odpovědi a uvažování; kontext ~400K tokenů; snížení halucinací |
| GPT-5.1 | 2025 (listopad) | Nezveřejněno | Rozšířené korpusy GPT-5 + RLHF | Adaptivní reasoning; 24h prompt caching; zlepšení v coding |
| GPT-5.2 | 2025 (prosinec) | Nezveřejněno | Knowledge cutoff srpen 2025 | Pro-režim; professional knowledge work; GPT-5.2-Codex (agentní coding) |
| GPT-5.3-Codex | 2026 (únor) | Nezveřejněno | Aktualizované + self-improvement data | O 25 % rychlejší; full-spectrum agent; interactive steering |
| GPT-5.3-Codex-Spark | 2026 (únor) | Nezveřejněno | Kompaktní | >1000 t/s na Cerebras; real-time coding; kontext 128K |
| GPT-5.3 Instant | 2026 (březen) | Nezveřejněno | Nezveřejněno | Aktualizace nejpoužívanějšího konverzačního modelu ChatGPT; zlepšeny factuality, web search a conversational flow |
| GPT-5.4 | 2026 (březen) | Nezveřejněno | Nezveřejněno | Nový frontier-model pro profesionální práci; native computer use; výchozí model v API pro general-purpose a většinu coding-úloh |
| GPT-5.4 Pro | 2026 (březen) | Nezveřejněno | Nezveřejněno | Varianta GPT-5.4 s větším výpočetním výkonem pro nejnáročnější úlohy |
Architekturní parametry modelů GPT
| Model | Rok vydání | Počet parametrů | Počet vrstev | Velikost skrytého stavu | Počet hlav pozornosti | Kontextové okno | Velikost trénovacího korpusu |
|---|---|---|---|---|---|---|---|
| GPT-1 | 2018 | ≈117–124 mil. | 12 | 768 | 12 | 512 tokenů | ≈5 GB (BooksCorpus) |
| GPT-2 | 2019 | 1,5 mld | 48 | 1 600 | 25 | 1 024 tokenů | ≈40 GB (WebText) |
| GPT-3 | 2020 | 175 mld | 96 | 12 288 | 96 | 2 048 tokenů | ≈570 GB (Common Crawl + WebText2 + další) |
| GPT-3.5 | 2022 | Nezveřejněno (davinci-verze předположительно ~175 mld) | (odhadem blízko GPT-3) | (odhadem blízko GPT-3) | (nezveřejněno) | Až 4 096 tokenů (rané); až 16 385 tokenů (pozdní) | Rozšířený Common Crawl + další datasety a instruction tuning |
| GPT-4 | 2023 | Nezveřejněno | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | 8 192 tokenů (základní); 32 768 (GPT-4-32k) | Nezveřejněno |
| GPT-4 Turbo | 2023 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | Až 128 000 tokenů | Optimalizovaná verze GPT-4 (detaily korpusu nezveřejněny) |
| GPT-4o | 2024 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | Až 128 000 tokenů | Multimodální data: text, obrázky, zvuk |
| GPT-4.5 | 2025 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | Až 128 000 tokenů | Aktualizované textové a multimodální korpusy |
| GPT-4.1 | 2025 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | Až 1 047 576 tokenů | Multimodalita; rozsáhlý trénink se zaměřením na dlouhé kontexty |
| GPT-5 | 2025 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | Až ≈400 000 tokenů (celkový kontext) | Rozsáhlé multimodální korpusy (detaily nezveřejněny) |
| GPT-5.4 | 2026 | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | (nezveřejněno) | 1 050 000 tokenů; 128 000 max output | Nezveřejněno |
Odkazy
- „Improving language understanding with unsupervised learning", OpenAI, 11. června 2018
- „Better language models and their implications", OpenAI, 14. února 2019
- „GPT-2: 6-month follow-up", OpenAI, 20. srpna 2019
- „GPT-2: 1.5B release", OpenAI, 5. listopadu 2019
- „Language models are few-shot learners", OpenAI, 28. května 2020
- „OpenAI API", OpenAI, 11. června 2020
- „Introducing ChatGPT", OpenAI, 30. listopadu 2022
- „Function calling and other API updates", OpenAI, 13. června 2023
- „GPT-4", OpenAI, 14. března 2023
- „New models and developer products announced at DevDay", OpenAI, 6. listopadu 2023
- „Hello GPT-4o", OpenAI, 13. května 2024
- „Introducing GPT-4.1 in the API", OpenAI, 14. dubna 2025
- „Introducing GPT-4.5", OpenAI, 27. února 2025
- „Introducing GPT-5", OpenAI, 7. srpna 2025
- „GPT-5.1: A smarter, more conversational ChatGPT", OpenAI, 12. listopadu 2025
- „Introducing GPT-5.2", OpenAI, 11. prosince 2025
- „Introducing GPT-5.2-Codex", OpenAI, 18. prosince 2025
- „Introducing GPT-5.3-Codex", OpenAI, 5. února 2026
- „Introducing GPT-5.3-Codex-Spark", OpenAI, 12. února 2026
- „GPT-5.3 Instant: Smoother, more useful everyday conversations", OpenAI, 3. března 2026
- „Introducing GPT-5.4", OpenAI, 5. března 2026
- „Using GPT-5.4", OpenAI Developers
- „Models", OpenAI API
- „Deprecations", OpenAI API
- „GPT-5.3 and GPT-5.4 in ChatGPT", OpenAI Help Center
- „Retiring GPT-4o and other ChatGPT models", OpenAI Help Center
Poznámky
- ↑ OpenAI. «Introducing GPT-5» (7 августа 2025). https://openai.com/index/introducing-gpt-5/
- ↑ OpenAI. «Introducing GPT-4.5» (2025). https://openai.com/index/introducing-gpt-4-5/
- ↑ 3.0 3.1 OpenAI. GPT-4.5 System Card (27 февраля 2025). https://cdn.openai.com/gpt-4-5-system-card-2272025.pdf
- ↑ 4.0 4.1 OpenAI Developers. Deprecations. https://developers.openai.com/api/docs/deprecations/
- ↑ OpenAI. «Introducing GPT-4.1 in the API» (2025).
- ↑ OpenAI. «GPT-5.3 Instant: Smoother, more useful everyday conversations» (3 марта 2026). https://openai.com/index/gpt-5-3-instant/
- ↑ 7.0 7.1 7.2 OpenAI. «Introducing GPT-5.4» (5 марта 2026). https://openai.com/index/introducing-gpt-5-4/
- ↑ 8.0 8.1 OpenAI Developers. «Using GPT-5.4». https://developers.openai.com/api/docs/guides/latest-model/
- ↑ Radford, A. et al. (2018). Improving Language Understanding by Generative Pre-Training. https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf
- ↑ OpenAI отмечала, что обновлённый GPT-3.5 Turbo «now comes by default with 16k context».
- ↑ OpenAI. «GPT-4 Technical Report» (2023). arXiv:2303.08774.
- ↑ Эти оценки основаны на данных, опубликованных SemiAnalysis и подтверждённых рядом независимых источников.
- ↑ Анонсирована на DevDay OpenAI 6 ноября 2023 года; общая доступность — с 9 апреля 2024 года.
- ↑ Кодовое имя Orion и характеристика «последняя модель без chain-of-thought» фигурировали в roadmap-коммуникации Сэма Альтмана и ряде медиа-публикаций (Reuters, The Verge), но не в самом launch post GPT-4.5.
- ↑ OpenAI. «Introducing GPT-4.1 in the API» (2025).
- ↑ OpenAI. «Introducing GPT-5» (7 августа 2025).
- ↑ 17.0 17.1 17.2 OpenAI Help Center. «GPT-5.3 and GPT-5.4 in ChatGPT». https://help.openai.com/en/articles/11909943-gpt-53-and-54-in-chatgpt
- ↑ OpenAI API documentation. Models: GPT-5.
- ↑ OpenAI. «Introducing GPT-5» (2025). Условия тестирования: «with web search enabled on anonymized prompts representative of ChatGPT production traffic».
- ↑ OpenAI Developers. Models: GPT-5.1. https://developers.openai.com/api/docs/models/gpt-5.1
- ↑ 21.0 21.1 21.2 OpenAI. «GPT-5.1: A smarter, more conversational ChatGPT» (12 ноября 2025). https://openai.com/index/gpt-5-1/
- ↑ OpenAI. «GPT-5.1 for developers» (2025). https://openai.com/index/gpt-5-1-for-developers/
- ↑ OpenAI. «Introducing GPT-5.3-Codex» (5 февраля 2026). https://openai.com/index/introducing-gpt-5-3-codex/
- ↑ OpenAI. «Introducing GPT-5.3-Codex-Spark» (12 февраля 2026). https://openai.com/index/introducing-gpt-5-3-codex-spark/
- ↑ OpenAI Developers. Models: GPT-5.4. https://developers.openai.com/api/docs/models/gpt-5.4
- ↑ Точное число параметров GPT-1 в разных источниках варьируется; исходная публикация не указывает число явно. Цифра ≈117 млн широко цитируется, а ≈124 млн фигурирует в ряде поздних материалов.
- ↑ По неофициальным внешним оценкам (SemiAnalysis и др.), возможно MoE-архитектура с суммарным масштабом ~1,8 трлн параметров; OpenAI эти данные не подтверждала.
Literatura
- Radford, A. et al. (2018). Improving Language Understanding by Generative Pre-Training. PDF.
- Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
- Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
- Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
- Chen, M. et al. (2021). Evaluating Large Language Models Trained on Code. arXiv:2107.03374.
- Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
- Hoffmann, J. et al. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
- Bai, Y. et al. (2022). Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback. arXiv:2204.05862.
- OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
- Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.