GPT (OpenAI) (RO)

GPT (Generative Pre-trained Transformer) — este o familie de modele lingvistice de mari dimensiuni (LLM), dezvoltată de compania OpenAI. Modelele GPT sunt construite pe arhitectura transformer și implementează paradigma pre-antrenării generative: în prima etapă, modelul este antrenat pe corpusuri extinse de texte fără adnotare explicită, după care poate fi fine-tunat pentru sarcini specifice. Pentru generațiile mai recente (începând cu GPT‑5), OpenAI utilizează și formularea sistem unificat (unified system), deoarece produsul combină un mod rapid de răspuns, un mod de raționament aprofundat (reasoning) și un router.

Denumire

Acronimul GPT înseamnă Generative Pre-trained Transformer (Transformer Generativ Pre-antrenat).

• Generativ (Generative): înseamnă că modelul este capabil să creeze (să genereze) conținut nou, de exemplu text.
• Pre-antrenat (Pre-trained): indică faptul că modelul parcurge o etapă inițială extinsă de antrenare pe un volum mare de date (de exemplu, texte de pe internet). După pre-antrenare, modelul poate fi adesea supus unui fine-tuning suplimentar pentru a îndeplini sarcini mai specifice.
• Transformer (Transformer): acesta este numele unei arhitecturi specifice de rețea neuronală, care reprezintă inovația-cheie ce stă la baza GPT și a multor alte modele moderne de AI.

Principalele caracteristici ale GPT constau în faptul că antrenarea se realizează în formă autoregresivă — modelul prezice următorul token pe baza contextului anterior. Adică modelul este antrenat să maximizeze probabilitatea următorului token, cunoscând secvența de tokeni anteriori. În timpul antrenării, se minimizează eroarea de predicție a următorului element, ceea ce permite generarea de texte cu coerență și coeziune ridicate.

Procesul de generare a textului în GPT

Modelul GPT generează text secvențial, token cu token, conform următoarei scheme iterative:

• Primește ca intrare o secvență textuală inițială (prompt, seed text).
• Calculează distribuția de probabilitate peste toți tokenii din vocabular pentru următorul element al textului.
• Selectează următorul token:
  • fie după cea mai mare probabilitate (alegere greedy),
  • fie prin eșantionare stochastică (sampling),
  • fie folosind strategii de filtrare speciale (top-k, top-p).
• Adaugă tokenul selectat la secvența curentă.
• Secvența actualizată este din nou furnizată modelului ca intrare pentru predicția următorului token.

Arhitectura transformer: procesarea textului

Procesul de procesare a datelor în interiorul transformerului pentru predicția următorului token include mai multe etape principale:

• Tokenizare (Tokenization). Textul de intrare este împărțit în tokeni — unități mici de text, care pot fi cuvinte, părți de cuvinte sau semne de punctuație. În modelul GPT-3, de exemplu, vocabularul include aproximativ 50.257 de tokeni.
• Embedding-ul tokenilor (Embeddings). Fiecare token este transformat într-un vector de lungime fixă cu ajutorul matricei de embedding-uri (W_E). Vectorii codifică semnificația tokenilor: tokenii semantic apropiați sunt situați în vecinătate în spațiul multidimensional. În modelul GPT-3, dimensionalitatea embedding-urilor este de 12.288.
• Procesarea în straturile transformerului.
  • Blocuri de atenție (Attention Blocks): Fiecare token interacționează cu ceilalți tokeni din secvență. Mecanismul de atenție permite luarea în considerare a contextului și interpretarea corectă a semnificației cuvintelor.
  • Straturi complet conectate (Feed-Forward Layers): După atenție, fiecare token este procesat separat printr-o rețea neuronală cu două straturi și activare neliniară.
• Transformarea inversă și Softmax. După toate straturile, vectorul procesat este transformat înapoi în spațiul tokenilor cu ajutorul matricei (W_U), care este adesea versiunea transpusă a W_E. Vectorul rezultat de logituri este normalizat cu ajutorul funcției Softmax pentru a obține distribuția de probabilitate peste toți tokenii.
• Selectarea următorului token (Sampling). Următorul token este selectat pe baza distribuției de probabilitate. Parametrul de temperatură (temperature) controlează aleatorismul selecției: la temperatura 0 se selectează tokenul cel mai probabil, la temperaturi mai ridicate crește probabilitatea selectării variantelor mai puțin probabile, ceea ce contribuie la o mai mare diversitate a textului.

Modele GPT

• GPT-1 (2018): primul model al familiei; transformer decoder-only cu 12 straturi; antrenare în două etape (pre-antrenare + fine-tuning pe sarcini NLP).
• GPT-2 (2019): 1,5 miliarde de parametri; antrenat pe corpusul WebText; pentru prima dată capabil să genereze texte lungi și coerente; îmbunătățirea calității generării zero-shot. Anunțat pe 14 februarie 2019, versiunea completă (1,5 miliarde) publicată pe 5 noiembrie 2019 din considerente de siguranță.
• GPT-3 (2020): 175 de miliarde de parametri; antrenare la scară largă pe o combinație de Common Crawl, Books, Wikipedia; dezvoltare puternică a capacităților few-shot și zero-shot.
• GPT-3.5 (2022): versiune intermediară între GPT-3 și GPT-4; urmărire îmbunătățită a instrucțiunilor prin antrenare cu feedback uman (RLHF) în versiunile text-davinci-003 și gpt-3.5-turbo; fereastra de context de până la 4.096 de tokeni în versiunile timpurii și până la 16.385 de tokeni în versiunile mai recente (gpt-3.5-turbo-16k și gpt-3.5-turbo actualizat).
• GPT-4 (2023): model multimodal cu intrare text și imagini (suportul pentru imagini a fost implementat ulterior, după lansarea versiunii text); fereastra de context de 8.192 tokeni în versiunea de bază și 32.768 tokeni în varianta GPT-4-32k; îmbunătățire semnificativă a acurateței, stabilității și logicii raționamentelor.
• GPT-4 Turbo (2023): versiune optimizată a GPT-4; fereastra de context extinsă la 128.000 de tokeni; latențe și costuri de operare mai reduse.
• GPT-4o (2024): model multimodal de nouă generație (text, imagine, audio) cu o arhitectură de rețea neuronală unificată; viteză și acuratețe ridicate ale răspunsurilor; fereastra de context de 128.000 de tokeni.
• GPT-4.5 (2025): previzualizare de cercetare (research preview); în system card, OpenAI indică faptul că modelul „builds on GPT-4o"; înțelegere îmbunătățită a solicitărilor utilizatorilor, reducerea numărului de erori; fereastra de context de 128.000 de tokeni. În API, modelul gpt-4.5-preview a fost declarat deprecated pe 14 aprilie 2025 și dezactivat pe 14 iulie 2025.
• GPT-4.1 (2025): versiune îmbunătățită a familiei GPT-4 cu o fereastră de context de până la 1 milion de tokeni; acceptă text și imagini la intrare, produce text la ieșire. Lansat simultan în trei variante: GPT-4.1, GPT-4.1 mini, GPT-4.1 nano.
• GPT-5 (2025): sistem unificat cu moduri de răspuns rapid și raționament aprofundat; fereastră de context de aproximativ 400.000 de tokeni; reducere notabilă a halucinațiilor pe sarcini factuale.
• GPT-5.1 (2025): reasoning adaptiv, îmbunătățiri în coding și long-context retention.
• GPT-5.2 (2025): accent pe munca profesională; mod Pro pentru sarcini frontier; pe baza GPT-5.2 a fost lansată GPT-5.2-Codex, un model agentiv.
• GPT-5.3-Codex (2026): model agentiv de coding, care combină capacitățile de coding și reasoning; cu 25% mai rapid decât predecesorii.
• GPT-5.3 Instant (2026): actualizare a celui mai utilizat model conversațional ChatGPT; lansat pe 3 martie 2026. Au fost îmbunătățite acuratețea factuală, calitatea căutării web, fluiditatea dialogului și a fost redus numărul de refuzuri redundante și al rezervelor excesive. În API este disponibil ca gpt-5.3-chat-latest.
• GPT-5.4 (2026): modelul frontier al OpenAI pentru munca profesională, prezentat pe 5 martie 2026; primul model general al OpenAI cu capacități native de computer use. În API gpt-5.4 este recomandat ca model implicit pentru o gamă largă de sarcini general-purpose și coding.

GPT-1

Primul model, GPT-1, a fost prezentat de compania OpenAI în 2018 în lucrarea \"Improving Language Understanding by Generative Pre-Training\". Modelul reprezenta un transformer decoder-only cu 12 straturi și era construit pe baza arhitecturii transformer. Antrenarea GPT-1 s-a desfășurat în două etape: etapa de pre-antrenare generativă nesupervizată (pre-training), urmată de etapa de fine-tuning supervizat.

În faza de pre-antrenare, modelul a fost antrenat pe corpusul BookCorpus, care include peste 7.000 de cărți nepublicate din diverse genuri. O caracteristică a acestui corpus era prezența unor pasaje de text lungi și continue, lucru esențial pentru ca modelul să dobândească capacitatea de a procesa dependențe textuale complexe și extinse.

În etapa de fine-tuning, modelul a fost adaptat pentru a rezolva sarcini specializate de procesare a limbajului natural, incluzând:

• Răspunsuri la întrebări (Question Answering, QA) — formularea unui răspuns corect pe baza unui context textual dat;
• Recunoașterea implicației textuale (Natural Language Inference, NLI) — determinarea relației logice dintre două texte: implicație, contradicție sau neutralitate;
• Evaluarea similarității semantice (Semantic Textual Similarity) — măsurarea gradului de apropiere semantică dintre două secvențe textuale.

Datorită acestei abordări, GPT-1 a demonstrat o superioritate semnificativă față de modelele anterioare pe o serie de benchmark-uri standard pentru sarcini de înțelegere a textului.

Dezvoltarea GPT-1 a evidențiat o serie de realizări și descoperiri-cheie în domeniul procesării limbajului natural (NLP):

• Eficiența pre-antrenării generative. S-a confirmat empiric că pre-antrenarea pe corpusuri mari de texte neanotate permite modelului să dobândească reprezentări lingvistice universale, utilizabile ulterior în diverse sarcini aplicate fără a fi necesare modificări arhitecturale fundamentale.
• Universalitatea arhitecturii transformer. Utilizarea unui transformer decoder cu mai multe straturi a permis modelului să proceseze cu succes dependențele pe termen lung din text, ceea ce era anterior dificil pentru modelele bazate pe rețele neuronale recurente.
• Reducerea dependenței de datele adnotate. Lucrarea a confirmat că pre-antrenarea la scară largă pe date neanotate poate reduce semnificativ volumul de date adnotate necesar pentru atingerea unei calități ridicate pe sarcinile țintă.
• Fundament pentru dezvoltarea ulterioară. Rezultatele GPT-1 au pus bazele conceptuale și tehnice pentru versiunile ulterioare ale modelelor din familia GPT (GPT-2, GPT-3 și mai departe).

GPT-2

Modelul GPT-2 a fost anunțat de compania OpenAI pe 14 februarie 2019. Acesta depășea semnificativ predecesorul său ca dimensiune: versiunea completă a modelului conținea aproximativ 1,5 miliarde de parametri. Din considerente de siguranță, OpenAI a publicat inițial doar variante reduse ale modelului; versiunea completă (1,5 miliarde de parametri) a fost lansată pe 5 noiembrie 2019. Spre deosebire de GPT-1, care a fost antrenat pe corpusul BookCorpus (~5 GB), GPT-2 a fost antrenat pe corpusul special creat WebText, cu un volum de aproximativ 40 GB, incluzând date textuale din surse de internet de înaltă calitate. Creșterea atât a dimensiunii modelului, cât și a volumului datelor de antrenare a permis GPT-2 să îmbunătățească semnificativ calitatea generării textului: acesta demonstra capacitatea de a crea articole consistente, povești și chiar fragmente coerente de proză ficțională.

GPT-2 utiliza o arhitectură de transformer-decoder autoregresiv, similară cu GPT-1, fără modificări esențiale. Modelul era compus din 48 de straturi de auto-atenție, avea dimensiunea stării ascunse de 1.600 și includea aproximativ 1,5 miliarde de parametri. Numărul de capete de atenție era de 25 (păstrând dimensiunea de 64 pe cap, moștenită de la GPT-1: 1.600 ÷ 64 = 25). Antrenarea s-a realizat pe sarcina de predicție a următorului token pe baza contextului anterior, folosind mecanismul de atenție mascat.

Una dintre principalele caracteristici distinctive ale GPT-2 a fost că modelul a demonstrat pentru prima dată o eficiență ridicată în modul zero-shot learning — capacitatea de a rezolva sarcini noi fără a fi supus unui fine-tuning explicit pe exemple pentru acele sarcini. Modelul a fost antrenat pe un corpus larg de texte generalizate și nu a trecut printr-o antrenare specializată pe datele unor sarcini specifice. Evaluarea s-a realizat în modul zero-shot, în care modelul executa sarcinile exclusiv pe baza cunoștințelor dobândite în procesul de pre-antrenare. La o serie de sarcini de modelare a limbajului, GPT-2 atingea o calitate comparabilă sau superioară rezultatelor modelelor special antrenate pe seturi de date specializate (de exemplu, Wikipedia, texte de știri, cărți).

GPT-3

Modelul GPT-3 a fost prezentat de compania OpenAI în iunie 2020 (articolul pe arXiv a apărut pe 28 mai 2020, accesul beta la API a fost deschis pe 11 iunie 2020). Acesta a reprezentat următorul pas în dezvoltarea transformerelor generative după GPT-2 și se distingea prin scalarea arhitecturii la 175 de miliarde de parametri, ceea ce îl făcea la acel moment cel mai mare model lingvistic.

Arhitectura GPT-3 a rămas în esență aceeași — un transformer-decoder autoregresiv cu mai multe straturi, fără modificări fundamentale. Principalele îmbunătățiri de performanță au fost obținute prin creșterea numărului de straturi, a lățimii straturilor ascunse și a scalei de antrenare. Modelul a fost antrenat pe o combinație de mai multe corpusuri mari de texte, incluzând Common Crawl, WebText2, Books1, Books2 și Wikipedia. Volumul total al datelor era de aproximativ 570 GB și mai mult (570 GB revenind porțiunii filtrate din Common Crawl, care domină mixul de antrenare).

Una dintre principalele caracteristici ale GPT-3 a fost capacitatea sa de few-shot learning și zero-shot learning: modelul putea îndeplini o gamă largă de sarcini de procesare a limbajului natural, inclusiv traducere, sumarizare, răspunsuri la întrebări, scrierea de eseuri și chiar programare, bazându-se pe câteva exemple în prompt sau chiar fără exemple.

GPT-3.5

Modelul GPT-3.5 a fost prezentat de compania OpenAI la sfârșitul anului 2022, ca parte a dezvoltării evolutive a familiei GPT. Acesta era construit pe baza arhitecturii transformerului-decoder autoregresiv scalat, utilizat în GPT-3, cu îmbunătățiri în calitatea generării textului, procesarea contextului și capacitatea de a urma instrucțiuni complexe. Numărul exact de parametri ai GPT-3.5 nu a fost dezvăluit oficial; se presupune că versiunile davinci sunt comparabile ca dimensiune cu GPT-3 (175 miliarde), însă parametrii exacți ai versiunii gpt-3.5-turbo nu sunt cunoscuți.

Antrenarea GPT-3.5 a inclus utilizarea extinsă a metodelor de Reinforcement Learning from Human Feedback (RLHF) în versiunile text-davinci-003 și gpt-3.5-turbo. Versiunea mai timpurie text-davinci-002 a fost antrenată cu supervised fine-tuning (SFT), nu cu RLHF. Modelul a fost antrenat pe corpusuri extinse de texte, incluzând Common Crawl, Books, WebText și alte surse de înaltă calitate. Fereastra de context în versiunile populare timpurii (gpt-3.5-turbo) era de 4.096 tokeni; ulterior, OpenAI a lansat versiuni actualizate cu un context de până la 16.385 tokeni.

În practică, GPT-3.5 a fost adaptat pentru a rezolva o gamă largă de sarcini de procesare a limbajului natural, cum ar fi:

• Generarea de text coerent și logic;
• Răspunsuri la întrebări (QA) și înțelegerea contextului;
• Urmarea instrucțiunilor în mai mulți pași;
• Menținerea îmbunătățită a contextului pe termen lung în dialoguri.

Pe baza GPT-3.5 au fost lansate mai multe versiuni-cheie, destinate diferitelor scopuri:

• text-davinci-002 — primul model general disponibil public, bazat pe GPT-3.5, optimizat pentru generare și urmarea instrucțiunilor (antrenat cu SFT).
• text-davinci-003 — versiune îmbunătățită cu o capacitate și mai mare de raționament și generare de texte complexe (antrenat cu RLHF).
• gpt-3.5-turbo — versiunea cea mai performantă și economică a GPT-3.5, utilizată în serviciul ChatGPT începând cu sfârșitul anului 2022.

GPT-4

Modelul GPT-4 a fost prezentat de compania OpenAI pe 14 martie 2023 în lucrarea \"GPT-4 Technical Report\". Acesta a reprezentat următoarea etapă în dezvoltarea familiei de modele lingvistice, oferind îmbunătățiri semnificative în înțelegerea textului, generarea de răspunsuri pertinente și creative, precum și procesarea datelor multimodale. Numărul exact de parametri și detaliile arhitecturale ale modelului nu au fost dezvăluite oficial — raportul tehnic GPT-4 precizează explicit că informațiile privind arhitectura, dimensiunea modelului, infrastructura hardware, costurile de calcul pentru antrenare și construirea dataset-urilor nu sunt publicate. Conform unor estimări externe neoficiale, GPT-4 ar putea utiliza abordarea Mixture of Experts (MoE) și ar putea avea o scară totală de aproximativ ~1,8 trilioane de parametri, însă OpenAI nu a confirmat și nici nu a infirmat oficial aceste cifre.

GPT-4 este un model multimodal, capabil să accepte atât text, cât și imagini ca intrare. Trebuie menționat că la lansarea inițială din martie 2023, era disponibilă doar modalitatea text; suportul pentru intrarea de imagini a fost implementat ulterior. Fereastra de context era de 8.192 tokeni în versiunea de bază și de 32.768 tokeni în varianta GPT-4-32k. Modelul folosea metode RLHF (Reinforcement Learning from Human Feedback).

Antrenarea GPT-4 s-a realizat pe o combinație de corpusuri textuale și multimodale la scară largă. Detaliile specifice privind datele de antrenare, infrastructura hardware și metodologia nu sunt dezvăluite în publicațiile oficiale ale OpenAI.

Antrenarea s-a desfășurat în mai multe etape:

• pre-antrenare nesupervizată la scară largă pe texte și imagini,
• fine-tuning supervizat pe sarcini specializate,
• etapa finală de antrenare cu reinforcement learning pe baza feedback-ului uman (RLHF) pentru creșterea fiabilității, siguranței și calității interpretării instrucțiunilor.

Pe baza GPT-4 au fost lansate mai multe versiuni principale:

• GPT-4 (martie 2023): versiunea de bază cu suport pentru intrarea text (suportul pentru imagini adăugat ulterior); fereastra de context de 8.192 tokeni; a fost lansată și varianta GPT-4-32k cu context de 32.768 tokeni.
• GPT-4 Turbo (noiembrie 2023): modificare optimizată a GPT-4 cu fereastra de context extinsă la 128.000 de tokeni; costuri de calcul reduse și generare accelerată; suport pentru moduri de apelare a funcțiilor (function calling) și ieșire JSON.
• GPT-4o (mai 2024): versiune multimodală de nouă generație; în anunțul de lansare a fost poziționat ca model omni, capabil să lucreze cu text, imagini și audio în timp real (spre deosebire de GPT-4 Turbo, unde diferitele modalități erau deservite de module separate); totodată, modelul de bază gpt-4o din API este descris ca text+image input, text output; fereastra de context de 128.000 tokeni.
• GPT-4.5 (februarie 2025): previzualizare de cercetare (research preview); în system card, OpenAI precizează explicit că modelul „builds on GPT-4o"; generare îmbunătățită de texte complexe, acuratețe sporită în urmarea instrucțiunilor și nivel redus de halucinații; fereastra de context de 128.000 tokeni. A fost descris ca „ultimul model OpenAI fără chain-of-thought" (nume de cod — Orion). În API, modelul gpt-4.5-preview a fost declarat deprecated pe 14 aprilie 2025 și dezactivat pe 14 iulie 2025.
• GPT-4.1 (aprilie 2025): versiune stabilă cu extinderea radicală a contextului la 1.047.576 tokeni; acceptă text și imagini la intrare, produce text la ieșire; lansat simultan în trei variante (GPT-4.1, GPT-4.1 mini, GPT-4.1 nano); inițial disponibil doar prin API, ulterior implementat în ChatGPT.

GPT-5

Pe 7 august 2025, OpenAI a prezentat GPT‑5 ca modelul său „cel mai inteligent, rapid și util" de la acel moment, cu un mod integrat de raționament aprofundat (thinking) și un accent pe scenarii practice — scriere, programare, sănătate și înțelegere multimodală. GPT‑5 a devenit treptat modelul implicit pentru majoritatea utilizatorilor autentificați ai ChatGPT, înlocuind modelele anterior utilizate din familia GPT‑4/4o și seria o.

GPT‑5 este implementat ca un sistem unificat cu două moduri principale de funcționare: răspunsuri rapide și economice pentru solicitări cotidiene (convenabil denumit gpt‑5 main) și raționament aprofundat pentru sarcini complexe (convenabil denumit gpt‑5 thinking). Selectarea modului se realizează automat cu ajutorul unui router, care ia în considerare tipul de dialog, complexitatea solicitării, necesitatea instrumentelor și indiciile explicite ale utilizatorului (de exemplu, „think step by step" sau „analyze in depth"). În ChatGPT, utilizatorul are acces la modurile Auto / Instant / Thinking / Pro; variantele mini și nano sunt în principal modele API, iar mini poate fi utilizat în produsul pentru utilizatori ca fallback după epuizarea limitei.

Prin interfața de programare sunt furnizate mai multe dimensiuni și configurații ale GPT‑5; în documentația OpenAI, variantele principale indicate sunt gpt‑5, gpt‑5‑mini și gpt‑5‑nano (toate acceptă text și date vizuale). Fereastra de context total maximă pentru familia GPT‑5 în API este de aproximativ 400.000 de tokeni (cu distribuirea bugetelor pentru intrare și raționament/ieșire), iar limitele specifice pot varia în funcție de varianta de model și produsul ales.

Pe o serie de benchmark-uri de căutare web și factuale, GPT‑5 demonstrează o reducere notabilă a frecvenței halucinațiilor și erorilor față de modelele GPT‑4o și modelele OpenAI anterioare de tip „thinking". În anunțul oficial, OpenAI a prezentat estimări privind reducerea erorilor cu aproximativ 45% față de GPT-4o și cu aproximativ 80% față de o3 în modul thinking — aceste rezultate au fost obținute în condiții specifice: cu căutare web activată, pe prompturi anonimizate reprezentative pentru traficul de producție din ChatGPT.

GPT-5.1

Modelul GPT-5.1 a fost prezentat de compania OpenAI pe 12 noiembrie 2025, ca prima iterație semnificativă după GPT-5 de bază, orientată spre îmbunătățirea interacțiunii cotidiene, a caracterului conversațional și a adaptabilității. Modelul păstrează sistemul unificat cu modul rapid (GPT-5.1 Instant) și raționamentul aprofundat (GPT-5.1 Thinking), dar introduce raționamentul adaptiv (adaptive reasoning): modelul determină dinamic volumul de calcul în funcție de complexitatea solicitării, ceea ce îl face notabil mai rapid pe sarcini simple, fără pierdere de calitate pe sarcini complexe.

Antrenarea GPT-5.1 s-a realizat pe baza GPT-5, cu o etapă suplimentară de post-antrenare, incluzând RLHF extins, accent pe naturalețea tonului și reducerea „frigidității" răspunsurilor. Fereastra de context în API este de 400.000 de tokeni, ieșirea maximă — 128.000 de tokeni. A apărut suportul pentru caching extins al prompt-urilor de până la 24 de ore, ceea ce reduce semnificativ costul și latențele în dialogurile cu mai mulți pași.

Caracteristici principale:

• GPT-5.1 Instant — modul principal pentru sarcini cotidiene; utilizează pentru prima dată adaptive reasoning pentru a determina când să „gândească" înainte de a răspunde la o solicitare mai complexă.
• GPT-5.1 Thinking — alocare adaptivă a timpului pentru raționament; conform datelor OpenAI, pe o distribuție reprezentativă de sarcini ChatGPT, modelul este de aproximativ două ori mai rapid pe sarcinile cele mai simple și de aproximativ două ori mai lent pe cele mai dificile față de GPT-5 Thinking.
• Multimodalitate îmbunătățită (text + vision).
• Îmbunătățiri în scenariile de coding și agentic, precum și eficiență sporită pe sarcini simple datorită adaptive reasoning și extended prompt caching.

GPT-5.2

Modelul GPT-5.2 a fost lansat pe 11 decembrie 2025 ca „cel mai capabil model al seriei pentru munca profesională și învățare". Acesta reprezintă o evoluție a GPT-5.1, cu accent pe valoarea economică: generarea de tabele, prezentări, cod complex, sarcini end-to-end. Păstrează arhitectura unificată cu modurile Instant, Thinking și noul Pro (pentru sarcini ce necesită calcul maxim și timp extins de raționament).

Antrenarea a inclus un corpus actualizat cu knowledge cutoff august 2025, instruction-tuning consolidat și RLHF pentru reducerea erorilor în scenariile cu mai mulți pași. Contextul — 400K tokeni (128K max output). Modelul a devenit mai fiabil în scenariile profesionale, cu o mai bună acuratețe factuală și utilizare a instrumentelor.

Pe baza GPT-5.2, pe 18 decembrie 2025 a fost lansată GPT-5.2-Codex — un model agentiv specializat de coding, cu compresie îmbunătățită a contextului (context compaction), suport Windows, securitate cibernetică consolidată și long-horizon reasoning (sarcini de câteva ore).

Începând cu 13 februarie 2026, după retragerea din exploatare a unor modele vechi, GPT-5.2 a devenit temporar modelul implicit în ChatGPT. Însă deja la începutul lunii martie 2026, acest rol a fost preluat de GPT‑5.3 Instant și GPT‑5.4.

GPT-5.3-Codex

GPT-5.3-Codex a fost prezentat pe 5 februarie 2026 ca „cel mai puternic model agentiv de coding de până acum". Acesta combină capacitățile frontier de coding ale GPT-5.2-Codex cu raționamentul profesional al GPT-5.2 într-un singur model, care este cu 25% mai rapid decât predecesorii săi.

Modelul este capabil să execute practic orice sarcină a unui dezvoltator: fluxuri de lucru de lungă durată (long-running workflows), research, utilizarea instrumentelor, executarea codului, dirijare interactivă (interactive steering) — utilizatorul poate interveni în timp real fără pierderea contextului. Versiunile timpurii ale modelului au fost utilizate de echipa OpenAI pentru depanarea propriei antrenări, deployment și evaluări.

Rezultate-cheie la momentul anunțului din 5 februarie 2026: Terminal-Bench ~77,3%, OSWorld-Verified ~64,7%, SWE-Bench Pro ~56,8%. Într-un release ulterior al GPT-5.4 din 5 martie 2026, OpenAI a prezentat un rezultat actualizat OSWorld-Verified de 74,0% pentru GPT-5.3-Codex, utilizând noul parametru API care păstrează rezoluția originală a imaginii.

Pe 12 februarie 2026, OpenAI a lansat și GPT-5.3-Codex-Spark — o versiune compactă ultra-rapidă în parteneriat cu Cerebras, optimizată pentru timp real: peste 1.000 de tokeni pe secundă, numai text, context de 128K. La lansare, acesta a fost un rollout pentru utilizatorii ChatGPT Pro în Codex și un număr restrâns de parteneri API de design, nu un model API disponibil pe scară largă.

GPT-5.4

Pe 5 martie 2026, OpenAI a prezentat GPT‑5.4 ca noul model frontier pentru munca profesională. GPT‑5.4 combină punctele forte ale celor mai recente lansări OpenAI în reasoning, coding și agentic workflows și, pentru prima dată în linia principală, a primit capacități integrate de computer use. Simultan, OpenAI a lansat GPT‑5.4 Pro — o variantă pentru cele mai complexe sarcini, care utilizează mai mult calcul și raționament de durată mai lungă.

În API, modelul gpt-5.4 este descris ca recomandat implicit pentru o gamă largă de sarcini general-purpose și coding; fereastra de context este de 1.050.000 de tokeni, ieșirea maximă — 128.000 de tokeni. Modelul acceptă text și imagini la intrare și produce text la ieșire.

În ChatGPT, modul Auto la data de 7 martie 2026 comută automat între GPT‑5.3 Instant și GPT‑5.4 Thinking, în timp ce GPT‑5.4 Pro este disponibil ca mod separat de înaltă capacitate. Pentru utilizatorii autentificați ai ChatGPT, modelul implicit este GPT‑5.3.

Evoluția modelelor GPT

Evoluția modelelor GPT

Generație	Anul lansării	Numărul de parametri	Dimensiunea corpusului de texte	Caracteristici principale
GPT-1	2018	≈117–124 milioane	≈5 GB (BooksCorpus)	Pre-antrenare generativă pe corpusuri mari; antrenare în două etape (pre-training + fine-tuning)
GPT-2	2019	1,5 miliarde	≈40 GB (WebText)	Generare de text semnificativ îmbunătățită; demonstrarea unui comportament zero-shot puternic; publicarea inițială parțială a modelului
GPT-3	2020	175 miliarde	≈570 GB (Common Crawl, WebText2 etc.)	In-context learning la scară largă; capacități pronunțate de few-shot și zero-shot fără fine-tuning
GPT-3.5	2022	Nedivulgat (versiunile davinci presupus ~175 miliarde)	>570 GB + corpusuri suplimentare și instruction tuning	Stabilitate îmbunătățită și urmarea instrucțiunilor; baza versiunilor timpurii ChatGPT
GPT-4	2023	Nedivulgat	Nedivulgat	Multimodalitate (text + imagini); acuratețe sporită și rezistență la halucinații; context de 8k/32k tokeni
GPT-4 Turbo	2023	Nedivulgat	Bazat pe antrenarea GPT-4 (detalii nedivulgate)	Extinderea contextului la 128.000 tokeni; optimizarea vitezei și costului de generare
GPT-4o	2024	Nedivulgat	Date multimodale (text, imagini, audio)	Procesare multimodală unificată printr-o singură rețea neuronală; viteză ridicată de răspuns
GPT-4.5	2025	Nedivulgat	Corpusuri textuale și multimodale extinse	Research preview pe baza GPT-4o; reducerea erorilor; deprecated până în 2026
GPT-4.1	2025	Nedivulgat	Corpusuri actualizate	Context de până la 1.047.576 tokeni; text + imagini la intrare, text la ieșire
GPT-5	2025 (august)	Nedivulgat	Corpusuri multimodale la scară largă	Sistem unificat cu moduri de răspuns rapid și raționament; context ~400K tokeni; reducerea halucinațiilor
GPT-5.1	2025 (noiembrie)	Nedivulgat	Corpusuri extinse GPT-5 + RLHF	Reasoning adaptiv; prompt caching 24h; îmbunătățiri în coding
GPT-5.2	2025 (decembrie)	Nedivulgat	Knowledge cutoff august 2025	Mod Pro; activitate profesională; GPT-5.2-Codex (coding agentiv)
GPT-5.3-Codex	2026 (februarie)	Nedivulgat	Date actualizate + self-improvement data	Cu 25% mai rapid; agent full-spectrum; interactive steering
GPT-5.3-Codex-Spark	2026 (februarie)	Nedivulgat	Compact	>1000 t/s pe Cerebras; coding în timp real; context 128K
GPT-5.3 Instant	2026 (martie)	Nedivulgat	Nedivulgat	Actualizare a celui mai utilizat model conversațional ChatGPT; îmbunătățiri în factuality, căutare web și fluiditate conversațională
GPT-5.4	2026 (martie)	Nedivulgat	Nedivulgat	Noul model frontier pentru munca profesională; native computer use; modelul implicit în API pentru sarcini general-purpose și cele mai multe sarcini de coding
GPT-5.4 Pro	2026 (martie)	Nedivulgat	Nedivulgat	Variantă a GPT-5.4 cu mai mult calcul pentru cele mai complexe sarcini

Parametrii arhitecturali ai modelelor GPT

Parametrii arhitecturali ai modelelor GPT

Model	Anul lansării	Numărul de parametri	Numărul de straturi	Dimensiunea stării ascunse	Numărul de capete de atenție	Fereastra de context	Dimensiunea corpusului de antrenare
GPT-1	2018	≈117–124 milioane	12	768	12	512 tokeni	≈5 GB (BooksCorpus)
GPT-2	2019	1,5 miliarde	48	1.600	25	1.024 tokeni	≈40 GB (WebText)
GPT-3	2020	175 miliarde	96	12.288	96	2.048 tokeni	≈570 GB (Common Crawl + WebText2 + altele)
GPT-3.5	2022	Nedivulgat (versiunile davinci presupus ~175 miliarde)	(estimat aproape de GPT-3)	(estimat aproape de GPT-3)	(nedivulgat)	Până la 4.096 tokeni (timpurii); până la 16.385 tokeni (tardive)	Common Crawl extins + dataset-uri suplimentare și instruction tuning
GPT-4	2023	Nedivulgat	(nedivulgat)	(nedivulgat)	(nedivulgat)	8.192 tokeni (de bază); 32.768 (GPT-4-32k)	Nedivulgat
GPT-4 Turbo	2023	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	Până la 128.000 tokeni	Versiune optimizată a GPT-4 (detaliile corpusului nedivulgate)
GPT-4o	2024	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	Până la 128.000 tokeni	Date multimodale: text, imagini, audio
GPT-4.5	2025	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	Până la 128.000 tokeni	Corpusuri textuale și multimodale actualizate
GPT-4.1	2025	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	Până la 1.047.576 tokeni	Multimodalitate; antrenare scalată cu accent pe contexte lungi
GPT-5	2025	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	Până la ≈400.000 tokeni (context total)	Corpusuri multimodale la scară largă (detalii nedivulgate)
GPT-5.4	2026	(nedivulgat)	(nedivulgat)	(nedivulgat)	(nedivulgat)	1.050.000 tokeni; 128.000 max output	Nedivulgat

Referințe

• „Improving language understanding with unsupervised learning", OpenAI, 11 iunie 2018
• „Better language models and their implications", OpenAI, 14 februarie 2019
• „GPT-2: 6-month follow-up", OpenAI, 20 august 2019
• „GPT-2: 1.5B release", OpenAI, 5 noiembrie 2019
• „Language models are few-shot learners", OpenAI, 28 mai 2020
• „OpenAI API", OpenAI, 11 iunie 2020
• „Introducing ChatGPT", OpenAI, 30 noiembrie 2022
• „Function calling and other API updates", OpenAI, 13 iunie 2023
• „GPT-4", OpenAI, 14 martie 2023
• „New models and developer products announced at DevDay", OpenAI, 6 noiembrie 2023
• „Hello GPT-4o", OpenAI, 13 mai 2024
• „Introducing GPT-4.1 in the API", OpenAI, 14 aprilie 2025
• „Introducing GPT-4.5", OpenAI, 27 februarie 2025
• „Introducing GPT-5", OpenAI, 7 august 2025
• „GPT-5.1: A smarter, more conversational ChatGPT", OpenAI, 12 noiembrie 2025
• „Introducing GPT-5.2", OpenAI, 11 decembrie 2025
• „Introducing GPT-5.2-Codex", OpenAI, 18 decembrie 2025
• „Introducing GPT-5.3-Codex", OpenAI, 5 februarie 2026
• „Introducing GPT-5.3-Codex-Spark", OpenAI, 12 februarie 2026
• „GPT-5.3 Instant: Smoother, more useful everyday conversations", OpenAI, 3 martie 2026
• „Introducing GPT-5.4", OpenAI, 5 martie 2026
• „Using GPT-5.4", OpenAI Developers
• „Models", OpenAI API
• „Deprecations", OpenAI API
• „GPT-5.3 and GPT-5.4 in ChatGPT", OpenAI Help Center
• „Retiring GPT-4o and other ChatGPT models", OpenAI Help Center

Bibliografie

• Radford, A. et al. (2018). Improving Language Understanding by Generative Pre-Training. PDF.
• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
• Chen, M. et al. (2021). Evaluating Large Language Models Trained on Code. arXiv:2107.03374.
• Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
• Hoffmann, J. et al. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
• Bai, Y. et al. (2022). Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback. arXiv:2204.05862.
• OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
• Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.