---
title: "Jais (language model) (SV)"
source: "https://systems-analysis.info/int/Jais_(language_model)_(SV)"
wiki: "systems-analysis.info/int"
article: "Jais_(language_model)_(SV)"
language: "sv"
categories:
  - "Category:Large language models"
  - "Category:LLM families"
  - "Category:Machine learning"
  - "Category:Swedish"
revision_id: 3326
wiki_created_at: 2026-09-06T23:19:01Z
wiki_modified_at: 2026-09-06T23:19:01Z
downloaded_at: 2026-09-07T22:56:21Z
---

# Jais (language model) (SV)

**Jais** (uttalas "Jejs") — är en familj av öppna stora språkmodeller (LLM), utvecklad i Förenade Arabemiraten och särskilt optimerad för arabiska<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>. Modellens namn är hämtat från berget Jebel Jais — den högsta toppen i UAE<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-reuters-launch-2)</sup>.

Projektet skapades i samarbete mellan forskningsföretaget **Inception** (ett dotterbolag till teknikkonglomeratet G42), ***Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)*** och det kaliforniska AI-chipföretaget Cerebras Systems<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-reuters-launch-2)</sup>. Jais publicerades öppet under en fri licens, vilket syftar till att stimulera utvecklingen av ett AI-ekosystem för arabiska, bevara det kulturella och språkliga arvet samt göra modern AI-teknik mer tillgänglig för den arabisktalande världen<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>.

## Utvecklingshistoria och versioner

Projektet Jais initierades 2023 mot bakgrund av de befintliga LLM:ernas begränsningar för resursssvaga språk. Utvecklarna påpekade bristen på högkvalitativa tvåspråkiga modeller som kan hantera både arabiska och engelska på ett likvärdigt sätt<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-reuters-launch-2)</sup>.

### Jais-13B: Första versionen

Den första versionen, **Jais-13B**, släpptes **den 30 augusti 2023** och innehöll **13 miljarder parametrar**<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>. Modellen tränades på ett blandat korpus av engelska och arabiska texter med en volym av **395 miljarder token**<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>. Vid lanseringen kallades den "den högst kvalitativa arabiska LLM:en"<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>.

### Jais-30B: Uppskalning

**Den 8 november 2023**, mindre än tre månader senare, presenterade konsortiet den andra, avsevärt förbättrade versionen — **Jais-30B** med **30 miljarder parametrar**<sup>[\[4\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-computerweekly-30b-4)</sup>. Uppskalningen motiverades av behovet att hantera mer komplexa tillämpningsuppgifter, såsom sammanfattning och översättning. Modellen tränades på ett utökat och rensat dataset med en volym av **1,63 biljoner token**<sup>[\[4\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-computerweekly-30b-4)</sup>.

### Jais-70B och modellfamiljen

**Den 6 augusti 2024** tillkännagav Inception (G42) lanseringen av flaggskeppsmodellen **Jais-70B** (70 miljarder parametrar) och en hel familj av relaterade modeller<sup>[\[5\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-mediaoffice-70b-5)</sup>. Jais-70B blev den största öppna LLM:en inriktad på arabiska. I dess utveckling tillämpades metoden *continuous training*: i stället för att träna från grunden togs **Llama 2** 70B från Meta som utgångspunkt, vilken sedan finjusterades på **330 miljarder token** på arabiska. Detta möjliggjorde en effektiv överföring av engelskspråkiga kunskaper från Llama 2 och koncentrerade resurserna på arabiskinlärning<sup>[\[5\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-mediaoffice-70b-5)</sup>.

## Arkitektur och tekniska egenskaper

Jais tillhör de autoregressiva transformer-modellerna baserade på GPT-3-arkitekturen (*decoder-only*). Modellens viktigaste kännetecken är dess tvåspråkiga specialisering på arabiska och engelska, till skillnad från många flerspråkiga LLM:er där engelskan dominerar. Detta möjliggör en djup förståelse av arabiska och dess dialekter<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>.

Vid skapandet av Jais integrerades avancerade tekniska lösningar<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>:

- **ALiBi-positionering**: Ett speciellt schema för positionella embeddings som gör att modellen kan hantera längre kontext än den som den tränades på.
- **SwiGLU-aktivering**: En aktiveringsfunktion som förbättrar träningskvaliteten och expressiviteten hos neurala lager.
- **Maximal Update Parametrization (µP)**: En metodik för hyperparameterjustering som stabiliserar träningen vid ökad modellstorlek.
- **Specialiserad tokenizer**: Utvecklad med hänsyn till arabiskans och engelskans särdrag, vilket minskar antalet token för arabisk text med 3–4 gånger jämfört med universella tokenizers och ökar bearbetningshastigheten<sup>[\[6\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-microsoft-azure-blog-6)</sup>.

Förutom grundmodellerna (*foundation models*) lanserades versionen **Jais-chat**, ytterligare finjusterad på 9,6 miljoner fråga-svar-par för att anpassas till chattbots- och assistentuppgifter<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>.

## Träning och dataset

En av projektets huvuduppgifter var att förbereda ett högkvalitativt och omfattande korpus av arabiska texter. Det slutliga träningsdatasetet för Jais-13B uppgick till **395 miljarder token**, varav:

- **116 miljarder token (29%)** — arabisk text.
- **279 miljarder token (71%)** — engelsk text och programkod.

Den arabiska komponenten gjordes avsiktligt betydande (cirka 30%) för att säkerställa hög språkkvalitet<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>. Data inkluderade böcker, nyhetsartiklar, webbsidor och källkod. För att öka volymen av högkvalitativa arabiska texter användes maskinöversättning av engelskspråkiga resurser<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-jais-paper-3)</sup>.

Träningen av modellerna genomfördes på superdatorn **Condor Galaxy 1 (CG-1)** i Abu Dhabi, som gemensamt utvecklades av G42 och Cerebras Systems. Tack vare denna infrastruktur tog träningen av Jais-13B bara cirka 3,5 dagar nettotid<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-reuters-launch-2)</sup>.

## Tillämpning och betydelse

Jais positioneras som ett nyckelsteg i utvecklingen av generativ AI för arabiska och andra språkliga gemenskaper som är underrepresenterade i moderna LLM:er. Den öppna tillgången till modellen syftar till att stimulera införandet av teknik för naturlig språkbehandling i Mellanöstern och Nordafrika.

Sedan lanseringen har projektet väckt intresse hos statliga och kommersiella aktörer i UAE. Tidig tillgång till modellen gavs till UAE:s utrikesministerium, olje- och gasbolaget ADNOC, flygbolaget Etihad Airways och banken First Abu Dhabi Bank<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>. År 2024 meddelade Microsoft att Jais integreras i molnplattformen Microsoft Azure, vilket gör den tillgänglig för globala användare<sup>[\[6\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-microsoft-azure-blog-6)</sup>.

Skaparna av Jais betonar dess roll i bevarandet av det arabiska kulturella och språkliga arvet. Enligt Inceptions verkställande direktör Andrew Jackson syftar projektet till att "säkerställa att det arabiska språket, med sitt rika arv, finner sin röst i AI-landskapet"<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>. Den förvärvade erfarenheten planeras att användas för att skapa liknande LLM:er för andra språk och kulturer<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_note-cerebras-launch-1)</sup>.

## Litteratur

- Shazeer, N.; et al. (2020). *GLU Variants Improve Transformer*. arXiv:2002.05202.
- Press, O.; et al. (2021). *Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation*. arXiv:2108.12409.
- Yang, G.; et al. (2022). *Tensor Programs V: Tuning Large Neural Networks via Zero‑Shot Hyperparameter Transfer*. arXiv:2203.03466.
- Ali, A. R.; et al. (2022). *A Large and Diverse Arabic Corpus for Language Modeling*. arXiv:2201.09227.
- Sengupta, N.; et al. (2023). *Jais and Jais‑chat: Arabic‑Centric Foundation and Instruction‑Tuned Open Generative Large Language Models*. arXiv:2308.16149.
- Inception AI (2024). *JAIS 30B Whitepaper*. Online whitepaper.
- Koto, F.; et al. (2024). *ArabicMMLU: Assessing Massive Multitask Language Understanding in Arabic*. arXiv:2402.12840.
- Qian, Z.; et al. (2024). *CamelEval: Advancing Culturally Aligned Arabic Language Models and Benchmarks*. arXiv:2409.12623.
- Blake, C.; et al. (2024). *u‑μP: The Unit‑Scaled Maximal Update Parametrization*. arXiv:2407.17465.
- Inception AI; MBZUAI; Cerebras Systems (2024). *Jais Family Model Card*. Hugging Face.

## Noter

1.  <span id="cite_note-cerebras-launch-1">↑ <sup>[1.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-0)</sup> <sup>[1.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-1)</sup> <sup>[1.2](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-2)</sup> <sup>[1.3](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-3)</sup> <sup>[1.4](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-4)</sup> <sup>[1.5](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-5)</sup> <sup>[1.6](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-cerebras-launch_1-6)</sup> «Meet "Jais", The World's Most Advanced Arabic Large Language Model Open Sourced by G42's Inception». *Cerebras Systems*. <a href="https://www.cerebras.ai/press-release/meet-jais-the-worlds-most-advanced-arabic-large-language-model-open-sourced-by-g42s-inception" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-reuters-launch-2">↑ <sup>[2.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-reuters-launch_2-0)</sup> <sup>[2.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-reuters-launch_2-1)</sup> <sup>[2.2](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-reuters-launch_2-2)</sup> <sup>[2.3](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-reuters-launch_2-3)</sup> «UAE's G42 launches open source Arabic language AI model». *Reuters*. <a href="https://www.reuters.com/technology/uaes-g42-launches-open-source-arabic-language-ai-model-2023-08-30/" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-jais-paper-3">↑ <sup>[3.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-0)</sup> <sup>[3.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-1)</sup> <sup>[3.2](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-2)</sup> <sup>[3.3](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-3)</sup> <sup>[3.4](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-4)</sup> <sup>[3.5](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-jais-paper_3-5)</sup> «\[2308.16149\] Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models». *arXiv*. <a href="https://ar5iv.labs.arxiv.org/html/2308.16149" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-computerweekly-30b-4">↑ <sup>[4.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-computerweekly-30b_4-0)</sup> <sup>[4.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-computerweekly-30b_4-1)</sup> «Upgraded Arabic large language model is twice as big». *Computer Weekly*. <a href="https://www.computerweekly.com/news/366567153/Arabic-LLM-Jais-gets-a-new-version-thats-twice-as-large" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-mediaoffice-70b-5">↑ <sup>[5.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-mediaoffice-70b_5-0)</sup> <sup>[5.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-mediaoffice-70b_5-1)</sup> «G42 launches JAIS 70B and 20 other AI models to advance Arabic natural language processing». *Abu Dhabi Media Office*. <a href="https://www.mediaoffice.abudhabi/en/technology/g42-launches-jais-70b-and-20-other-ai-models-to-advance-arabic-natural-language-processing/" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-microsoft-azure-blog-6">↑ <sup>[6.0](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-microsoft-azure-blog_6-0)</sup> <sup>[6.1](https://systems-analysis.info/int/Jais_(language_model)_(SV)#cite_ref-microsoft-azure-blog_6-1)</sup> «Introducing JAIS: Arabic-centric Large Language Model on Azure». *Microsoft Tech Community*. <a href="https://techcommunity.microsoft.com/blog/aiplatformblog/introducing-jais-arabic-centric-large-language-model-on-azure/4137329" class="external autonumber" rel="nofollow">[6]</a></span>
