---
title: "Jais (language model) (BG)"
source: "https://systems-analysis.info/int/Jais_(language_model)_(BG)"
wiki: "systems-analysis.info/int"
article: "Jais_(language_model)_(BG)"
language: "bg"
categories:
  - "Category:Bulgarian"
  - "Category:Large language models"
  - "Category:LLM families"
  - "Category:Machine learning"
revision_id: 3312
wiki_created_at: 2026-09-06T23:18:49Z
wiki_modified_at: 2026-09-06T23:18:49Z
downloaded_at: 2026-09-07T22:56:17Z
---

# Jais (language model) (BG)

**Jais** (произнася се „Джейс") — това е семейство от отворени големи езикови модели (LLM), разработено в Обединените арабски емирства и специално оптимизирано за арабски език<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>. Името на модела е дадено в чест на планината Джебел Джейс — най-високия връх на ОАЕ<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-reuters-launch-2)</sup>.

Проектът е създаден в сътрудничество между изследователската компания **Inception** (дъщерно предприятие на технологичния конгломерат G42), ***Университета по изкуствен интелект „Мохамед бин Зайед" (MBZUAI)*** и калифорнийската компания за AI чипове Cerebras Systems<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-reuters-launch-2)</sup>. Jais беше открито публикувана под свободен лиценз, което цели да стимулира развитието на AI екосистемата за арабски език, запазвайки културно-езиковото наследство и правейки съвременните AI технологии по-достъпни за арабоезичния свят<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>.

## История на разработката и издания

Проектът Jais беше иниציран през 2023 година на фона на ограничеността на съществуващите LLM за езици с недостатъчни ресурси. Разработчиците отбелязваха липсата на качествени двуезични модели, способни да обработват еднакво добре както арабски, така и английски език<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-reuters-launch-2)</sup>.

### Jais-13B: Първа версия

Първата версия, **Jais-13B**, беше издадена на **30 август 2023 година** и съдържаше **13 милиарда параметра**<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>. Моделът беше обучен върху смесен корпус от английски и арабски текстове с обем **395 милиарда токена**<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>. В момента на своето излизане тя беше наречена „най-висококачественият арабски LLM"<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>.

### Jais-30B: Увеличаване на мащаба

На **8 ноември 2023 година**, по-малко от три месеца по-късно, консорциумът представи втора, значително подобрена версия — **Jais-30B** с **30 милиарда параметра**<sup>[\[4\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-computerweekly-30b-4)</sup>. Увеличаването на мащаба беше продиктувано от необходимостта да се решават по-сложни приложни задачи, като обобщаване и превод. Моделът беше обучен върху разширен и пречистен dataset с обем **1,63 трилиона токена**<sup>[\[4\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-computerweekly-30b-4)</sup>.

### Jais-70B и семейство от модели

На **6 август 2024 година** Inception (G42) обяви пускането на флагманския модел **Jais-70B** (70 милиарда параметра) и цяло семейство от свързани модели<sup>[\[5\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-mediaoffice-70b-5)</sup>. Jais-70B се превърна в най-големия отворен LLM, ориентиран към арабски език. При разработката му беше приложен методът *continuous training*: вместо обучение от нулата, за основа беше взет моделът **Llama 2** 70B от Meta, който беше дообучен върху **330 милиарда токена** на арабски език. Това позволи ефективно да се пренесат знанията по английски от Llama 2 и да се съсредоточат ресурсите върху обучението по арабски<sup>[\[5\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-mediaoffice-70b-5)</sup>.

## Архитектура и технически особености

Jais се отнася към авторегресивните трансформерни модели на базата на архитектурата GPT-3 (*decoder-only*). Ключовата особеност на модела е неговата двуезична специализация върху арабски и английски език, за разлика от много многоезични LLM, в които преобладава английският. Това позволява да се постигне висока дълбочина на разбиране на арабския език и неговите диалекти<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>.

При създаването на Jais бяха интегрирани съвременни технически решения<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>:

- **ALiBi-позициониране**: Специална схема за позиционни embedding-и, която позволява на модела да обработва по-дълъг контекст от този, върху който е бил обучен.
- **SwiGLU-активация**: Функция на активация, която повишава качеството на обучението и изразителността на невронните слоеве.
- **Maximal Update Parametrization (µP)**: Методика за настройка на хиперпараметри, която стабилизира обучението при увеличаване на размерите на модела.
- **Специализиран токенизатор**: Разработен с отчитане на особеностите на арабския и английския език, което намалява броя на токените за арабски текст 3–4 пъти в сравнение с универсалните токенизатори и повишава скоростта на работа<sup>[\[6\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-microsoft-azure-blog-6)</sup>.

Освен базовите модели (*foundation models*), беше издадена версия **Jais-chat**, допълнително дообучена върху 9,6 млн двойки въпроси-отговори за адаптиране към задачи на чатбот и асистент<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>.

## Обучение и набор от данни

Една от главните задачи на проекта беше подготовката на качествен и обширен корпус от арабски текстове. Окончателният обучаващ набор за Jais-13B възлизаше на **395 млрд токена**, от които:

- **116 млрд токена (29%)** — арабски текст.
- **279 млрд токена (71%)** — английски текст и програмен код.

Арабският компонент беше умишлено направен значителен (около 30%), за да се осигури високо качество на владеенето на езика<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>. Данните включваха книги, новинарски статии, уеб страници и изходен код. За увеличаване на обема от качествени арабски текстове беше приложен машинен превод на англоезични ресурси<sup>[\[3\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-jais-paper-3)</sup>.

Обучението на моделите беше проведено на суперкомпютъра **Condor Galaxy 1 (CG-1)** в Абу Даби, който беше съвместно разработен от G42 и Cerebras Systems. Благодарение на тази инфраструктура, обучението на Jais-13B отне едва около 3,5 дни чисто процесорно време<sup>[\[2\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-reuters-launch-2)</sup>.

## Приложение и значение

Jais се позиционира като ключова стъпка в развитието на генеративния AI за арабски език и други езикови общности, недостатъчно представени в съвременните LLM. Отвореният достъп до модела цели да стимулира внедряването на технологии за обработка на естествен език в регионите на Близкия изток и Северна Африка.

От момента на стартирането проектът привлече интереса на държавни и търговски структури на ОАЕ. Ранен достъп до модела получиха Министерството на външните работи на ОАЕ, нефтогазовата компания ADNOC, авиокомпанията Etihad Airways и банката First Abu Dhabi Bank<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>. През 2024 година Microsoft обяви интегрирането на Jais в своята облачна платформа Microsoft Azure, правейки я достъпна за глобалните потребители<sup>[\[6\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-microsoft-azure-blog-6)</sup>.

Създателите на Jais подчертават нейната роля в запазването на арабското културно-езиково наследство. Според изпълнителния директор на Inception Андрю Джаксън, проектът цели „да гарантира, че арабският език с неговото богато наследство да намери своя глас в пейзажа на AI"<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>. Натрупаният опит се планира да бъде използван за създаването на аналогични LLM за други езици и култури<sup>[\[1\]](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_note-cerebras-launch-1)</sup>.

## Литература

- Shazeer, N.; et al. (2020). *GLU Variants Improve Transformer*. arXiv:2002.05202.
- Press, O.; et al. (2021). *Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation*. arXiv:2108.12409.
- Yang, G.; et al. (2022). *Tensor Programs V: Tuning Large Neural Networks via Zero‑Shot Hyperparameter Transfer*. arXiv:2203.03466.
- Ali, A. R.; et al. (2022). *A Large and Diverse Arabic Corpus for Language Modeling*. arXiv:2201.09227.
- Sengupta, N.; et al. (2023). *Jais and Jais‑chat: Arabic‑Centric Foundation and Instruction‑Tuned Open Generative Large Language Models*. arXiv:2308.16149.
- Inception AI (2024). *JAIS 30B Whitepaper*. Online whitepaper.
- Koto, F.; et al. (2024). *ArabicMMLU: Assessing Massive Multitask Language Understanding in Arabic*. arXiv:2402.12840.
- Qian, Z.; et al. (2024). *CamelEval: Advancing Culturally Aligned Arabic Language Models and Benchmarks*. arXiv:2409.12623.
- Blake, C.; et al. (2024). *u‑μP: The Unit‑Scaled Maximal Update Parametrization*. arXiv:2407.17465.
- Inception AI; MBZUAI; Cerebras Systems (2024). *Jais Family Model Card*. Hugging Face.

## Бележки

1.  <span id="cite_note-cerebras-launch-1">↑ <sup>[1.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-0)</sup> <sup>[1.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-1)</sup> <sup>[1.2](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-2)</sup> <sup>[1.3](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-3)</sup> <sup>[1.4](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-4)</sup> <sup>[1.5](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-5)</sup> <sup>[1.6](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-cerebras-launch_1-6)</sup> «Meet "Jais", The World's Most Advanced Arabic Large Language Model Open Sourced by G42's Inception». *Cerebras Systems*. <a href="https://www.cerebras.ai/press-release/meet-jais-the-worlds-most-advanced-arabic-large-language-model-open-sourced-by-g42s-inception" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-reuters-launch-2">↑ <sup>[2.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-reuters-launch_2-0)</sup> <sup>[2.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-reuters-launch_2-1)</sup> <sup>[2.2](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-reuters-launch_2-2)</sup> <sup>[2.3](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-reuters-launch_2-3)</sup> «UAE's G42 launches open source Arabic language AI model». *Reuters*. <a href="https://www.reuters.com/technology/uaes-g42-launches-open-source-arabic-language-ai-model-2023-08-30/" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-jais-paper-3">↑ <sup>[3.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-0)</sup> <sup>[3.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-1)</sup> <sup>[3.2](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-2)</sup> <sup>[3.3](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-3)</sup> <sup>[3.4](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-4)</sup> <sup>[3.5](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-jais-paper_3-5)</sup> «\[2308.16149\] Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models». *arXiv*. <a href="https://ar5iv.labs.arxiv.org/html/2308.16149" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-computerweekly-30b-4">↑ <sup>[4.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-computerweekly-30b_4-0)</sup> <sup>[4.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-computerweekly-30b_4-1)</sup> «Upgraded Arabic large language model is twice as big». *Computer Weekly*. <a href="https://www.computerweekly.com/news/366567153/Arabic-LLM-Jais-gets-a-new-version-thats-twice-as-large" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-mediaoffice-70b-5">↑ <sup>[5.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-mediaoffice-70b_5-0)</sup> <sup>[5.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-mediaoffice-70b_5-1)</sup> «G42 launches JAIS 70B and 20 other AI models to advance Arabic natural language processing». *Abu Dhabi Media Office*. <a href="https://www.mediaoffice.abudhabi/en/technology/g42-launches-jais-70b-and-20-other-ai-models-to-advance-arabic-natural-language-processing/" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-microsoft-azure-blog-6">↑ <sup>[6.0](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-microsoft-azure-blog_6-0)</sup> <sup>[6.1](https://systems-analysis.info/int/Jais_(language_model)_(BG)#cite_ref-microsoft-azure-blog_6-1)</sup> «Introducing JAIS: Arabic-centric Large Language Model on Azure». *Microsoft Tech Community*. <a href="https://techcommunity.microsoft.com/blog/aiplatformblog/introducing-jais-arabic-centric-large-language-model-on-azure/4137329" class="external autonumber" rel="nofollow">[6]</a></span>