---
title: "Халюцинации и некоректни отговори на LLM"
source: "https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM"
wiki: "systems-analysis.info/int"
article: "Халюцинации_и_некоректни_отговори_на_LLM"
language: "bg"
categories:
  - "Category:Bulgarian"
  - "Category:Large language models"
  - "Category:Machine learning"
revision_id: 8813
wiki_created_at: 2026-09-07T01:23:02Z
wiki_modified_at: 2026-09-07T01:23:02Z
downloaded_at: 2026-09-07T23:27:26Z
---

# Халюцинации и некоректни отговори на LLM

**Халюцинация** (англ. *hallucination*) в контекста на големите езикови модели (LLM) е явление, при което моделът уверено генерира привидно правдоподобен (*plausible*) отговор, който всъщност не отговаря на действителността, на предоставения контекст или е вътрешно противоречив<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>. Моделът „измисля" факти, детайли или логически изводи, които отсъстват в изходните данни.

Важно е да се отбележи, че халюцинацията не е повреда или грешка в традиционния смисъл. Моделът работи така, както е проектиран: той предсказва най-вероятното продължение на текста въз основа на паттерни, извлечени от данните за обучение. Той няма вграден механизъм за проверка на истинността<sup>[\[3\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-wikipedia-hallucination-3)</sup>. Халюцинациите се различават от обикновените грешки по това, че представляват уверено поднесена, но невярна информация, която често включва несъществуващи факти, препратки или събития<sup>[\[4\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-openai-description-4)</sup>. Това явление стана толкова значимо, че през 2023 година Кембриджският речник добави ново значение на термина „hallucination", отнасящо се до изкуствения интелект<sup>[\[5\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-cambridge-dict-5)</sup>.

## Определения и класификация на халюцинациите

Макар да се използват различни термини (например „конфабулация", „измислица"), халюцинациите в LLM могат да се разделят на две основни категории: свързани с **фактическа достоверност** и свързани с **вярност към източника** (контекстуална съгласуваност)<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>.

### Фактически халюцинации

Това е случай, при който моделът посочва фактически невярна информация за реалния свят. Моделът твърди лъжлив „факт" като истина<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>.

- **Пример**: *„Чарлз Линдберг е първият човек, стъпил на повърхността на Луната"* — напълно измислен факт.
- **Неверни цитати и препратки**: Моделът може да измисли препратка към несъществуващ научен труд или закон, имитирайки формата на реална препратка<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>. Това подкопава доверието към моделите, особено в приложения, изискващи точност (образование, новини, консултации)<sup>[\[7\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-quickcreator-tips-7)</sup>.

### Логически грешки

Моделът допуска несъответствие или грешка в разсъжденията. Отделните факти в отговора могат да бъдат верни, но изводът е нелогичен или противоречи на елементарната логика<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>. Това се случва често при сложни разсъждения или задачи по математика и причинно-следствени връзки, където моделът оперира с вероятностни връзки между думи, а не с формална логика<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>.

- **Пример**: *„Тъй като птиците летят, астронавтите не изпитват гравитация"* — текстът изглежда свързан, но е логически неверен.

### Контекстни халюцинации

Отговорът на модела не съответства на предоставения контекст или инструкция. Моделът „излиза" от контекста, като добавя излишна информация или пренебрегва необходимата<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>.

- **Нарушение на инструкцията**: При молба „преведи текста на испански" моделът отговаря на английски<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>.
- **Информация извън източника**: При задача за обобщаване моделът „добавя" факти, отсъстващи в оригиналния документ, или ги изопачава<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>.
- **Смесване на контексти**: В средата на отговора моделът изведнъж започва да говори за нещо от друга област. Например в отговор на въпрос за комисаря на НБА **Адам Силвър**, моделът може да превключи към неговия предшественик **Дейвид Стърн**, смесвайки два различни контекста<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>.

### Непоследователност

Разновидност на халюцинацията, при която моделът си противоречи в рамките на един отговор или поредица от отговори<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>. В едно изследване е установено, че нивото на само-противоречивост на отговорите на ChatGPT е около 14%<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>.

- **Пример**: *„Компания Х е основана през 1990 година... а след няколко изречения ...Компания Х, образувана през 2000 година..."*

### Халюцинации в код

LLM, обучени върху код, могат да генерират синтактично коректни, но нефункционални фрагменти, използвайки несъществуващи функции, библиотеки или параметри<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>. Например моделът може да генерира \`import quantum\` в Python, въпреки че такъв стандартен модул не съществува. През 2024 година беше предложен терминът „code hallucination" и беше създаден benchmark **CodeMirage** за систематизиране на този проблем<sup>[\[8\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-codemirage-paper-8)</sup>.

## Причини за възникване

Явлението халюцинации се обуславя от съвкупност от фактори — от архитектурата на модела до качеството на данните.

- **Архитектура и принцип на обучение**: Повечето LLM (например GPT) са авторегресивни transformer модели, обучени да предсказват следващия token. Тяхната цел е максимизиране на правдоподобието на текста, а не проверка на истинността на твърденията<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>. Моделът не разграничава факти от измислица в обучителните данни, като възприема всичко като текстови паттерни<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>.
- **Качество на обучителните данни**: LLM се обучават върху огромни корпуси от текст от Интернет, които съдържат множество неточности, митове и остаряла информация<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>. Моделът запомня и възпроизвежда тези грешки. Важен е и **knowledge cutoff** — времевата граница, до която моделът разполага с информация.
- **Начин на генериране на текст**: Стохастичният характер на генерирането (семплиране с температура) позволява на модела да създава по-„творчески", но по-малко точни отговори. Ограничената дължина на контекста може да доведе до това, че моделът „забравя" ранни детайли от диалога и започва да си противоречи<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>.

## Методи за оценка и измерване

За разкриване и измерване на халюцинациите се прилагат автоматични метрики, човешка оценка и специализирани benchmark тестове.

- **Автоматични метрики**: Включват подходи, при които друг LLM изпълнява ролята на „съдия" (**LLM-as-a-judge**) за оценка на коректността на отговора<sup>[\[9\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-evidently-blog-9)</sup>, или анализ на ентропията (несигурността) на модела при генериране<sup>[\[10\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-kolena-blog-10)</sup>.
- **Човешка анотация**: Смята се за „златен стандарт". Експерти или crowd асесори ръчно оценяват отговорите, отбелязвайки грешките. Този метод се използва при обучение на модели с помощта на RLHF<sup>[\[11\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-chatgpt-comparison-11)</sup>.
- **Benchmark тестове и стрес тестове**: Създадени са специални набори от данни, като например **TruthfulQA**, който съдържа въпроси, провокиращи модела да възпроизвежда разпространени митове<sup>[\[12\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-mastering-llm-accuracy-12)</sup>. Съществуват също класации, например **Hugging Face Hallucination Leaderboard**, където моделите се сравняват по ниво на халюцинации<sup>[\[13\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-llm-benchmarks-arize-13)</sup>.

## Методи за смекчаване и предотвратяване

- **Retrieval-Augmented Generation (RAG)**: Най-успешният подход, който „обвързва" модела с външни знания. Преди генерирането на отговора моделът получава релевантна информация от база данни, търсачка или API. Това позволява на модела да основава отговора си на проверени данни, а не на предположения<sup>[\[2\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-astera-guide-2)</sup>.
- **Вериги на разсъждение (Chain-of-Thought) и самопроверка**: Моделът първо генерира поетапно разсъждение, преди да даде окончателен отговор, което повишава точността. При по-напредналите методи, като **Self-Verification**, моделът генерира чернова на отговора, след което получава задача да го провери и коригира<sup>[\[14\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-rag-cove-paper-14)</sup>.
- **Вградени правила и филтри**: Моделите се обучават да отказват отговор, когато не са сигурни. Например моделите Claude от Anthropic следват принципа на „правдивост" и често отговарят „Не ми е известно точно...", вместо да измислят факти<sup>[\[11\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-chatgpt-comparison-11)</sup>.
- **Интеграция с външни инструменти**: Модели като Gemini могат автоматично да разпознават кога се нуждаят от външен инструмент (например калкулатор за изчисления или търсене за актуални новини) и да го използват, което значително намалява броя на халюцинациите<sup>[\[11\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-chatgpt-comparison-11)</sup>.

## Рискове и последствия

- **Правни и репутационни рискове**: В юридическата сфера халюцинациите могат да имат сериозни последствия. Широка известност придоби случаят **Mata v. Avianca (2023)**, при който адвокат използва ChatGPT за търсене на съдебни прецеденти и той измисли няколко несъществуващи дела. Адвокатите бяха глобени, а инцидентът се превърна в поука за недопустимостта на сляпо доверие в ИИ без проверка<sup>[\[1\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-lakera-guide-1)</sup>.
- **Разпространение на дезинформация**: В мащаб на обществото LLM могат да задълбочат проблема с фалшивите новини. Известен е случаят с модела **Galactica** на Meta, който беше създаден в помощ на учени, но започна да генерира псевдонаучни текстове с измислени експерименти и препратки. След три дни публичният достъп до модела беше затворен<sup>[\[15\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-galactica-failure-15)</sup>.
- **Вземане на погрешни решения**: Потребителите, особено неопитните, са склонни да се доверяват на уверено формулирани отговори на ИИ, което може да доведе до вземане на неверни решения във финансите, медицината и други критични области<sup>[\[7\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-quickcreator-tips-7)</sup>.

## Примери от практиката

- **Случаят с Air Canada (2023)**: Чат-ботът на авиокомпанията измисли несъществуваща политика за връщане на билети. Когато клиент поиска да я приложат, компанията отказа. Транспортният трибунал на Канада задължи Air Canada да носи отговорност за информацията, предоставена от нейния чат-бот, и да обезщети клиента<sup>[\[9\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-evidently-blog-9)</sup>.
- **Иск за клевета срещу OpenAI (2023)**: Радиоводещият Марк Уолтърс заведе дело срещу OpenAI, тъй като ChatGPT в отговор на запитване на журналист го обвини лъжливо в измама. Този случай подчерта правната отговорност на компаниите за съдържанието, генерирано от техните модели<sup>[\[6\]](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_note-nexla-guide-6)</sup>.

## Препратки

- The Beginner's Guide to Hallucinations in Large Language Models — подробно ръководство от Lakera
- Survey of Hallucination in Natural Language Generation — научен преглед на явлението в arXiv

## Литература

- Holtzman, A. et al. (2020). *The Curious Case of Neural Text Degeneration*. arXiv:1904.09751.
- Caccia, M. et al. (2018). *Language GANs Falling Short*. arXiv:1811.02549.
- Fan, A. et al. (2018). *Hierarchical Neural Story Generation*. arXiv:1805.04833.
- Su, Y.; Collier, N. (2022). *Contrastive Search Is What You Need for Neural Text Generation*. arXiv:2210.14140.
- Meister, C. et al. (2023). *Locally Typical Sampling*. arXiv:2202.00666.
- O'Brien, S.; Lewis, M. (2023). *Contrastive Decoding Improves Reasoning in Large Language Models*. arXiv:2309.09117.
- Finlayson, M. et al. (2024). *Basis-Aware Truncation Sampling for Neural Text Generation*. arXiv:2412.14352.
- Tan, Q. et al. (2024). *A Thorough Examination of Decoding Methods in the Era of Large Language Models*. arXiv:2402.06925.
- Yu, S. et al. (2023). *Conformal Nucleus Sampling*. arXiv:2305.02633.
- Chen, S. J. et al. (2024). *Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods*. arXiv:2410.03968.

## Бележки

1.  <span id="cite_note-lakera-guide-1">↑ <sup>[1.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-0)</sup> <sup>[1.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-1)</sup> <sup>[1.2](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-2)</sup> <sup>[1.3](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-3)</sup> <sup>[1.4](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-4)</sup> <sup>[1.5](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-5)</sup> <sup>[1.6](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-lakera-guide_1-6)</sup> «The Beginner's Guide to Hallucinations in Large Language Models». *Lakera*. <a href="https://www.lakera.ai/blog/guide-to-hallucinations-in-large-language-models" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-astera-guide-2">↑ <sup>[2.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-0)</sup> <sup>[2.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-1)</sup> <sup>[2.2](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-2)</sup> <sup>[2.3](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-3)</sup> <sup>[2.4](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-4)</sup> <sup>[2.5](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-5)</sup> <sup>[2.6](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-6)</sup> <sup>[2.7](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-7)</sup> <sup>[2.8](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-astera-guide_2-8)</sup> «What Is LLM Hallucination and How To Prevent It». *Astera*. <a href="https://www.astera.com/type/blog/llm-hallucination-how-to-reduce-it/" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-wikipedia-hallucination-3">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-wikipedia-hallucination_3-0) «Hallucination (artificial intelligence)». In *Wikipedia*. <a href="https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-openai-description-4">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-openai-description_4-0) «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». *\[источник не указан в тексте\]*.</span>
5.  <span id="cite_note-cambridge-dict-5">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-cambridge-dict_5-0) «Cambridge Dictionary adds new definition for 'hallucinate'». *\[источник не указан в тексте\]*.</span>
6.  <span id="cite_note-nexla-guide-6">↑ <sup>[6.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-0)</sup> <sup>[6.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-1)</sup> <sup>[6.2](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-2)</sup> <sup>[6.3](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-3)</sup> <sup>[6.4](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-4)</sup> <sup>[6.5](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-5)</sup> <sup>[6.6](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-nexla-guide_6-6)</sup> «LLM Hallucination—Types, Causes, and Solutions». *Nexla*. <a href="https://nexla.com/ai-infrastructure/llm-hallucination/" class="external autonumber" rel="nofollow">[4]</a></span>
7.  <span id="cite_note-quickcreator-tips-7">↑ <sup>[7.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-quickcreator-tips_7-0)</sup> <sup>[7.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-quickcreator-tips_7-1)</sup> «Effective Tips to Prevent AI Hallucinations in Generative AI». *QuickCreator*. <a href="https://quickcreator.io/quthor_blog/tricks-prevent-ai-hallucinations-generative-artificial-intelligence/" class="external autonumber" rel="nofollow">[5]</a></span>
8.  <span id="cite_note-codemirage-paper-8">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-codemirage-paper_8-0) \[2408.08333\] CodeMirage: Hallucinations in Code Generated by Large Language Models. *arXiv*. <a href="https://arxiv.org/abs/2408.08333" class="external autonumber" rel="nofollow">[6]</a></span>
9.  <span id="cite_note-evidently-blog-9">↑ <sup>[9.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-evidently-blog_9-0)</sup> <sup>[9.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-evidently-blog_9-1)</sup> «LLM hallucinations and failures: lessons from 4 examples». *Evidently AI Blog*. <a href="https://www.evidentlyai.com/blog/llm-hallucination-examples" class="external autonumber" rel="nofollow">[7]</a></span>
10. <span id="cite_note-kolena-blog-10">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-kolena-blog_10-0) «How to Perform Hallucination Detection for LLMs». *Kolena*. <a href="https://www.kolena.com/blog/how-to-perform-hallucination-detection-for-llms/" class="external autonumber" rel="nofollow">[8]</a></span>
11. <span id="cite_note-chatgpt-comparison-11">↑ <sup>[11.0](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-chatgpt-comparison_11-0)</sup> <sup>[11.1](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-chatgpt-comparison_11-1)</sup> <sup>[11.2](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-chatgpt-comparison_11-2)</sup> «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». *DataStudios*. <a href="https://www.datastudios.org/post/chatgpt-vs-google-gemini-vs-anthropic-claude-comprehensive-comparison-report-capabilities-perfo" class="external autonumber" rel="nofollow">[9]</a></span>
12. <span id="cite_note-mastering-llm-accuracy-12">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-mastering-llm-accuracy_12-0) «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». *Stephen Weber on Medium*. <a href="https://weber-stephen.medium.com/mastering-llm-accuracy-how-to-test-detect-and-fix-hallucinations-in-ai-models-ae5f69111379" class="external autonumber" rel="nofollow">[10]</a></span>
13. <span id="cite_note-llm-benchmarks-arize-13">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-llm-benchmarks-arize_13-0) «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». *Arize Blog*. <a href="https://arize.com/blog-course/llm-leaderboards-benchmarks/" class="external autonumber" rel="nofollow">[11]</a></span>
14. <span id="cite_note-rag-cove-paper-14">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-rag-cove-paper_14-0) «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». *arXiv*. <a href="https://arxiv.org/html/2505.09031v1" class="external autonumber" rel="nofollow">[12]</a></span>
15. <span id="cite_note-galactica-failure-15">[↑](https://systems-analysis.info/int/%D0%A5%D0%B0%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D0%B8_%D0%BE%D1%82%D0%B3%D0%BE%D0%B2%D0%BE%D1%80%D0%B8_%D0%BD%D0%B0_LLM#cite_ref-galactica-failure_15-0) «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». *Analytics India Magazine*. <a href="https://analyticsindiamag.com/ai-features/why-meta-took-down-its-hallucinating-ai-model-galactica/" class="external autonumber" rel="nofollow">[13]</a></span>