---
title: "Галлюцинации и некорректные ответы LLM"
source: "https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM"
wiki: "systems-analysis.info/wiki"
article: "Галлюцинации_и_некорректные_ответы_LLM"
language: "ru"
categories:
  - "Категория:Russian"
  - "Категория:Большие языковые модели"
  - "Категория:Машинное обучение"
revision_id: 221
wiki_created_at: 2026-09-06T22:05:41Z
wiki_modified_at: 2026-09-06T22:05:41Z
downloaded_at: 2026-09-07T22:18:26Z
---

# Галлюцинации и некорректные ответы LLM

**Галлюцинация** (англ. *hallucination*) в контексте [больших языковых моделей (LLM)](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8 "Большие языковые модели") — это явление, при котором модель уверенно генерирует правдоподобный (*plausible*) на вид ответ, который на самом деле не соответствует действительности, предоставленному контексту или является внутренне противоречивым<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>. Модель «выдумывает» факты, детали или логические выводы, которые отсутствуют в исходных данных.

Важно отметить, что галлюцинация не является сбоем или багом в традиционном понимании. Модель работает так, как спроектирована: она предсказывает наиболее вероятное продолжение текста на основе паттернов, извлеченных из обучающих данных. У неё нет встроенного механизма проверки истинности<sup>[\[3\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-wikipedia-hallucination-3)</sup>. Галлюцинации отличаются от простых ошибок тем, что представляют собой уверенно поданную, но ложную информацию, часто включающую несуществующие факты, ссылки или события<sup>[\[4\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-openai-description-4)</sup>. Это явление стало настолько значимым, что в 2023 году Кембриджский словарь добавил новое значение термина «hallucination», относящееся к искусственному интеллекту<sup>[\[5\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-cambridge-dict-5)</sup>.

## Определения и классификация галлюцинаций

Хотя используются различные термины (например, «конфабуляция», «выдумка»), галлюцинации в LLM можно разделить на две большие категории: связанные с **фактической достоверностью** и связанные с **верностью источнику** (контекстуальной согласованностью)<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>.

### Фактические галлюцинации

Это случай, когда модель приводит фактически неверную информацию о реальном мире. Модель утверждает ложный «факт» как истину<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>.

- **Пример**: *«Чарльз Линдберг был первым человеком, ступившим на поверхность Луны»* — полностью вымышленный факт.
- **Ложные цитаты и ссылки**: Модель может придумать ссылку на несуществующую научную работу или закон, имитируя формат реальной ссылки<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>. Это подрывает доверие к моделям, особенно в приложениях, где требуется точность (образование, новости, консалтинг)<sup>[\[7\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-quickcreator-tips-7)</sup>.

### Логические ошибки

Модель допускает несостыковку или ошибку в рассуждениях. Отдельные факты в ответе могут быть верны, но вывод нелогичен или противоречит элементарной логике<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>. Это часто происходит в сложных рассуждениях или задачах на математику и причинность, где модель оперирует вероятностными связями слов, а не формальной логикой<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>.

- **Пример**: *«Поскольку птицы летают, астронавты не испытывают гравитации»* — текст выглядит связно, но логически неправилен.

### Контекстные галлюцинации

Ответ модели не соответствует предоставленному контексту или инструкции. Модель «выпадает» из контекста, добавляя лишние сведения или игнорируя нужные<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>.

- **Нарушение инструкции**: На просьбу «перевести текст на испанский» модель отвечает на английском<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>.
- **Информация не из источника**: В задаче суммаризации модель «добавляет» факты, отсутствующие в оригинальном документе, или перевирает их<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>.
- **Смешение контекстов**: В середине ответа модель внезапно начинает говорить о чем-то из другой области. Например, в ответ на вопрос о комиссаре НБА **Адаме Сильвере**, модель может переключиться на его предшественника **Дэвида Стерна**, смешав два разных контекста<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>.

### Неконсистентность

Разновидность галлюцинации, при которой модель противоречит сама себе в пределах одного ответа или серии ответов<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>. В одном исследовании было обнаружено, что у [ChatGPT](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8_OpenAI "Большие языковые модели OpenAI") уровень само-противоречивости ответов составляет около 14%<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>.

- **Пример**: *«Компания Х была основана в 1990 году... а через несколько предложений ...Компания Х, образованная в 2000 году...»*

### Галлюцинации в коде

LLM, обученные на коде, могут генерировать синтаксически корректные, но нерабочие фрагменты, используя несуществующие функции, библиотеки или параметры<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>. Например, модель может сгенерировать \`import quantum\` в Python, хотя такого стандартного модуля не существует. В 2024 году был предложен термин «code hallucination» и создан бенчмарк **CodeMirage** для систематизации этой проблемы<sup>[\[8\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-codemirage-paper-8)</sup>.

## Причины возникновения

Явление галлюцинаций обусловлено совокупностью факторов, от архитектуры модели до качества данных.

- **Архитектура и принцип обучения**: Большинство LLM (например, [GPT](https://systems-analysis.info/wiki/GPT "GPT")) являются авторегрессивными трансформерами, обученными предсказывать следующий [токен](https://systems-analysis.info/wiki/%D0%A2%D0%BE%D0%BA%D0%B5%D0%BD "Токен"). Их цель — максимизация правдоподобия текста, а не проверка истинности утверждений<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>. Модель не различает факты и вымысел в обучающих данных, воспринимая всё как текстовые паттерны<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>.
- **Качество обучающих данных**: LLM обучаются на огромных корпусах текста из Интернета, которые содержат множество неточностей, мифов и устаревшей информации<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>. Модель запоминает и воспроизводит эти ошибки. Также важен **knowledge cutoff** — предел по времени, до которого у модели есть информация.
- **Способ генерации текста**: Стохастический характер генерации (сэмплирование с температурой) позволяет модели создавать более «креативные», но менее точные ответы. Ограниченная длина контекста может приводить к тому, что модель «забывает» ранние детали диалога и начинает противоречить сама себе<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>.

## Методы оценки и измерения

Для выявления и измерения галлюцинаций применяются автоматические метрики, человеческая оценка и специализированные бенчмарки.

- **Автоматические метрики**: Включают подходы, где другая LLM выступает в роли «судьи» (**LLM-as-a-judge**) для оценки корректности ответа<sup>[\[9\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-evidently-blog-9)</sup>, или анализ энтропии (неуверенности) модели при генерации<sup>[\[10\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-kolena-blog-10)</sup>.
- **Человеческая аннотация**: Считается «золотым стандартом». Эксперты или крауд-асессоры вручную оценивают ответы, помечая ошибки. Этот метод используется при обучении моделей с помощью [RLHF](https://systems-analysis.info/wiki/RLHF "RLHF")<sup>[\[11\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-chatgpt-comparison-11)</sup>.
- **Бенчмарки и стресс-тесты**: Созданы специальные наборы данных, такие как **TruthfulQA**, который содержит вопросы, провоцирующие модель на воспроизведение распространенных мифов<sup>[\[12\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-mastering-llm-accuracy-12)</sup>. Существуют также лидерборды, например **Hugging Face Hallucination Leaderboard**, где модели сравниваются по уровню галлюцинаций<sup>[\[13\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-llm-benchmarks-arize-13)</sup>.

## Способы смягчения и предотвращения

- **Retrieval-Augmented Generation (RAG)**: Наиболее успешный подход, который «привязывает» модель к внешним знаниям. Перед генерацией ответа модель получает релевантную информацию из базы данных, поисковой системы или API. Это позволяет модели основывать ответ на проверенных данных, а не на догадках<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-astera-guide-2)</sup>.
- **Цепочки рассуждений (Chain-of-Thought) и самопроверка**: Модель сначала генерирует пошаговое рассуждение, прежде чем дать финальный ответ, что повышает точность. В более продвинутых методах, таких как **Self-Verification**, модель генерирует черновой ответ, а затем получает задание проверить его и исправить<sup>[\[14\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-rag-cove-paper-14)</sup>.
- **Встроенные правила и фильтры**: Модели обучаются отказываться от ответа, если не уверены. Например, модели [Claude](https://systems-analysis.info/wiki/Claude "Claude") от Anthropic следуют принципу «правдивости» и часто отвечают «Мне неизвестно точно...», вместо того чтобы выдумывать факты<sup>[\[11\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-chatgpt-comparison-11)</sup>.
- **Интеграция с внешними инструментами**: Модели, такие как Gemini, могут автоматически распознавать, когда им нужен внешний инструмент (например, калькулятор для вычислений или поиск для свежих новостей), и использовать его, что значительно снижает количество галлюцинаций<sup>[\[11\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-chatgpt-comparison-11)</sup>.

## Риски и последствия

- **Правовые и репутационные риски**: В юридической сфере галлюцинации могут иметь серьезные последствия. Широкую известность получил случай **Mata v. Avianca (2023)**, где адвокат использовал ChatGPT для поиска судебных прецедентов, и тот выдумал несколько несуществующих дел. Адвокаты были оштрафованы, а инцидент стал уроком о недопустимости доверия ИИ без проверки<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-lakera-guide-1)</sup>.
- **Распространение дезинформации**: В масштабах общества LLM могут усиливать проблему фейковых новостей. Известен случай с моделью **Galactica** от Meta, которая была создана для помощи ученым, но начала генерировать псевдонаучные тексты с выдуманными экспериментами и ссылками. Через три дня публичный доступ к модели был закрыт<sup>[\[15\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-galactica-failure-15)</sup>.
- **Принятие ошибочных решений**: Пользователи, особенно неискушенные, склонны доверять уверенно сформулированным ответам ИИ, что может привести к принятию неверных решений в финансах, медицине и других критических областях<sup>[\[7\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-quickcreator-tips-7)</sup>.

## Примеры из практики

- **Случай с Air Canada (2023)**: Чат-бот авиакомпании выдумал несуществующую политику возврата билетов. Когда клиент потребовал применить её, компания отказалась. Транспортный трибунал Канады обязал Air Canada нести ответственность за информацию, предоставленную её чат-ботом, и компенсировать убытки клиенту<sup>[\[9\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-evidently-blog-9)</sup>.
- **Иск о диффамации против OpenAI (2023)**: Радиоведущий Марк Уолтерс подал в суд на OpenAI за то, что ChatGPT в ответе на запрос журналиста ложно обвинил его в мошенничестве. Этот случай подчеркнул юридическую ответственность компаний за контент, генерируемый их моделями<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_note-nexla-guide-6)</sup>.

## См. также

- [Большие языковые модели](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8 "Большие языковые модели")
- [Prompt и контекст](https://systems-analysis.info/wiki/Prompt_%D0%B8_%D0%BA%D0%BE%D0%BD%D1%82%D0%B5%D0%BA%D1%81%D1%82 "Prompt и контекст")
- [GPT](https://systems-analysis.info/wiki/GPT "GPT")
- [Большие языковые модели OpenAI](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8_OpenAI "Большие языковые модели OpenAI")
- [Мультимодальные LLM](https://systems-analysis.info/wiki/%D0%9C%D1%83%D0%BB%D1%8C%D1%82%D0%B8%D0%BC%D0%BE%D0%B4%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_LLM "Мультимодальные LLM")

## Ссылки

- <a href="https://www.lakera.ai/blog/guide-to-hallucinations-in-large-language-models" class="external text" rel="nofollow">The Beginner's Guide to Hallucinations in Large Language Models</a> — подробное руководство от Lakera
- <a href="https://arxiv.org/abs/2202.03629" class="external text" rel="nofollow">Survey of Hallucination in Natural Language Generation</a> — научный обзор явления на arXiv

## Литература

- Holtzman, A. et al. (2020). *The Curious Case of Neural Text Degeneration*. <a href="https://arxiv.org/abs/1904.09751" class="external text" rel="nofollow">arXiv:1904.09751</a>.
- Caccia, M. et al. (2018). *Language GANs Falling Short*. <a href="https://arxiv.org/abs/1811.02549" class="external text" rel="nofollow">arXiv:1811.02549</a>.
- Fan, A. et al. (2018). *Hierarchical Neural Story Generation*. <a href="https://arxiv.org/abs/1805.04833" class="external text" rel="nofollow">arXiv:1805.04833</a>.
- Su, Y.; Collier, N. (2022). *Contrastive Search Is What You Need for Neural Text Generation*. <a href="https://arxiv.org/abs/2210.14140" class="external text" rel="nofollow">arXiv:2210.14140</a>.
- Meister, C. et al. (2023). *Locally Typical Sampling*. <a href="https://arxiv.org/abs/2202.00666" class="external text" rel="nofollow">arXiv:2202.00666</a>.
- O’Brien, S.; Lewis, M. (2023). *Contrastive Decoding Improves Reasoning in Large Language Models*. <a href="https://arxiv.org/abs/2309.09117" class="external text" rel="nofollow">arXiv:2309.09117</a>.
- Finlayson, M. et al. (2024). *Basis-Aware Truncation Sampling for Neural Text Generation*. <a href="https://arxiv.org/abs/2412.14352" class="external text" rel="nofollow">arXiv:2412.14352</a>.
- Tan, Q. et al. (2024). *A Thorough Examination of Decoding Methods in the Era of Large Language Models*. <a href="https://arxiv.org/abs/2402.06925" class="external text" rel="nofollow">arXiv:2402.06925</a>.
- Yu, S. et al. (2023). *Conformal Nucleus Sampling*. <a href="https://arxiv.org/abs/2305.02633" class="external text" rel="nofollow">arXiv:2305.02633</a>.
- Chen, S. J. et al. (2024). *Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods*. <a href="https://arxiv.org/abs/2410.03968" class="external text" rel="nofollow">arXiv:2410.03968</a>.

## Примечания

1.  <span id="cite_note-lakera-guide-1">↑ <sup>[1,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-0)</sup> <sup>[1,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-1)</sup> <sup>[1,2](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-2)</sup> <sup>[1,3](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-3)</sup> <sup>[1,4](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-4)</sup> <sup>[1,5](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-5)</sup> <sup>[1,6](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-lakera-guide_1-6)</sup> «The Beginner's Guide to Hallucinations in Large Language Models». *Lakera*. <a href="https://www.lakera.ai/blog/guide-to-hallucinations-in-large-language-models" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-astera-guide-2">↑ <sup>[2,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-0)</sup> <sup>[2,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-1)</sup> <sup>[2,2](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-2)</sup> <sup>[2,3](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-3)</sup> <sup>[2,4](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-4)</sup> <sup>[2,5](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-5)</sup> <sup>[2,6](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-6)</sup> <sup>[2,7](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-7)</sup> <sup>[2,8](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-astera-guide_2-8)</sup> «What Is LLM Hallucination and How To Prevent It». *Astera*. <a href="https://www.astera.com/type/blog/llm-hallucination-how-to-reduce-it/" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-wikipedia-hallucination-3">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-wikipedia-hallucination_3-0) «Hallucination (artificial intelligence)». In *Wikipedia*. <a href="https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-openai-description-4">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-openai-description_4-0) «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». *\[источник не указан в тексте\]*.</span>
5.  <span id="cite_note-cambridge-dict-5">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-cambridge-dict_5-0) «Cambridge Dictionary adds new definition for 'hallucinate'». *\[источник не указан в тексте\]*.</span>
6.  <span id="cite_note-nexla-guide-6">↑ <sup>[6,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-0)</sup> <sup>[6,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-1)</sup> <sup>[6,2](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-2)</sup> <sup>[6,3](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-3)</sup> <sup>[6,4](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-4)</sup> <sup>[6,5](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-5)</sup> <sup>[6,6](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-nexla-guide_6-6)</sup> «LLM Hallucination—Types, Causes, and Solutions». *Nexla*. <a href="https://nexla.com/ai-infrastructure/llm-hallucination/" class="external autonumber" rel="nofollow">[4]</a></span>
7.  <span id="cite_note-quickcreator-tips-7">↑ <sup>[7,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-quickcreator-tips_7-0)</sup> <sup>[7,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-quickcreator-tips_7-1)</sup> «Effective Tips to Prevent AI Hallucinations in Generative AI». *QuickCreator*. <a href="https://quickcreator.io/quthor_blog/tricks-prevent-ai-hallucinations-generative-artificial-intelligence/" class="external autonumber" rel="nofollow">[5]</a></span>
8.  <span id="cite_note-codemirage-paper-8">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-codemirage-paper_8-0) \[2408.08333\] CodeMirage: Hallucinations in Code Generated by Large Language Models. *arXiv*. <a href="https://arxiv.org/abs/2408.08333" class="external autonumber" rel="nofollow">[6]</a></span>
9.  <span id="cite_note-evidently-blog-9">↑ <sup>[9,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-evidently-blog_9-0)</sup> <sup>[9,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-evidently-blog_9-1)</sup> «LLM hallucinations and failures: lessons from 4 examples». *Evidently AI Blog*. <a href="https://www.evidentlyai.com/blog/llm-hallucination-examples" class="external autonumber" rel="nofollow">[7]</a></span>
10. <span id="cite_note-kolena-blog-10">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-kolena-blog_10-0) «How to Perform Hallucination Detection for LLMs». *Kolena*. <a href="https://www.kolena.com/blog/how-to-perform-hallucination-detection-for-llms/" class="external autonumber" rel="nofollow">[8]</a></span>
11. <span id="cite_note-chatgpt-comparison-11">↑ <sup>[11,0](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-chatgpt-comparison_11-0)</sup> <sup>[11,1](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-chatgpt-comparison_11-1)</sup> <sup>[11,2](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-chatgpt-comparison_11-2)</sup> «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». *DataStudios*. <a href="https://www.datastudios.org/post/chatgpt-vs-google-gemini-vs-anthropic-claude-comprehensive-comparison-report-capabilities-perfo" class="external autonumber" rel="nofollow">[9]</a></span>
12. <span id="cite_note-mastering-llm-accuracy-12">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-mastering-llm-accuracy_12-0) «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». *Stephen Weber on Medium*. <a href="https://weber-stephen.medium.com/mastering-llm-accuracy-how-to-test-detect-and-fix-hallucinations-in-ai-models-ae5f69111379" class="external autonumber" rel="nofollow">[10]</a></span>
13. <span id="cite_note-llm-benchmarks-arize-13">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-llm-benchmarks-arize_13-0) «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». *Arize Blog*. <a href="https://arize.com/blog-course/llm-leaderboards-benchmarks/" class="external autonumber" rel="nofollow">[11]</a></span>
14. <span id="cite_note-rag-cove-paper-14">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-rag-cove-paper_14-0) «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». *arXiv*. <a href="https://arxiv.org/html/2505.09031v1" class="external autonumber" rel="nofollow">[12]</a></span>
15. <span id="cite_note-galactica-failure-15">[↑](https://systems-analysis.info/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%BD%D0%B0%D1%86%D0%B8%D0%B8_%D0%B8_%D0%BD%D0%B5%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BA%D1%82%D0%BD%D1%8B%D0%B5_%D0%BE%D1%82%D0%B2%D0%B5%D1%82%D1%8B_LLM#cite_ref-galactica-failure_15-0) «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». *Analytics India Magazine*. <a href="https://analyticsindiamag.com/ai-features/why-meta-took-down-its-hallucinating-ai-model-galactica/" class="external autonumber" rel="nofollow">[13]</a></span>