Галлюцинация
В искусственном интеллекте галлюцинация — это ответ, который звучит гладко и уверенно, но оказывается ложным, необоснованным или выдуманным. Это может быть неверная дата, сфабрикованная цитата, несуществующая функция или источник, который никогда не публиковался.
Обновлено 8 ноября 2026 г.
На этой странице
Читается только на твоих устройствах.
Твой чат можно прочитать на твоём устройстве и, если включена синхронизация, на других твоих устройствах. Больше нигде.
Мы прочитать не можем.
Сообщение проходит через нас, но нигде не записывается; твои чаты хранятся только в зашифрованном виде.
Модель не знает, кто ты.
Она получает вопрос — но не твою почту, аккаунт или IP-адрес.
По пути ничего не остаётся.
Ответ возвращается и сохраняется здесь в зашифрованном виде; даже при синхронизации твой ключ никогда не попадает к нам в открытом виде.
Как это работает
Галлюцинации вытекают из самого устройства языковых моделей. Модель учится писать текст, который статистически правдоподобно продолжает уже написанное; она не сверяется с фактами и не имеет встроенного чувства того, чего не знает. Когда нужного ответа нет в обучающих данных или он представлен слабо, самым правдоподобным продолжением всё равно остаётся гладкая фраза, и модель заполняет пробел чем-то, что хорошо читается. Расплывчатые или наводящие вопросы, малоизвестные темы, просьбы о точных цифрах, сносках, ссылках на судебные дела или телефонных номерах, а также очень длинный ввод повышают вероятность галлюцинаций.
Они принимают разные формы. Модель может выдумать факт, приписать цитату не тому человеку, сослаться на несуществующее исследование, судебное решение или веб-адрес, перепутать два похожих города, лекарства или компании либо противоречить документу, который ей дали. В коде типичный случай — вызов функции с правдоподобным именем, которой в библиотеке нет. Тон ничего не подсказывает: выдуманный ответ обычно написан так же гладко, как верный.
Полностью проблему не устранить, но несколько привычек её снижают. Дай модели исходный материал и попроси отвечать только по нему. Требуй цитаты или ссылки, которые можно открыть. Для многошаговых вопросов используй рассуждающую модель. Сравнивай ответы двух моделей или проси вторую проверить первую. Для справок по фактам снижай случайность и предпочитай короткий узкий вопрос расплывчатому. А всё, что имеет юридический, медицинский, финансовый вес или касается безопасности, подтверждай надёжным источником. Исследователи различают внутренние случаи, когда вывод противоречит предоставленному материалу, и внешние, когда он добавляет утверждения, которые нельзя ни подтвердить, ни опровергнуть; пересказ, перевод и ответы на вопросы показывают оба вида.
В NeverNo
Страница о проверке ответов ИИ описывает, как устроена перекрёстная проверка в NeverNo: модель из другого семейства перечитывает ответ, цитирует то, что выглядит неверным, и предлагает правку; режимов два: перечитать без интернета или проверить утверждения в интернете с указанием источников. Claude Sonnet 5.5, сбалансированная модель Anthropic, — одна из анонимных моделей, которые можно поставить на любую из сторон такой проверки; у неё окно контекста 200 000 токенов и настраиваемый уровень рассуждения.
«Анонимизированная» означает, что разработчик, Anthropic, читает текст, не зная, кто ты, и при этом действуют его собственные правила. Мы не утверждаем, что какая-то модель галлюцинирует больше или меньше другой. Разумный подход одинаков для всех: проси источники, открывай их и сохраняй человеческий контроль над важным.
Что стоит запомнить
Галлюцинация — гладкий, но неверный ответ, возникающий потому, что модель предсказывает правдоподобный текст.
Это может быть выдуманный факт, цитата, источник или функция, и тон её почти никогда не выдаёт.
Риск снижается, если дать модели исходный текст и попросить отвечать только по нему.
Второе мнение другой модели или источник, который можно открыть, — самая надёжная проверка.
Тревожные признаки: подозрительно точные цифры, цитаты без источника, мёртвые ссылки и бодрое согласие с ложной посылкой, вставленной в твой вопрос.
Частые вопросы
Почему модели ИИ выдумывают?
Потому что они генерируют наиболее правдоподобные следующие слова, а не извлекают проверенные факты. Когда знаний мало, правдоподобное, но неверное продолжение всё равно может прозвучать уверенно.
Можно ли полностью устранить галлюцинации?
Пока нет. Их можно сократить, давая исходные документы, требуя ссылки, используя рассуждающие модели и добавляя этап проверки, но важные утверждения всё равно стоит проверять самому.
Как понять, что ответ выдуман?
Ищи подозрительно точные детали — номера страниц, имена, ссылки — и попробуй их найти. Спроси модель, откуда она это знает, попроси цитату или задай тот же вопрос другой модели и сравни. Официальные реестры и первоисточники быстро решают спор о датах, нормах и номерах версий.
Задай первый вопрос
Без аккаунта и без карты. Пиши на любом из 10 языков, на которых говорит NeverNo.
Открыть чат