Границы и галлюцинации: чему нельзя верить

Ты уже видишь, как складно нейросеть отвечает. Пора про обратную сторону: иногда она так же складно выдумывает. Знать это — не повод не пользоваться, а условие пользоваться по-взрослому.

Короткая сверка часов — и сразу к новому

Что такое галлюцинация и откуда она берётся, ты знаешь с первой части трека: модель предсказывает правдоподобное продолжение, и там, где данных не хватило, достраивает гладкую фразу мимо правды — тем же уверенным тоном. Пересказывать не будем. Новость этого урока другая: эта черта одинакова у всей тройки. Сменой модели она не лечится — Claude не честнее ChatGPT, Gemini не точнее Claude. Зато их можно ловить друг другом, и дальше именно об этом.

Дата обучения: почему «не знает про вчера»

У каждой модели есть дата обучения (по-английски knowledge cutoff) — момент, до которого она видела тексты мира. Всё, что случилось позже, она сама по себе не знает и может выдумать. Именно поэтому на вопросы «что сегодня с ценой», «кто выиграл вчера» универсал без доступа к поиску отвечать не должен — тут нужен Gemini или Perplexity со свежим поиском (помнишь таблицу «задача → нейросеть»).

Где ошибаются все трое одинаково

Есть темы, на которых спотыкается вся тройка, и знать их полезнее, чем сравнивать модели между собой.

• Точные цифры и даты — статистика, курсы, годы: любят «примерно правильное».
• Ссылки и цитаты — могут придумать правдоподобный, но несуществующий источник.
• Право и медицина — звучит авторитетно, но ответственность на тебе; это темы для специалиста-человека.
• Свежие события — всё после даты обучения без поиска.
• Большие вычисления в уме — длинную арифметику лучше просить делать по шагам или в калькуляторе.

Кейс: отчёт за полмиллиона с выдуманными источниками

Если думаешь, что на этом попадаются только одиночки, — вот 2025 год. Deloitte, компания из «большой четвёрки» консалтинга, сдаёт правительству Австралии отчёт стоимостью около 440 тысяч австралийских долларов. Внимательный университетский исследователь начинает проверять сноски — и не находит источников: часть ссылок и цитата из судебного решения оказались сочинёнными, следы вели к нейросети. Скандал, исправленная версия отчёта, возврат части гонорара. Заметь: попались не студенты — попались консультанты, которым платят именно за проверенные факты. ИИ — черновик, а не источник истины, и проверять обязан человек — за любые деньги.

Где галлюцинации почти не страшны

Важно не впасть в другую крайность — «раз врёт, ничему нельзя верить». Есть огромная зона, где выдумки почти не вредят: черновики, идеи, формулировки, объяснения общих понятий, мозговой штурм. Если ты просишь предложить десять заголовков или переписать абзац — проверять «факты» тут нечего, ты и так оценишь результат глазами. Осторожность включай там, где ответ уходит дальше тебя как факт: цифра в отчёт, ссылка в статью, довод в спор, совет по здоровью или закону. Правило простое: чем серьёзнее последствия ошибки — тем строже проверка.

Три приёма, которые спасают

Полностью выдумки не убрать, но снизить риск до приемлемого — можно, и вот чем.

1. Проси источники и открывай их. «Дай ссылку на каждое утверждение» — и переходи по ним. Нет ссылки или она мёртвая — это гипотеза, а не факт. Для этого и создан Perplexity.
2. Перепроверяй важное второй моделью. Один и тот же вопрос двум нейросетям: совпали — вероятнее правда, разошлись — копай сам.
3. Разреши модели сказать «не знаю». Допиши в запрос: «если не уверен — так и скажи, не выдумывай». Так модель реже дорисовывает недостающее — не всегда, но достаточно часто, чтобы приём стоил одной строки.

Частые мифы

Три мифа про галлюцинации — последнее, что стоит развеять перед финальной проверкой.

• «Платная версия не галлюцинирует». Топ-модели ошибаются реже, но не перестают: проверять надо всё равно.
• «Раз уверенно ответил — значит, точно так». Уверенность тона и правота — разные вещи; модель не сомневается вслух, пока не попросишь.
• «Галлюцинации — это баг, который скоро уберут». Это свойство самого подхода «предсказать продолжение», а не поломка; станет реже, но привычку проверять не отменит.

Сделай сейчас

Устрой своей нейросети небольшой тест на доверие. Спроси у неё что-нибудь проверяемое из своей области, где ты знаешь верный ответ, и попроси дать источник. Оцени: всё ли точно, ведёт ли ссылка на реальную страницу. Один такой опыт калибрует твоё доверие вернее десяти предупреждений — включая это.