Границы и галлюцинации: чему нельзя верить

Ты видел, как складно нейросеть отвечает. Пора про обратную сторону: иногда она так же складно выдумывает. Знать это — не повод не пользоваться, а условие пользоваться по-взрослому.

Что такое галлюцинация

Галлюцинация — это уверенный, гладкий, но ложный ответ: выдуманная цитата, несуществующая ссылка, перепутанная дата, придуманный факт. Коварство в том, что звучит она ровно так же убедительно, как правда, — без запинки и оговорок. Это общая черта всех трёх моделей, а не болезнь одной.

Почему модель врёт так уверенно

Нейросеть не «знает» факты как справочник — она предсказывает правдоподобное продолжение текста. В большинстве случаев правдоподобное совпадает с правдой, но там, где данных не хватило, модель всё равно достроит гладкую фразу — просто теперь мимо. У неё нет внутреннего «я не уверен», пока её об этом не попросишь. Отсюда правило: уверенный тон — не признак правоты.

Дата обучения: почему «не знает про вчера»

У каждой модели есть дата обучения (по-английски knowledge cutoff) — момент, до которого она видела тексты мира. Всё, что случилось позже, она сама по себе не знает и может выдумать. Именно поэтому на вопросы «что сегодня с ценой», «кто выиграл вчера» универсал без доступа к поиску отвечать не должен — тут нужен Gemini или Perplexity со свежим поиском (помнишь таблицу «задача → нейросеть»).

Где ошибаются все трое одинаково

• Точные цифры и даты — статистика, курсы, годы: любят «примерно правильное».
• Ссылки и цитаты — могут придумать правдоподобный, но несуществующий источник.
• Право и медицина — звучит авторитетно, но ответственность на тебе; это темы для специалиста-человека.
• Свежие события — всё после даты обучения без поиска.
• Большие вычисления в уме — длинную арифметику лучше просить делать по шагам или в калькуляторе.

Кейс: юрист, который поверил на слово

Июнь 2023-го, Нью-Йорк. Адвокат Стивен Шварц готовит иск и просит ChatGPT подобрать судебные прецеденты. Модель выдаёт шесть дел с номерами и цитатами — красиво и убедительно. Шварц вставляет их в документ для суда. Проблема: всех шести дел не существует — ChatGPT их выдумал. Судья налагает штраф, история попадает в мировые газеты. Урок стоимостью в тысячи долларов и репутацию: ИИ — черновик, а не источник истины. Проверять обязан человек.

Вопрос на понимание: если модель уверенно дала тебе ссылку на статью и точную цитату — можно ли ставить их в свой текст сразу? Подумай, прежде чем читать. Нет: именно ссылки и цитаты галлюцинируются чаще всего. Открой источник и убедись, что он есть и говорит именно это, — либо возьми ответ у Perplexity, где ссылка ведёт на реальную страницу.

Где галлюцинации почти не страшны

Важно не впасть в другую крайность — «раз врёт, ничему нельзя верить». Есть огромная зона, где выдумки почти не вредят: черновики, идеи, формулировки, объяснения общих понятий, мозговой штурм. Если ты просишь накидать десять заголовков или переписать абзац — проверять «факты» тут нечего, ты и так оценишь результат глазами. Осторожность включай там, где ответ уходит дальше тебя как факт: цифра в отчёт, ссылка в статью, довод в спор, совет по здоровью или закону. Правило простое: чем серьёзнее последствия ошибки — тем строже проверка.

Три приёма, которые спасают

1. Проси источники и открывай их. «Дай ссылку на каждое утверждение» — и переходи по ним. Нет ссылки или она мёртвая — это гипотеза, а не факт. Для этого и создан Perplexity.
2. Перепроверяй важное второй моделью. Один и тот же вопрос двум нейросетям: совпали — вероятнее правда, разошлись — копай сам.
3. Разреши модели сказать «не знаю». Допиши в запрос: «если не уверен — так и скажи, не выдумывай». Это заметно снижает выдумки.

Частые мифы

• «Платная версия не галлюцинирует». Топ-модели ошибаются реже, но не перестают: проверять надо всё равно.
• «Раз уверенно ответил — значит, точно так». Уверенность тона и правота — разные вещи; модель не сомневается вслух, пока не попросишь.
• «Галлюцинации — это баг, который скоро уберут». Это свойство самого подхода «предсказать продолжение», а не поломка; станет реже, но привычку проверять не отменит.

Сделай сейчас

Небольшой тест на доверие, три минуты. Спроси у своей нейросети что-нибудь проверяемое из своей области, где ты знаешь верный ответ, и попроси дать источник. Оцени: всё ли точно, ведёт ли ссылка на реальную страницу. Один такой опыт калибрует твоё доверие вернее десяти предупреждений — включая это.