Почему нейросеть врёт и как это ловить

Модель предсказывает правдоподобный текст. Если в обучающих данных дыра, она заполнит её стилем, а не тишиной. Отсюда ссылки на несуществующие статьи, уверенные даты и «функции», которых нет в API.

Где враньё опаснее

• Юридические и медицинские советы «как есть».
• Цитаты и URL — модель любит красивые, но мёртвые ссылки.
• Код под ваш стек: импорт, которого нет в версии библиотеки.
• Цифры («рост на 37%») без источника.

Как ловить

1. Для новостей и рефератов откройте Perplexity или поиск Яндекса — ответ со ссылками, которые вы сами кликаете.
2. Для кода — минимальный воспроизводимый пример и тесты, не «прочитай глазами».
3. Для внутренних фактов компании — вставьте источник в промпт: абзац из регламента, кусок таблицы. Запретите опираться на «общие знания».
4. Спросите «какие допущения ты сделал?». Честный список дыр ценнее гладкого абзаца.

Чего не делать

Не собирайте «антигаллюцинационный суперпромпт» на две страницы. Он не лечит отсутствие данных. Короче: узкая задача + источник правды + разрешение сказать «не знаю».

Если нужен поиск как основной навык — карточка Perplexity. Если нужен русский контур — YandexGPT.