Гайд · TNWS AI
Как уменьшить галлюцинации нейросети: источники, цитаты и проверка
Что добавить в запрос и процесс проверки, чтобы ИИ реже выдумывал факты, ссылки и отсутствующие детали документа.
Не просите угадывать
Укажите модели: отвечать только по данным из запроса или найденным источникам, а при недостатке информации писать «не найдено». Это не гарантирует идеальную точность, но делает неопределённость заметнее.
Сначала доказательства
Для документа попросите извлечь цитаты с номерами страниц, затем сформировать вывод. Для веб-поиска требуйте прямые ссылки и дату источника. Открывайте материалы сами: наличие цитаты в ответе ещё не доказывает её корректность.
Разбивайте задачу
Отдельно собирайте факты, сравнивайте их и только потом пишите текст. Чем больше разных операций в одном запросе, тем сложнее понять, где появилась ошибка.
Введите красные линии
Даты, суммы, медицинские назначения, юридические условия и команды для продакшена всегда проверяет человек. Если факт нельзя подтвердить, его лучше убрать или пометить как предположение.
Частые вопросы
Нужно ли проверять результат вручную?
Да. Факты, код, числа и критичные решения всегда требуют проверки.
Можно ли передавать секретные данные?
Нет. Удалите ключи, персональные сведения и закрытые материалы, если сервис не одобрен.
Зависит ли результат от модели?
Да, поэтому проверяйте процесс на собственном наборе примеров.
Читайте также
Как использовать reasoning-модели OpenAI и проверить ответ на сложной задаче
Reasoning-модели OpenAI: постановка задачи, reasoning effort, проверяемый формат, инструменты и тестирование без запроса скрытой цепочки мыслей.
Как создать eval для OpenAI API и измерять качество промпта до релиза
Практический eval для промпта: датасет, эталон, точные graders, LLM-судья, пороги релиза и разбор регрессий.
Как писать промпты для фото: свет, ракурс и детали вместо «сделай красиво»
Практическая схема для генерации изображений: как задать объект, композицию, стиль и правки, сохранив контроль над результатом.
Комментарии
Пока тихо. Скажите первое слово