Модуль 1 · Урок 4
Галлюцинации и фактчек
Галлюцинации и фактчек
Когда ИИ уверенно врёт и как это ловить
Ты научишься замечать, когда ИИ уверенно врёт, и применять три приёма проверки фактов за 30 секунд.
Аудио-пересказ урока 1.40:00 / 17:30
01Адвокат, $5000 и шесть выдуманных дел
02Что такое галлюцинация и почему она не исчезнет
Галлюцинация — ответ модели, который выглядит достоверно, но фактически неверен или выдуман.
OpenAI в 2025 году опубликовала математическое доказательство: галлюцинации — это структурное свойство вероятностной генерации, а не ошибка обучения. Они не исчезнут с ростом размеров моделей. Меняется только профиль ошибок.
ИИ будет врать всегда
Вопрос не в том, «врёт ли ИИ». Вопрос — как с этим работать.
Vectara Hallucination Leaderboard (ноябрь 2025)7700 длинных статей · Gemini-2.5-Flash-Lite — 3,3% (лидер) · GPT-4.1 — 5,6% · DeepSeek-V3 — 6,1% · GPT-5 — >10% · Claude Sonnet 4.5 — >10% · DeepSeek-R1 — 11,3%. Системный риск от 3% до 15% на любой модели.
Парадокс reasoning-моделей
GPT-5 thinking и Claude 4.5 с reasoning галлюцинируют на длинных документах чаще, чем быстрые модели без reasoning. Гипотеза: они генерируют больше промежуточных токенов — больше шансов «додумать» деталь. Для задач, где важна точность (факты, цифры, цитаты) — часто лучше быстрая модель с веб-поиском, чем дорогая reasoning без него.
Александр
нажми, чтобы спросить ↓
Урок был полезным?
Поставь лайк или поделись с коллегами
обсуждение
Загрузка…
Войдите, чтобы написать комментарий
Войтисвязанные уроки