Как модель «отвечает»: токен, контекст, галлюцинация
Модель разбивает текст на токены (слова или их части) и строит ответ по кусочкам, каждый раз выбирая наиболее подходящий следующий. Поэтому ответ получается гладким, но гладкий не значит правильный.
Контекстное окно — это объём текста, который модель способна видеть одновременно. Если диалог слишком затянулся, начало может выпасть из внимания; тогда полезно повторить важное условие.
Галлюцинация — это когда модель уверенным тоном выдаёт неверную или выдуманную информацию. Риск выше всего для редких фактов, точных дат, чисел и ссылок на источники.
Запомните
- Гладкий ответ не значит верный.
- В длинном диалоге повторяйте важные условия.
- Проверяйте числа, даты, ссылки и цитаты.
Упражнение
Модель дала вам ссылку на несуществующую научную статью. Как это называется и что делать?
Ответ и пояснение
- Галлюцинация; ссылку нужно открыть и проверить самому. (верный ответ)Модели могут выдумывать правдоподобные, но несуществующие источники.
- Новое открытие; её можно использовать.Непроверенная ссылка не является открытием.
- Ошибка токена; достаточно обновить страницу.Проблема не техническая, а в выдуманных моделью данных.
Практическое задание
Задайте диалоговому инструменту вопрос по теме, которую хорошо знаете, и найдите ошибки в ответе.
- Задал(а) вопрос по знакомой теме
- Сверил(а) каждое утверждение ответа с тем, что знаю сам(а)
Словарь
Интерактивный режим: поиск, прогресс и упражнения на Python.