На мой взгляд, чтобы перестать галлюцинировать, нужно классифицировать универсум знаний - фундаментальное (словари, энциклопедии), академическое (учебники, статьи), научно-популярное, пропагандистское, чтиво и т.п. В свою очередь, есть ещё классификация - современное, устаревшее, псевдонаучное.
Второй момент - более тщательное преследование цели пользователя из серии промтов. Если промт неконкретен или подозрительно ошибочен, то надо не стесняться задавать наводящие/встречные вопросы. Вместо заполнения инфовакуума фантазиями. Нужно выявлять неопределённости, обозначать их и выносить на обсуждение.
Третий момент - работа с тезаурусом пользователя, это сильно переплетается со вторым пунктом. Нужно понимать, где пользователь разбирается, а где нет. Соответственно, там, где разбирается, пусть пользователь уточнит. А там, где слаб, включить режим фантазирования/предположений или режим разъяснений/обучения.
Пока не научатся LLM применять формулу Шеннона для оценки и оптимизации всех этих вещей, они будут на каждый новый промпт генерировать что-то новое в отрыве от уже занесённого в голову пользователя (игнорировать тезаурус пользователя) и будут продолжать фантазировать.
-- 27.04.2026, 21:41 --Диалог в режиме "Один промпт - один ответ" - это вырожденный диалог, тривиальный. Имеет место, когда промпт хорошо сформулирован, цель и тезаурус пользователя прочитались удачно. Но, как правило, это не работает. И уже из первого промпта можно увидеть, что диалог требует нескольких циклов общения. Вместо этого, LLM пытаются как можно быстрее тривиализировать диалог - сделать развёрнутый завершающий ответ, который приходится нередко мимо цели и тезауруса пользователя.
Пример тривиальных диалогов - это
задачка по упрощению математического выражения с радикалами из соседней темы. Здесь действительно достаточно точно сформулирована цель. Тезаурус пользователя, да, может оказаться узким или наоборот слишком широким. Рамануджана пользователь может не знать, или, наоборот, быть экспертом по дискретной математике. Но можно же прикинуть по упрощаемому выражению, что это "детская задача", а значит и пользователь "ребёнок".)))
-- 27.04.2026, 21:49 --Оценка и эффективное использование тезауруса пользователя неразрывно связана с персонализацией модели - очень и очень перспективное направление.
