Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу Пред.  1, 2, 3
 Re: Проблема галлюцинаций LLM и пути ее решения
worm2 в сообщении #1729597 писал(а):
в топовые модели загружено вообще всё, написанное человечеством, включая все тексты Интернета


Нет, конечно. Топовые модели обучены на всем содержимом Интернета. А "все содержимое, написанное в Интернете" $\neq$ "все, написанное человечеством". К примеру, огромное количество научных материалов, выпущенных до конца 1990ых-начала 2000ых просто не оцифрованы.

-- добавлено через 4 минуты --

Mikhail_K в сообщении #1729595 писал(а):
Мой опыт говорит о том, что галлюцинаций нет. Я вижу, что у кого-то другой опыт, но у меня такой.


Ну вот мой опыт тоже другой: галлюцинации конечно же есть. Их стало чуть-чуть меньше, но они никуда не девались, в том числе платных версиях. За что реально могу похвалить (Gemini, Claude, Perplexity) - выдумывания совсем несуществующих источников стало меньше.

 Re: Проблема галлюцинаций LLM и пути ее решения
Аватара пользователя
Mikhail_K в сообщении #1729595 писал(а):
Если Вы не работали с платными ChatGPT или Claude (а уж тем более, если бесплатная модель, о которой идёт речь - это какой-нибудь DeepSeek или Qwen, не говоря об алисе или гигачате) - то Вы не можете судить об уровне галлюцинаций.
Хорошие модели сегодня - это только платные ChatGPT и Claude (возможно, ещё Gemini, но про неё не знаю - у ChatGPT меня в своё время впечатлила даже бесплатная версия, хотя она явно хуже платной, а у Gemini бесплатный вариант откровенно разочаровал).

Мой опыт говорит о том, что галлюцинаций нет. Я вижу, что у кого-то другой опыт, но у меня такой. В том числе при работе с текстами.

Рад это слышать, но боюсь ваш опыт не вполне типичен.

Mikhail_K в сообщении #1729595 писал(а):
Что касается уровня галлюцинаций под 50-80% в бенчмарке - это вообще ни о чём.
Если я правильно понял, это без доступа к интернету и написанию кода.
Модель без интернета и кода - это вообще не интеллект. Это как если человека лишить глаз и рук. Он что-то помнит, но никак не может проверить себя, и все рассуждения может вести только "в уме". Но ведь интеллект - это не набор точных знаний, а умение работать с ними.

Разница в том, что человек как правило понимает, что он чего-то не знает. Конечно, бывают ложные воспоминания и тому подобное, но подозреваю, что люди в этих бенчмарках покажут гораздо более лучшие результаты.

Да и с Интернетом не так все однозначно - когда несколько месяцев назад я попросил знакомого поручить модели небольшое исследование через поиск в Интернете, то результаты были хуже моих собственных. Впрочем, возможно с тех пор что-то поменялось.

 Re: Проблема галлюцинаций LLM и пути ее решения
Сейчас пытался нарисовать схему с помощью GPT-5.6 Terra и словил гигантское количество галлюцинаций.

После пяти итерации вот это:

Изображение

При чём предыдущие итерации были и получше.

 Re: Проблема галлюцинаций LLM и пути ее решения
Аватара пользователя
Mihaylo в сообщении #1729703 писал(а):
Сейчас пытался нарисовать схему с помощью GPT-5.6 Terra и словил гигантское количество галлюцинаций.
Если схема делается с помощью ImageGen (а это так по умолчанию), галлюцинации неизбежны.
Сам ChatGPT рисовать не умеет. Он может делегировать это нейросети-художнику, которая в принципе не способна полностью чётко следовать инструкциям.
Сейчас в ChatGPT (во всяком случае, в платный) встроена схема, когда ChatGPT не только делегирует задание ImageGen, но и контролирует его выполнение и несколько раз без участия пользователя просит переделать, если видит, что что-то не так. Но всё равно это очень далеко от эффективности.

Но такие схемы как у Вас, надо делать не с помощью ImageGen, а с помощью LaTeX или Python.
Просто напишите ему: не используй ImageGen при создании схемы, подбери инструмент, который позволит выполнить задание наиболее точно.

Кстати, если что-то идёт не так, полезно спрашивать у ChatGPT, каким образом стоит задавать ему задание, чтобы он лучше его выполнил. Часто он даёт неочевидные советы.

 Re: Проблема галлюцинаций LLM и пути ее решения
Mikhail_K
Спасибо, действительно помогло.

 [ Сообщений: 35 ]  На страницу Пред.  1, 2, 3


Соглашение о конфиденциальности | Общие правила

Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group