Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 Когда метод обратного распространения не работает?
Проводим обучение методом обратного распространения.

Подали 1-й образ. Скорректировали веса. Улучшилось распознавание 1-го образа.
Подали 2-й образ. Скорректировали веса. Улучшилось распознавание 2-го образа, но 1-й образ теперь вообще не узнаём.
И как не выбирай порядок их подачи хорошее распознавание этих образов не достигается.

Бывают ли такие ситуации при обучении НС?

 Re: Когда метод обратного распространения не работает?
Аватара пользователя
Да, бывают. Например, если вы учите модель без признаков на двух объектов разных классов:)

 Re: Когда метод обратного распространения не работает?
Обучайте образам одновременно, а не друг за другом.

 Re: Когда метод обратного распространения не работает?
Mihaylo
При одновременном обучении такая ситуация в порядке вещей. Один образ учит в одну сторону, другой в другую, в сумме 0.

 Re: Когда метод обратного распространения не работает?
И не только НС могут вести себя так. Если в методе обучения присутствует градиент, то величина градиентного шага может быть выбрана неудачно и метод не сойдется никогда, в частности, по описанному сценарию.

 [ Сообщений: 5 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group