2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Когда метод обратного распространения не работает?
Сообщение04.11.2017, 15:22 
Проводим обучение методом обратного распространения.

Подали 1-й образ. Скорректировали веса. Улучшилось распознавание 1-го образа.
Подали 2-й образ. Скорректировали веса. Улучшилось распознавание 2-го образа, но 1-й образ теперь вообще не узнаём.
И как не выбирай порядок их подачи хорошее распознавание этих образов не достигается.

Бывают ли такие ситуации при обучении НС?

 
 
 
 Re: Когда метод обратного распространения не работает?
Сообщение04.11.2017, 22:38 
Аватара пользователя
Да, бывают. Например, если вы учите модель без признаков на двух объектов разных классов:)

 
 
 
 Re: Когда метод обратного распространения не работает?
Сообщение05.11.2017, 06:25 
Обучайте образам одновременно, а не друг за другом.

 
 
 
 Re: Когда метод обратного распространения не работает?
Сообщение05.11.2017, 14:42 
Mihaylo
При одновременном обучении такая ситуация в порядке вещей. Один образ учит в одну сторону, другой в другую, в сумме 0.

 
 
 
 Re: Когда метод обратного распространения не работает?
Сообщение07.11.2017, 02:17 
И не только НС могут вести себя так. Если в методе обучения присутствует градиент, то величина градиентного шага может быть выбрана неудачно и метод не сойдется никогда, в частности, по описанному сценарию.

 
 
 [ Сообщений: 5 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group