Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия, Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки
Когда метод обратного распространения не работает?
04.11.2017, 15:22
Проводим обучение методом обратного распространения.
Подали 1-й образ. Скорректировали веса. Улучшилось распознавание 1-го образа. Подали 2-й образ. Скорректировали веса. Улучшилось распознавание 2-го образа, но 1-й образ теперь вообще не узнаём. И как не выбирай порядок их подачи хорошее распознавание этих образов не достигается.
Бывают ли такие ситуации при обучении НС?
mihaild
Re: Когда метод обратного распространения не работает?
04.11.2017, 22:38
Да, бывают. Например, если вы учите модель без признаков на двух объектов разных классов:)
Mihaylo
Re: Когда метод обратного распространения не работает?
05.11.2017, 06:25
Обучайте образам одновременно, а не друг за другом.
reptiloid
Re: Когда метод обратного распространения не работает?
05.11.2017, 14:42
Mihaylo При одновременном обучении такая ситуация в порядке вещей. Один образ учит в одну сторону, другой в другую, в сумме 0.
Paragraph
Re: Когда метод обратного распространения не работает?
07.11.2017, 02:17
И не только НС могут вести себя так. Если в методе обучения присутствует градиент, то величина градиентного шага может быть выбрана неудачно и метод не сойдется никогда, в частности, по описанному сценарию.