2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки





Начать новую тему Ответить на тему
 
 Когда метод обратного распространения не работает?
Сообщение04.11.2017, 15:22 


14/01/17
04/12/17
38
Проводим обучение методом обратного распространения.

Подали 1-й образ. Скорректировали веса. Улучшилось распознавание 1-го образа.
Подали 2-й образ. Скорректировали веса. Улучшилось распознавание 2-го образа, но 1-й образ теперь вообще не узнаём.
И как не выбирай порядок их подачи хорошее распознавание этих образов не достигается.

Бывают ли такие ситуации при обучении НС?

 Профиль  
                  
 
 Re: Когда метод обратного распространения не работает?
Сообщение04.11.2017, 22:38 
Заслуженный участник
Аватара пользователя


16/07/14
1409
Москва
Да, бывают. Например, если вы учите модель без признаков на двух объектов разных классов:)

 Профиль  
                  
 
 Re: Когда метод обратного распространения не работает?
Сообщение05.11.2017, 06:25 


12/07/15
790
Обучайте образам одновременно, а не друг за другом.

 Профиль  
                  
 
 Re: Когда метод обратного распространения не работает?
Сообщение05.11.2017, 14:42 


14/01/17
04/12/17
38
Mihaylo
При одновременном обучении такая ситуация в порядке вещей. Один образ учит в одну сторону, другой в другую, в сумме 0.

 Профиль  
                  
 
 Re: Когда метод обратного распространения не работает?
Сообщение07.11.2017, 02:17 


01/05/17
5
И не только НС могут вести себя так. Если в методе обучения присутствует градиент, то величина градиентного шага может быть выбрана неудачно и метод не сойдется никогда, в частности, по описанному сценарию.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 5 ] 

Модераторы: maxal, Karan, Toucan, PAV, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group