Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 Про функции активации
Аватара пользователя
Кто использовал в качестве функций активации нейросетей какие-нибудь нестандартные функции (не сигмоида, и т.д.)?

 Re: Про функции активации
artful7 писал(а):
Кто использовал в качестве функций активации нейросетей какие-нибудь нестандартные функции (не сигмоида, и т.д.)?


А в чём задача?

 
Аватара пользователя
А задача состоит в том, чтобы построить трехслойную нейросеть, в которой в качестве функции активации будет не классическая сигмоида, а что-нибудь более гибкое в плане настройки.

 
artful7 писал(а):
А задача состоит в том, чтобы построить трехслойную нейросеть, в которой в качестве функции активации будет не классическая сигмоида, а что-нибудь более гибкое в плане настройки.
Да, способности сети можно в этом случае улучшить, но обучение может очень сильно усложниться. И в итоге может также оказаться, что варьирование параметров ф-ции активации не обеспечивает необходимого качества классификации/распознавания, то есть сам выбор ф-ции активации - неверен. Вот такие основные проблемы всплывают. Можете ещё помимо ф-ции активации поработать с метрикой, тоже очень мощная вещь.

 [ Сообщений: 4 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group