2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки





Начать новую тему Эта тема закрыта, вы не можете редактировать и оставлять сообщения в ней.
 
 Почему нейросети делят на слои?
Сообщение26.09.2016, 12:58 


26/09/16

25
Нейроны сгруппированы слоями. Каждый нейрон одного слоя, связан со всеми нейронами следующего слоя, как и со всеми нейронами предыдущего слоя, но не связан с другими нейронами своего слоя. Сама нейронная сеть состоит как минимум из двух слоев нейронов – входного слоя и выходного слоя, между которыми может находиться произвольное количество, так называемых, скрытых слоев

https://geektimes.ru/post/136316/

Не совсем понял, откуда взялось это ограничение — строгое разделение на слои? И, соответствует ли это реальной биологической нервной системе?

 Профиль  
                  
 
 Re: Почему нейросети делят на слои?
Сообщение26.09.2016, 13:07 
Заслуженный участник
Аватара пользователя


27/04/09
21085
Уфа
Биологической — не очень, но зато это должно быть удобно в прикладном смысле. Нейросети ведь не для симуляции нервной системы нужны (там всё сложнее не только в том, кто с кем соединяется), а для более точно поставленных задач.

 Профиль  
                  
 
 Re: Почему нейросети делят на слои?
Сообщение26.09.2016, 13:17 


26/09/16

25
arseniiv
То есть, правильно я Вас понял, что в реальной нервной системе нет этого ограничения? Иными словами, там нет четко разделенных слоев?

 Профиль  
                  
 
 Re: Почему нейросети делят на слои?
Сообщение26.09.2016, 14:30 
Заслуженный участник
Аватара пользователя


27/04/09
21085
Уфа
Чётко разделённых слоёв, скорее всего, ни у кого нет. Ну если только у каких-нибудь простых организмов.

-- Пн сен 26, 2016 16:31:13 --

Важно-то не то, есть они или нет в нервной системе.

 Профиль  
                  
 
 Re: Почему нейросети делят на слои?
Сообщение26.09.2016, 18:00 
Заслуженный участник
Аватара пользователя


16/07/14
1413
Москва
nnetwork в сообщении #1154747 писал(а):
Не совсем понял, откуда взялось это ограничение — строгое разделение на слои?

Из удобства обучения. Градиентный спуск в разделенной на слои сети сводится к умножению матриц (и поэлементному применению нужной нелинейности). Хотя есть и варианты, когда мы подключаем слой не только к непосредственно следующему за ним, но и к более глубокому (т.е. разные пути от входа до выхода имеют разную длину) - MS недавно с помощью такой архитектуры первое место на не-помню-каком-мероприятии заняли.

А если разрешить циклы, то вообще непонятно, как считать выход.

 Профиль  
                  
 
 Re: Почему нейросети делят на слои?
Сообщение27.09.2016, 02:25 
Админ форума
Аватара пользователя


19/03/10
8937
 !  ТС заблокирован как злостный клон. Тема закрыта и будет удалена.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Эта тема закрыта, вы не можете редактировать и оставлять сообщения в ней.  [ Сообщений: 6 ] 

Модераторы: maxal, Karan, Toucan, PAV, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group