Нейронные сети. Медведев, Потёмкин. Сеть прямой передачи. МП

[motoden]

Доброго времени суток, уважаемые товарищи!
В книге Медведева и Потемкина "Нейронные сети. Matlab 6" в параграфе "многослойные сети" подраздела "модели сетей" раздела "формирование моделей нейронных сетей" на странице 255 разбирается функция моделирования сети newff, с помощью которой можно смоделировать так называемую "сеть прямой передачи FF". Надо отметить, что в книге, на сколько я смог заметить, нигде не пользуются этой функцией для формирования модели сети. По описанию этой функции, а именно:
"Фунция newff предназначена для создания многослойных нейронных сетей прямой передачи сигнала с заданными функциями обучения и настройки, которые используют метод обратного распространения ошибки.
...
Функциями активации могут быть любые дифференцируемые функции, например tansig, logsig, purelin."
можно подумать, что речь идёт о моделировании многослойного персептрона(МП), т.к. МП является сетью прямой передачи сигнала с любыми дифференцируемыми функциями активации в своих слоях.

Вопрос: действительно ли эта функция предназначена для моделирования многослойного персептрона? Почему об этом не сказано в описании функции? Если нет, то почему под вышеуказанное описание не подходит МП? Если да, то ТОЛЬКО ЛИ МП можно смоделировать с помощью этой функции или ещё какие-то другие сети?

[Alexey1]

Что-то не совсем понятен Ваш вопрос.

motoden в сообщении #250485 писал(а):

"Фунция newff предназначена для создания многослойных нейронных сетей прямой передачи сигнала с заданными функциями обучения и настройки, которые используют метод обратного распространения ошибки.
...
Функциями активации могут быть любые дифференцируемые функции, например tansig, logsig, purelin."
можно подумать, что речь идёт о моделировании многослойного персептрона(МП), т.к. МП является сетью прямой передачи сигнала с любыми дифференцируемыми функциями активации в своих слоях.
Вопрос: действительно ли эта функция предназначена для моделирования многослойного персептрона?

И в чём отличие Вашего определения многослойного персептрона от того, что авторы называют многослойной нейронной сетью?

motoden в сообщении #250485 писал(а):

Почему об этом не сказано в описании функции?

Там есть опция задания функций активации в каждом слое. Разве этого не достаточно?

motoden в сообщении #250485 писал(а):

Если нет, то почему под вышеуказанное описание не подходит МП?

Тоже самое, в чём разница между многослойным персептроном и многослойной нейронной сетью в Вашем определении многослойного персептрона?

motoden в сообщении #250485 писал(а):

Если да, то ТОЛЬКО ЛИ МП можно смоделировать с помощью этой функции или ещё какие-то другие сети?

Любую нейронную сеть с прямой передачей сигнала и указанными функциями активации.

[motoden]

Уточняю.

Alexey1 в сообщении #250534 писал(а):

И в чём отличие Вашего определения многослойного персептрона от того, что авторы называют многослойной нейронной сетью?

На сколько мне известно, по топологии сети делятся на полносвязные, малосвязные и многослойные. Многослойные нейросети можно ещё разделить на сети обратного распространения сигнала (такие сети, которые имеют связь следующего слоя с предыдущим) и сети прямого распространения(сигнал в них передаётся только от предыдущих слоёв к последующим). Многослойным персептроном называют многослойные нейронные сети прямого распространения. В многослойном персептроне функциями активации нейронов могут быть любые дифференцируемые функции. Здесь нет никакого противоречия со словами авторов, но меня смутил тот факт, что при введённом определении персептрона и многослойного персептрона, при описании функции, моделирующей (по всем признакам) многослойный персептрон, авторами нигде не было сказано, что данная функция предназначена для моделирования многослойного персептрона, а вместо этого было применено выражение "многослойные нейронные сети прямого распространения".
К примеру, когда авторы описывали функцию newp, служащую для моделирования персептрона, в описании функции было сказано:
"Функция newp формирует нейронную сеть персептрона". Здесь авторы однозначно указали название сети, которую моделирует функция, а не воспользовались выражением определяющим персептрон, типа "однослойная нейронная сеть, имеющая пороговые функции активации у своих нейронов". Почему тогда авторы поступили иным образом при описании функции newff?

Alexey1 в сообщении #250534 писал(а):

Там есть опция задания функций активации в каждом слое. Разве этого не достаточно?

Достаточно для чего? Я лишь хотел узнать, почему в описании функции, моделирующей МП, не фигурировало названия многослойный персептрон.

Alexey1 в сообщении #250534 писал(а):

Тоже самое, в чём разница между многослойным персептроном и многослойной нейронной сетью в Вашем определении многослойного персептрона?

Опять же, повторюсь. Если бы авторы однозначно сказали, что функция служит для моделирования многослойного персептрона, то вопросов у меня не возникло бы. Однако они так не сделали, хотя формально в выражениях применяемых авторами для описания функции и определением многослойного персептрона разницы нет.

Alexey1 в сообщении #250534 писал(а):

Любую нейронную сеть с прямой передачей сигнала и указанными функциями активации.

Такая нейроная сеть также подходит под определение МП, верно?

[Alexey1]

С Вами можно согласиться. Действительно, в литературе, в интернете, понятия многослойная нейронная сеть и многослойный персептрон используются как синонимы. Хотя изначально под персептроном понимался нейрон с пороговой функцией активации. Заметьте, в указанной Вами книге нет многослойной сети с пороговой функцией активации. Может именно по этому авторы и не называют многослойную нейронную сеть с прямой передачей сигнала как многослойный персептрон, потому что нет пороговой функцией активации. А вот однослойную сеть с пороговой функцией активации можно назвать персептроном.