Чем нейронная сеть лучше классических методов экстраполяции

[mirell]

Всем привет, у меня довольно короткий вопрос.
Чем нейронная сеть лучше классических методов экстраполяции функции с несколькими переменными?

[ozheredov]

Классические методы работают с одним отображением пространства признаков в пространство откликов. Т.е. имеем 1 отображение и 2 пространства. Нейронная сеть отображает пространство признаков в пространство выходов первого скрытого слоя, его — в пространство выходов второго слоя и т.д. То есть между слоями идёт та же самая экстраполяция, но вместо пространств исходных признаков и откликов используются пространства абстрактных свойств. В этих пространствах выборки разделимы гораздо легче, а сепаратрисы устойчивее. Это как собирать автомобиль из деталей. А не из атомов железа.

-- 02.08.2020, 13:06 --

mirellЧуть не забыл: разделение исходного пространства признаков полиэдрами позволяет обойти проклятие размерности, так что уже на 50-ти признаках даже однослойная сеть рулёзнее классической экстраполяции.

[mirell]

ozheredov в сообщении #1476994 писал(а):

Классические методы работают с одним отображением пространства признаков в пространство откликов. Т.е. имеем 1 отображение и 2 пространства. Нейронная сеть отображает пространство признаков в пространство выходов первого скрытого слоя, его — в пространство выходов второго слоя и т.д. То есть между слоями идёт та же самая экстраполяция, но вместо пространств исходных признаков и откликов используются пространства абстрактных свойств. В этих пространствах выборки разделимы гораздо легче, а сепаратрисы устойчивее. Это как собирать автомобиль из деталей. А не из атомов железа.

-- 02.08.2020, 13:06 --

mirellЧуть не забыл: разделение исходного пространства признаков полиэдрами позволяет обойти проклятие размерности, так что уже на 50-ти признаках даже однослойная сеть рулёзнее классической экстраполяции.

Т.е. в случае если в нейронной сети есть скрытые слои, то экстраполяция выполняется несколько раз, каждый раз получая на вход результат предыдущей экстраполяции, тем самым разделяя данные на признаки. Я правильно вас понял?
Если да, то допустим что нейронка состоит из входного и выходного слоя и только. Может ли быть в таком случае нейронная сеть чем то лучше классических методов экстраполяции?

[ozheredov]

mirell в сообщении #1477008 писал(а):

Я правильно вас понял?

В нулевом приближении будем считать, что да. Заметьте, что все эти «экстраполяции» зависимы в совокупности.

mirell в сообщении #1477008 писал(а):

Если да, то допустим что нейронка состоит из входного и выходного слоя и только. Может ли быть в таком случае нейронная сеть чем то лучше классических методов экстраполяции?

ozheredov в сообщении #1476994 писал(а):

разделение исходного пространства признаков полиэдрами позволяет обойти проклятие размерности, так что уже на 50-ти признаках даже однослойная сеть рулёзнее классической экстраполяции.

[mirell]

Цитата:

разделение исходного пространства признаков полиэдрами позволяет обойти проклятие размерности

А можно подробнее про это? Что за проклятие размерности? Как это интепритировать?

[svv]

(Оффтоп)

mirell в сообщении #1477059 писал(а):

интепритировать

Чувствуется хорошая подготовка по английскому языку.

[ozheredov]

mirell в сообщении #1477059 писал(а):

А можно подробнее про это?

https://en.m.wikipedia.org/wiki/Curse_of_dimensionality