Генетический алгоритм обучается быстрее, чем нейронная сеть?

[Ktina]

Верно ли, что генетический алгоритм обучается быстрее, чем нейронная сеть? И если да, то почему в моде именно нейронные (в том числе и капсульные) сети?

[ozheredov]

В корне неверно. GA обучается гораздо медленнее

[mihaild]

Нейросеть - очень общее понятие, генетический алгоритм - еще более общее. В том числе можно строить и обучать нейросети с помощью генетических алгоритмов. Так что вопрос слишком общий чтобы на него можно было дать осмысленный ответ.

[Ktina]

mihaild в сообщении #1327912 писал(а):

В том числе можно строить и обучать нейросети с помощью генетических алгоритмов.

А наоборот - генетические алгоритмы с помощью нейросетей - можно?

[Dmitriy40]

Тоже можно. Но эффективность - вопрос.

[mihaild]

Ktina в сообщении #1327919 писал(а):

А наоборот - генетические алгоритмы с помощью нейросетей - можно?

В принципе никто не мешает скажем генерировать мутации или скрещивать нейросетками. Получали ли с помощью этого интересные результаты - не знаю.

[Ktina]

Странно, почему они пишут, что генетические алгоритмы быстрее.

[ozheredov]

mihaild

Разумеется вопрос слишком общий, в противном случае на него существовал бы легко гуглящийся ответ. Тем не менее вопросы типа «Что купить — квартиру или коттедж, на ком лучше жениться — на армянке или на еврейке, а заводить после это кого — собаку или кота?» вполне себе задаваемы, и указывать на их некорректность — капитанство. Ответы на корректно заданные вопросы либо давно известны, либо для их получения нужно читать, вычислять и кодить. Любой форум преимущественно существует для холиваров и обмена соображениями.

Тем не менее, я попытаюсь внести строгость.

Нейросеть — это сложная функция с особым способом вызова внутренних однотипных модулей, представимым в виде ориентированного графа. Определение придумал только что, поэтому просьба не пинать ногами за неточности. Впрочем, можете пинать

GA — оптимизационный алгоритм, в котором в качестве независимого аргумента целевой функции выступают сложно устроенные объекты с кучей свойств. Движение пробных точек (это алгоритм мультистарта, поэтому точек много) в «ПРОСТРАНСТВЕ ОБЪЕКТОВ» (вот тут можете придраться по полной) осуществляется в соответствии с правилами комбинирования (кроссовер) и незначительной модификации (мутация) свойств объектов, и тем самым порождения массива новых объектов и последующего отбора предпочтительно лучших (с т.зрения целевой функции) объектов на каждой итерации.

Так вот, если нейронка многослойная, да ещё и с GA-оптимизируемой топологией, а объекты в GA - это точки в двумерном пространстве и targetFunction — параболоид, тогда думаю вопросов нет. Обычно же ситуация такая:

Нейронная сеть: жестко заданная топология; есть быстрый алгоритм рекурсивного пересчета весов; есть прекрасно оптимизированная точка старта (Нгуен-Уидроу и т.п.). Работает быстро.

GA: непонятно как оптимально генерить начальную популяцию. Медленно вычисляется targetFunction, а особей сотни тысяч. Медленно идёт скрещивание и мутация, потому что особь — это сложно организованная структура данных. Работает медленно

-- 20.07.2018, 17:44 --

Ktina
А кстати, вам зачем?

[Ktina]

ozheredov в сообщении #1327924 писал(а):

Ktina
А кстати, вам зачем?

За печкой. Любопытно очень. Вдруг когда-нибудь у меня появятся мозги и я начну писать Искусственный Интеллект?

[ozheredov]

Ktina в сообщении #1327964 писал(а):

Вдруг когда-нибудь у меня появятся мозги и я начну писать Искусственный Интеллект?

Всецело поддерживаю, без шуток. Удачи вам

[Dmitriy40]

Когда начнёте его писать такие вопросы и ответы на них станут очевидными.

[ozheredov]

Dmitriy40

+

[kotenok gav]

Ktina в сообщении #1327812 писал(а):

капсульные

Ktina, может хватит в каждой теме про ИИ их упоминать?

[ozheredov]

kotenok gav

Может быть человек путает их с конволюционными. Может прикалывается. А может мы с вами не знаем их в силу узости кругозора )

[mserg]

Ktina в сообщении #1327812 писал(а):

Верно ли, что генетический алгоритм обучается быстрее, чем нейронная сеть? И если да, то почему в моде именно нейронные (в том числе и капсульные) сети?

Не существует единого эффективного алгоритма решения всех задач. В одном случае предпочтительнее будет генетический алгоритм, в другом - нейронная сеть. В классе аркадных игр, на которые была ссылка, эффективнее оказался генетический алгоритм (в данном случае - прямой подбор алгоритма игры, т.е. речь идет о разновидности ГА - "генетическом программировании"). Если бы это была задача классификации галактик по их изображениям, то предпочтительнее было бы использование нейронных сетей (выше и скорость обучения, и точность классификации).

"Мода" на нейронные сети связана с развитием аппаратных возможностей и "открытием" эффективных алгоритмов обучения - в некоторых классах задач появляются возможности достижения более высокого качества решения.