2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Эта тема закрыта, вы не можете редактировать и оставлять сообщения в ней. На страницу Пред.  1 ... 6, 7, 8, 9, 10, 11, 12, 13  След.
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение04.11.2018, 11:34 


12/07/15
3316
г. Чехов
А смысл? Вы все равно не найдёте доказательств того, что существует некий усилитель интеллекта, который позволит избежать длительного, тонкого и целенаправленного обучения. Нейронные сети могут научиться любым вещам, их обучение достаточно эффективное, надо только это самое обучение обеспечить.

Но! Генерализация может дать подобный эффект. Нейронные сети могут использовать эффект генерализации.

В общем, любое обучение проходит в три стадии:
1. Начало (требуется тонкая работа, душевный подход, аккуратность, простота примеров - это делает процесс обучения инвариантным по отношению к начальной структуре и начальным коэффициентам)
2. Обучение на более сложных примерах, накопление опыта
3. Генерализация (применение знаний, полученных в разных областях)

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение04.11.2018, 12:25 


27/08/16
10218
Mihaylo в сообщении #1351577 писал(а):
В общем, любое обучение проходит в три стадии:

Вы опять упускаете генетически обусловленную правильную первоначальную архитектуру нейросети и закодированную в культуре процедуру обучения посредством родителей и учителей, обучающих новые нейросети на примере старых. Естественный отбор, отбирающий правильные, хорошо обученные нейросети, способные к генерализации, тоже важен.

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение04.11.2018, 14:24 


12/07/15
3316
г. Чехов
realeugene в сообщении #1351585 писал(а):
генетически обусловленную правильную первоначальную архитектуру нейросети

Трудно сказать. Младенцы совершенно неадекватны. Кажется они умеют только плакать. :D Как 10000 лет назад младенцы плакали, так и плачут. А наука вышла вперёд.

Вот про методы педагогики согласен. Но это свидетельство в пользу обучения, а не усилителя интеллекта.

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение04.11.2018, 15:39 


27/08/16
10218
Mihaylo в сообщении #1351604 писал(а):
Как 10000 лет назад
Эти системы обучаются уже порядка миллиарда лет.

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение05.11.2018, 14:28 


12/08/14

401
Mihaylo в сообщении #1351577 писал(а):
Вы все равно не найдёте доказательств того, что существует некий усилитель интеллекта, который позволит избежать длительного, тонкого и целенаправленного обучения.
Мне не нравится ваш термин "усилитель интеллекта", термин я бы сказал прикольный и даже некоторую суть передает, после расшифровки, а именно " который позволит избежать длительного, тонкого и целенаправленного обучения". Я бы назвал этот блок "блоком мышления" (или чуть скромнее - блок обучения, который подсистемы блока мышления), чтобы не было отрицательной коннотации и суть точнее. Это не усилитель интеллекта, это сам интеллект и есть - блок мышления.
Пример. Есть какой-либо алгоритм сортировки/поиска/получения псевдослучайных чисел (берем классические задачки из Кнута). Можно создать более тонкие алгоритмы сортировки, поиска, генерации псевдослучайных чисел (ПСЧ). Для этого надо изучить предметную область, развить какие-то теории, доказать теоремы и т.п., это все позволит создать оптимальные алгоритмы. А можно пытаться обучить нейросетку сортировать, искать, генерировать ПСЧ. Эти разные пути могут привести к похожим результатам. Но путь через нейросетки не является оптимальным в области создания алгоритмов сортировки/поиска/получения ПСЧ.
Mihaylo в сообщении #1351577 писал(а):
Нейронные сети могут научиться любым вещам, их обучение достаточно эффективное, надо только это самое обучение обеспечить.
Коль скоро можно моделировать машину Тьюринга на нейросетях, то можно научить нейросети и любым вещам. Мы с вами это уже понимали в какой-то из двух недавних дискуссий.
Создать программу, умеющую те же вещи, что и обученная нейросетка, можно еще более простым способом: генерировать в лексикографическом порядке все возможные цепочки двоичных символов, среди них время от времени будут появляться и нужные программы, которые будут решать нужные задачи. Но мы так не делаем? Почему? По причине практической неоптимальности.
Аналогично и с нейросетками, они полезны и нужны, и востребованы, и практически полезны на текущий момент, они оказались в некоторых областях и задачах эффективнее, чем иные алгоритмы. Но в плане общего решателя задач они неэффективны и неоптимальны. О чем я и талдычу тут уже давно и неоднократно.
Поэтому и говорю, что нужен иной подход, более общий. Для этого требуется понять многие вопросы наподобие, что такое мышление и т.п.
Mihaylo в сообщении #1351577 писал(а):
Но! Генерализация может дать подобный эффект. Нейронные сети могут использовать эффект генерализации.
Вот и надо создать специализированный генерализатор/генератор эвристик/генератор мышления аналогичный тому, какой имеет человек или хотя бы мышка. Такой генерализатор он, естественно, не обязан использовать человекоподобные механизмы мышления, но скорее всего будет в некоторой части похож, поскольку у нас просто иного примера нет, поэтому и будем нащупывать эти алгоритмы по образу и подобию (подобие здесь может быть весьма абстрактным).

-- 05.11.2018, 11:29 --

realeugene в сообщении #1351585 писал(а):
Вы опять упускаете генетически обусловленную правильную первоначальную архитектуру нейросети и закодированную в культуре процедуру обучения посредством родителей и учителей, обучающих новые нейросети на примере старых. Естественный отбор, отбирающий правильные, хорошо обученные нейросети, способные к генерализации, тоже важен.
Поддерживаю примерно такую позицию.

-- 05.11.2018, 11:50 --

И еще к вопросу о соотношении "усилителя интеллекта" и нейросетях.
Усилители есть везде и часто, сервоприводы, гидроусилитель руля автомобиля, усилители низкой/высокой частоты и т.п. Усилители это нормально. :D
При обучении нейросетей таким "усилителем интеллекта" и является человек, ставит цели, планирует эксперимент, готовит данные, планирует тип сети, планирует обучение, вводит критерии обучения и т.п. Задача как раз и стоит сделать "универсальный калькулятор" (универсальный решатель задач), который бы все вышеуказанные задачи брал бы на себя, создавал конкретные алгоритмы нейросетей, готовил датасеты и далее по списку. :wink:

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение05.11.2018, 19:46 


12/08/14

401
Mihaylo И кстати, Ваш генерализатор на нейросетях и есть ваш, вами отрицаемый, усилитель интеллекта, столь нелюбимый вами. :mrgreen:

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 05:15 


12/07/15
3316
г. Чехов
Нет, нейросети обычные, нет никакого генерализатора. Есть только процесс - генерализация - это стадия в самом обычном обучении. Обучение при этом обычно, но необычен эффект.

Вот вы, когда в школе изучаете математику, работаете с абстрактными математическими объектами. Эти знания потом можно применять в других школьных науках - физике, химии, биологии и даже в русском языке немного. Это и есть генерализация.

Генерализацию можно наблюдать и в спорте, например, если вы ходите в футбольную секцию, то и в волейбол-баскетбол ваши способности резко возрастают. Потому что у разных видов спорта есть нечто общее - задействованы одни те же мышцы и принципы точного управления ими очень похожи в разных видах спорта.

А теперь подумайте: если вы научили нейросеть распознавать рукописные символы MNIST, то как полученные веса нейросети применить в распознавании кошечек или светофоров? Возможно ли это? А можно ли нейросеть, выигравшую SuperMario применить в игре Starcraft? Можно ли программу-победителя в го дообучить игре в шахматы.
Ответ: можно, но эффект генерализации будет незначительным. По большому счёту дообучение в приведённых примерах примет форму полного переобучения.
Для хорошего эффекта нужно более масштабное объединение задач. У человека этот эффект появляется к 10 годам жизни, может быть в отдельных сферах жизнедеятельности чуть ранее.

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 05:41 
Аватара пользователя


28/08/13

156
Mihaylo в сообщении #1352082 писал(а):
Ответ: можно

Это в корне неправильный ответ. Это звучит ровно также как если бы можно было применить решения одной системы уравнений к другой. :-) Ваши т.н. нейронные сети - это просто системы уравнений, решенные приближенным способом, никакого отношения к деятельности мозга они вообще не имеют, не говорите ерунды.

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 14:07 


12/08/14

401
Mihaylo в сообщении #1352082 писал(а):
Ответ: можно, но эффект генерализации будет незначительным.
Mihaylo в сообщении #1352082 писал(а):
Нет, нейросети обычные, нет никакого генерализатора. Есть только процесс - генерализация - это стадия в самом обычном обучении. Обучение при этом обычно, но необычен эффект.
Процесс есть слова нет. ) Противоречите себе. Смотрите на суть.
Mihaylo в сообщении #1352082 писал(а):
По большому счёту дообучение в приведённых примерах примет форму полного переобучения.
Вот поэтому нейросеть и есть "тупой калькулятор" и тупой аппроксиматор.
Mihaylo в сообщении #1352082 писал(а):
Для хорошего эффекта нужно более масштабное объединение задач. У человека этот эффект появляется к 10 годам жизни, может быть в отдельных сферах жизнедеятельности чуть ранее.
Вот именно, что на более сложных и неопределенных задачах и более выпукло видны недостатки нейросетей, которые являются продолжением их же достоинств. Нужна более сложная универсальная структура. Условный пример, нужен универсальный алгоритм сортировки, а не алгоритм сортировки методом пузырька.
Нужна более сложная универсальная структура и одновременно более специализированная, более заточенная на выполнение функций "генерализатора".

Mihaylo в сообщении #1352082 писал(а):
А теперь подумайте: если вы научили нейросеть распознавать рукописные символы MNIST, то как полученные веса нейросети применить в распознавании кошечек или светофоров? Возможно ли это? А можно ли нейросеть, выигравшую SuperMario применить в игре Starcraft? Можно ли программу-победителя в го дообучить игре в шахматы.
Ответ: можно, но эффект генерализации будет незначительным. По большому счёту дообучение в приведённых примерах примет форму полного переобучения.
Для хорошего эффекта нужно более масштабное объединение задач.
Вот именно, не все процессы масштабируются хорошо, некоторые отвратительно плохо.
Поскольку требуется полное переобучение это означает, что нейросети капчат только часть процесса обучения, процессы метаобучения они не капчат, потому и применимости их ограничена.
Как понять, почему человек достаточно эффективно может переходить между разными типами задач? Требуется создать модель действий примерно как это делает кибернетика, контур управления, контур управления управлением, контур генерализации, если желаете и еще много каких контуров. )
Вы же про нейросетки говорите, они сами нащупают свои контуры управления. Нейросети это примитивная неэфективная универсальная структура. Когда у нейросетей немного модифицируют структуры, получая очередную разновидность сетей, то нейросетка начинает на некотором классе задач показывать более хорошие результаты. Вот и надо все это обобщить так, чтобы модифицировать на все типы задач. А когда мы подстроили нейросеть под очередной тип задачи, он начинает лажать на других типах, обычное дело , противоречие между генерализацией и эффективностью.

-- 06.11.2018, 11:21 --

Т.е. надо обобщить все известные нейросети так, чтобы нейросеть имела одну некую сложную структуру, но могла выполнять функции каждой конкретной нейросети определенного типа. Причем так, чтобы конкретные нейросетки не лежали у нее в библиотеке. Это для начала. :mrgreen:
Это очевидно тупиковый путь.
Для создания сильного ИИ нужен алгоритм, способный генерировать алгоритмы, обобщать их, конкретизировать их, формализовывать их и далее по списку. 8-)

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 15:51 
Аватара пользователя


28/08/13

156
Yodine в сообщении #1352138 писал(а):
Для создания сильного ИИ нужен алгоритм, способный генерировать алгоритмы, обобщать их, конкретизировать их, формализовывать их и далее по списку.

Этого недостаточно. Под это "определение" вполне подходит и ML как программирование 2.0 (см. метафору Карпатого).
Без умения работать с метаданными ничего интеллектуального не получится. Будет получаться очередное программирование...

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 16:43 


12/07/15
3316
г. Чехов
Alephegg в сообщении #1352083 писал(а):
Ваши т.н. нейронные сети - это просто системы уравнений, решенные приближенным способом

Yodine в сообщении #1352138 писал(а):
Вот поэтому нейросеть и есть "тупой калькулятор" и тупой аппроксиматор.

Да я не спорю, всё так и есть, нейросети просты до ужаса. Только аппроксимация многоуровневая, а аппроксимируется миллион величин сразу. И успешно.

Такая аппроксимация позволяет вам делать подобные рассуждения:
Yodine в сообщении #1352138 писал(а):
Вот именно, что на более сложных и неопределенных задачах и более выпукло видны недостатки нейросетей, которые являются продолжением их же достоинств. Нужна более сложная универсальная структура. Условный пример, нужен универсальный алгоритм сортировки, а не алгоритм сортировки методом пузырька.
Нужна более сложная универсальная структура и одновременно более специализированная, более заточенная на выполнение функций "генерализатора".

Вы сами не знаете правы вы или нет, но что-то такое правдоподобное ощущается... Чешется в мозгу мысля... А вы на самом деле аппроксимируете очень просто: "если что-то сложное, то и управлять им нужно как-то сложно."
При этом сложность нейронных сетей вы оценить не способны, так как там всё просто. Но нет, не просто. Или просто?

И что мы тут аппроксимируем? Не можем точный ответ выдать, как истинный генерализатор или сильный интеллект???

-- 06.11.2018, 18:47 --

Чтобы оценить "простоту" нейронных сетей, попробуйте понять, а как им удаётся научиться распознавать 990 символов MNIST из 1000 без ошибок? Ведь изначально непонятно, как эту чёртову задачу распознавания решать!

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 16:58 
Аватара пользователя


28/08/13

156
Mihaylo в сообщении #1352162 писал(а):
Ведь изначально непонятно, как эту чёртову задачу распознавания решать!

Ну это только Вам непонятно, поскольку у Вас практики программирования нет. А MNIST c качеством 0.98 (и выше, но это больше одного дня возиться нужно) можно решить вообще без применения машинного обучения и "нейронных" сетей. :-) :-)

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 17:40 


12/07/15
3316
г. Чехов
Пустое бахвальство: разговор перешёл на личности. Допустим, вам недели хватит, чтобы дойти до 99%. Без применения машинного обучения или нет, без разницы, на самом деле.
Но по теме что-то путное будет? :D

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 17:51 
Аватара пользователя


28/08/13

156
Mihaylo в сообщении #1352174 писал(а):
Но по теме что-то путное будет?

Тема для вас остается ультразвуком, поскольку вы под интеллектом понимаете аппроксимацию. :)

 Профиль  
                  
 
 Re: Сильный искусственный интеллект (AGI, HLAI, SAI...)
Сообщение06.11.2018, 17:57 


12/07/15
3316
г. Чехов
Вы вещаете бездоказательно, я доказываю до мельчайших подробностей. Разница РАЗИТЕЛЬНАЯ, но ваша аппроксимирующая сеть не видит соответствующих признаков, потому что ей более важно затронутое самолюбие.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Эта тема закрыта, вы не можете редактировать и оставлять сообщения в ней.  [ Сообщений: 193 ]  На страницу Пред.  1 ... 6, 7, 8, 9, 10, 11, 12, 13  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group