2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 22:46 
Идею невозможности создания (любым способом усилиями человека) интеллекта, приближающегося к человеческому, нельзя доказать строго, но можно привести некоторый комплекс аргументов, из которых будет следовать, что скорее всего это действительно так. Ниже самая короткая цепочка, она связана с гёделевским аргументом, однако исходить можно из обстоятельств и никак не связанных с Гёделем, «комплекс аргументов» тогда будет, естественно, меняться.

Гёделевский аргумент: если математика не может быть представлена в виде конечной совокупности алгоритмов, то и мышление, где существует математика, так же не может быть выражено конечной совокупностью алгоритмов. Аналогично если пополнение аксиомами может продолжаться бесконечно, то и формализация мышления процесс бесконечный.

При этом формализацию можно рассматривать как «идеал» к которому стремится познание, то есть возможность создания адекватной формализованной модели явления указывает на то, что о явлении получена исчерпывающая информация. Неформализуемость, напротив, указывает на неполноту знаний. Например, полностью формализованная научная теория должна представлять собой некоторую совокупность формул, записанных без всяких пояснительных слов или предложений, написанных на «естественном», неформализованном языке.

Таким образом, принципиальная неформализуемость явления мышления означает его принципиальную «непонятность», следовательно мышление можно только подбирать наугад, на основании некоторого прошлого опыта — и чем больше отличается нынешняя задача, тем больше будет составляющая «тыкания пальцем». При этом учитывая, что мышление — это процесс, а бесконечность пополнения аксиом означает, что процесс бесконечный, то создать мышление и проверить его во всех ситуациях также невозможно. Из этого следует, что адекватность мышления в данный момент не гарантирует его адекватности в будущем.

Из принципиальной «непонятности» также следует, что невозможно создать два идентичных мышления, так как нельзя точно обобщить некоторое известное устройство мышления с происходящим в нём процессом и повторить систему — проще говоря, в описании динамики мышления нельзя ограничиться некоторым уровнем материи без значительной потери в точности предсказаний. Из чего следует, что создание некого «адекватного» мышления не означает, что его вроде бы копия будет в той же степени разумной. В свою очередь, из этого следует, что создание мышления — это всегда эксперимент с непонятным исходом, при этом чем сложнее мышление, тем дольше его проверять — и никакая проверка всё равно не гарантирует однозначный вывод.

Можно заметить, что описание выше совпадает с проблемами создания искусственных нейронных сетей. Далее.

Есть основание считать мышление самоорганизующейся системой. То есть это усложняющаяся, упорядочивающаяся неравновесная система — и итогом упорядочения является конкретное знание. Другими словами, знание возникает в контексте возможностей системы упорядочиваться и, естественно, полностью этот контекст не выразит, так как порядок не сводим к элементам системы (можно обратить внимание, что сознание тоже не сводимо к элементам нейронной сети мозга самим по себе). При этом самоорганизующейся системой есть основание считать также и социум, и биологическую эволюцию. При этом социум, как и человек, возникает в контексте выразительных средств биологической эволюции создавать всяких тварей.

Что такое создание искусственного интеллекта? Это функция социума — его способности накапливать знания, объединять усилия и сохранять цели во времени — например, привлекая специалистов и финансируя исследования мозга, ставя эксперименты, создавая модели ИИ и проверяя их в деле. Однако также как знание не способно выразить мышление, по тем же причинам социум не выразит биологическую эволюцию, в которой возникает — возможности мысленного анализа у человека ограничены, а возможности природы ставить эксперименты несравненно богаче, чем у социума. Можно сказать, сложность человека скрыта в миллиардах лет «мышления» природы, происходящего на совершенно иных масштабах, чем уровень возможностей и отдельного человека, и всего социума.

Копирование мышления также невозможно по уже указанным причинам — элементы мышления мало чего скажут о самом мышлении, так как самоорганизующаяся система не равна «сумме» своих элементов (нет среды, упорядоченной динамики), а так как копия нужна, по сути, и абсолютно точная, и всего мышления сразу — ведь каким-либо уровнем точности описания в мышлении ограничиться невозможно, при этом мышление постоянно изменяется — то копировать «наживую» тоже не выйдет: слишком интенсивное воздействие просто разрушит систему, не слишком интенсивное — мало чего даст.

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:26 
Salen в сообщении #1198225 писал(а):
Невозможность алгоритмизации можно увязать с теоремой Гёделя
Обычно это говорят люди, которые не в состоянии воспроизвести формулировку этой самой теоремы Гёделя. А вы можете (по честному, не копипастя)?

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:30 
Аватара пользователя
Salen в сообщении #1198225 писал(а):
можно увязать с теоремой Гёделя
Какой из? Выдающийся математик Курт Гёдель доказал, помнится, как минимум четыре великие теоремы.

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:32 
Salen в сообщении #1198225 писал(а):
Например, знание алгоритма мышления позволило бы вычислять искусственный интеллект любого уровня, в том числе и выше человеческого
Совсем не обязательно. Искуственные нейронные сети — это алгоритмы. Недавно один такой алгоритм обыграл лучшего игрока в го. Можем ли мы создать игрока в го любого уровня? Нет, потому что мы фактически не понимаем как работает этот алгоритм, несмотря на то, что вот он — перед нами.

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:41 
В статье всё подробно рассмотрено. И применимость теорем и какие теоремы. В том числе упоминается и система AlphaGo.

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:49 
Аватара пользователя
Salen
Вы пришли сюда с рекламой супер-пупер статьи, связывающей воедино гомеостаз, сознание и теорему Гёделя?

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение08.03.2017, 23:59 
Честно говоря, тереме Гёделя в статье мало места уделено. Однако математика не сферичный конь, поэтому определённая корреляция теорем и физической реальности в статье неоднократно отмечена.

 
 
 
 Re: Принципиальные ограничения искусственного интеллекта
Сообщение09.03.2017, 00:08 
Аватара пользователя
Salen в сообщении #1198251 писал(а):
Однако математика не сферичный конь, поэтому определённая корреляция теорем и физической реальности в статье неоднократно отмечена.
Что такое "корреляция (математической) теоремы и физической реальности"? Каков коэффициент корреляции?

PS. Я не помню употребления подобного словосочетания в серьёзных научных статьях.

 
 
 
 Posted automatically
Сообщение09.03.2017, 00:09 
 i  Тема перемещена из форума «Междисциплинарный раздел» в форум «Карантин»
Даже если "подробности в статье", все же стоит хоть в каком-то виде сформулировать предмет обсуждения. Пока это набор слов.

Исправьте все Ваши ошибки и сообщите об этом в теме Сообщение в карантине исправлено.
Настоятельно рекомендуется ознакомиться с темами Что такое карантин и что нужно делать, чтобы там оказаться и Правила научного форума.

 
 
 [ Сообщений: 9 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group