Математика и интеллект.

[libra]

EvgenyGR в сообщении #432409 писал(а):

Навязываю в той мере в какой Ньютон «навязывает» свою механику природе.

Ну, согласитесь, что навязывание природе ньютоновой механики дает некоторый вполне ощутимый практический результат.
Что может дать теория коллекционирования - я пока не вижу.
Так же как не вижу пока подтверждающих ее фактов. Скорее - наоборот.
Развивайте дальше, ищите убедительные доказательства, а не просто допущения.

[Circiter]

2robez
Ну, в принципе, что-то занятное в моделях Каминского конечно есть (даже несмотря на общую сумбурность и местами ненаучность его писанины). Действительно, жизнь клеточного автомата в ограниченном (точнее говоря, конечном по объему) пространстве сталкивается с проблемами нехватки ресурсов -- уже по теореме об универсальном архиваторе (которая гласит, что такового не существует) понятно, что может существовать объект, при моделировании которого легче будет просто его скопировать целиком; и если такой объект будет занимать места больше, чем занимает само моделирующее устройство ("разум"), то этому устройству придется немного вырасти (если оно стремится запомнить копию модели) и тем самым оттяпать достаточное количество дополнительного пространства, которого может и не хватить (из-за ограниченности и дискретности).

Помню, как-то раз, на философский вопрос о количестве уникальной информации во вселенной я сразу неподумав ответил --- Ноль!, --- сославшись на потерю уникальности информации уже в силу её отражения (по-сути, дублирования) в сознании. Получается, что сам факт действия устройства с сознанием, стремящимся познать весь мир, приводит к необходимости изучения "информационной экологии" вселенной, да и вообще, к построению особой теории "самомоделирующих" замкнутых дискретных систем.

Если воспринимать сознание как архиватор, тогда, да, такие архиваторы могут "съесть всю траву" и привести к некоторому вырождению информационного контента вселенной. Можно даже реальные эксперименты в домашних условиях попроводить, не обязательно с игрой "жизнь", а просто с архиваторами, пытающимися перекомпрессить всё на диске, включая и себя самих. Подобным образом я когда-то развлекался в ходе раздумий над задачкой о хроматическом числе плоскости -- я не знал и не знаю как к ней подступиться, но мне хотелось просто глянуть на то, как может выглядеть минимальная раскраска плоскости. Увы, меньше чем в 7 цветов автомат выкрасить плоскость не смог, а мне-то хотелось покрасить её в 4 цвета. :)

Ну вот, отвлекся. Насчет неограниченного ресурсопожирательства. Здесь есть ряд "но". Во-первых, динамика клеточных автоматов, вообще говоря, хаотична. Это значит, что даже в информационно-вырожденном состоянии вселенная может эволюционировать гигантское количество времени без зацикливаний (то есть, все время принимая уникальные "фракталоподобные" формы).

Во-вторых, необязательно отождествлять сознание с неким жадным архиватором, который только и норовит, чтобы что-нибудь промоделировать. Напротив, я считаю, что сжатие и моделирование с целью "захомячиться" памятью о моделях -- не единственные функции сознания, и, как уже было сказано, не менее важны функции распознавания, прогнозирования и т.д. в конкретной ситуации (хотя это все и находится в тесной связи). Можно даже сказать, что разум -- это универсальный автомат решающий некоторую проблему, после чего забывающий почти всё с ней связанное. От сознания не требуется постоянно уметь умножать большие числа, но требуется при первой необходимости научиться умножать эти числа, а потом, возможно, забыть такой навык.

При этом подразумевается, что задачи, для решения которых привлекается разум, в некотором смысле достаточно малы. Сознание действует локально, смотря на моделируемый объект сквозь узкий сенсорный канал и моделируя объект часть за частью, и пользуется построенной частичной моделью при первой необходимости и возможности. Здесь возникает вопрос о существовании объекта, для исследования которого разуму не будет хватать набора маленьких частичных моделей, достаточно хорошо покрывающих такой объект. Лично я сильно сомневаюсь в существовании таких сложных объектов...

Другимим словами, я вот не считаю проблему нехватки ресурсов для клеточных автоматов какой-то радикальной помехой для их сознательного функционирования (если бы у них это сознание было). Для создания же библиотеки всех знаний в клеточно-автоматной вселенной, да, по-видимому могут существовать фундаментальные препятствия (например, некоторое пороговое значения энтропии), хотя у меня и этот вопрос вызывает сомнения.

В любом случае подумать есть над чем, бесспорно. Может быть даже стоит создать отдельную тему для обсуждения проблем с моделированием у клеточно-автоматного ИИ. Связь построений Каминского с физикой (в особенности с квантовой механикой) тоже интересна, но это уже совсем другой разговор.

Цитата:

Ну в принципе можно придумать модель в которой даже самый маленький наблюдатель сможет отразить вселенную.

Произвольную (заранее заданную)?

Цитата:

Так, представление сознания в качестве некоторого механизма или процессе однозначно приведет к существованию недоступных для его познания объектов. А с моделями которые могут отразить все что угодно эта проблема не решается.

Так в том, то и дело, что "отразить" не есть "познать". В большинстве случаем познавать можно с помощью анализа, в первоначальном смысле этого слова, то есть по частям.

Цитата:

поскольку по Геделю что-то всетаки не будет описано, и сколько бы мы не усложняли свое описание упещенная часть всегда будет присутствовать.
На простых моделях исследовать проблему значительно проще чем привлекать Геделя. Например гораздо правильней не противопоставлять описание реальности, лучше противопоставлять описание одного наблюдателя описанию другого наблюдателя.

Про геделевскую неполноту это вы к месту заговорили, может ещё придется к ней вернуться. :) Хотя мне как-то ближе проблемы алгоритмической неразрешимости (вроде проблемы остановки и т.д.). Собственно, я не утверждал и не утверждаю, что границ для моделирования нет, не поймите меня неправильно; мне вот наоборот очень интересно повозиться с такими экстремальными моделями, демонстрирующими столь необычные свойства (правда, для конечных автоматов многие неразрешимости таки разрешаются хотя-бы в-принципе, что опять с Каминским в некоторое противоречие входит). И к ИИ это не последнее отношение имеет (что если мозги все-таки задействуют какие-то процессы, превышающие по мощности обычные Тьюринг-компьютеры :) )...

2EvgenyGR
Вы очень интересно пишите, но, к сожалению, не все у меня получается понять. :) Позвольте поспрашивать/покомментировать по отдельным моментам.

Цитата:

Нет, нет у меня никакого сознания нет.

Наверное, вы говоритте про то, что не нужно путать "сознание", "разум" и "интеллект"? А почему бы нет? :) Это же одно и то же (ну пока четких определений не появилось)...

Цитата:

Если белок может иметь две устойчивые формы, устойчивые в том смысле что множество допустимых состояний внешней среды может быть разделено на два подмножества по значению неких параметров и для каждого такого подмножества белок будет иметь свою определенную форму.
...

Извините, но сообщение, из которого взята эта цитата, по-видимому может быть переписано как-то лаконичнее, например с использовнием понятия фактормножества что-ли. А так читать очень сложно... :(

Цитата:

Информация это разбиение вообще говоря бесконечного множества состояний внешней среды на подмножества, идентификаторы этих подмножеств есть наглядное воплощение информации.

Честно говоря, ничего нового в этом определении не видно. Фактически вы в несколько нетрадиционной форме описали связь количесва информации с избыточностью системы. С ростом такой вот упорядоченности (сложности), падает энтропия и, соответсвенно, численная оценка информационного содержания растет.

Цитата:

Видимо на каком-то этапе эволюции появились функциональные формы, которые в отличие от генных механизмов могли «упаковываться и распаковываться» не только при размножении (как это происходит в генном механизме), но в процессе жизни одной особи. Именно на этом пути и появляется интеллект. Интеллект «умеет» упаковывать (фильтровать) огромное количество состояний рецепторов (а эти состояния определяются еще большим количеством состояний внешнего мира), и тем самым распознавать ситуацию и «распаковывать» новые функционально связанные с распознанной ситуацией формы, тем самым прогнозируя развитее ситуации.

Ok, но объясните пожалуйста поподробнее, как же именно исторически происходит сам вот этот "фазовый переход" между эволюцией вида и локальной эволюцией мозга. Правильно ли я понял, что вы имеете ввиду способность тканей мозга усложняться и эволюционировать в процессе жизни отдельного организма? В-принципе, такая "быстрая эволюция" есть подтвержденный факт; более того, действует она почти по тем же законам, что и эволюция обычная, занимающая многие поколения (нейроны могут отмирать, видимо небеспричинно; на их месте появляются новые, стремящиеся своими отростками захватить как можно больше места; ну и т.д., тоже своеобразный отбор). Пока, ваши слова я понимаю как утверждение о том, что мозг в некотором смысле является отдельной колонией организмов(-паразитов), проживающих в симбиозе с самим хозяином (например, с человеком) и обеспечивающих носителя преимуществами в форме интеллекта. :)

Немного в сторону. Ну раз уж появляются здесь реплики о качественном различии интеллекта кошек и людей. :) Как уже говорилось, немаловажной функцией интеллекта является способность к предсказанию. Пусть нужно научиться предсказывать некоторый внешний процесс. На деле, сознание наблюдает последовательность каких-то значений, но в основе лежит какая-то динамическая система, которая и генерирует эту последовательность. Эта динамическая система может иметь аттракторы (в том числе странные) и в задачу сознания таким образом входит смоделировать динамическую систему реконструировав этот аттрактор и разместив его в своей памяти. Но чтобы правильно вложить аттрактор в свое "модельное" фазовое пространство, необходимо правильно угадать размерность аттрактора -- если взять слишком маленькую размерность, то существенная часть описываемых этим аттрактором закономерностей будет потеряна (вместится только тень аттрактора), если взять заведомо завышенное значение размерности, то ресурсы интеллекта будут тратиться на моделирование шума. В общем-то это известные вещи (см. например здесь).

Так вот, возможно, что мозги тех же кошек просто или не умеют выбирать размерность для аттракторов моделирумых дин.систем, или же умеют, но попросту сложности мозга не хватает, чтобы носить с собой аттракторы систем, интересных с точки зрения тех масштабов познания мира, с которыми привыкли иметь дело люди.

[Circiter]

Ещё одним важным признаком интеллекта является творчество (в широком смысле). В частности (а может быть это самое главное; я даже думаю, что это достаточный признак), ИИ должен уметь писать программы; вот попробуйте кошку заставить писать программы. :) Вместо программирования можно размышлять о планировании действий вообще. Да, это связано с прогнозированием, но все-равно, согласитесь, такой подход несколько сужает круг поиска определения... Ну и про способности к обучению забывать не стоит (хотя обучение более или менее "механистичным" может быть)...

[EvgenyGR]

libra в сообщении #432367 писал(а):

И последнее, в Вашей формулировке интеллекта нигде не говорилось о какой-то его специфической особенности и умении распаковывать и упаковывать состояния рецепторов. И вообще, мне совсем не понятно, что под понятием "упаковка функциональных форм" понимается.

Это не интеллект упаковывает и распаковывает состояния рецепторов. А наоборот то что мы понимаем как интеллект построен (возник) из упаковки и распаковки функциональных форм. Под упаковкой и распаковкой функциональных форм я понимаю следующее. Пусть у нас есть несколько функциональных форм (назовем их первичными формами), совокупность этих форм требует какого-то количества вещества (например атомов), тогда упаковкой этих форм будет, некая форма (назовем ее вторичной), способная (за исключением несущественных отличий) принимать любую из первичных форм. При этом количество вещества необходимого для получения вторичной формы будет много меньше, чем количество вещества требующегося для получения всех первичных форм. Как «управляется» («решается») какую именно форму из первичных (и при каких обстоятельствах) будет принимать вторичная форма оставим пока в стороне.

-- Пт апр 08, 2011 21:15:25 --

Circiter в сообщении #432453 писал(а):

Цитата:
Нет, нет у меня никакого сознания нет.

Наверное, вы говоритте про то, что не нужно путать "сознание", "разум" и "интеллект"? А почему бы нет? :) Это же одно и то же (ну пока четких определений не появилось)...

Я имел ввиду, что избегаю рассуждений, так или иначе апеллирующих к сознанию, например рассуждения об информации так или иначе используют сознание, а так как само сознание объясняют через информацию получается смысловая петля.

-- Пт апр 08, 2011 21:21:47 --

Circiter в сообщении #432453 писал(а):

Извините, но сообщение, из которого взята эта цитата, по-видимому может быть переписано как-то лаконичнее, например с использовнием понятия фактормножества что-ли. А так читать очень сложно... :(

Я не хочу вводить дополнительных сущностей того же фактормножества. Хотя наверное это было бы удобнее.

-- Пт апр 08, 2011 21:25:10 --

Circiter в сообщении #432453 писал(а):

Цитата:
Информация это разбиение вообще говоря бесконечного множества состояний внешней среды на подмножества, идентификаторы этих подмножеств есть наглядное воплощение информации.


Честно говоря, ничего нового в этом определении не видно. Фактически вы в несколько нетрадиционной форме описали связь количесва информации с избыточностью системы. С ростом такой вот упорядоченности (сложности), падает энтропия и, соответсвенно, численная оценка информационного содержания растет.

Я просто давал определение функциональной форме и ничего более, а в конце просто заметил возможную связь с пониманием информации, это замечание не существенно и в дальнейшем не используется.

-- Пт апр 08, 2011 21:28:39 --

Circiter в сообщении #432453 писал(а):

Ok, но объясните пожалуйста поподробнее, как же именно исторически происходит сам вот этот "фазовый переход" между эволюцией вида и локальной эволюцией мозга.

Такой «фазовый» переход наступил много раньше возникновения мозга, любое движение живого организма это последовательный переход от одной функциональной формы к другой.

-- Пт апр 08, 2011 21:45:21 --

Circiter в сообщении #432453 писал(а):

Правильно ли я понял, что вы имеете ввиду способность тканей мозга усложняться и эволюционировать в процессе жизни отдельного организма?

Практически да, за одним уточнением. Для эволюции необходимы случайные изменения (мутации или что-то в этом роде). Эволюционные алгоритма взятые только на основе таких вот случайных «мутаций» не эффективнее обычного случайного перебора (мне попадались статьи на эту тему может это и ошибочное суждение). Эволюция которая идет в мозге идет не совсем случайно, идет перебор (а точнее подбор, отбор) среди коллекции подходящих закономерностей упакованных одна в другую (это то что мы называем абстракцией).

Давайте я немного поподробнее с этого места. Если у нас есть опытные данные, как результат какого-то изучаемого процесса, мы можем связать их с помощью интерполяции или с помощью модели.

Интерполяции это некие универсальные приемы использующие минимум знаний о процессе, например можно интерполировать значения некой неизвестной функции с помощью кубического сплайна, если мы знаем что функция достаточно гладкая.

Однако экстраполировать – выходить за пределы интервала опытных знаний не получится, интерполяции быстро теряют точность.

Моделирование работает по-другому, мы подбираем неких известный нам процесс у которого закономерность прихода из состояния в состояние подобна закономерности перехода из состояния в состояние у изучаемого процесса, именно на этом принципе основаны аналоговые машины. И вот тут экстраполяции могут оказаться достаточно точными.

[EvgenyGR]

Circiter в сообщении #432453 писал(а):

На деле, сознание наблюдает последовательность каких-то значений, но в основе лежит какая-то динамическая система, которая и генерирует эту последовательность. Эта динамическая система может иметь аттракторы (в том числе странные)

Я не понял о какой закономерности аттрактора Вы говорите (по ссылке сходил, но с английским плохо), и зачем вообще привлекать аттракторы, я вполне обхожусь без них. :).

-- Пт апр 08, 2011 22:06:02 --

Circiter в сообщении #432453 писал(а):

Так вот, возможно, что мозги тех же кошек просто или не умеют выбирать размерность для аттракторов моделирумых дин.систем, или же умеют, но попросту сложности мозга не хватает, чтобы носить с собой аттракторы систем,

Я думаю что мозги кошек и собак не достигли необходимого уровня абстракции – обобщения (упаковки) имеющихся коллекций закономерностей, причем сами базовые (исходные) коллекции закономерностей у кошек и человека могут не отличаться.

-- Пт апр 08, 2011 22:10:40 --

Circiter в сообщении #432585 писал(а):

ё одним важным признаком интеллекта является творчество (в широком смысле).

В широком смысле не получиться, творчество может быть и художественным, а это область эмоций, эмоции это то, что практически совпадает с сознанием, эта система целеполагания, она горазда сложнее интеллекта. А вот в узком смысле творчество, как познание мира вполне ложиться в мое определение интеллекта.

[Circiter]

2EvgenyGR

Цитата:

Я не понял о какой закономерности аттрактора Вы говорите (по ссылке сходил, но с английским плохо), и зачем вообще привлекать аттракторы, я вполне обхожусь без них. :).

Поэтому вас мало кто понимает. :) Если серьезно, вот ваша же цитата:

Цитата:

Моделирование работает по-другому, мы подбираем неких известный нам процесс у которого закономерность прихода из состояния в состояние подобна закономерности перехода из состояния в состояние у изучаемого процесса

Вот это оно и есть -- подбирается моделирующий процесс, который выдает те же символы, что и реальный процесс-прототип. Только вы почему-то требуете разнообразных моделирующих процессов, хотя достаточно какого-нибудь одного, например скрытой марковской модели. Про аттракторы я вообще заговорил только чтобы сослаться на известные результаты по моделированию дин.систем и попробовать привязать их к сравнению кошек и людей (кстати, теоремки, доступные по приведенной мной ссылке, наверняка описаны и в википедии, а там скорее всего и русские версии есть).

Если моделирование вам интересно именно как средство экстраполяции (прогнозирования), то возможно вот такая теоремка вам понравится:

Теорема (то-ли моя, то-ли фольклор). Задачи компрессии, распознавания и предсказания эквивалентны.

То есть, если у вас есть программка для сжатия, например, winrar, и есть какая-нибудь программка-классификатор, позволяющая рассортировать набор стихов в два каталога, в один положив стишки Маяковского, а в другой -- Пушкина, то вы можете смело выбросить одну из программ и решать все свои задачи оставшейся (ага, отделять Маяковского от Пушкина winrar'ом :) ).

Цитата:

именно на этом принципе основаны аналоговые машины.

Ну вот, опять двадцать-пять. :) То есть гипотезу Ньюэлла-Саймона о символьных движках вы отвергаете в-принципе? Ну что ж, у неё много противников...

Цитата:

А вот в узком смысле творчество, как познание мира

Да как же так, творчество есть деятельность активная, изменяющая окружающую среду. :) Познание же -- гораздо более пассивный процесс.

-- Сб апр 09, 2011 04:20:01 --

Забавно, попытка найти удовлетворительный необходимый и достаточный признак интеллекта так или иначе приводит к целому списку признаков, один важнее другого. Вот в этой теме я упоминул прогнозирование и планирование (почти программирование-творчество), причем всё это лишь в дополнение к одной из гипотез топикстартера о моделировании интеллекта как системы, адекватно реагирующей на внешние воздействия. Наверное, это минимальный набор, который должен быть, скажем, у робота (интеллектуального автомата, выполняющего команды).

Если же мы хотим промоделировать сознание близкое к настоящему, то навереняка понадобится что-то ещё... Неважно, как это назвать -- блок мотивации, узел целеполагания (топикстартер почему-то вообще его за пределы интеллекта вынес :) ), цепочка обратной связи, оснастка рефлексии, функциональный монитор, ядро обеспечения свободы воли... :) Действительно неважно, но что-то такое должно быть, что-то отслеживающее работу ИИ и задающее такт его функционирования. В простешем случае это может даже быть просто цикл, некоторым образом поддерживающий смену состояния сознания и не дающий траекториям этой динамической системы свалится в какой-нибудь простой регулярный аттрактор.

Например, ядро операционной системы ПК может периодически проверять работу модулей (e.g., драйверов), посылая им сообщения и дожидаясь ответа. По таймауту, при отсутсвии ответа, ОС может перезапустить модуль, сохранив таким образом работоспособность машины. Вот аналогичный механизм должен и у ИИ быть. Хотя у промышленных роботов с элементами ИИ подобный механизм может быть сильно упрощен, а то и просто заменен имитатором свободы воли (ведь для создания ощущения свободы воли достаточно подделать воспоминания о выборе, совершенном в условиях равноправия различных существовавших вариантов действия).

Интересно, можно ли втиснуть такой списочек признаков в эволюционные модели автора темы...

[Circiter]

2EvgenyGR
Я вот чуть выше высказал такую гипотезу:

Гипотеза. Умение писать программы является достаточным признаком ИИ.

Прокомментируйте пожалуйста, если вас не затруднит (можно и с позиций вашей теории).

P.S.: Дело в том, что это имеет прямое отношение к стратегии "раскрутки версий", известной в контектсе ИИ как "seed ai". Поясню. Для создания полноценного ИИ достаточно создать, пользуясь предложенной гипотезой, простейший ИИ, умеющий программировать (т.е. хорошо писать программы). Далее нужно будет погрузить такой ИИ в подходящую мотивирующую среду, а дальше он сам сможет написать свою усовершенствованную версию, которая опять усовершенствует себя, ad infinitum. :)

[EvgenyGR]

Circiter в сообщении #432728 писал(а):

Гипотеза. Умение писать программы является достаточным признаком ИИ.

Это Вы очень сильно упрощаете интеллект, умение писать программы очень примитивная способность, сродни умению играть в шахматы или умению вычислять, скажем возводить многозначные числа в дробные степени. Интеллект человека плохо справляется с комбинаторными задачами, именно потому, что он имеет аналоговую природу, вот нам и кажется, что программирование некая вершина интеллекта, но это не так. Любая программа это не более чем отображение многомерного булевого пространства в себя. Если такое отображение задано таблично, то можно описать его с помощью простых логических операций дизъюнкции конъюнкции и отрицания причем есть простой алгоритм построения такого описания (дизъюнктивной и конъюнктивной нормальной формы ), далее можно эту форму упростить, получить кратчайшую ДНФ или КНФ, и эти процессы (сокращения) опять же алгоритмизируются.

-- Сб апр 09, 2011 08:54:45 --

Circiter в сообщении #432715 писал(а):

Вот это оно и есть -- подбирается моделирующий процесс, который выдает те же символы, что и реальный процесс-прототип. Только вы почему-то требуете разнообразных моделирующих процессов, хотя достаточно какого-нибудь одного, например скрытой марковской модели.

Марковские цепи это вероятностные процессы с ветвлением, давайте пока не лезть в эти дебри. Вы все ни как не хотите попробовать описать интеллект как аналоговую машины, Вы хотите, чтобы некие закономерности (перехода из состояния в состояние), в некой универсально дискретной среде, возникали сами собой как некие предельные циклы, например случайного Марковского процесса. Затем Вы будите усложнять эти процессы специализировать их пака не дойдете до конкретики. Зачем так сложно, когда есть более простой и более эффективный путь аналоговых машин, эти машины изначально конкретны (в том смысле что они «заточены» под конкретный процесс), но в процессе эволюции (и понятно как это эволюция идет) эта аналоговая машина   становиться все более и более универсальный, а потенциал ее совершенства (в отличии от дискретной изначально универсальной машины) практически бесконечен, так число ее состояний так же бесконечно.

-- Сб апр 09, 2011 09:01:27 --

Circiter в сообщении #432715 писал(а):

Если же мы хотим промоделировать сознание близкое к настоящему, то навереняка понадобится что-то ещё... Неважно, как это назвать -- блок мотивации, узел целеполагания (топикстартер почему-то вообще его за пределы интеллекта вынес :) )

Мотивации это чисто человеческое явление, животные управляются инстинктами (именно так решается для них проблема целепологания), у «человеков» эту роль играют эмоции, это очень сложная система, она стоит над интеллектом, если мы начнем ее обсуждать мы «утонем».

-- Сб апр 09, 2011 09:08:41 --

Circiter в сообщении #432715 писал(а):

Действительно неважно, но что-то такое должно быть, что-то отслеживающее работу ИИ и задающее такт его функционирования.

Решение всякой проблем начинается с постановки задачи, хорошая постановка задачи - половина решения. Я давая свое определение интеллекта именно так и поступил, мое определение интеллекта это и одновременно постановка задачи, возможно Вам кажется что я что-то «потерял» (типа "но что-то такое должно быть"), но давайте разберемся пока с моей постановки задачи, может "но что-то такое должно быть" само рассосется . :).

-- Сб апр 09, 2011 09:38:01 --

Circiter в сообщении #432715 писал(а):

То есть, если у вас есть программка для сжатия, например, winrar, и есть какая-нибудь программка-классификатор, позволяющая рассортировать набор стихов в два каталога, в один положив стишки Маяковского, а в другой -- Пушкина, то вы можете смело выбросить одну из программ и решать все свои задачи оставшейся (ага, отделять Маяковского от Пушкина winrar'ом :)

Есть принципиальное отличие от упаковки в дискретных универсальных средах (не содержащих внутри себя априорных законов связи) и той упаковки о которой я говорю.

Я опять перейду к аналогии с физикой. Вот скажем у нас есть несколько точек (опытных данных) для некого физического процесса. Мы подбираем (а иного не дано) некое уравнение для описания этого процесса (все уравнения в естествознание в конечном счете только эмпирические). Что мы тем самым сделали? Мы тем самым упаковали различные наблюдаемые состояния физического процесса. Далее если в другой ситуации нам задано достаточно точек этого же физического процесса мы используя полученное ранее уравнение можем получить и другие точки этого процесса, например в будущем. Что мы делаем, решая уравнение? Мы занимаемся распаковкой, и при этом (при распаковки) можем получить новые ранее не наблюдаемые состояния.

Точно так же когда мы упаковываем (описанным мною ранее способом) функциональные формы, то при распаковки мы можем, получит ранее не существовавшие функциональные формы. Вторичная функциональная форма полученная на лишь отдельных представителях класса форм, может отражать (содержать в себе, делать доступным) весь класс таких форм. Чем выше уровень абстракции тем сильнее это свойство. Под абстракцией я как раз и понимаю вторичные формы, на основе множества вторичных форм могут появиться формы третьего уровня, как упаковка форм второго и так далее.

[Circiter]

2EvgenyGR

Цитата:

Это Вы очень сильно упрощаете интеллект, умение писать программы очень примитивная способность, сродни умению играть в шахматы или умению вычислять, скажем возводить многозначные числа в дробные степени. Интеллект человека плохо справляется с комбинаторными задачами, именно потому, что он имеет аналоговую природу, вот нам и кажется, что программирование некая вершина интеллекта, но это не так.

Видимо, вы не совсем правильно меня поняли (навереное я зря вынес пояснения к моей гипотезе в postscriptum). Я просто хотел хоть как-то связать появление интеллекта в онтогенезе с локальной эволюцией, и вовсе не называл способность к программированию вершиной интеллекта (хотя сам так и считаю, вы угадали :) ). То есть, я говорил, что можно написать простейший ИИ, умеющий программировать, а он уже сам себя сможет усовершенствовать. Здесь локальная эволюция моделируется раскруткой версий (итеративным самосовершенствованием). Ну да ладно, моя гипотеза же не претендует на истину в последней инстанции. :)

Цитата:

Такой «фазовый» переход наступил много раньше возникновения мозга, любое движение живого организма это последовательный переход от одной функциональной формы к другой.

Хочу ещё уточнений. :) Что я понял из сказанного вами. У кошек их эволюционные достижения вроде рефлексов, распознавания образов и т.д. являются в общем-то самой главной их примочкой. Вы считате, что у людей все эти возможности стали чем-то само собой разумеющимся, неосознанным (ушли на другой уровень абстракции, изолировавшись от повседневной жизни). И вот от нечего делать эволюционно появляется надстройка, которая работает на другом, более высоком уровне абстракции, широко пользуясь более древними возможностями вроде того же распознавания. Сам этот лишний уровень абстракции --- видимо, его-то вы и отождествляете с интеллектом --- может, как я понял, быть очень даже простым (исторически интеллект существует меньше времени чем зрение) и не слишком отличаться по своему устройству от всех остальных слоев абстракции. Это ближе к вашей концепции?

Такая постановка мне напомнила известный "парадокс" Г.Моравека (H.Moravec), подмечающий, что моделировать высокоуровневую деятельность (e.g., рассуждения) гораздо проще чем более низкоуровневые возможности (e.g., зрение). См. wiki/Moravec's paradox (там ещё и связь с эволюцией описывается).

Заметьте, что это имеет отношение и к алгоритмизации интеллекта -- более свежий, но мало эволюционировавший слой субъективно кажется более сложным, интеллектуальным, но на деле относительно просто исследуется, что, возможно, и создает "иллюзию" простоты реализации модели в виде программы. А вот все нижележащие слои кажутся простыми, но на деле в моделировании оных возникают серьезные препятствия, мешающие создать целостную ИИ-систему. Может быть, именно поэтому и возникает у вас такая неприязнь к алгоритмическому, вычислительному подходу к анализу интеллекта...

[EvgenyGR]

Circiter в сообщении #432865 писал(а):

Может быть, именно поэтому и возникает у вас такая неприязнь к алгоритмическому, вычислительному подходу к анализу интеллекта...

Дело не в неприязни. Аналоговая машина может быть и дискретной, то же «Железный Феликс» это ведь тоже аналоговая машина. Иными словами структура со своим «прожженным» алгоритмом это тоже аналоговая машина, т.е. она может моделировать только те процессы, которые имеют законы перехода из состояние в состояние подобное этому алгоритму. Я не случайно заговорил о универсальных конечных дискретных средах. Универсальных в том смысле, что связь между состояниями этой среды может быть произвольно задана тем же программистом. Вы как-то не обратили внимание на таблицу задающую отображение многомерного булевого пространства в себя. Эта таблица универсальная модель для любого алгоритма или автомата. Вопрос кто задает эту таблицу, ну раз уж никаких переходов из состояние в состояние нет. Есть всего лишь две возможности, эту таблицу переходов задает внешний мир, например через рецепторы или эту таблицу задает сознание программиста. Если второе то мы получаем ту самую смысловую петлю. Если первое то такое задание таблицы это просто интерполяция о которой я тоже говорил выше. Да интерполяция универсальный способ связать состояния, но в этом и ее слабость, интерполяции очень не эффективны.

-- Сб апр 09, 2011 17:26:34 --

Circiter в сообщении #432865 писал(а):

от нечего делать эволюционно появляется надстройка

Видимо надо все же дать обоснование собирание коллекций и появлению абстракций (абстракций как упаковки коллекций с более низкого уровня). Коротко не получиться.

Рассмотрим какую-либо структуру, например тот же белок, будем считать атомы просто точечными массами, а энергию связей между этими атомами примерно равный для все парных связей. Тогда данный белок можно понимать как состояние этих самых точечных масс. Этому состоянию соответствует некая фазовая область в соответствующим фазовом пространстве (координат и импульсов). Конфигурация этой области как раз и определяется формой белка. Мы можем покрутить белок подвигать как целое, немного пошевелить отдельные атомы, но так чтобы белок остался белком. Вся совокупность таких движений как раз и заштрихует эту самую область в фазовом пространстве. Теперь допусти у белка есть несколько форм (коллекция) иными словами он имеет другую форму но остается все тем же белком (функциональной формой), значит область состояния отвечающего этому белку увеличивается тем сильнее чем больше коллекция. Чем больше область (чем больше ее фазовый объем) тем вероятнее застать систему в этом состоянии. Когда живые формы увеличивают коллекции (переходят на новый уровень абстракции) они просто следуют закону статистики, переходя из менее вероятного в более вероятное состояние. Иными словами не «от нечего делать эволюционно появляется надстройка».

[EvgenyGR]

Circiter в сообщении #432865 писал(а):

о есть, я говорил, что можно написать простейший ИИ, умеющий программировать, а он уже сам себя сможет усовершенствовать. Здесь локальная эволюция моделируется раскруткой версий (итеративным самосовершенствованием).

А как именно он себя «самовершенствует»? Если понимать программу как отображение эн-мерного Булевого пространства в себя? Я представляю это так. Простейшие ИИ так или иначе сводятся к процедурам построения ДНФ (или КНФ) по заданной таблице, возможно еще и оптимизация ДНФ (поиск кратчайшей). Но откуда берется таблица задающая переходы из состояния в состояние? Или что тоже самое, перехода из одной точки эн-мерного Булевого пространства в другую? Видимо есть некая целевая функция (то что вы называете мотивация) и некий процесс изменения связей в таблице. Если априори про алгоритм целевой функции ничего не известно, то такие изменения в связях это перебор или случайный перебор (можно назвать по красивее – эволюционный алгоритм ). За рамки этой схемы не выйти (или я не прав?).

Теперь критика этого метода. Целевая функция должна быть однозначно определена каким-то алгоритмом. Именно этот алгоритм и буде в конце концов найден этим самым ИИ. Если кратчайшая ДНФ или КНФ этого алгоритма (точнее таких ДНФ или КНФ будет N штук по числу размерности Булевого пространства). Окажется больше отведенной под алгоритм памяти машины, то нечего просто не получиться. А если памяти будет очень много, то время необходимое для отображения (поиска) достаточно сложного алгоритма задающего целевую функцию может потребоваться нереально много.

[Circiter]

2EvgenyGR

Цитата:

Вы как-то не обратили внимание на таблицу задающую отображение многомерного булевого пространства в себя.

Аналоговая машина тоже, по-сути, берет какие-то входные данные, которые могут быть варажены ограниченным по точности числом (почему-бы и не в двоичной системе счисления), т.е. вершиной единичного гиперкуба, если пользоваться вашей таблицей, и на выходе тоже выдает результаты, которые могут быть выражены числом. Фактически, получается, что и аналоговая машина тоже просто отображает единичный гиперкуб в себя (это если во главе концепции не ставить точность вычислений). Поэтому я не вижу принципиальных отличий (в крайнем случае, куб может браться из гильбертого пространства :) ). Более того, мне важно место и для метапрограммирования -- программка должна перерабатывать не только числа, но и другие программы.

Понимаете, ваши взгляды немного не вписываются в тезис Черча-Тьюринга. И я кажется нашел удовлетворительный способ объяснить основу его отрицания вами (упомянутый парадокс Моравека).

Про интерполяцию я не понял, извините. :(

Но в любом случае, мне интереснее говорить об алгоритмах ИИ не как о группах симметрии булевского куба, а как о машинах для манипулирования символами. Обычно, критикуя гипотезу Ньюэлла-Саймона, специалисты говорят об "асемантичности" символов, которыми манипулирует машина.

Приводится такой пример. Как наделить символ смыслом? Программа ИИ может понять смысл символа отыскав его определение в толковом словаре. Но найденное словарное определение ссылается на другие символы из того-же словаря, да и само это определение записано такими же символами. Такая замкнутость словаря воспринимается непреодолимой преградой.

Когда такого специалиста спрашиваешь, как же настоящий интеллект справляется с той-же проблемой замкнутости словаря, обычно отвечают, мол, естественный интеллект большую часть времени манипулирует не абстрактными символами, а символами неразрывно связанными с реальными понятиями внешнего мира.

Лично я здесь не вижу противоречий, но лишь задачу о проектировании словаря, каждая статья которого редуцируется до символов с семантикой, обеспечиваемой реальными объектами (что-то вроде наделения словаря структурой двудольного графа или чего-то подобного). Извините за глупую экономическую аналогию с инфляцией: например, можно критиковать бумажные деньги, которые обесцениваются если их печатать просто так, не имея достаточного "золотого запаса". :) Но всем понятно, что экономика, основанная на деньгах (фактически, просто дешевых бумажках) возможна и даже выигрывает от этого. Здесь деньги сравниваются с программами, а экономическая система с ИИ. :) Ещё раз прошу прощения, если не к месту чушь пишу.

Цитата:

Этому состоянию соответствует некая фазовая область в соответствующим фазовом пространстве (координат и импульсов).

Ну тогда уж не область, а точка (по определению фазового пространства). Читаю дальше.

Цитата:

Вся совокупность таких движений как раз и заштрихует эту самую область в фазовом пространстве.

Ok, представил.

Цитата:

Чем больше область (чем больше ее фазовый объем) тем вероятнее застать систему в этом состоянии. Когда живые формы увеличивают коллекции (переходят на новый уровень абстракции) они просто следуют закону статистики, переходя из менее вероятного в более вероятное состояние.

Ага. Кажется доходит. Изначальное стремление к диверсификация функциональных форм организма увеличивает вероятность достижения хотя-бы одной из-них. Это как в инвестициях -- чем в большее количесво проектов вложишься, тем выше шансы получить прибыл хотя-бы с одного. :)

Цитата:

А как именно он себя «самовершенствует»?

О, это пока не известно. Но схема может быть такой. Программа ИИ копирует себя и начинает пытаться совершенствовать свою копию. Она может рассматривать разные варианты, производить отбор, скрещивание и т.д. Качество результата может оцениваться на первых порах с помощью некоторых хитроумных психологических тестов, напоминающих тест Тьюринга, но направленных на поиск более сильного разума. Для первой версии все это должно быть вшито в код программистом, но потом ИИ возможно придумает что-нибудь новое, свое.

Цитата:

есть некая целевая функция (то что вы называете мотивация) и некий процесс изменения связей в таблице. Если априори про алгоритм целевой функции ничего не известно, то такие изменения в связях это перебор или случайный перебор (можно назвать по красивее – эволюционный алгоритм ).

Да, все правильно. Это один из возможных путей. А для первых версий (поколений) ИИ это, как вы и сказали, скорее всего единственный путь. Хотя может быть есть и другие подходящие универсальные приемы решения творческих, т.е. плохо формализуемых задач.

Цитата:

Целевая функция должна быть однозначно определена каким-то алгоритмом.

Я не совсем разобрался с формулировкой. Целевые функции (мотивирующая среда) задаются заранее и могут даже произвольно изменяться в процессе bootstrapping'а. Видимо, вы подразумевали алгоритм поиска решения, удовлетворяющего заданной целевой функции, так?

Цитата:

Окажется больше отведенной под алгоритм памяти машины, то нечего просто не получиться.

Будем считать, что в ресурсах мы не ограничены и до упомянутого robez'ом предела Каминского тоже далеко. :)

Тем не менее, критика концепции seed ai возможна. Может случиться так, что какая-нибудь, скажем 3542-я версия ИИ субъективно (может быть даже из-за случайной ошибки) начнет себя считать совершенной, а целевую функцию -- удовлетворенной. Тогда последовательность версий ИИ стабилизируется, и не факт, что полученное решение будет удовлетворительным с точки зрения человека. Более того, полученное таким образом решение, возможно, формально и не будет точкой всего-лишь локального экстремума целевой функции.

Но, кажется, что эти трудности преодолимы. Ведь всегда можно будет искусственно пошевелить целевую функцию (и даже вручную внести исправления в код ИИ-программы), снова запустив остановившуюся эволюцию ИИ. Впрочем, эти рассуждения требуют формализации и дальнейших исследований.

Чем же хорош такой подход. Ну, во-первых, есть слабая надежда на успех. :) Во-вторых, важна сама теоретическая возможность, т.е. сама принципиальная доказуемость той гипотезы; а в-третьих, может быть даже не столько сам конечный результат интересен, сколько интерсен будет сам процесс. Это как с экспертными системами -- сам ответ машины может быть и не интересен (его ведь может и человек дать), а вот поизучать протоколы, разобраться как именно машина получила ответ -- интересно чрезвычайно.

Цитата:

Мотивации это чисто человеческое явление, животные управляются инстинктами (именно так решается для них проблема целепологания), у «человеков» эту роль играют эмоции, это очень сложная система, она стоит над интеллектом, если мы начнем ее обсуждать мы «утонем».

Мне этот вопрос кажется если и не принципиальным, то очень важным. Если захотите сказать несколько слов о феномене "Я", свободе воли и самостоятельной постановке целей -- буду рад. Отмечу только, что столько внимания уже не один десяток лет уделяется философским аспектам ИИ отчасти даже и не из-за сложности рассматриваемых проблем, а из-за удивительных субъективных ощущений необъяснимой локализации "Я", ощущений свободы выбора (при его наличии) и даже из-за, на этот раз чисто объективных, наблюдений за способностью к целеполаганию у простых тварей (имеется ввиду, что разум не зависает, не зацикливается даже когда никаких стимулов из внешней среды не поступает). У меня есть собственные частичные модели, дающие кое-какие ответы на такие вопросы, но мой подход слишком аксиоматичен что-ли, искуственнен. Было бы здорого поговорить об этом именно в незнакомом мне ключе эволюции. Ну не хотите, так не хотите. :)

[EvgenyGR]

Circiter в сообщении #433297 писал(а):

Про интерполяцию я не понял, извините. :(

Мне представляется, что тут есть хорошая аналогия, поэтому я остановлюсь на этом подробнее. Самый простой случай. Пусть на некотором временном интервале задана какая-то функция, заданная поточено, своими значениями в некоторые моменты времени. Когда хотят связать эти точки, чтобы получить значение функции в другие моменты времени, как раз и применяют интерполяцию. Например, если есть N таких моментов времени, то точки можно связать полиномом (N-1) степени, есть масса приемов, как можно подобрать такой полином. Можно потребовать, чтобы этот полином точно проходил через значения функции в эти моменты времени, можно разрешить полиному чуть не совпадать со значениями функции в эти самые моменты времени в пользу какого-то дополнительного условия, например гладкости. Все эти способы в чем-то аналогичны многочисленным способам построения алгоритма в том числе и через манипулирования символами. Кстати если функция которая была задана поточено сама является полиномом (N-1) то методы интерполяции по N моментам времени дадут точно то же полином. Точно так же как все методы, о которых Вы говорили в элементарных ИИ дадут точно то же алгоритм (если иметь ввиду кратчайшую ДНФ этого алгоритма). Но что произойдет если взять в качестве функции например синус или косинус. Оказывается сколько бы моментов времени мы не взяли мы не сможем по интерполяции определить главное качество этой функции ее ограниченность. Все интерполяции будучи полиномами очень быстро уходят в бесконечность при выходе за интервал в котором заданы моменты времени (это называется экстраполяцией). Однако если у нас в коллекции есть эта функция (синус или косинус), а для ее однозначного задания достаточно знать значение в трех моментах времени, а уж тем более если таких моментов времени много, мы можем выдвинуть гипотезу, что наблюдаемая в заданные моменты времени функция есть периодическая функция. Продолжая аналогию можно сказать, что алгоритмы это своего рода полиномы. А вот аналоговая машина это что-то вроде спецфункции (синуса). Поэтому в общем случае не получиться что «и аналоговая машина тоже просто отображает единичный гиперкуб в себя», во всяком случае куб конечной размерности. Может появиться новое качество, такое как ограниченность функции как в случае с синусом.

-- Вс апр 10, 2011 21:57:19 --

Circiter в сообщении #433297 писал(а):

А как именно он себя «самовершенствует»?

О, это пока не известно. Но схема может быть такой. Программа ИИ копирует себя и начинает пытаться совершенствовать свою копию.

Можно высказать версию, совершенствование идет через СЛУЧАЙНЫЙ выбор, это ветвление позволяющее как бы перескакивать с одной детерминированной траектории (в случае аналоговых машин) или с одного алгоритма на другой. Дело в том, что случайность и бесконечно сложная закономерность (бесконечно сложный алгоритм) это видимо одно и тоже. Иными словами случайный процесс это процесс содержащий в себе любой детерминированный процесс. Сознание это и есть неким образом организованный «выход на случайность», иррациональность, понимаемую как противоположность закономерному и детерминированному. Ну вот уже тону в расплывчатых формулировках пытаясь ответить на Ваш последней вопрос. :).

[EvgenyGR]

Человеки достигли уровня на котором их разум способен оперировать с объектами не описываемыми конечным образом (например такой объект - понятие случайность) проявлением этой работы и является сознание, но уровень развития мозга человечков еще не достиг того уровня абстракции при котором это оперирование (способы, приемы этого оперирования) они могут передавать друг другу подобно тому как сейчас происходит обучение математики. Все замолкаю, замолкаю :).

[Circiter]

2EvgenyGR
Да, вам книгу пора писать. Я серьезно.

А сейчас позвольте ещё на секунду вернуться к различиям между аналоговыми и цифровыми выч.машинами. Допустим, ИИ не представим в виде программы так как, ну скажем, требует существенного задействования феномена алгоритмической неразрешимости. То есть, предположим, что некоторые его "подпрограммы" решают какие-то алгоритмически неразрешимые задачи и эти подпрограммы критичны для функционирования ИИ.

К примеру, при решении некоторой проблемы, ИИ начинает рекурсивно перебирать варианты. Общее количество вариантов необозримо и возникает необходимость по некоторым возможным путям решения даже и не пытаться пройтись. Но вот незадача -- имеющихся эвристик не хватает для адекватного отбрасывания тупиковых ветвей. Однако, допустим на мгновение, что каждая такая ветка представима некоторой программой и тупиковость ветки соответствует зависанию, т.е. зацикливанию этой программы. Понятно, что эффективный поиск вариантов можно было бы организовать если бы заранее было известно для каждой новой ветки дерева поиска, зацикливается соответствующая программа или нет. Но, как известно, теста на завершаемость не существует, т.е. не существует Тьюринг-полной программы, которая бы сказала, бесконечна ветка или нет.

Тем не менее все прекрасно знают, что частные случаи проблемы остановки вполне себе разрешимы. Вот скажем, метапрограмма видит программу printf("Hello world!");, естественно она скажет, что такая программа не зацикливается, или, скажем, видит она программу while(1) putchar('Z');, понятное дело, что на вопрос о завершаемости будет выдан отрицательный ответ. Правда, для некоторых программ дать такого ответа (получить его алгоритмически в Тьюринг-полной среде) не получится, по фундаментальным причинам.

Вот с такого ракурса есть какие-нибудь преимущества аналоговых устройств перед цифровыми (символьными)? Например, известна ли вам какая-нибудь алгоритмически неразрешимая задача, которая просто "решается" (имеется ввиду, решается достаточно большое количество её частных случаев) аналоговым устройством и в то же время решается (в том же смысле) гораздо сложнее с помощью цифрового компьютера?

Ограниченность вашей синусоиды здесь не подходит. Что такое синусоида? Всего лишь график эволюции ординаты точки, бегающей по-кругу. Разве сложно смоделировать такую точку? Кстати, это хорошая иллюстрация к тому абзацу про аттракторы -- здесь аттрактором дин.системы выплевывающей синусоидальный процесс является окружность, и в задачу моделирующей программы входит вместить (минимально вложить) эту окружность в фазовое пространство правильно выбранной размерности. Если выбрать одномерное пространство, то окружность туда вообще не вместится, а если трехмерное -- вместится, но из-за появившейся дополнительной степени свободы будет под большинством углов зрения выглядеть эллипсом, в лучшем случае.