Субъективность восприятия цвета и прочее

[epros]

druggist в сообщении #1605730 писал(а):

Я привожу определение модели БТВ как клеточного автомата, данного Г. Малинецким, председателем редколлегии издательства(URSS), выпустившего перевод этой книги на русский язык и написавшим к ней предисловие, а не какого-то "третьего лица":

Дык, тот, кто не автор и не читатель, тот и есть третье лицо. Малинецкий, в общем-то, и не сказал ничего криминального, ибо предложенную Пером Баком компьютерную модель системы (но не саму систему) можно в определённом смысле назвать клеточным автоматом - не совсем обычным, ибо это - всё-таки открытый клеточный автомат, но Вы же дали ещё и собственную интерпретацию этой, не самой удачной во всей статье фразы Малинецкого, так что прозвучало совсем уж нехорошо.

[Dicson]

sergey zhukov в сообщении #1605697 писал(а):

Так я говорю - это же еще младенец. Конечно, зависит от нас. Но скоро уже перестанет. Здесь нет никаких принципиальных барьеров.

Младенцы - это открытые системы, то есть они ведут интенсивный обмен веществом/энергией со средой. Этот обмен в младенцах хорошо заметен. А ИИ - это системы закрытые. Разница принципиальная, так как открытость имеет следствием самоорганизацию, без которой никакая эволюция невозможна.

sergey zhukov в сообщении #1605697 писал(а):

Помните, как шахматный компьютер учился играть в шахматы? Он получил правила игры, а дальше просто играл сам с собой. Так он может самостоятельно и очень быстро научиться играть в любую формальную игру, даже в такую, в которую люди еще никогда не играли. Он мог бы поучить людей играть в такие игры.

Вот именно, что в формальную. Где есть строгие правила и даже конкретный результат. В реальности правила неизвестны, а результат недостижим. Есть только встроенный в нас на физическом уровне критерий, который подсказывает нам, какое направление развития более адекватно среде. Но у ИИ этого критерия нет.

epros в сообщении #1605702 писал(а):

Откуда Вы взяли эту странную чушь про вычислительные системы? Они в основном именно открытые, т.е. со входами и выходами, ибо закрытые никому не нужны.

Открытые системы обмениваются со средой веществом и энергией. Это принципиальное отличие, из которого следуют все остальные отличия открытых систем от закрытых вычислительных типа неравновесного состояния, активности, необратимости, непредсказуемости, бифуркаций, отличие нейрона от транзистора и так далее.

Например, обратите внимание, стоит перекрыть доступ кислорода, пищи, воздуха, тепла - и организм быстро "упадёт" в состояние равновесия и покоя, распадаясь на отдельные элементы и растворяясь в среде. То есть вне обмена со средой веществом/энергией открытые системы не существуют. Сравните с теми же ИНС. И первым разрушится мозг, то есть мозг в организме более всего отличается от чего-либо вычислимого, так как его обмен со средой наиболее активный.

epros в сообщении #1605702 писал(а):

Короче, Dicson, вся Ваша философия происходит из гордыни - из веры в то, что мы (человеки) - существа превыше грубой материальности. Смиритесь, мы - всего лишь причудливая форма кристаллизации звёздной пыли.

В ответ на эти обвинения я замечу, что ещё недавно популярный на форуме термин "мозгопоклонники" использовался неверно. Мозгопоклонники - это на самом деле те, кто верит, что мозг настолько могуч, что сможет в конце концов создать что-то сложнее себя. Верить в эту идею можно бесконечно. )

[sergey zhukov]

Dicson в сообщении #1605811 писал(а):

мозг настолько могуч, что сможет в конце концов создать что-то сложнее себя.

Да не мозг создает. Эволюционный процесс создает и этот сложный мозг, и все остальное, что может быть посложнее мозга. Если вы принимаете дарвиновскую эволюцию, то знаете, что сложность создавалась с нуля. И этот процесс все еще продолжается. Он на человеке не заканчивается.

[epros]

Dicson в сообщении #1605811 писал(а):

Открытые системы обмениваются со средой веществом и энергией. Это принципиальное отличие

Если Вы про то, что компьютерные системы не потребляют электричество от розетки и не сбрасывают лишнюю энергию в окружающую среду посредством вентилятора системы охлаждения, то Вы неправы.

Dicson в сообщении #1605811 писал(а):

Например, обратите внимание, стоит перекрыть доступ кислорода, пищи, воздуха, тепла - и организм быстро "упадёт" в состояние равновесия и покоя, распадаясь на отдельные элементы и растворяясь в среде

Если компьютеру отключить электричество, то оперативная память тоже упадёт в состояние равновесия. Если использовать специальную энергонезависимую память, то это произойдёт на так быстро, может быть даже за годы, но всё равно произойдёт.

В общем, я вижу, что Вы любые аргументы готовы привлечь в защиту своей религии, провозглашающей превосходство человеческого сознания.

Dicson в сообщении #1605811 писал(а):

Мозгопоклонники - это на самом деле те, кто верит, что мозг настолько могуч, что сможет в конце концов создать что-то сложнее себя. Верить в эту идею можно бесконечно. )

Тут всё зависит от того, какой именно процесс понимается под "создать". Если выстругивание с помощью стамески и напильника, то наверняка не сможет создать. Но если зачатие, рождение и воспитание нового организма, то примеров такого создания кого-то гораздо умнее себя - полно.

[sergey zhukov]

Вот, кстати, интересная книжка на тему.
К.  Фрит.  «Мозг и душа. Как нервная деятельность формирует наш внутренний мир»

[druggist]

sergey zhukov в сообщении #1606348 писал(а):

Вот, кстати,

И вот,... :)

Рэй Курцвейл , Сингулярность близка: когда люди превосходят биологию , Нью-Йорк, Penguin,2005 г.

[sergey zhukov]

Я думаю, что очень популярные споры на тему, может ли ИИ превзойти создателя, упираются в итоге в вопрос "Может ли из менее сложного получиться более сложное?", т.е. "Может ли сложность всей системы в целом возрастать?" (что бы там ни понималось под сложностью).

У Докинза есть хороший пример: построение небоскреба. Одни считают, грубо говоря, что невозможно построить небоскреб выше самого высокого подьемного крана, который у нас есть. Другие же справедливо указывают на то, что, во первых, этот самый кран как-то ведь был построен, а во вторых - он вообще не нужен для постройки небоскреба: все необходимое можно подавать наверх по нему самому.

Раньше вообще считалось, что с неба свисает "небесный крюк" (бог), при помощи которого все строительство началось и продолжается до сих пор. Потом стали считать, что, пожалуй, "небесный крюк" только поставил первый высокий кран (человека), который теперь уже самостоятельно всей стройкой занимается. Сейчас же взгляд такой, что стройка изначально идет вообще без подьемных кранов, все создается снизу вверх с нуля, используя предыдущие постройки, как плацдарм для надстройки нового.

Сторонники дарвинизма видят источник возрастания сложности в случайности: новое не появляется из старого, оно появляется просто случайно, т.е. ниоткуда. Но только "подходящие к старому" случайности отбираются и сохраняются, остальные выбрасываются (неслучайное сохранение случайных изменений). Ясно, что любую задачу можно решить случайным перебором, поэтому в дарвиновской эволюции в этом смысле все вроде бы просто: решения задачи не существует изначально, оно возникает ниоткуда.

Сторонники того представления, что "выше самого высокого крана не построить" говорят: да, случайным перебором можно решить любую задачу, которая поставлена и имеет критерий ее решения. В конце концов, это действительно вопрос простого перебора. Но главный вопрос в том, кто ставит задачу и кто задает критерий ее решения, если не человек? Вот этот момент в дарвиновской эволюции более сложен для понимания. Ответ на него такой: никакой задачи не поставлено и никакого критерия ее решения тоже нет. То, что случайно попало в цикл самовоспроизводства, просто продолжает это делать с переменным успехом. А то, что случайно самовоспроизводится быстрее всех своих современников, вытесняет всех остальных из-за ограниченности ресурсов. Задача не поставлена, критерия ее решения тоже нет, но это не значит, что не происходит "неслучайного сохранения случайностей".

[Dicson]

sergey zhukov в сообщении #1606444 писал(а):

Вот этот момент в дарвиновской эволюции более сложен для понимания.

Я вам не ответил, потому что в теме уже и так всё ясно. Но если вы настаиваете, могу ещё раз повторить то, что вы никак не хотите замечать. Эволюция проходит в открытых системах. Вычислительные закрытые. Поэтому мы эволюционируем, а вычислительные системы "эволюционируют" только внутри нашего опыта и за его пределы выйти не могут. Они есть, только потому, что мы их создали, и они развиваются, пока мы их сами развиваем. Как и любой механизм, без нас они попросту развалятся. Прочитайте первую часть этого поста (особенно обратите внимание на то, что там написано в оффтопе), далее в теме все пояснения есть.

Цитата:

Открытая система в физике - система, которая обменивается веществом и энергией с внешним по отношению к системе миром, в отличие от закрытых и изолированных систем, в которые и из которых ни вещество, ни энергия не могут войти или выйти. С понятием изолированной системы тесно связано понятие энтропии.

Открытая система в биологии - организмы, устойчивые лишь при условии непрерывного поступления в них энергии и вещества из окружающей среды.

Википедия

[sergey zhukov]

Dicson в сообщении #1606881 писал(а):

Вычислительные закрытые

Вот это я никак не могу понять. Эта закрытость (допустим, что она действительно сейчас существует, хотя и это вовсе не очевидно) - это принципиальное ограничение у вычислительных систем какое-то что-ли? Никак нельзя их открытыми по вашему сделать, что бы это ни значило?

[druggist]

Dicson в сообщении #1606881 писал(а):

Как и любой механизм, без нас они попросту развалятся.

Не понял, так ведь и мы "развалимся" без поддержания открытости( без притока свободной энергии и ее диссипации). Мы также не контролируем этот процесс(и, по-видимому, рано или поздно должны развалиться), как и те, чью эволюцию мы сможем поддерживать математическим моделированием на вычислительных системах. Кстати, клеточные автоматы со специальными правилами апдейта демонстрируют весьма нетривиальную "эволюцию"(в сети есть интересные программы), например, появление существ, пожирающих друг друга, их исчезновения, появление новых, образование трофических цепочек и т.п. Дальнейшей эволюции "мешают" только размеры "доски" и время апдейта. Интересный момент, микроскопика, т.е., правила апдейта - как должна изменяться клетка(напр., менять цвет) при каждом шаге - должны быть весьма тонко подобраны, так, чтобы соблюдалось поведение на "кромке хаоса", иначе все со временем выродится либо в стационарные или периодические структуры, либо в хаотическое мерцание на уровне отдельных клеток. Другое дело, сможет ли подобная эволюционная среда доказать, напр., гипотезу Римана или помочь подтянуть "теорию струн") И сможем ли мы эту полезную для нас информацию воспринять?

[diletto]

sergey zhukov в сообщении #1606444 писал(а):

Я думаю, что очень популярные споры на тему, может ли ИИ превзойти создателя, упираются в итоге в вопрос "Может ли из менее сложного получиться более сложное?", т.е. "Может ли сложность всей системы в целом возрастать?" (что бы там ни понималось под сложностью).

И что бы там ни понималось под "превзойти"?..

[sergey zhukov]

diletto
Я точно не знаю, в чем именно им нас не превзойти. Сам-то я думаю, что ничего такого нет. Но корень вопроса как будто в том, что "Из ничего нельзя получить что-то", т.е. "Внутри рамок - пожалуйста, но за их пределы - никогда". Как-будто эти рамки там были всегда, а не "доползли" туда в процессе постоянного их преодоления.

[diletto]

sergey zhukov в сообщении #1606929 писал(а):

Я точно не знаю, в чем именно им нас не превзойти. Сам-то я думаю, что ничего такого нет.

Мне само понятие "превзойти" кажется сильно нуждающимся в определении/раскрытии... Есть хорошо дефинированные чисто количественные аспекты, вроде размерных параметров или скорости операций с плавающей запятой, и с ними всё ясно. Но это вроде бы не считается существенным при сравнении ИИ с человеком, и вопрос о "превосходстве" заменяется в обсуждениях вопросами (1) об имитационных возможностях или (2) о том, кто кого уничтожит, если приспичит.
Вот и стало мне интересно, можно ли выработать некое объективное понимание превосходства.

[sergey zhukov]

diletto
Да вот у Лема в повести "Дознание пилота Пиркса" этот самый пилот Пиркс победил злобного робота своей, грубо говоря, глупостью. Робот разработал хитрый план, при котором человек проиграет в любом случае. Все шло по плану, но в критический момент человек просто не знал, что делать (поэтому не делал ничего), а робот решил, что человек ничего не делает специально потому, что раскусил его, робота, план (поэтому ему пришлось спешно все менять и он проиграл). Робот приписал человеку слишком высокую степень проницательности и логичности, по сути перехитрил сам себя.

Я думаю, что превосходство понимается в смысле "Кто кому ставит задачи?". Скажем, мой слуга может лучше меня справиться с любым заданием. Но сам себе он задач не ставит, я ставлю их ему. Кто кого превосходит в этом случае? Вроде бы я. Но это до той поры, пока я не поставлю ему задачу ставить себе задачи самостоятельно, конечно. С этим он тоже может справиться лучше меня.

[diletto]

sergey zhukov в сообщении #1606933 писал(а):

Я думаю, что превосходство понимается в смысле "Кто кому ставит задачи?"

Такое видение предполагает обязательное взаимодействие сравниваемых субъектов. Допускаем ли мы применение термина "превосходство" и для невзаимодействующих сущностей?.. Скажем, на Альфе Центавра цивилизация с каменными рубилами и без огня, а на Тау Кита - с водяными мельницами и огнём. Является ли мысленный эксперимент "кто кого уничтожит (кто кому будет ставить задачи), если обе популяции переселить на одну планету" необходимым условием для решения (или хотя бы постановки) вопроса о превосходстве?