Субъективность восприятия цвета и прочее

[ozheredov]

sergey zhukov в сообщении #1605198 писал(а):

И, честно говоря, боюсь летать. Вот если бы меня кто-нибудь убедил, что упасть мне не суждено, то я бы не отказался.

Если бы Вы действительно верили, что можете разбиться - Вас в этот самолет бульдозером бы не затолкали. А беспокойство рождает в Вас катастрофический разрыв между внутренним убеждением, что Вы точно не разобъетесь, и логическими выводами, которые не столь категоричны.

sergey zhukov в сообщении #1605198 писал(а):

Иначе просто летать тяжело.

Это точно. Я тоже боюсь )

[Doctor Boom]

sergey zhukov в сообщении #1605024 писал(а):

Предсказать даже такую сложную систему, как человек - это как раз вполне можно и без знания того, где там у него красное, а где - зеленое. И как он обо всем этом думает, и что и как ощущает.

Только с определенной точностью, со всей полной точностью нельзя

sergey zhukov в сообщении #1605024 писал(а):

А вместо него возникает два других "Я", и не нужно решать вопрос о том, кто из них "настоящий наследник" (оба "не настоящие"). Ок, ну тогда и эта задача:имеет такое же решение.

Там соблюдается непрерывность сознания

sergey zhukov в сообщении #1605024 писал(а):

Если же обмен материей организован как-то последовательно (маленькими кусочками), то очевидно, что я останусь в той комнате, которую занимал изначально. Я вообще далек от мысли, что сознание как-то связано именно с конкретными атомами. КМ учит, что элементарные частицы одного сорта все одинаковы. Конечно, душа не в атомах. Она в системе из этих атомов. Можно заменять отдельные части другими, медленно менять всю структуру, при этом ощущение целостности и неизменности "Я" может продолжаться.

Можно сделать обмен материей не кусочками, и мгновенным всюду и сразу, т.е. материя клона подходит к вам в комнате и сразу замещает всю старую материю, которая перемещается в другую комнату с сохранением структуры

sergey zhukov в сообщении #1605024 писал(а):

Но я думаю, что само "Я", конечно, меняется. Т.е. ощущение непрерывности его существования сохраняется, но оно становится другим. Изнутри это можно и не заметить. Вот ощущение непрерывности "Я" действительно как-бы независимо от материи. Но его неизменность - не думаю.

Я ощущение непрерывности Я и называю Я, а ваше Я называю формой Я

-- 15.08.2023, 00:21 --

(Оффтоп)

epros в сообщении #1605138 писал(а):

Свобода воли заключается в осознанности ответственности за собственные решения

Можно и без ответственности

[ozheredov]

Doctor Boom в сообщении #1605233 писал(а):

Только с определенной точностью, со всей полной точностью нельзя

А что можно предсказать со всей полной точностью? Почти любой может сказать, что понимает в езде автомобиля в том смысле, что может предсказать координату по его скорости и промежутку времени с начала езды. Но не может предсказать, какую музыку в тот или иной момент включит в салоне водитель.

Какие параметры и с какой точностью надо научиться предсказывать, чтобы констатировать, что мозг "раскусан"и фейлософия посрамлена? И упирается ли задача именно в прогноз? Была одно время игрушка - шарик с моторчиком, на котором закреплен несимметричный маховик. За счет несимметрии шарик катается по всей квартире, отражается от углов, закатывается под мебель и т.д. Предсказать траекторию на длительном горизонте невозможно - неустойчивость. А разобраться и воспроизвести механизм проще простого, и сама игрушка стоила 2 рубля.

[Doctor Boom]

ozheredov в сообщении #1605239 писал(а):

А что можно предсказать со всей полной точностью?

Разумеется я имел ввиду, что существуют вещи, для предсказания которых необходимо знать, "что и как ощущает"

ozheredov в сообщении #1605239 писал(а):

Почти любой может сказать, что понимает в езде автомобиля в том смысле, что может предсказать координату по его скорости и промежутку времени с начала езды. Но не может предсказать, какую музыку в тот или иной момент включит в салоне водитель

Тут везде подразумевается сферический наблюдатель всего в вакууме, обладающей вселенским разумом (это как абстракция системы отсчета в физике с часами и линейками везде). Может ли это объять человеческий разум уже другой вопрос

[ozheredov]

Doctor Boom в сообщении #1605243 писал(а):

Разумеется я имел ввиду, что существуют вещи, для предсказания которых необходимо знать, "что и как ощущает"

Эти вещи сугубо внутренние или доступные наблюдению извне? Внутренние предсказывать не интересно, я думаю. А вот допустим, встречается парень с какой-то чикой и требуется предсказать, женится он на ней или нет. И вот все теоретические измеримые извне параметры "в норме", и ответ вроде бы "да". Но нюанс в том, что при она предпочитает такие цвета одежды, что именно при взгляде на них у парня появляется некая специфическая квалия, от которой у него появляется совершенно необъяснимое желание бежать и не оглядываться. Он длительное время держит свою квалию в узде, посколько понимает - чика красива, обеспечена, любит его и т.п. Но в самый неожиданный момент квалия заставляет его взять нож и.......
Это имеется в виду?

[sergey zhukov]

Doctor Boom в сообщении #1605243 писал(а):

Разумеется я имел ввиду, что существуют вещи, для предсказания которых необходимо знать, "что и как ощущает"

А по моему, нет таких вещей. Т.е. это, конечно, неизвестно точно, но что-то мне подсказывает, что пока мы рассуждаем о невозможности того да сего, это все постепенно и незаметно становится возможным.

[Doctor Boom]

ozheredov в сообщении #1605245 писал(а):

Эти вещи сугубо внутренние или доступные наблюдению извне?

Теоретически да, практически - много оговорок

ozheredov в сообщении #1605245 писал(а):

Внутренние предсказывать не интересно, я думаю. А вот допустим, встречается парень с какой-то чикой и требуется предсказать, женится он на ней или нет. И вот все теоретические измеримые извне параметры "в норме", и ответ вроде бы "да". Но нюанс в том, что при она предпочитает такие цвета одежды, что именно при взгляде на них у парня появляется некая специфическая квалия, от которой у него появляется совершенно необъяснимое желание бежать и не оглядываться. Он длительное время держит свою квалию в узде, посколько понимает - чика красива, обеспечена, любит его и т.п. Но в самый неожиданный момент квалия заставляет его взять нож и.......
Это имеется в виду?

Тут можно и без квалии Суть в том, что если исследовать систему в достаточной полноте, то наиболее экономная и предсказательная модель для нее будет содержать, что и как субъект ощущает, т.е. квалию)

-- 15.08.2023, 01:40 --

sergey zhukov в сообщении #1605246 писал(а):

А по моему, нет таких вещей

Т.е. вы сторонник опровергнутой концепции квалиа?

sergey zhukov в сообщении #1605246 писал(а):

Т.е. это, конечно, неизвестно точно, но что-то мне подсказывает, что пока мы рассуждаем о невозможности того да сего, это все постепенно и незаметно становится возможным.

Возможным найти вещи, для которых необходимо знать, "что и как ощущает"? В этом вы правы, нейрофизиология этим и занимается

[ozheredov]

Doctor Boom в сообщении #1605247 писал(а):

Суть в том, что если исследовать систему в достаточной полноте, то наиболее экономная и предсказательная модель для нее будет содержать, что и как субъект ощущает, т.е. квалию)

Из модели, вероятно, можно будет извлечь квалию, если грубо говоря снять сигнал с промежуточных слоев абстракции. Но на вход-то должно поступать нечто наблюдимое и измеримое, нет?

[sergey zhukov]

Doctor Boom
Я сторонник того, что по состоянию ЦНС можно предсказать все, что вообще можно предсказать. А как сам субъект воспринимает состояния своей ЦНС, видит он красное, как зеленое, или слышит его, как ноту "ля" - это нам до лампочки. Мы максимум можем сказать "Субъект находится в состоянии "Видит красное"", этого достаточно для целей предсказания его поведения.

[Doctor Boom]

sergey zhukov в сообщении #1605249 писал(а):

Я сторонник того, что по состоянию ЦНС можно предсказать все, что вообще можно предсказать.

Я выше немного о другом говорил

sergey zhukov в сообщении #1605249 писал(а):

А как сам субъект воспринимает состояния своей ЦНС, видит он красное, как зеленое, или слышит его, как ноту "ля" - это нам до лампочки.

Если вы уже описываете ЦНС в модели "субъект видит красные волны как зеленый, или слышит их", то не до лампочки, просто упретесь в противоречие при неправильном понимании

sergey zhukov в сообщении #1605249 писал(а):

Мы максимум можем сказать "Субъект находится в состоянии "Видит красное"", этого достаточно для целей предсказания его поведения.

Вы наверное имели ввиду наблюдает волны, на которые условно повесили ярлык красные? Ибо если он видит красное, то не может его видеть зеленым, или слышать как ноту ля (если бы у бабушки был член, она была бы дедушкой).
И да, для достаточно широких в практическом смысле целей нам не нужно знать эти "квалиа", я же говорю про всевозможные цели вообще

-- 15.08.2023, 02:26 --

ozheredov в сообщении #1605248 писал(а):

Из модели, вероятно, можно будет извлечь квалию, если грубо говоря снять сигнал с промежуточных слоев абстракции. Но на вход-то должно поступать нечто наблюдимое и измеримое, нет?

Конечно

[Dicson]

epros в сообщении #1605138 писал(а):

А то тут некоторые вспоминают Рене Декарта с его "абсолютной истиной": "Я мыслю, значит существую". Проблема в том, что это "Я" не имеет внятного определения. А значит, что высказывать о нём какие-то утверждения, в том числе, о существовании, это всё равно, что утверждать существование в неведомом месте неведомого "финдильтрюхеля Рассела", ни форма, ни расцветка которого не указаны.

Да, и все эти возражения тоже подтверждают наличие себя. ) Наличие себя подтверждает всё. Даже отрицание себя. Или утверждение неопределённости себя.

По поводу поисков Я, где оно в мозге и так далее, всё настолько очевидно, что я даже не поднимаю эту тему. Проблема только в том, что очевидно это становится лишь после понимания противоречивости выделения Я, как некой часть мозга, некоего внутреннего наблюдателя за происходящим в других частях мозга. А если не выделять, то..? То всё встаёт на свои места само собой. Аргументы, почему такое выделение противоречиво, я уже приводил. Может быть, сказанное ниже, про целостный континуум, внутри которого проходят процессы самоорганизации, помогут разобраться.

epros в сообщении #1605138 писал(а):

Нет, точек бифуркации там полно и они достигаются и проходятся постоянно. ... Никак не упрощет. Мозг - такая же система самоорганизуемой критичности, как многие другие.

Работа мозга связана с постоянными переходами через точку бифуркации. В точке бифуркации поведение системы качественно меняется, а конкретный выбор непредсказуем. Поэтому предсказание поведения в принципе возможно или только общем, или на очень короткий срок. Изменить это нельзя.

Например, если у нас есть алгоритм явления, то, измерив явление и подставив эти начальные условия в алгоритм, мы можем предсказывать ход явления. При этом с абсолютной точностью ничего измерить, естественно, нельзя, абсолютная точность не имеет смысла. Но если явление связано с бифуркациями, то без абсолютной точности не обойтись. В точке бифуркации поведение системы меняется качественно, а связан этот качественный переход с бесконечно малым изменением параметров системы.

Иными словами, есть только один способ качественно не ошибиться в предсказаниях поведения системы, работа которой связана с бифуркациями, - нужно измерить её с абсолютной точностью, то есть понять систему во всех бесконечно малых подробностях. Любая малейшая неточность - и ошибка будет качественной, поведение системы перестанет от начальных условий зависеть, то есть, проще говоря, одни и те же начальные условия, заданные с самой минимально возможной погрешностью, будут быстро приводить к совершенно разному поведению. Но абсолютная точность не имеет смысла. Вот это и есть чувствительность, о которой я написал ранее, чувствительность к начальным условиям. Она означает, что близкие траектории в фазовом пространстве отдаляются друг от друга с экспоненциальной скоростью.

Интерпретировать сказанное можно по-разному. Что мышление "не алгоритм", что оно "невычислимо" или что мышление "нельзя выразить никаким языком". Или что мышление "связано с элементарным уровнем материи", так как только описание системы на элементарном уровне матери и будет описанием абсолютно точным. Но элементарный уровень материи непознаваем, то есть его нельзя выразить никаким языком - и сознание нельзя. При этом элементарный уровень материи должен быть не похож на то, какой материя представляется в нынешних теориях (так как предсказания теорий только уточняются, а модели именно меняются). Причём несложно доказать, что не просто не похож, а совершенно не похож. Действительно, сознание совершенно ни на что известное не похоже.

Наоборот, в работе вычислительных систем ничего невыразимого языком нет, так как алгоритм и есть язык. Поэтому в вычислительных системах сознанию места нет, из-за чего идея о наличии в них сознания автоматически делает сознание нефизичным, то есть несуществующим.

epros в сообщении #1605138 писал(а):

Программа, управляющая пищеварением, мыслить в сколько-нибудь существенной степени будет вряд ли. Но вот программа, реализующая более сложные функции человеческой нервной системы, почему бы и нет?

Программа пищу не переварит, потому что алгоритм - это инструкция, текст. А пища - это материя. Грубая, зримая. Но и мозг - это материя, не менее грубая и зримая, а работа мозга принципиально от пищеварения не отличается, разве что сложностью. Даже спайки нейронов - это не дискретный импульс, как в искусственных нейронах. Реальные спайки являются континуальными колебательными процессами и отличаются периодом, амплитудой и формой фазового портрета, индивидуальными у каждого нейрона.

Поэтому, так же, как и остальной организм, мозг - это упорядоченный континуум веществ и химических реакций. Но только много более сложный, чем остальной организм, более неравновесный (а неравновесные системы - целостные, их свойства как целого в принципе невыводимы из свойств их элементов, так как нельзя описать элементы с абсолютной точностью, а нужно только так). В результате отличие от любой вычислительной системы очевидно: там - пошаговые вычисления, цепочка фактически отдельных процессов, тут - самоорганизующийся континуум.

Например, сказанное выше означает, что в построении ИИ придётся заменять недостижимое "качество сложности" естественного интеллекта "количеством простоты" искусственного. Иного пути нет. Ведь свойства целого мозга несводимы к свойствам его элементов, поэтому даже полностью разобрав мозг на части, его работу сколько-нибудь точно понять не получится. И целый мозг глубоко исследовать не выйдет, так как это неравновесная система, предсказания которой принципиально ограничены.

Однако несложно показать, что такой "замены качества количеством" тоже не произойдёт. А пока не произойдёт, самостоятельно ИИ развиваться не сможет - он же другой системы. Поэтому развивать и направлять его всегда придётся нам самим. В результате сложность ИИ всегда будет оставаться в пределах сложности нас самих, не выходя за эти рамки и даже не приближаясь к ним близко.

epros в сообщении #1605138 писал(а):

Конечно несложно, но буду ли услышан? Свобода воли заключается в осознанности ответственности за собственные решения (независимо от того, предсказуемы ли эти решения кем бы то ни было или нет). "Ответственность" не обязательно в смысле следующего за ними поощрения или наказания, а в смысле: "Это решение принял (принимаю сейчас, могу принять в будущем) я". Разумется, у меня свобода воли есть.

Вот таких рассуждений и хотелось бы избежать. Вопрос был в том, есть ли свобода воли объективно, физически. Если всё задано, то, видимо, её нет, а если не задано, то случайный выбор - это всё равно не свобода воли. Как оказалось, ответ можно дать.

[sergey zhukov]

Doctor Boom в сообщении #1605252 писал(а):

я же говорю про всевозможные цели вообще

Ну, может быть. Я, правда, не вижу таких целей. Видимо, совсем уже взгляд зашорен рамками подхода "человек - это машина".

Dicson в сообщении #1605261 писал(а):

В результате сложность ИИ всегда будет оставаться в пределах сложности нас самих, не выходя за эти рамки и даже не приближаясь к ним близко.

Скоро будем ИИ это рассказывать, а он, вероятно, будет поддакивать ""Да откуда у меня сложность, в самом деле? Я такой же простой парень, как и ты, даже еще проще. И близко не приближаюсь. Вот почитай лучше мою книжку "Почему ИИ никогда не превзойдет Человека", там все неоспоримо доказывается".

[epros]

Dicson в сообщении #1605261 писал(а):

Наличие себя подтверждает всё. Даже отрицание себя.

Это Вы в диалектике упражняетесь?

Dicson в сообщении #1605261 писал(а):

По поводу поисков Я, где оно в мозге и так далее, всё настолько очевидно, что я даже не поднимаю эту тему.

Мне не очевидно, поэтому поднимаю.

Dicson в сообщении #1605261 писал(а):

Но если явление связано с бифуркациями, то без абсолютной точности не обойтись.

Строго говоря, никакой "абсолютной" точности нигде не нужно. Большинство этих систем самоорганизованной критичности могут быть промоделированы с конечной точностью, просто это задача слишком большой вычислительной сложности. Так что и понятие "точек бифуркации" там довольно условно. Т.е. если достаточно точно знать место падения очередной песчинки, то можно предсказать, какую именно лавину она вызовет или не вызовет. Но мы изначально ставим условие, что место падения очередной песчинки нам неизвестно, поэтому для нас это "точка бифуркации".

Dicson в сообщении #1605261 писал(а):

Вот это и есть чувствительность, о которой я написал ранее, чувствительность к начальным условиям.

Это Вы ведь про мозг такое говорили? Мне кажется, что Вы сейчас путаете околокритичную систему с далеко сверхритичной. Это в сверхкритичном состоянии (аккуратно сложенный из песчинок кубик) малейшее воздействие вызывает лавину максимального масштаба. Околокритичное состояние довольно устойчиво - посмотрите на пирамиду из песка. Хотя лавины там и случаются, но они большей частью маленькие или их вообще нет, а большие - большая редкость. Мозг здорового человека находится в околокритичном состоянии, так что он тоже довольно устойчив. Так что не думайте, что поведение человека совершенно непредсказуемо, типа: муха пролетела и он вдруг из окна с криком выбросился.

Dicson в сообщении #1605261 писал(а):

Интерпретировать сказанное можно по-разному. Что мышление "не алгоритм", что оно "невычислимо" или что мышление "нельзя выразить никаким языком".

Простите, но это всё - утверждения того, кто не понимает смысла употребляемых им слов: ни слова "алгоритм", ни слова "невычислимо", ни словосочетания "выразимость языком". Потому что ничего такого про нервную деятельность сказать нельзя. Вы себе не представляете, насколько больше по сложности, чем человеческий мозг, могут оказаться некоторые вполне вычислимые задачи. И насколько больше по сложности, чем человеческий мозг, могут оказаться объекты, определяемые на языке с довольно простой грамматикой.

Dicson в сообщении #1605261 писал(а):

Поэтому в вычислительных системах сознанию места нет, из-за чего идея о наличии в них сознания автоматически делает сознание нефизичным, то есть несуществующим.

А вот и неверный вывод, закономерно следующий из рассуждений о вещах, которые сам не понимаешь.

Dicson в сообщении #1605261 писал(а):

Программа пищу не переварит, потому что алгоритм - это инструкция, текст. А пища - это материя.

Вы не прочитали то, что я писал в предыдущем сообщении. Программа, которая управляет устройством для переваривания пищи, "переварит" её точно в таком же смысле, в котором её "переваривает" та часть нервной системы, которая отвечает за регулирование человеческого пищеварения. Можно, конечно, сказать, что не водитель "поворачивает влево или вправо", "тормозит" или "разгоняется", а автомобиль, водитель же только "управляет", но суть от этого не меняется: Результат (куда приедет автомобиль) определяет водитель. Программе ничто не мешает делать с "грубой материей" всё, что угодно, если она подключена к соответствующим исполнительным механизмам.

Dicson в сообщении #1605261 писал(а):

Поэтому развивать и направлять его [ИИ] всегда придётся нам самим.

Вы уже сейчас очень мало что "направляете" в своём компьютере, когда он загружается. Думаю, что Вы на 99.99% даже не понимаете, что там происходит - какие процессы и зачем запускаются. Хотя это далеко ещё не интеллект.

Dicson в сообщении #1605261 писал(а):

В результате сложность ИИ всегда будет оставаться в пределах сложности нас самих, не выходя за эти рамки и даже не приближаясь к ним близко.

Ну-ну, можете продолжать тешить себя этими иллюзиями. Даже после того, как ИИ будет делать за Вас абсолютно всё: и машинами управлять, и в доме всё включать, выключать, убирать и чинить, а также проектировать, строить и запускать космические аппараты для исследований других планет, а на основе собранных данных развивать новые теории об устройстве мира, и ещё Вам кофе в постель подавать. А Вы, глубокомысленно потягивая этот кофе, будете думать: "Но я всё равно сложнее, у меня же такое богатство мыслей в голове. И это всё происходит потому, что это я так правильно направил этот глупый ИИ".

Dicson в сообщении #1605261 писал(а):

Вот таких рассуждений и хотелось бы избежать. Вопрос был в том, есть ли свобода воли объективно, физически. Если всё задано, то, видимо, её нет, а если не задано, то случайный выбор - это всё равно не свобода воли. Как оказалось, ответ можно дать.

Я не понял. Каких рассуждений хотелось бы избежать? Почему бы свободе воли не быть "объективно, физически", если осознание своих решений как раз и происходит "объективно, физически"? С чего бы это "Если всё задано, то, видимо, её нет"? И причём тут случайный выбор? Какой ответ можно дать?

[Dicson]

epros в сообщении #1605360 писал(а):

Это Вы ведь про мозг такое говорили? Мне кажется, что Вы сейчас путаете околокритичную систему с далеко сверхритичной.

То, что вы называете околокритическим состоянием, - это неравновесное состояние. Я уже приводил примеры - ту же песчаную кучу или снежный пласт над обрывом. Ещё лучше пример - шпага, поставленная на остриё, на которую всё сильнее давят сверху так, чтобы её лезвие не изгибалось. В какой-то момент давление станет столь высоким, что даже самое слабое прикосновение к шпаге приведёт к тому, что её лезвие разлетится на кусочки.

Чем сильнее давят, тем выше неравновесие. Чем выше наравновесие, тем выше чувствительность. Чем выше чувствительность, тем сложнее предсказать поведение системы, так как, по сути, приходится учитывать всё более широкий круг явлений, способных повлиять на шпагу. И в точке бифуркации повлиять может всё, поэтому для предсказания нужна теория всего (что полностью аналогично необходимости абсолютно точно знать устройство шпаги, исходя из того, что в точке бифуркации к переходу может привести бесконечно малое изменение параметров системы).

В этом описании видно, что даже в точке бифуркации поведение системы не является случайным, а непосредственно связано со средой. Собственно, поэтому хаос в науке - это детерминированный хаос, поведение системы только выглядит случайным, а не является таковым. Однако так как описать поведение системы в точке бифуркации невозможно, то любая программа, которая будет моделировать поведение такой системы, будет чувствительность реальной системы сильно огрублять. Точнее, не просто сильно, а качественно сильно, учитывая, какой уровень точности описания реальной системы достижим, и какой объём явлений, хотя бы в принципе способных повлиять на реальную систему, остался неучтённым.

Как следствие, поведение программы будет качественно более простым, чем поведение реальной системы. Причём у этой принципиальной простоты есть ещё одно следствие.

Нейрон - это та же шпага из примера. По причине интенсивного обмена со средой его состояние неравновесное, он хаотически генерирует нервные импульсы (любая клетка - это открытая термодинамически неравновесная система, а нейрон - хаотический автоволновой осциллятор). В мозге активность нейронов самоорганизуется на разных ритмах (то есть сам мозг в целом - это тоже открытая термодинамически неравновесная система). Например, чем более интенсивный обмен - в состоянии бодрствования, к примеру - тем ритмическая картина сложнее, богаче. Наоборот, глобальная синхронизация больших популяций нейронов присуща состоянию бездействия или глубокого сна (или патологии), поскольку динамика полностью синхронизированной сети недостаточно сложна для эффективной обработки информации.

Любое изменение ритмической картины - это изменение поведения, мыслей, например, переключение внимания. Изменения происходят в результате бифуркаций. Как уже понятно, модель мозга поэтому может быть только качественно более грубой, что уже ни в какое сравнение с мозгом её не ставит.

Но важно, что эти перестроения, так как они следствие бифуркаций, имеют прямую связь со средой, поэтому самоорганизация происходит не как попало, а именно так, чтобы перестроение помогало эффективнее выводить из системы энергию. А наша программа со средой, по сути, не связана, то есть существует фактически сама по себе. Мы и такие системы, как мы, сами собой развиваемся так, чтобы одновременно усложняться, но при этом быть в состоянии поддерживать эффективный обмен со средой, дающий энергию, в том числе и на развитие тоже. Однако всех возможных путей развития неисчислимо больше, чем тех, которые позволят сохранять баланс со средой, но только все эти пути ведут к разрушению. А наша программа этого баланса в принципе не чувствует.

Этот баланс не только энергетический, его прямым выражением является наше стремление к верным решениям, а не каким попало, потому что только "верное" решение поможет поддерживать оптимальный баланс со средой, то есть, другими словами, поможет повысить качество жизни. Поэтому самостоятельно развиваться такая программа не сможет и с этой точки зрения, у неё нет никакого критерия того, адекватно её поведение или неадекватно, правильно она решила задачу или нет, ей всё равно. В итоге ИИ есть, только пока мы сами непосредственно в его развитии участвуем, и адекватен настолько, насколько участвуем. Другими словами, развитие ИИ возможно только внутри контекста нашего опыта. В морг, значит в морг.

epros в сообщении #1605360 писал(а):

Вы себе не представляете, насколько больше по сложности, чем человеческий мозг, могут оказаться некоторые вполне вычислимые задачи. И насколько больше по сложности, чем человеческий мозг, могут оказаться объекты, определяемые на языке с довольно простой грамматикой.

Вы хотите сказать, что мы можем придумать алгоритм, который сложнее нас? Да, я этого не представляю, поэтому хотелось бы узнать, какие задачи и объекты вы имели в виду.

epros в сообщении #1605360 писал(а):

Почему бы свободе воли не быть "объективно, физически", если осознание своих решений как раз и происходит "объективно, физически"? С чего бы это "Если всё задано, то, видимо, её нет"? И причём тут случайный выбор? Какой ответ можно дать?

Осознание же с чего-то начинается. Активность мозга, связанная с осознанием какого-то решения, не сама по себе возникает. Следовательно, хотя бы в гипотетическом смысле, истоки всего своего поведения, всех мыслей и чувств, можно проследить вплоть до начала мира. Какая же это свобода, если всё было украдено до нас? К тому же такая точная заданность и сама по себе выглядит невероятной. Этому должно быть какое-то объяснение. Такое, которое бы оставило детерминизм, так как даже в точке бифуркации связь со средой есть, и одновременно вывело бы нас (и такие, как мы, явления) за его рамки.

[epros]

Dicson в сообщении #1605466 писал(а):

То, что вы называете околокритическим состоянием, - это неравновесное состояние.

Лучше бы Вы не выдумывали собственные определения понятия, а доверились автору теории. Я же говорю, читайте книжку Пера Бака. Неравновесное состояние - это понятие из термодинамики. Да, конечно же все состояния самоорганизованной критичности - неравновесные, но это - далеко не полное определение самоорганизованной критичности. Неравновесным может быть и состояние множества несвязанных элементов, а самоорганизованная критичность возникает только в системе из взаимосвязанных элементов и только при определённых условиях.

Dicson в сообщении #1605466 писал(а):

Вы хотите сказать, что мы можем придумать алгоритм, который сложнее нас? Да, я этого не представляю, поэтому хотелось бы узнать, какие задачи и объекты вы имели в виду.

Я имел в виду, что, например, на языке арифметики (да даже просто из нулей и единиц) можно определить такое натуральное число, что это определение потребует эксабайтов информационного пространства для записи. Причём его никак не удастся сократить трюками типа записи $9^{9^9}$. Код алгоритма тоже может занимать такие объёмы информационного пространства. И это далеко превосходит то количество информации, которое может быть записано в состояниях нейронов и синапсов человеческого мозга. Разумеется, мы руками не сможем набить такой код. Однако он может образоваться и сам, если, например, речь идёт о мощной искусственной нейросети. В начальном состоянии, созданном нашими руками, она может занимать совсем небольшой объём, но после обучения - дорасти до тех самых эксабайт. И это будет не просто шум, а полезная информация, которая позволит ИИ выполнять всё то, о чём я писал:

epros в сообщении #1605360 писал(а):

и машинами управлять, и в доме всё включать, выключать, убирать и чинить, а также проектировать, строить и запускать космические аппараты для исследований других планет, а на основе собранных данных развивать новые теории об устройстве мира, и ещё Вам кофе в постель подавать

Dicson в сообщении #1605466 писал(а):

Активность мозга, связанная с осознанием какого-то решения, не сама по себе возникает. Следовательно, хотя бы в гипотетическом смысле, истоки всего своего поведения, всех мыслей и чувств, можно проследить вплоть до начала мира. Какая же это свобода, если всё было украдено до нас?

Я же говорю, что все недоразумения в вопросе существования свободы воли происходят из-за того, что философы не следуют строгому определению понятия. Вот такая это и будет вполне нормальная свобода воли, независимая от предсказуемости Ваших решений кем бы то ни было. Ибо Вам-то какая разница, может ли какой-то наблюдающий за Вами со стороны супермозг предсказать Ваши решения, если Вы всё равно осознаёте их как Ваши и не сомневатетесь в возможности их изменить?