Очередной спор о сравнении ИИ с естественным интеллектом

[a.tom]

ozheredov в сообщении #1593962 писал(а):

А вот еще парадокс: шел дождь и два студента: один в пальто, другой в кино. Но ежели кто-то куда-то пошел, он должен непременно оттуда вернуться (не надо никаких навеянных коннотаций, ок?). То, что второй студент вернулся из кина, а первый (возможно!) из пальта -- понятно. Но откуда вернулся дождь?

Тут парадокс возникает от того, как составлено предложение. Его можно всегда переформулировать по-другому.
Парадокс лжеца - я лгу - пропадает, если сказать "я солгал". Становится понятно, что ложь была высказана ранее. Так что надо вроде бы просто точнее формулировать.

ozheredov в сообщении #1593962 писал(а):

В общем, все "парадоксы теории сознания" основаны на выходе за узкие рамки интуитивно подразумеваемых обывателем лексических значений некоторых слов.

Это "интуитивно подразумеваемое" не есть ли понимание, когда ты не только знаком со словами, но и с тем, что под ними подразумевают. Вот этого понимания пока нет у ИИ. Про это я и говорю о сознании, как о союзе феноменальной системы и когнитивной (Нед Блок разделил вроде бы). Феноменальная связана с конкретным опытом, а когнитивная с описаниями, осознанием, осмыслением. Трудная проблема и психофизиологическая "упираются" в наличие феноменального опыта и одновременно в невозможность его объяснить стандартными механизмами физикализма.

[talash]

ozheredov в сообщении #1593962 писал(а):

Что это за понятие такое кот? Почему его не уточняют? Почему не разрабатывают объективные критерии, чтобы можно было оценить "кото-вость" конкретного кота у меня в подъезде?

"Кото-вость кота" и "AGI-ность AI", разницу видите? Можете сформулировать более точную аналогию? А то мысль непонятна.

ozheredov в сообщении #1593962 писал(а):

Ответ: это предмет соглашения

Что за соглашение, кто участвует, где прописано?

[druggist]

a.tom в сообщении #1593967 писал(а):

Про это я и говорю о сознании, как о союзе феноменальной системы и когнитивной (Нед Блок разделил вроде бы). Феноменальная связана с конкретным опытом, а когнитивная с описаниями, осознанием, осмыслением.

Известная идея, см., например,:
https://www.youtube.com/watch?v=-A-Zodcbxvs
или более раннее:
https://gtmarket.ru/library/basis/6567/6568

[a.tom]

druggist в сообщении #1593979 писал(а):

Известная идея

Спасибо за ссылки, но всё же желательно давать временную метку или цитату из текста, на которые ссылаетесь. Представляете, если бы я дал ссылку на мнение Анохина о философии без временной метки? И что, смотреть всю лекцию? Неудобно и долго. Но видео посмотрел.
Эта идея известна давно, но вот в статье о Неде Блоке написано: Нед Блок

Цитата:

В своей более поздней работе о сознании он провел различие между феноменальным сознанием и сознанием доступа, где феноменальное сознание состоит из субъективного опыта и чувств, а сознание доступа состоит из той информации, которая глобально доступна в когнитивной системе для целей рассуждения, речи и управления действиями высокого уровня.

Я называю это немного по-другому, феноменальная система и когнитивная система сознания. Т.е. сознание одно, а систем две. И назвал так ещё не зная работ Неда Блока. Основной упор я всё же делаю не на это деление, а на то как могла бы работать феноменальная система. С когнитивной вопросов сильных нет (это простая проблема сознания), а вот как возникают качества ощущений - цвет, звук, боль и т.д. - каким образом они возможны, откуда берутся - вот это сложная проблема.

Я склоняюсь последнее время к панквалитизму, который утверждает, что некоторые протофеноменальные свойства лежат в фундаменте реальности, т.е. каким-то образом они могут быть вписаны и в физические теории. Чтобы показать возможность этого пришлось бы взять некое качество и вписать его, не пятым колесом и ненужным довеском, а как часть физической картины. Панквалитизм дальше своего гипотетического предположения не пошёл, не привёл пример такой фундаментальности, а я попытался.
Для этого пришлось найти несколько аргументов.

1. Если вы знакомы с бихевиоризмом, то знаете его слабости. В современных физических теориях есть схожая с бихевиористским подходом черта - все они описывают поведение частиц, полей, свойств, взаимодействий от третьего лица. При этом никогда не раскрывается носитель, который обеспечивает все эти свойства, поведение, взаимодействия. Есть нечто, что должно было бы быть раскрыто - внутренняя природа материи, если позволите так выразиться. ЧТО такое существует, и КАК, что приводит к таким свойствам. Это очень схоже с трудной проблемой сознания: есть существо, которое ведёт себя так-то и действует так-то, но есть его внутренняя природа, которая всё это обеспечивает, но она не показана. Ни там, ни там не раскрыта внутренняя природа, и может это то, за что стоит ухватиться.

2. Гипотеза о существовании. Для того, чтобы существовать, независимо от того есть мы или нас нет, должен быть некоторый носитель, который будет осуществлять реальность. Если нам не врут органы чувств (зрения) и когнитивная система, то то что есть в наличии - это существование протяжённое. Т.е. материя имеет протяжение. Однако протяжения самого по себе не хватает для того, чтобы что-то существовало. Попробуйте на белой доске выразить существование чего-либо протяжённого. Вам придётся сделать это контрастно, с той целью, чтобы определить это существующее, показать его идентичность, и для того, чтобы отличить его от другого. Одного протяжения не хватает - должно быть протяжение ЧЕГО-ТО, и ЧТО же это, что имеет протяжение? Цвет является корнем трудной проблемы сознания, и он нужен для выражения независимого существования. Использование цвета в качестве фундаментального внутреннего свойства материи даёт тем самым решение трудной проблемы сознания - те цвета, что мы видим, есть внутреннее свойство образующей нас материи, а потому он может являться нашим внутренним свойством и свойством нашей субъективной картины. Так становится ясно происхождение ментального видения цвета.

Чтобы доказать возможность такого, необходимо посмотреть, а нельзя ли вписать цвет в физические теории так, чтобы он стал тем носителем свойств, которые проявляются и ничего при этом не испортил. Это краткая программа исследований.

А тут про то, чем там Анохин с Черниговской в Индии занимаются: У пчел есть свой "язык", "счет" и, вероятно, сознание, заявили ученые

[Doctor Boom]

ozheredov в сообщении #1593962 писал(а):

Но откуда вернулся дождь? В общем, все "парадоксы теории сознания" основаны на выходе за узкие рамки интуитивно подразумеваемых обывателем лексических значений некоторых слов.

Покажите

ozheredov в сообщении #1593962 писал(а):

Возмите понравившуюся Вам математическую модель головного мозга, определите в ее рамках понимание события, состоящего в осознании выхода собственного Я в астрал из комнаты А/В, и докажите, что в рамках данной модели задача не имеет решения/имеет множество решений.

Я уже показал, что если взять кондовую, принимаемую по умолчанию материалистическую модель по отношению к сознанию, то она будет противоречива, т.к. непоследовательна. Т.е. мы как статус кво принимаем, что сепульки желтые, а шмырики красные, хотя из нашей по умолчанию модели можно вывести, что если сепульки желтые, то и шмырики должны быть желтые, а если шмырики красные, то и сепульки должны быть красные. Если такой способ рассуждения, приведший к этому, неверен, то надо показать, как наша изначальная модель его запрещает, иначе она не полна, надо вводить новые правила, аксиомы. В данном случае парадокс с комнатой разрешается, если ввести сущность Ы, которая отвечает за то, что мы себя ощущаем именно в этой ЦНС, а не в другой. Можно назвать ее условно душой (или невычислительным объективным коллапсом, если по Пенроузу, или когерентными квантовыми колебаниями в нейронах, если по Пирсу)

-- 15.05.2023, 19:27 --

ozheredov в сообщении #1593962 писал(а):

В противном случае, получатся рассуждения геймера о том, как устроены компьютерные игры в терминах "Там дракон в замке, я туда пошел, встретил на дороге прынцессу и т.п.". Такое описание вполне валидно, до тех пор пока софт и железо функционирует нормально, философы же пытаются описать поведение внутриигрового мира, происходящее при сбоях железа и/или софта, и сделать это исключительно во внутриигровых терминах.

Как раз это я показываю, что у вас размышления как у геймера, точнее та база, что и у него, просто вы даже и не размышляли, я за вас это сделал)

ozheredov в сообщении #1593962 писал(а):

Например, я во сне очнь часто чувствую себя одновременно несколькими людьми (причем включая женщин). Еще пример: у меня была девушка Катя (кстати, с психфака МГУ), которая лет в 16 попробовала Эл*Эс*Дэ (это не LCD). Причем делала это "по уму", под присмотром подруги, потому что как знала, что снесет крышу. Так вот, у нее как бы образовалась вторая личность, которая (внимание!) захотела уничтожить основную. И эта вторая (агрессивная) личность получила доступ к управлению телом, предолжив последнему полетать, и вот картина маслом: Катя активно лезет на подоконник, сопротивляясь (а она была и есть весьма неслабая девочка) попыткам подруги ее остановить, и при этом плачет и орет "Маша, спаси меня... (от меня??)

Это не множественность Я, а множественность личностей/идентичностей

ozheredov в сообщении #1593962 писал(а):

Скорее всего, мы говорим о существовании и единственности Я, пока на нашей ЦНС, как на сервере, запущен бесконечный цикл самосогласованной и непротиворечивой рефлексии (Я был, вот моя история, вот текущая ситуация, вот мои планы и хотелки). В других случаях, очевидно, человек может чувствовать себя как одновременно многими, так и никем.

Никем себя чувствовать невозможно, потому что некому чувствовать) Пока мы есть, смерти нет, когда смерть пришла, то нас уже нет
Аналогично с множественностью

[diletto]

Doctor Boom в сообщении #1593837 писал(а):

Я являюсь сторонником единственности Я, хотя допускаю, что возможны такие мысленные эксперименты, из которых наше Я как бы раздваивается, чтобы это ни значило. ИМХО это тоже было бы свидетельством противоречивости таких моделей, в которых это возможно, правда аргументация этого была бы слабее (если мы что-то себе не можем представить, то не всегда это значит, что это невозможно). Но в моем эксперименте я этот момент обхожу и демонстрирую противоречие явным образом. Тут у нас материалистическая модель не утверждает, что раздваивается изначально сознание, а то что изначальное сознание при одних способах рассуждения может попасть в одно место, а в других в другое. Имеем явное противоречие. А копия всегда остается отдельно

Два полученных Доуэля НЕ являют собою единое "я", т.е. не знают друг о друге, не могут быть использованы для передачи информации со сверхсветовой скоростью и т.д.
Повторю, что ситуация полностью аналогична делению амёбы, после которого экспериментатор рассаживает дочерние клетки - одну в летальные условия, другую в благоприятные - и задаётся вопросом, погибла ли амёба.

[Mihaylo]

a.tom в сообщении #1593986 писал(а):

Это очень схоже с трудной проблемой сознания: есть существо, которое ведёт себя так-то и действует так-то, но есть его внутренняя природа, которая всё это обеспечивает, но она не показана. Ни там, ни там не раскрыта внутренняя природа, и может это то, за что стоит ухватиться.

С точки зрения практики, требуется предсказывать поведение (реальное проявление). Если вы делаете это успешно, это означает, что вы уловили суть (понимаете), как работает объект внутри. Это концепция и путь датасайенса. Это доказано практикой.
А в философии нет работающих концепций, зря там роетесь.

-- 15.05.2023, 22:30 --

talash в сообщении #1593959 писал(а):

Давайте накатимся на AGI. Вот я уже 4 года состою в чате AGIRussia. Там 838 членов на данный момент. Наверняка аналогичные тусовки, ещё более многочисленные, есть и в англоязычном сегменте.

А в датасайенсе уже десятки тысяч специалистов зарабатывают большие деньги.
При этом я знаю эти AGI-тусовки... Это же философы чистой воды.

-- 15.05.2023, 22:32 --

a.tom в сообщении #1593986 писал(а):

А тут про то, чем там Анохин с Черниговской в Индии занимаются

Это два шарлатана, известно чем они занимаются - эзотерикой.

[diletto]

need_to_learn в сообщении #1593833 писал(а):

Это на взгляд извне. Но с точки зрения субъективного опыта разве может человек очнуться в двух головах сразу? Для самого индивида его "я" всегда единственное.

Человек не очнётся в двух головах сразу. Очнутся два одинаковых человека с одинаковым прошлым субъективным опытом. А будущий их субъективный опыт окажется различен.

-- 15.05.2023, 21:48 --

Mikhail_K в сообщении #1593842 писал(а):

Сложно представить себе, как вместо одного "я" могут появиться два "я". Но ничуть не сложнее, чем представить себе смерть - исчезновение своего "я".

Действительно, хороший пример.

[ozheredov]

a.tom в сообщении #1593967 писал(а):

надо вроде бы просто точнее формулировать

Все формулировки и вся Я-кость (also called as "самосознание") -- части геймплея компьютерной игрушечки, запущенной на ансамбле серверов под названием "популяция человеков". И поэтому ни в каких философских рассуждениях Вы не сможете выйти за пределы доступной для понимания пользователя логики функционирования этой игрушечки. Точно так же, как в рамках логики игрового процесса невозможно объяснить, почему из замка взяла и просто так исчезла принцесса, когда в момент сохранения игры на жесткий диск внезапно вырубилось электричество. Более того, нельзя логически объяснить даже некоторые нюансы якобы нормального функционирования игры. Например, в ней не поощряется воровство, однако Персонаж А никак не реагирует, даже если воруют у него под носом. Для объяснения этого "парадокса" надо привлекать понития бага скрипта, т.е. выходить из "плоскости" игры в трехмерное пространство, где принцессы, замки, путешествия и т.д. являются частью абстрактного интерфейса, а "на самом деле" сущетсвуют транзисторы, программные модули, стек вызовов и т.д.

a.tom в сообщении #1593967 писал(а):

Феноменальная связана с конкретным опытом, а когнитивная с описаниями, осознанием, осмыслением. Трудная проблема и психофизиологическая "упираются" в наличие феноменального опыта и одновременно в невозможность его объяснить стандартными механизмами физикализма.

Если Вы утверждаете, что далеко не весь опыт можно описать СЛОВАМИ, осознать так, чтобы можно было рассказать СЛОВАМИ и осмыслить в СЛОВЕСНУЮ концепцию, то я как бы согласен и это тривиальный факт (под СЛОВАМИ если че я подразумеваю строки конечной длины над любым алфавитом). Но механизмы физикализма не сводятся к СЛОВАМ -- они сводятся к сигналам, а с этим у ИИ все норм (камеры, лидары, направленные микрофоны и тензодатчики в помощь). Да, Large Language Models типа GPT/BERT в стороне, ну так и ок как бы.

-- 15.05.2023, 21:45 --

talash в сообщении #1593971 писал(а):

"Кото-вость кота" и "AGI-ность AI", разницу видите?

Если Вы не видите, то и я, так и быть, тоже.

talash в сообщении #1593971 писал(а):

Что за соглашение, кто участвует, где прописано?

Там же, где определение "что такое кот" (не с точки зрения биологического вида, ДНК и прочей биоинформационной зауми, а с точки зрения "Я люблю котов ==> кто-то сидит на дороге ==> я вижу, что это кот ==> погладил!")

[Doctor Boom]

diletto в сообщении #1594010 писал(а):

Два полученных Доуэля НЕ являют собою единое "я", т.е. не знают друг о друге, не могут быть использованы для передачи информации со сверхсветовой скоростью и т.д.

Ну да, имеем два единых Я, причем одно из них старое, а другое новое

diletto в сообщении #1594010 писал(а):

Повторю, что ситуация полностью аналогична делению амёбы, после которого экспериментатор рассаживает дочерние клетки - одну в летальные условия, другую в благоприятные - и задаётся вопросом, погибла ли амёба.

Так вот в случае голов Доуэля этот неудобный момент обходится на уровне формулировки. Если взять другой мысленный эксперимент, который изоморфен ситуации с амебами, то будут и другие вопросы. Как я уже и говорил, тут можно предложить два решения, первое что изначальное сознание раздвоиться не может, а унаследуется в одну из копий, второе, что оно в прямом смысле развоится, чтобы это ни значило

[a.tom]

ozheredov в сообщении #1594022 писал(а):

Если Вы утверждаете, что далеко не весь опыт можно описать СЛОВАМИ, осознать так, чтобы можно было рассказать СЛОВАМИ и осмыслить в СЛОВЕСНУЮ концепцию, то я как бы согласен и это тривиальный факт (под СЛОВАМИ если че я подразумеваю строки конечной длины над любым алфавитом). Но механизмы физикализма не сводятся к СЛОВАМ -- они сводятся к сигналам, а с этим у ИИ все норм (камеры, лидары, направленные микрофоны и тензодатчики в помощь)

Ну как бы да, к словам не сводятся, почему мы все свои дальнейшие рассуждения проводили в образном виде - в виде окрашенного (система цвета) протяжения (трёх видов), плюс закон сохранения, высказанный ранее, который выражается как $0\Rightarrow1-1$. Назвали это образной моделью.

И теперь насчёт механизмов физикализма, которые сводятся к сигналам. Если в процессе передачи происходит перекодировка качественных характеристик в количественные, то сигнал-код уже есть иносказание о чём-то, а совсем не то самое, что было в начале. ИИ принимает множество сигналов, но все они в итоге перекодируются так, что теряются качества - цвета превращаются в код, звук в код и т.д.. Безусловно, искусственные нейросети умеют различать изображения на фото и видео, слова на аудиозаписи и т.д., но делается это на основании расчётов, которые базируются на коде без качеств. Может быть отсюда такая неэффективность их по сравнению с мозгом по потреблению энергии (мозг - около 30 Вт, а сложные искусственные нейросети - мегаватты) - то, что выражается напрямую качествами занимает одно значение, а при переведении его в код, огромные массивы.

Однако можно с уверенностью сказать, что что-то мы уловили верно, и эти ИНС способны выдавать неплохой результат. Но те ИНС, что распознают изображения, обманывают подмешав на картинку пиксели, которые человек и не заметит. Значит, несмотря на некоторые успехи, что-то здесь ещё не то.

[Doctor Boom]

diletto в сообщении #1594016 писал(а):

Человек не очнётся в двух головах сразу. Очнутся два одинаковых человека с одинаковым прошлым субъективным опытом. А будущий их субъективный опыт окажется различен.

А где в этой картине изначальный человек, т.е. вы?

diletto в сообщении #1594016 писал(а):

Действительно, хороший пример

Плохой пример, потомы что мы не можем представить отсутствие Я) На самом деле наше Я (сущность Ы, см. выше) не только изначально неделимо, но и бессмертно, т.к. в случае смерти просто переходит на околонулевой уровень осознанности, который может обратно стать ненулевым

[ozheredov]

Doctor Boom в сообщении #1594003 писал(а):

Я уже показал, что если взять кондовую, принимаемую по умолчанию материалистическую модель по отношению к сознанию, то она будет противоречива, т.к. непоследовательна.

Нет никакой модели, есть набор разрозненных утверждений в рамках обывательского экспириенса. Типа """"модели""" функционирования ОС с точки зрения обычного пользователя: на столе стоят иконки, их можно двигать, можно заставить их постукиванием делать некие вещи -- скажем, достать из закромов лист бумаги, на котором можно писать (Word). Ну загнали Вы эту """модель""" в угол (или не загнали -- эксперимента то все равно нет...)

Doctor Boom в сообщении #1594003 писал(а):

В данном случае парадокс с комнатой разрешается, если ввести сущность Ы, которая отвечает за то, что мы себя ощущаем именно в этой ЦНС, а не в другой.

Кто такие Мы(Я)? Лично мне кажется, что ощущение себя именно в этой ЦНС -- очень сложный процесс наподобие функционирования ОС на компьютере, связанный с глубокой самодиагностикой и выработкой стратегии поведения, адаптировнной к текущему и к прогнозируемому состоянию организма. Этот процесс имеет место только тогда, когда все устройства работают нормально, соответственно его очень легко разрушить (стрессом, наркотой (см. мой пример), болезнью и т.д.).

Doctor Boom в сообщении #1594003 писал(а):

Никем себя чувствовать невозможно, потому что некому чувствовать)

В обычных условиях -- да. Но вы хотите выйти за их рамки, а там подобные рассуждения неприменимы.

-- 15.05.2023, 22:17 --

a.tom в сообщении #1594033 писал(а):

Если в процессе передачи происходит перекодировка качественных характеристик в количественные, то сигнал-код уже есть иносказание о чём-то, а совсем не то самое, что было в начале. ИИ принимает множество сигналов, но все они в итоге перекодируются так, что теряются качества - цвета превращаются в код, звук в код и т.д..

Вы утверждаете, что человеческое зрение не сводится к попаданию фотонов на рецептор, химической реакции ферментов рецептора и возникновению сигнала деполяризации на аксоне? Вы утверждаете, что от наблюдаемого объекта в глаз попадает цветовая квалиа, которую способен детектировать человек и не способна детектировать матрица фотокамеры?

[a.tom]

ozheredov в сообщении #1594035 писал(а):

Вы утверждаете, что человеческое зрение не сводится к попаданию фотонов на рецептор, химической реакции ферментов рецептора и возникновению сигнала деполяризации на аксоне? Вы утверждаете, что от наблюдаемого объекта в глаз попадает цветовая квалиа, которую способен детектировать человек и не способна детектировать матрица фотокамеры?

Нет, я здесь больше не об этом. Я об разрастании вычислений, связанным с преобразованием в код.Ну вот посмотрите различие на примере одной линии, например, от красного детектора на сетчатке, до предполагаемого воспроизводящего элемента в мозге, который вызывает переживаемое нами ощущение красного. В глаз попали фотоны и были преобразованы в импульсы; яркость красного кодируется частотой импульсов, что и преобразовывается потом в субъективный опыт. Один "провод" с переменной частотой импульсов.
А что в компьютере? Попали фотоны на светочувствительный пиксель красного, преобразовались в код (32 бита или другое), пошли в обработку. В зависимости от того, какая там сеть, свёрточная или комбинация с полносвязной, или ещё чего - всё это огромные вычисления, даже если битность сбавить. При этом сам входной сигнал может уже и не всплывёт больше, если только за этими процессами не наблюдает человек - не нужен он сейчас.
А что касается качественных характеристик, то они безусловно теряются и самой ИНС однозначно недоступны. Ей доступен только код, обрабатывая который, она всё же умудряется достигать некоторых результатов.

[diletto]

Doctor Boom в сообщении #1594034 писал(а):

А где в этой картине изначальный человек, т.е. вы?

Там же, где изначальная амёба до акта деления.
Вот могу ещё так сформулировать: мы ставим эксперимент с комнатами, в котором используем меня в качестве наблюдателя. Но я не могу знать своё будущее. Задайте мне вопрос о том, где я очнулся, по завершении эксперимента!

-- 15.05.2023, 23:37 --

Doctor Boom в сообщении #1594034 писал(а):

Плохой пример, потомы что мы не можем представить отсутствие Я) На самом деле наше Я (сущность Ы, см. выше) не только изначально неделимо, но и бессмертно, т.к. в случае смерти просто переходит на околонулевой уровень осознанности, который может обратно стать ненулевым

"На самом деле"... И какой же эксперимент это надёжно подтвердил?