Может ли машина мыслить?

[realeugene]

alesha_popovich в сообщении #1657211 писал(а):

Поскольку, ответить на вопрос, какие субъективные переживания сейчас переносит тот или иной субъект, и переносит ли их вообще, или является зомби, может только сам этот субъект.

Субъективные переживания - это работа рептильного мозга?

Именно эмоции отличают человека от зомби по этому определению?

[alesha_popovich]

realeugene в сообщении #1657627 писал(а):

Субъективные переживания - это работа рептильного мозга?

Понятия не имею, чья это работа. В этом должны разбираться многократно упоминавшиеся в этой теме психологи и прочие специалисты. Но опять же, важно понимать, что они смогут определить, а что - нет. Установить источник внешних проявлений субъективных переживаний - вполне возможно. Насколько знаю, центры эмоций например в мозге давно уже найдены. А вот установить, имеет ли для конкретного субъекта субъективное переживание, или он действует как зомби по "алгоритмам", ничего в реальности субеъктивно не ощущая - на этот вопрос научно ответить невозможно принципиально.

realeugene в сообщении #1657627 писал(а):

Именно эмоции отличают человека от зомби по этому определению?

Нет конечно. Эмоции тоже могут вполне быть алгоритмическими проявлениями. То, что за ними стоит какое-то субъективное переживание субъекта - установить невозможно.

-- 06.10.2024, 17:55 --

Вообще, кажется, что в этой теме наблюдается типичная для обсуждения обывателей с учёными пропасть в понимании используемых терминов. Философы уже наверняка договорились внутри себя, что они исследуют внешние проявления мышления, сознания, самосознания, субъективных переживаний, и т.д. Ну я по крайней мере надеюсь, что договорились. Иначе грошь цена этим философам, если они не могут отличить субъективные переживания от их внешних проявления для отличных от самого субъекта наблюдателей. Так что буду считать философов разумными людьми.
Договорились они об этом и теперь говорят "самоосознание", а имеют в виду - внешние проявления самосознания. Отсюда и уравнивание зеркального эксперимента с самоосознанием. Хотя очевидно, ни один эксперимент не может установить наличие самоосознания - только его внешних проявлений. Но т.к. с практической точки зрения это не очень важно, то на этом и успокоились.

[realeugene]

alesha_popovich в сообщении #1657633 писал(а):

Эмоции тоже могут вполне быть алгоритмическими проявлениями. То, что за ними стоит какое-то субъективное переживание субъекта - установить невозможно.

Вы знаете, все эти рассуждения про "субъективные переживания" и их отличие от "алгоритмических проявлений" выглядят как перефразирование религиозных историй про душу, наличие которой отличает живого человека от неживого. Я же считаю, что функционирование человека в целом и частями полностью определяется законами физики, наследственностью и внешним опытом. Никакой нефизичной божественной души нет. Так что, все субъективные переживания можно считать алгоритмическими проявлениями, с поправкой на то, что физический мир, по всей видимости, не вычислим. Но его динамика подчиняется физическим законам, в том числе, в части существования истинно случайных процессов.

-- 06.10.2024, 17:19 --

alesha_popovich в сообщении #1657633 писал(а):

на этот вопрос научно ответить невозможно принципиально.

Ещё один признак того, что речь тут идёт про религию.

[b4b5]

Mikhail_K в сообщении #1657417 писал(а):

Serg53 в сообщении #1657404 писал(а):

Цифровая вычислительная машина (компьютер) может имитировать процессы мышления, и в некоторых видах такой имитации достигла значительных успехов, но делает это неосознанно

Скорее всего да, но считать это совершенно очевидным я бы не стал. Отличается ли хорошая "имитация мышления" чем-нибудь от "настоящего мышления", возможна ли такая имитация без "настоящего мышления" (или, может быть, "настоящее мышление" в ней запускается само собой, как только она достигла необходимого уровня), и есть ли вообще смысл в данных вопросах - не очевидно.

Зависит от того, что является мышлением. Я не вижу препятствий.

-- 06.10.2024, 19:50 --

realeugene в сообщении #1657516 писал(а):

Нет ничего кроме моделей. Всё человеческое знание об окружающем мире - только его модели

В этом ключ.

-- 06.10.2024, 19:54 --

Ghost_of_past в сообщении #1657526 писал(а):

Нет конечно. Гарри Поттер как литературный персонаж существует интерсубъективно в человеческой культуре и субъективно в психике отдельных людей. Если завтра все люди, знающие об этом литературном персонаже, книги, онлайн-форумы про ГП и т.п. исчезнут, то абстракция прекратит свое существование.

Неверно. ГП существует столь же объективно, также как и круги на воде, как и конкретный кристалл.
Для понимания этого надо правильно понять (дать определение), что такое существование такого уровня.

[alesha_popovich]

realeugene в сообщении #1657637 писал(а):

Вы знаете, все эти рассуждения про "субъективные переживания" и их отличие от "алгоритмических проявлений" выглядят как перефразирование религиозных историй про душу, наличие которой отличает живого человека от неживого.

Не понимаю, с чего вы это взяли, где вы тут душу нашли. Никакой души не требуется. Мышление, сознание, самоосознание и всё, что с этим связано, несомненно образуется в мозге и никакая душа для этого не требуется. Однако же, всё это никак не отменяет того, что невозможно поставить эксперимент, который покажет, существует ли у конкретного человека субъективное переживание или он зомби, какого характера это переживание, если оно существует, похожи ли переживания двух разных людей между собой и т.д. Можно лишь сравнить внешние проявления и из этого заключить, что и переживания одинаковы или похожи, но для этого придётся принять постулат о том, что человек не может являться зомби. Сам постулат придётся принять на веру.
Если вы считаете, что такой эксперимент поставить можно, буду рад почитать. Сам я такой возможности не вижу.

-- 06.10.2024, 22:25 --

b4b5 в сообщении #1657651 писал(а):

ГП существует столь же объективно, также как и круги на воде, как и конкретный кристалл.

Круги на воде или кристалл можно увидеть и даже потрогать. Где можно увидеть или потрогать ГП?

[realeugene]

alesha_popovich в сообщении #1657661 писал(а):

Однако же, всё это никак не отменяет того, что невозможно поставить эксперимент, который покажет, существует ли у конкретного человека субъективное переживание или он зомби

Подобные рассуждения мне представляются полнейшей философской глупостью. Знание - это то, что позволяет предсказывать будущее. Если две теории не эквивалентны, то они дают различные предсказания, и можно поставить эксперимент, их различающий. Если такой эксперимент поставить нельзя, и теории предсказывают одни и те же наблюдения - то теории эквивалентны. Из этого следует, что если вы не можете поставить эксперимент, отличающий человека от зомби, значит, люди и зомби - это одно и то же. Вы можете всех считать людьми, вы можете себя считать человеком, а окружающих - зомби, вы можете себя считать зомби, а окружающих - людьми, или же вы всех можете считать зомби - да пофиг, как вам нравится - так и считайте, всё равно это ни на что не влияет.

-- 07.10.2024, 01:09 --

alesha_popovich в сообщении #1657661 писал(а):

Где можно увидеть или потрогать ГП?

В кинотеатре?

[epros]

alesha_popovich в сообщении #1657626 писал(а):

Что, конечно же, не мешает ему говорить всем, что такое самоощущение у него есть, ибо так заложено в его зомби-механизме.

Не вижу отличий от человека.

alesha_popovich в сообщении #1657626 писал(а):

Понимание дорожной обстановки и того, чего от него хочет пользователь, у него конечно должно быть. Но самоосознание для этого не нужно.

А если мы спросим его мнения о преимуществах того или иного маршрута и он окажется способен его выразить? Тот факт, что он способен иметь мнение и при этом отличает своё мнение от мнений других субъектов, разве не будет говорить о наличии самосознания?

[alesha_popovich]

realeugene в сообщении #1657674 писал(а):

В кинотеатре?

В кинотеатре можно увидеть видеозапись человека, которая, который говорит, что его зовут Гарри Поттер. Таки есть некоторая разница с тем, чтобы взять и потрогать на кухне реальный кристалл соли, не находите?

epros в сообщении #1657695 писал(а):

Не вижу отличий от человека.

Я тоже. К человеку это относится в полной мере.

epros в сообщении #1657695 писал(а):

А если мы спросим его мнения о преимуществах того или иного маршрута и он окажется способен его выразить? Тот факт, что он способен иметь мнение и при этом отличает своё мнение от мнений других субъектов, разве не будет говорить о наличии самосознания?

Обычный дорожный навигатор тоже может вам рассказать о преимуществах того или иного маршрута, и плевать ему на ваше мнение на этот счёт. Значит ли это, что у навигатора есть самосознание?

-- 07.10.2024, 12:15 --

realeugene в сообщении #1657674 писал(а):

Из этого следует, что если вы не можете поставить эксперимент, отличающий человека от зомби, значит, люди и зомби - это одно и то же.

Одно и то же для сторонних наблюдателей, но не для самого самоосознающего субъекта, который не зомби. А для зомби - всё равно, да. На то он и зомби. Но вот каким экспериментом можно отличить одного от другого, я не вижу как возможно.

[warlock66613]

realeugene в сообщении #1657477 писал(а):

Вероятности не более абстракции, чем число яблок на столе или вес бочки с водой.

Это очень сильное утверждение, но совершенно недоказанное. Потому что что вообще такое вероятность -- неизвестно, это открытая философская проблема.

[epros]

alesha_popovich в сообщении #1657714 писал(а):

epros в сообщении #1657695 писал(а):

Не вижу отличий от человека.

Я тоже. К человеку это относится в полной мере.

Значит "зомби" - это просто другое слово для обозначения человека?

alesha_popovich в сообщении #1657714 писал(а):

Обычный дорожный навигатор тоже может вам рассказать о преимуществах того или иного маршрута, и плевать ему на ваше мнение на этот счёт. Значит ли это, что у навигатора есть самосознание?

Обычный навигатор (я пользуюсь яндексом, может быть другие умеют что-то ещё) только строит несколько вариантов маршрута, исходя из указанных ему предпочтений: по времени или по расстоянию. Он не умеет обсуждать мнения и, в частности, сравнивать своё с Вашим. А если будет уметь, то разве это уже не самосознание?

warlock66613 в сообщении #1657715 писал(а):

что вообще такое вероятность -- неизвестно, это открытая философская проблема.

Предлагаю закрыть все открытые философские проблемы. Ибо про вероятность, например, известно, что чисто математически она - мера. А разве что-то ещё нужно?

[Mikhail_K]

realeugene
epros
Ваша позиция по этой проблеме довольно понятна, но столь же понятно, что с оппонентами вы не найдёте общего языка.
Мне вполне понятна и противоположная позиция. Но у вас не будет понимания, так как нет желания понять оппонентов.
Стоит лишь констатировать, что есть много людей, железобетонно уверенных в одной позиции, много людей, железобетонно уверенных в другой, и много людей, которые тут ни в чём не уверены. Консенсуса по этому вопросу нет. В том числе среди научного сообщества.

[warlock66613]

epros в сообщении #1657725 писал(а):

А разве что-то ещё нужно?

Да. Например, любое полезное применение вероятности в физике (да и не только в физике) основывается на принципе Курно: "события с достаточно малой вероятностью не происходят никогда". Каково обоснование этого принципа? Почему в статистической физике мы получаем столь хорошее согласование с экспериментами, постулируя равновероятность микросостояний и что будет, если вместо этого постулировать иную вероятностную меру?

[Yadryara]

Сколько можно?! Опять про зомбей?
Даже Бот знает рифму: ... !

[Ghost_of_past]

Sender в сообщении #1657608 писал(а):

Ну то есть единственное объективно существующее отличие двойных звёзд от одиночных находится в наших ЦНС

Уточните, о чем идет речь: о существовании самом по себе или о нашем познании этого существования? Если последнее, то конечно отличие как психический образ находится в наших ЦНС - все психические образы находятся в наших ЦНС, и уже оттуда могут быть осмыслены в культуре через вторичную репрезентацию (привет Бодрийяру с его концепцией культурной симуляции и теорией симулякров разных уровней/фаз развития симуляции образа).

realeugene в сообщении #1657610 писал(а):

Да, противоречиво, но как это опровергает утверждение, что человек, представляющий себя смотрящим на Вселенную как-то снаружи этой Вселенной, воображает себя богом, и это совершенно напрасно?

Никак не опровергает, а прямо подтверждает, что реализация этого представления никак на самом деле невозможна.

realeugene в сообщении #1657610 писал(а):

Неправильно

Нет, очень даже правильно: использование антропного принципа для решения частно-научных проблем ничем не отличается от аналогичного объяснения отсутствия высших приматов на Мадагаскаре. Собственно говоря, поэтому антропный принцип и не используется для решения частно-научных проблем, в том числе и в пребиотической химии и эволюционной биологии.

realeugene в сообщении #1657610 писал(а):

ОК, тогда не могу с вами об этом спорить

Рад, что Вы перестали запихивать работы Гёделя везде подряд, особенно в эмпирические науки, к коим эти работы не имеют никакого отношения.

realeugene в сообщении #1657610 писал(а):

Вы видите Землю именно такой, потому что на ней зародились ваши предки.

Что и есть чистой воды тавтология.

-- 07.10.2024, 13:52 --

realeugene в сообщении #1657637 писал(а):

Вы знаете, все эти рассуждения про "субъективные переживания" и их отличие от "алгоритмических проявлений" выглядят как перефразирование религиозных историй про душу

Никакого отношения к религиозным концепциям души это не имеет. Даже такие нематериалисты по вопросу природы субъективно переживаемого сознания и самосознания, как Чалмерс* или Нагель - атеисты, так что было бы странно, если бы их рассуждения относились к каким-то там концепциям души.

*Тут скорее надо говорить о натуралистическом дуализме раннего Чалмерса, т.к. сейчас он сторонник панпсихизма, а это вполне атрибутивно-материалистическая концепция

-- 07.10.2024, 13:55 --

realeugene в сообщении #1657674 писал(а):

Знание - это то, что позволяет предсказывать будущее.

Нет. Некоторая часть знания может предсказывать будущее, но это не универсальное свойство.

realeugene в сообщении #1657674 писал(а):

В кинотеатре?

В кинотеатре люди смотрят фильмы, где реальные люди играют абстракции из художественных произведений. Так где Вы там встречались с реальным ГП? И были ли вокруг также невидимые розовые единороги или Карлсон?

warlock66613 в сообщении #1657715 писал(а):

Это очень сильное утверждение, но совершенно недоказанное

Подчеркну, что с моей стороны я говорил только о вероятностях как математических объектах, но не о других философских спорах вокруг вероятностей - они действительно на данный момент не разрешены.

[alesha_popovich]

epros в сообщении #1657725 писал(а):

Значит "зомби" - это просто другое слово для обозначения человека?

Так о том и речь. Другое ли это слово для определения человека или все человеки зомби - ответить научно невозможно. Ну я про себя знаю, что я не зомби, а вот про других людей - не имею понятия. Но вы, конечно же, можете мне не верить. Ни у вас точно установить это про меня, ни у меня про вас, не получится.

epros в сообщении #1657725 писал(а):

Обычный навигатор (я пользуюсь яндексом, может быть другие умеют что-то ещё) только строит несколько вариантов маршрута, исходя из указанных ему предпочтений: по времени или по расстоянию. Он не умеет обсуждать мнения и, в частности, сравнивать своё с Вашим. А если будет уметь, то разве это уже не самосознание?

Странный эксперимент. Получается, любая программа, в которой есть оператор сравнения, обладает самосознанием? По-моему, нет. Для того, чтобы что-то с чем-то сравнить и выдать результат сравнения самосознание не нужно, с этим справится обычный алгоритм.

-- 07.10.2024, 14:59 --

Mikhail_K в сообщении #1657727 писал(а):

Консенсуса по этому вопросу нет. В том числе среди научного сообщества.

Конечно нет, есть множество конкурирующих между собой концепций, но все они, судя по всему, ещё очень далеки от какого-либо завершения. О каком консенсусе в такой ситуации может идти речь вообще? Они наверняка ещё много раз претерпят кучу изменений, перед тем, как кто-то вырвется вперёд и наконец будет создан реальный ИИ на её основе.