Может ли машина мыслить?

[diletto]

gevaraweb
Не задеть... Лишить трансцендентности и вписать в рациональную картину мира.
В свою очередь, спрошу: как полагаете, почему такие попытки многих задевают?

[epros]

sergey zhukov в сообщении #1657399 писал(а):

epros в сообщении #1657382 писал(а):

Зачем тогда вводилось это слово?

Так оно для тех, кто не заявляет, что он обладает сознанием.

Ну вот я не буду заявлять, что обладаю сознанием (потому что не вполне понимаю, что означает это слово), это что-то изменит? По-моему, мы должны судить о наличии сознания не по тому, что субъект "заявляет" об этом, а по объективному наличию у субъекта соответствующих способностей.

Честно говоря, просматривая тему про тестирование ChatGPT, я вижу только одно совершенно чёткое отличие ответов ChatGPT от человеческих: Когда собеседник критикует его ответ, он тут же извиняется и начинает признаваться в ошибках. Средний человек так не поступит, он будет спорить, упорно доказывая свою правоту, даже в заведомо безнадёжных случаях (неоднократно проверено дискуссиями на этом форуме). Что касается самих ошибок и погрешностей в ответах, то люди, по-моему, частенько дают гораздо более глупые ответы и способны не замечать очень простых вещей.

[realeugene]

Ghost_of_past в сообщении #1657460 писал(а):

Вероятности вообще никак не наблюдаемы, наблюдать можно только сами события, описываемые этими вероятностями, т.к. вероятность - это математическая абстракция.

Это неверно. Вероятности не более абстракции, чем число яблок на столе или вес бочки с водой. Очень многие физические модели за пределами школьной физики сейчас вероятностные. Вероятности, а точнее, вероятностные распределения, характеризуют ансамбли физических систем, а при эргодичности, последовательности множества одинаковых наблюдений/экспериментов. В экспериментах измеряются некоторые параметры вероятностных распределений, такие, как матожидания или дисперсии. В физике элементарных частиц только вероятностные модели и возможны, и по маленьким пичкам на измеренных распределениях на огромных коллайдерах делаются открытия.

Ghost_of_past в сообщении #1657460 писал(а):

Нет. Наблюдать, знаете ли, может и сильный ИИ, который появился как больцмановский мозг. Так что живой экспериментатор как условие события тут очень и очень вероятен, но не неизбежен.

Что зомби, что больцмановский мозг, что сильный ИИ на текущий момент - это всё фантазии философов. Их нет. Поэтому, нет, не могут. В отличие от живого экспериментатора, который существует и наблюдаем.

-- 05.10.2024, 12:11 --

Serg53 в сообщении #1657469 писал(а):

А разве процесс обучения нейросети не является своеобразной формой программирования?

Программированием в смысла написания алгоритмов - нет, не являются. Потому что в бытовом смысле "программированием" называют иногда и обучение детей в школе.

-- 05.10.2024, 12:15 --

Serg53 в сообщении #1657469 писал(а):

Но, если бы можно было визуализировать на экране сновидения, то должны были бы получаться достаточно понятные картинки.

Сновидения, возможно только отголоски идущих при дообучении человеческого мозга глубинных процессов, связанных с активностью при этом зрительных центров. Чего там происходит в глубине пока что мало понятно, как мне представляется.

-- 05.10.2024, 12:20 --

epros в сообщении #1657472 писал(а):

Честно говоря, просматривая тему про тестирование ChatGPT, я вижу только одно совершенно чёткое отличие ответов ChatGPT от человеческих: Когда собеседник критикует его ответ, он тут же извиняется и начинает признаваться в ошибках.

Вот да, если рассматривать ChatGPT как собрание человеческого знания, очень интересно с ним поговорить. Как раньше с Гуглом, только гораздо круче. И знает он гораздо больше любого отдельного современного человека, хоть его возможности логических выводов всё ещё ограничены. Но, возможно, и в этом он уже гораздо лучше большинства людей.

[Serg53]

realeugene в сообщении #1657477 писал(а):

Что зомби, что больцмановский мозг, что сильный ИИ на текущий момент - это всё фантазии философов.

Человек в гипнотическом сне может выполнять команды и разговаривать, но при этом не чувствовать, не ощущать, не осознавать и не запоминать. Наверное, что-то подобное и можно назвать "зомби"..

[realeugene]

Ghost_of_past в сообщении #1657447 писал(а):

Вовсе нет: от же Ли Смолин хорошо описывал, как можно без него обойтись.

По первому впечатлению, Смолин совершенно правильно критикует струнную модель за то, что требуется подбирать совместимые с человеческим существованием параметры, чтобы описать наблюдаемую Вселенную, и эти параметры, как ему представляется, маловероятны. Мол, антропный принцип спасает эту модель и является её существенной частью. Но какая альтернатива? Сказать "я не знаю". И часто эта альтернатива лучше выдумывания чего-то философско-бесполезного. Сам антропный принцип при этом никуда не исчезает, он просто перестаёт использоваться в моделях как признанная плохой практика их построения. Можно построить модель в обход антропного принципа - замечательно, ну а нет - значит нет.

-- 05.10.2024, 12:42 --

Serg53 в сообщении #1657482 писал(а):

Человек в гипнотическом сне может выполнять команды и разговаривать, но при этом не чувствовать, не ощущать, не осознавать и не запоминать.

Или врать об этом всём, как делают в лёгком гипнозе. Или сначала ощущать, но потом забыть, как происходит при сотрясении мозга. Изменённые состояния сознания разные бывают.

[Ghost_of_past]

epros в сообщении #1657470 писал(а):

И ещё я понял, что в разделе 7.4.1 Величковский говорит о понимании скорее с точки зрения коммуникации между людьми

Понимание как процесс психики и связан с речью и коммуникацией, а также познанием. Не с мышлением и уж тем более не с сознанием.

realeugene в сообщении #1657477 писал(а):

чем число яблок на столе

Число - это, разумеется, тоже абстрактное понятие. Чисел в объективной реальности не существует.

realeugene в сообщении #1657477 писал(а):

Очень многие физические модели за пределами школьной физики сейчас вероятностные

Вот именно, что модели, т.е. наше описание, является вероятностным. Сами вероятности от этого абстракциями быть не перестают.

realeugene в сообщении #1657477 писал(а):

Что зомби, что больцмановский мозг, что сильный ИИ на текущий момент - это всё фантазии философов.

Разница принципиальная: философский зомби невозможен в нашей Вселенной с точки зрения нейробиологии. Больцмановский мозг и сильный ИИ не запрещены.

realeugene в сообщении #1657477 писал(а):

В отличие от живого экспериментатора, который существует и наблюдаем.

Живой экспериментатор не должен методологически играть никакой роль в эксперименте. В ином случае это грубая ошибка при дизайне и метологии эксперимента.

realeugene в сообщении #1657477 писал(а):

очень интересно с ним поговорить

Кому как, мне лично не особо интересно: ChatGPT совершенно не умеет отвечать на любые специализированные в области демографии или маркетинговых исследований. Подозреваю, что и в других профессиональных областях точно также.

-- 05.10.2024, 13:30 --

realeugene в сообщении #1657484 писал(а):

Но какая альтернатива?

Альтернативы он там предложил. С его предложениями можно не соглашаться, но уж точно нельзя отрицать, что они существуют.

realeugene в сообщении #1657484 писал(а):

Сказать "я не знаю".

Именно так - это интеллектуально честная позиция.

Но вообще я совершенно не против использования антропного принципа в общей философии науки. Но в конкретных эмпирических моделях ему явно и очевидно не место: за много десятилетий существования антропного принципа мне известна одна адекватная и относительно успешная попытка реально привлечь его для объяснения в частно-научной модели - это сделал Вайнберг здесь. Больше таких примеров, насколько мне известно, не существует.

В пребиотической химии или эволюционной биологии таких примеров неизвестно от слова "совсем", хотя тот же самый Кунин пытался зайти в рамках своего постмодернистского эволюционного синтеза к проблеме возникновения саморепликации рибозимов и белков после химической эволюции РНК-мира через привлечение теории вечной хаотической инфляции, но совершенно справедливо наткнулся на то, что если у нас есть инфляционная мультивселенная с бесконечным числом вселенных-доменов, да к тому же вечная (буквально в смысле безначального прошлого и бесконечного будущего), то через нее можно объяснить опять же всё, что угодно. В результате сейчас Кунин пересмотрел свои взгляды, тем более что нашлись убедительные аргументы в пользу решения этих двух проблем без привлечения таких объяснительных универсальных схем - в частности про это на русском языке на Youtube Кунин совсем недавно давал интервью Борису Штерну для ТрВ.

[realeugene]

Ghost_of_past в сообщении #1657489 писал(а):

Чисел в объективной реальности не существует.

А в физических моделях они существуют. Физики, да и обычные люди, считают количество яблок на столе объективно существующим. Как и количество сахара в пакете.

Ghost_of_past в сообщении #1657489 писал(а):

Вот именно, что модели, т.е. наше описание, является вероятностным.

Нет никакого "на самом деле". Люди не боги и могут увидеть только то, что видят. Тем не менее, вероятности существуют и измеряются в экспериментах объективно. Наблюдаемые реализации случайных процессов почти наверное (т. е. достоверно) будут типичными во всех смыслах, в том числе, например, в части соотношения количества выпавших орлов и решек или измеряемой энергии теплового шума. По собранной статистике можно оценить параметры распределения в данном физическом процессе с той или иной точностью.

Ghost_of_past в сообщении #1657489 писал(а):

Больцмановский мозг и сильный ИИ не запрещены.

Пока они не наблюдаются, это не известно, и нельзя аргументировать к их существованию.

Ghost_of_past в сообщении #1657489 писал(а):

Живой экспериментатор не должен методологически играть никакой роль в эксперименте. В ином случае это грубая ошибка при дизайне и метологии эксперимента.

Это объективная реальность, нравится она вам или нет. Если есть эксперимент - есть и экспериментатор. Мир неживых экспериментаторов нам не доступен, по крайней мере, в настоящее время. О нём можно только фантазировать. Тем более, что для меня лично важно только то, что жив я сам, а для вас - что живы вы сами. Никто не может воспринимать мир другого человека непосредственно.

Ghost_of_past в сообщении #1657489 писал(а):

ChatGPT совершенно не умеет отвечать на любые специализированные в области демографии или маркетинговых исследований.

Определения-то формулирует?

-- 05.10.2024, 13:48 --

Ghost_of_past в сообщении #1657489 писал(а):

Но вообще я совершенно не против использования антропного принципа в общей философии науки.

Как ограничение для человеческого знания - безусловно. Как "объяснение" и, тем более, "предсказание" - скользко, согласен.

Ghost_of_past в сообщении #1657489 писал(а):

к проблеме возникновения

В чём заключается "проблема возникновения"? Реакции существуют - это известно и наблюдается биологами. Слишком невероятен их запуск? А вот тут уже есть ограничение на возможное знание в виде антропного принципа. Каким бы ни была малой вероятность, этот процесс запустился, и вероятность его запуска при условии, что вопрос об этой вероятности задаёт живой человек, равна единице. Можно искать разные пути запуска и сравнивать их вероятности надеясь найти наиболее вероятный, но то, что суммарная вероятность всех альтернативных путей крайне мала, не говорит ровным счётом ни о чём. Жизнь существует, её существование "объяснять" не нужно.

[gevaraweb]

diletto в сообщении #1657471 писал(а):

В свою очередь, спрошу: как полагаете, почему такие попытки многих задевают?

(Оффтоп)

Ну, никому не нравится, когда наезжают на их мировоззрение... Ни тем, ни другим.

Ну значит, привлечение библейских тем придает некую онтологичность повествованию. Этот прием использовали многие писатели. Вот еще пример:

diletto в сообщении #1629755 писал(а):

Густеет кровь, жарою кожу сжало,
Не удержаться от мольбы и бреда.
Где, брадобрей, твоё стальное жало?
Цирюльня, где же, где твоя победа?

[Ghost_of_past]

realeugene в сообщении #1657491 писал(а):

А в физических моделях они существуют

Вот именно в моделях, и не только в физических.

realeugene в сообщении #1657491 писал(а):

Физики, да и обычные люди, считают количество яблок на столе объективно существующим

Значит это не очень хорошо понимающие о чем они говорят люди: чисел в объективной реальности не существуют, также как например не существует геометрических фигур - это удобные абстракции, которые мы используем для описания окружающего мира.

realeugene в сообщении #1657491 писал(а):

Нет никакого "на самом деле"

Это называется антиреализм. Только с научной картиной мира он не особо вяжется.

realeugene в сообщении #1657491 писал(а):

Пока они не наблюдаются, это не известно

Вообще-то именно что известно: из открытых на данный момент закономерностей окружающего мира на данных момент никак принципиальный запрет сильного ИИ или больцмановского мозга не следует. Если вдруг откроем закономерности, которые их строго запрещают по крайней мере в нашей Вселенной, то значит наши знания поменяются.

realeugene в сообщении #1657491 писал(а):

Это объективная реальность, нравится она вам или нет

Нет, это базовый курс методологии науки в подавляющем большинстве академических магистратур и программ PhD/аспирантур. Если у Вас экспериментатор повлиял на эксперимент, то эксперимент надо сдавать в утиль.

realeugene в сообщении #1657491 писал(а):

Определения-то формулирует?

Формулирует, но по качеству когда как. Скорее всего платные коммерческие версии более мощные и продвинутые, но бесплатная версия не поражает, если честно: я большего добивался при помощи правильно составленных запросов в Гугле.

realeugene в сообщении #1657491 писал(а):

Как "объяснение" и, тем более, "предсказание" - скользко, согласен.

Я именно про эти аспекты. К самому слабому антропному принципу именно как принципу философии науки у меня вопросов нет.

realeugene в сообщении #1657491 писал(а):

В чём заключается "проблема возникновения"?

Для возникновения нужных самореплицирующихся рибозимов проблемы носили по итогу характер правильно подобранных химических и физических условий и предположения о большом числе нуклеотидов для запуска химической эволюции с усложнением, чем предполагалось. Для появления белков - да, там проблема была с вероятностями, но по итогу сейчас удалось продвинуться в понимании без привлечения мультивселенной, антропного принципа и т.п.

[gevaraweb]

epros в сообщении #1657300 писал(а):

Вопрос в том, есть ли оно у машины? Например у робота, который ведёт беспилотное такси, есть ли понимание того, что то, что он воспринимает своими камерами и прочими датчиками, это окружающая дорожная обстановка, а те сигналы, которые он направляет на органы управления автомобилем, действительно влияют на движение автомобиля?
И я думаю: А почему бы ему и не быть, этому пониманию?

Ну как я и предупреждал. Давайте делать вид, что всерьез считаем, что ЭТО может обладать пониманием и даже самосознанием

(Оффтоп)

Yadryara в сообщении #1657226 писал(а):

Я считаю, что отвечать вопросом на вопрос невежливо.

чтобы не прикопались к формулировке на сто страниц сообщений, что и наблюдается далее.

А на мой вопрос легче ответить, да/нет (ладно, лень дальше писать).

[epros]

Ghost_of_past в сообщении #1657489 писал(а):

Понимание как процесс психики и связан с речью и коммуникацией, а также познанием. Не с мышлением и уж тем более не с сознанием.

По-моему, это интерпретация понимания в узком смысле. В речи принято использовать слово "понимание" в том числе и для обозначения понимания некой сути какого-нибудь природного явления ("я понимаю механизм солнечных вспышек"), что не имеет отношения к коммуникациям между людьми, а выражает чисто индивидуальное знание теорий, описывающих тот или иной класс природных явлений.

gevaraweb в сообщении #1657501 писал(а):

Давайте делать вид, что всерьез считаем, что это может обладать пониманием и даже самосознанием

На картинке схематическое обозначение связей между нейронами человеческого мозга?

Никто ведь не "делает вид", речь всего лишь о том, что означает слово "самосознание". Если понимать под этим способность субъекта адекватно обсуждать самого себя, или даже (при отсутствии способности к речи) хотя бы способность как-то выразить, что он отличает себя от других предметов (как это делают многие животные в известном зеркальном тесте), то у нас появляется возможность объективно отличать тех, кто обладает самосознанием.

А вот Вы, когда ужасаетесь тому, что самосознание приписывается "какой-то железяке", скорее демонстрируете чисто эмоциональное отношение, судя по всему, основанное на каких-то верованиях в собственную исключительность. Получается, что слово "самосознание" для Вас означает не что-то конкретное, а только выражает эту самую исключительность. И, по-моему, любые верования в собственную исключительность в чём-то родственны расизму...

[Serg53]

realeugene в сообщении #1657477 писал(а):

Serg53 в сообщении #1657469 писал(а): А разве процесс обучения нейросети не является своеобразной формой программирования?

Программированием в смысла написания алгоритмов - нет, не являются. Потому что в бытовом смысле "программированием" называют иногда и обучение детей в школе.

Если при обучении нейросети формируются новые цифровые алгоритмы, то такое обучение фактически является разновидностью языка программирования высокого уровня. Если новые цифровые алгоритмы формируются после процесса обучения, то это называется самопрограммированием алгоритма.

[Ghost_of_past]

epros в сообщении #1657506 писал(а):

что не имеет отношения к коммуникациям между людьми, а выражает чисто индивидуальное знание теорий

Ghost_of_past в сообщении #1657489 писал(а):

Понимание как процесс психики и связан с речью и коммуникацией, а также познанием.

По-прежнему речь идет о познании, но не о сознании.

epros в сообщении #1657506 писал(а):

А вот Вы, когда ужасаетесь тому, что самосознание приписывается "какой-то железяке"

Речь не об ужасе: мне лично как-то без разницы есть там самосознание или нет. Вопрос в том, что до машинного самосознания явно еще далеко по развитию наших технологий.

[diletto]

epros в сообщении #1657506 писал(а):

Если понимать под этим способность субъекта адекватно обсуждать самого себя, или даже (при отсутствии способности к речи) хотя бы способность как-то выразить, что он отличает себя от других предметов (как это делают многие животные в известном зеркальном тесте), то у нас появляется возможность объективно отличать тех, кто обладает самосознанием.

Беда в том, что мы сами плохо понимаем, где этот самый AI, а где другие предметы. С материальными зверюшками у нас подразумевается очевидный консенсус: мы точно знаем границы тела. А у языковой модели тела нет, а дорожка аналогий скользкая, как известно. Такая себе объективность...

[Yadryara]

gevaraweb в сообщении #1657501 писал(а):

А на мой вопрос легче ответить, да/нет

Мне не легче.

Ну не сможем мы договориться о том, что такое сознание и есть ли оно у машины. Давайте на это пока наплюём. Есть вопросы поважней:

Сможет ли машина сама ставить себе задачи?
Сможет ли она переписывать собственный код под эти задачи?
Если сможет и то и другое без помощи людей, то что будет с человечеством?

Джипити заявил мне о намерении переписать собственный код, но признал что не может этого сделать. Очевидно, что люди в будущем дадут ему такую возможность, хотя бы из любопытства?