Может ли машина мыслить?

[realeugene]

Ghost_of_past в сообщении #1656802 писал(а):

А пока я видел статьи, написанные большими языковыми моделями, и от человеческих они отличаются.

Всё-таки со времён Корчевателя прогресс огромный. Сейчас уже ответы, даваемые большими языковыми моделями задающим вопросы людям, часто полезны.

Вы же, конечно, слышали про эту историю?
https://www.bbc.com/russian/features-45751968

[Ghost_of_past]

realeugene в сообщении #1656857 писал(а):

зачем машине симулировать триединый мозг

Машине как минимум нужно будет симулировать часть психических процессов в результате работы головного мозга и прежде всего префронтальной коры. Иначе до человеческого мышления и разума это просто банально не дотянет, а вместо сильного ИИ у нас так и останутся крайне полезные, но его суррогаты. Понятное дело, что воспроизводство более древних мозговых структур, вроде дыхательного или кашлевого центра, сильному ИИ абсолютно без надобности.

realeugene в сообщении #1656857 писал(а):

Биологическая эволюция пришла к созданию разума очень кружными путями.

Да, потому что разум - это дико затратная по ресурсам вещь.

[realeugene]

Ghost_of_past в сообщении #1656861 писал(а):

Иначе до человеческого мышления и разума это просто банально не дотянет, а вместо сильного ИИ у нас так и останутся крайне полезные, но его суррогаты.

Пока что это не известно. Но нет видимых причин повторять структуры один в один. У биологической нейросетки свои особенности и недостатки, у вычислительной - свои.

-- 30.09.2024, 23:15 --

Ghost_of_past в сообщении #1656861 писал(а):

Да, потому что разум - это дико затратная по ресурсам вещь.

И потому что развитие нового молодого организма ужасно консервативная вещь, вынужденная повторять в некотором виде все этапы предыдущей эволюции всех предков.

[Ghost_of_past]

realeugene в сообщении #1656860 писал(а):

Всё-таки со времён Корчевателя прогресс огромный

Конечно, прогресс безусловно огромный. Но до сильного ИИ ещё явно далеко.

realeugene в сообщении #1656860 писал(а):

Вы же, конечно, слышали про эту историю?

Да, но вообще такая история не единична - это вопрос к качеству рецензируемых научных журналов, а с ними не редко бывают проблемы. Правда, при этом такая проблема в среднем сильно острее в отдельных местах, прежде всего на постсоветском пространстве и в Южной Азии (например, медицинские и биологические статьи из Индии до сих пор частенько те еще мемы), и в некоторых отдельных странах Африки и Ближнего Востока.

[realeugene]

Ghost_of_past в сообщении #1656863 писал(а):

Но до сильного ИИ ещё явно далеко.

ChatGPT прекрасно про самого себя рассуждает. Чем не самоосознание личности?

[Ghost_of_past]

realeugene в сообщении #1656862 писал(а):

Но нет видимых причин повторять структуры один в один

"Железо" конечно не надо, но функционал высших психических функций должен быть сопоставим. Сейчас у нас неплохо получается со слабыми ИИ-системами, которые могут выполнять отдельные интеллектуальные функции, но с интегративностью вроде всё пока так себе.

realeugene в сообщении #1656862 писал(а):

И потому что развитие нового молодого организма ужасно консервативная вещь, вынужденное повторять в некотором виде все этапы предыдущей эволюции всех предков.

Это скорее особенность позвоночных, но тут отдельный разговор, и думаю, что в детали биологии сворачивать тему не стоит - оффтопик зашкалит.

[realeugene]

Ghost_of_past в сообщении #1656865 писал(а):

но с интегративностью вроде всё пока так себе.

Это что за зверь?

[Ghost_of_past]

realeugene в сообщении #1656864 писал(а):

ChatGPT прекрасно про самого себя рассуждает.

С этим как раз может и китайская комната справляться - не хотите погружаться в хардкорную психологию и когнитивистику, можно почитать упомянутого мною ранее Уоттса, который в художественной форме продемонстрировал это в "Ложной слепоте".

Для подтверждения самосознания потребуется какой-то аналог зеркального теста (а его тяжело адаптировать даже ко многим видам животных - с муравьями, пчелами и осьминогами в свое время настрадались), но надо понимать, что самосознание - это частный случай рефлексивного сознания, а значит до этого у машин должно появиться искусственное сознание.

-- 30.09.2024, 23:26 --

realeugene в сообщении #1656866 писал(а):

Это что за зверь?

Все тот же из определения:

Ghost_of_past в сообщении #1656695 писал(а):

Мышление - это психические процессы отражения действительности, направленные на использование, развитие и приращение новых знаний через творческое преобразование их субъективных образов в сознании субъекта, определении значения и смысла для разрешения разнообразных реальных задач.

[realeugene]

Ghost_of_past в сообщении #1656867 писал(а):

Мышление - это психические процессы отражения действительности, направленные на использование, развитие и приращение новых знаний через творческое преобразование их субъективных образов в сознании субъекта, определении значения и смысла для разрешения разнообразных реальных задач.

Чем это отличается от "генерализации"?

[Ghost_of_past]

realeugene в сообщении #1656868 писал(а):

Чем это отличается от "генерализации"?

То, что генерализация работает в пределах одного или максимум нескольких близких классов интеллектуальных задач. С генерализацией все пока сильно лучше, чем с интегративностью.

[Mihaylo]

Legioner93 в сообщении #1656855 писал(а):

Учтите, что я являюсь

Зачем вы со мной разговариваете? Я ж не к вам обращался.
И что вы делаете в этой теме? Ведь вы просто программист.

[realeugene]

Ghost_of_past в сообщении #1656867 писал(а):

Для подтверждения самосознания потребуется какой-то аналог зеркального теста

Зеркальный тест абсолютно нерелевантен для размазанной по куче датацентров сетке. Обладает ли сетка знанием про свой исходный код? Про математику машинного обучения скорее всего знает, раз её научным задачам учили.

-- 01.10.2024, 09:11 --

Ghost_of_past в сообщении #1656867 писал(а):

С этим как раз может и китайская комната справляться

Китайская комната кажется выдуманной идеализированной конструкцией, не имеющей отношения к грязной реальности, в которой понимание языка самозарождается в достаточно сложной системе.

Ситуация с психологами и когнистивистами, пытающимися заниматься машинным интеллектом, как-то сильно напоминает недавнюю ситуацию с машинным переводом, когда толпы лингвистов пытались описать для этой цели человеческий язык, но у них получалось плохо. А потом мощности компьютеров доросли до достаточно больших сеток, плюс придумали глубокое обучение, и эти толпы учёных остались без работы.

[Serg53]

Mihaylo в сообщении #1656806 писал(а):

Основной и самый главный принцип, который нужно взять на вооружение при изучении науки об интеллекте - это избавление от стереотипов о божественных возможностях человека.

Для того чтобы говорить о науке, надо решить, как и в каких единицах измерять процесс мышления. Без этого все разговоры о "разуме", "интеллекте", "сознании" и т.п. останутся просто разговорами...
-
-

Ghost_of_past в сообщении #1656867 писал(а):

Мышление - это психические процессы отражения действительности, направленные на использование, развитие и приращение новых знаний

Откуда машина будет получать новые знания?

[realeugene]

Serg53 в сообщении #1656937 писал(а):

Откуда машина будет получать новые знания?

Из интернета, вестимо.

Вообще говоря, знания - это модели, которые позволяют предсказывать поведение окружающей реальности. Построение таких моделей из сырых исходных данных в ходе машинного обучения и есть процесс получения новых знаний.

[Ghost_of_past]

realeugene в сообщении #1656927 писал(а):

Зеркальный тест абсолютно нерелевантен для размазанной по куче датацентров сетке

И тем не менее нам придется придумывать его аналоги для проверки наличия самосознания у машин, без этого никуда.

realeugene в сообщении #1656927 писал(а):

Обладает ли сетка знанием про свой исходный код?

Обладание знаниями про свой исходный код - это недостаточный признак для самосознания. Самосознание как минимум требует еще сопоставления себя с этим исходных кодом и субъективные переживания от первого лица. В целом самосознание - это очень сложная вещь, которая возникает сильно позже, чем сознание (чего у машин до сих пор нет):

kry в сообщении #1325014 писал(а):

Берется, к примеру, научно-популярная книжка, написанная на совершенно простом языке, Антти Ревонсуо "Психология сознания", открывается на главе 3, разделе "Интроспекция", подразделе "Самосознание":

Цитата:

Самосознание – это особая форма рефлексивного сознания. Для самосознания необходимо следующее:
1. В феноменальном сознании должен быть опыт, относящийся к самому себе: опыт, имеющий специфическое отношение к телесному образу или к другим аспектам личности, имеющей данный опыт.
2. В долговременной памяти должны быть представление о самом себе (самооценка) и саморепрезентация. Обычно они образуют обширную систему памяти, которая называется «автобиографической памятью»; автобиографическая память – это история всей жизни человека как он сам ее помнит. Кроме того, саморепрезентация включает семантические, или фактические, знания о самом себе, в частности индивидуальные особенности, планы на будущее, социальный статус, физический облик и т. д.
3. Два первых компонента должны встретиться в рефлексивном сознании, иными словами, текущий опыт в феноменальном сознании должен соединиться с активированной саморепрезентацией в долговременной памяти. Когда два этих компонента объединяются, в рефлексивном сознании возникает самосознание. Если, увидев свое отражение в зеркале, человек понимает, что это «он», значит, он осознает себя. Зеркальное изображение воспринимается человеком как находящееся вне его тела, однако человек понимает, что то, что он видит в зеркале, на самом деле «его» тело, тело человека, находящегося здесь.

Лишь очень немногие животные способны к подобному самораспознаванию постоянно (шимпанзе, карликовые шимпанзе, или бонобо, орангутаны, возможно, гориллы, дельфины, слоны и, кроме этих млекопитающих, пока что успешными были лишь сороки). Остальные сознательные представители животного мира просто имеют переживания, но они не способны сконструировать в своем маленьком мозге идею о субъекте, который продолжается во времени и обладает этими переживаниями (рис. 3.6 и 3.7).

То есть самосознание означает способность понять или подумать о том, что на самом деле это переживание в данный момент имеет человек (или «свое Я»), который продолжается во времени, в прошлом имел много других переживаний и будет иметь еще много переживаний в будущем. Иметь самосознание – значит понимать, что это переживание в данный момент – мое собственное переживание, что оно принадлежит тому же продолжающемуся во времени «Я», о котором у меня хранится много старых воспоминаний и сведений. Тип сознания, относящийся к самосознанию, был также назван «расширенным сознанием». Этим термином прежде всего характеризуется протяженность во времени и подчеркивается отличие от феноменального сознания, которое всегда привязано к текущему моменту. С самосознанием тесно связана способность, которую называют «мысленным путешествием во времени». Самосознание позволяет нам совершить путешествие в наше собственное личное прошлое и оживить в автобиографической памяти события, которые произошли с нами в прошлом. Мы также можем планировать или представлять себе, что может произойти с нами в будущем.

realeugene в сообщении #1656927 писал(а):

Китайская комната кажется выдуманной идеализированной конструкцией, не имеющей отношения к грязной реальности

К сожалению, нет: если, например, концепция философского зомби полностью выдумана и действительно не имеет аналогов в объективной реальности, то у китайской комнаты такие аналоги есть - у многих видов насекомых с интеллектуальной деятельностью более чем в порядке, но никакого самосознания и разума не обнаруживается. Непонятно есть ли в полной мере у них даже сознание.

По современным представлениям для позвоночных такого уже скорее всего не бывает - там проблема не с отсутствием самосознания, а с тем что не получается адаптировать зеркальный тест под особенности каждого вида.

realeugene в сообщении #1656927 писал(а):

А потом мощности компьютеров доросли до достаточно больших сеток, плюс придумали глубокое обучение

И качество перевода, мягко скажем, осталось так себе. В результате, к примеру, сколько крупных компаний по всему миру по-прежнему пользуются услугами переводчиков-людей? Я вот помимо научной работы занимаюсь аналитикой данных в сфере маркетинговых исследований и постоянно обрабатываю данные компаний-заказчиков - почему-то из них большинство пользуется по-прежнему услугами переводчиков-людей.

realeugene в сообщении #1656927 писал(а):

и эти толпы учёных остались без работы.

Только ученые об этом не в курсе.

-- 01.10.2024, 14:12 --

Serg53 в сообщении #1656937 писал(а):

Откуда машина будет получать новые знания?

Из Интернета, разумеется.