Обладают ли LLM самоосознанием?

[Ghost_of_past]

epros в сообщении #1694680 писал(а):

Без философской чуши, конечно же, не обошлось. Споры тупоконечников с остроконечниками...

Эти направления лежат в основе многих дебатов о том, как именно искусственное сознание может быть реализовано и что мы будем считать искусственным сознанием вообще. И они абсолютно релевантны для дискуссии об ИИ не только в контексте философии сознания, а для всей области на стыке исследований ИИ и consciousness sciences/studies. Если Вы можете какие-то серьезные аргументы против спора физикализма и функционализма привести, то тогда готов продолжить эту часть разговора, а выслушивать очередной поток про ужасную философию - это без меня.

epros в сообщении #1694680 писал(а):

Возможно, что Вы просто не в курсе того, насколько воззрения авторов тех книжек, на которые Вы ссылаетесь, зависимы от той религиозной среды, в которой они воспитывались.

Возможно, что я получше Вас в курсе воззрений авторов этих книжек, хотя бы по той простой причине, что я учился на философском факультете и изучал в общем виде как теоретическую философию сознанию, так и историю философии сознания, не говоря уж о такой небольшой мелочи, что я эти книги читал.

Антропоцентричность и уж тем более биоцентричность - это вообще не про религиозность тех или иных понятий, тем более что для теистических религий характерна теоцентричность, а антропоцентричность как раз вступает в конфликт с классическими религиозными доктринами, особенно авраамическими.

epros в сообщении #1694680 писал(а):

Может быть Вы расскажете, каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями?

Основной критерий прохождения теста – это самонаправленное поведение по отношению к незаметной для животного метке на его теле, которую он может увидеть только в зеркале. Поведение по чистке метки указывает на то, что муравей заметил что-то "неправильное" в своем внешнем виде (через отражение) и предпринял действия для удаления метки - без самооценки и саморефлексии путем сопоставления образа своей телесной схемы в феноменальной Я-модели и реального наблюдаемого в зеркале тела это просто невозможно, т.к. перед нами не строго врожденное инстинктивное поведение. Сопоставление зрительной информации с проприоцептивным образом своего тела в феноменальной Я-модели без саморефлексии также невозможно.

epros в сообщении #1694680 писал(а):

Речь не о терминологических тонкостях определения понятия "психика"

Именно о них, если мы пытаемся адаптировать понятия "сознание" и "самосознание".

epros в сообщении #1694680 писал(а):

авторы тех книжек, в которых Вы черпаете своё представление о самосознании, наверняка работают с людьми, максимум - с животными и вряд ли - с искусственным интеллектом

Я прямо ранее давал ссылку на книгу Метцингера, где он проводит мысленные эксперименты по применению своей теории именно к искусственным системам. Более того, он как раз пытается адаптировать дефинитивный аппарат так, чтобы он подходил как биологическим системам с естественной психикой, так и искусственных техническим системам с искусственной психикой.

epros в сообщении #1694680 писал(а):

они оказываются перегруженными всякими невнятно сформулированными вещами про "достаточно развитую ЦНС"

Речь шла об определении естественного биологического сознания. Не нравится приведенное мною определение - не пользуйтесь. Только я свои определения беру из энциклопедий, словарей, учебников и статей. А Вы откуда?

epros в сообщении #1694680 писал(а):

субъективный отчет исследуемой системы

Буквально то, что написано.

epros в сообщении #1694680 писал(а):

Но это не значит, что я готов некритически принять любую философскую чушь.

Пока я вижу только, что Вам повсюду мерещится философия, хотя интроспекция давно уже прежде всего метод психологии и психологических исследований.

[realeugene]

Ghost_of_past в сообщении #1694758 писал(а):

без самооценки и саморефлексии путем сопоставления образа своей телесной схемы в феноменальной Я-модели и реального наблюдаемого в зеркале тела это просто невозможно, т.к. перед нами не строго врожденное инстинктивное поведение.

Этот переход мне не понятен. У каждого животного с нервной системой должен быть врождённый своего рода образ себя. Чтобы рефлекторно отдёрнуть лапку от горячего нужно ассоциировать боль с положением этой лапки.

-- 19.07.2025, 12:17 --

Ghost_of_past в сообщении #1694758 писал(а):

Сопоставление зрительной информации с Проприоцептивным образом своего тела в феноменальной Я-модели без саморефлексии также невозможно.

Когда автопилот автомобиля строит на основании данных лидара модель окружающего пространства и себя в её центре, это уже саморефлексия?

-- 19.07.2025, 12:20 --

Ghost_of_past в сообщении #1694758 писал(а):

Если Вы можете какие-то серьезные Аргументы против спора физикализма и функционализма привести,

Понимаете, для окружающих подобные споры кажутся философской чепухой. Они не предназначены для того, чтобы быть понятны. Нет смысла читать тексты, авторы которых не пытаются изложить свои идеи максимально просто, но не проще, чем это возможно.

-- 19.07.2025, 12:26 --

Ghost_of_past в сообщении #1694758 писал(а):

Только я свои определения беру из энциклопедий, словарей, учебников и статей.

Они обладают свойством устаревать, особенно, в последнее время в обсуждаемой области, когда машины берут на себя всё больше и больше функций, которые раньше казались доступными исключительно людям или, на крайний случай, животным.

[Ghost_of_past]

realeugene в сообщении #1694772 писал(а):

У каждого животного с нервной системой должен быть врождённый своего рода образ себя

Феноменальный образ есть, врожденный - нет. У людей, например, телесная схема формируется в первые 1,5-2 года жизни.

realeugene в сообщении #1694772 писал(а):

Чтобы рефлекторно отдёрнуть лапку от горячего нужно ассоциировать боль с положением этой лапки

Нет, для рефлекса именно что никакого осознания и ассоциаций не требуется. Рефлексы автоматичны по своей природе.

realeugene в сообщении #1694772 писал(а):

Когда автопилот автомобиля строит на основании данных лидара модель окружающего пространства и себя в её центре, это уже саморефлексия?

Это уже как минимум шаг к ней.

[realeugene]

Ghost_of_past в сообщении #1694758 писал(а):

Возможно, что я получше Вас в курсе воззрений авторов этих книжек, хотя бы по той простой причине, что я учился на философском факультете и изучал в общем виде как теоретическую философию сознанию, так и историю философии сознания, не говоря уж о такой небольшой мелочи, что я эти книги читал.

В таком случае вы можете исполнять роль переводчика с языка авторов этих книжек на естественный русский, если в них есть что-то на самом деле разумное, и можете ссылаться на конкретные утверждения из них, а не на книжки в целом.

-- 19.07.2025, 12:37 --

Ghost_of_past в сообщении #1694773 писал(а):

Нет, для рефлекса именно что никакого осознания и ассоциаций не требуется.

Когда отдёргивается именно нужная лапка, а не произвольная - это именно врождённая ассоциация между болевыми рецепторами и мышцами лапок, пусть даже рефлекторная. Да и глазные нервы ассоциируют участки сетчаки с соответствующими стандартными участками зрительной коры мозга. Архитектура мозга врождённая. Очень много функций именно врождённые, и непонятно, почему нужно сомневаться в наличии именно врождённой связи между сенсорами и определёнными органами?

-- 19.07.2025, 12:39 --

Ghost_of_past в сообщении #1694773 писал(а):

Рефлексы автоматичны по своей природе.

Да какая разница? "ассоциация" = "биективная связь".

[b4b5]

Саморефлексия.
Проблема сознания РАСТЕНИЙ: последние открытия
https://www.youtube.com/watch?v=dqFIQLiswdE&t=607s

[Ghost_of_past]

realeugene в сообщении #1694774 писал(а):

это именно врождённая ассоциация между болевыми рецепторами и мышцами лапок

Это не ассоциация - это прямая нервная связь, от болевых рецепторов к ЦНС идут нервы и формируют рефлекторную дугу. Здесь есть и врожденный компонент (генетически закладывается базовая архитектура нервной системы), и средовой (преимущественно в эмбриональной стадии развития физико-анатомические и функционально-физиологические факторы влияют как реально сформируются те или иные болевые рецепторы, пути от них к ЦНС и зоны, отвечающие за обработку информации там).

[realeugene]

Ghost_of_past в сообщении #1694784 писал(а):

Это не ассоциация - это прямая нервная связь

Вы видимо используете термин "ассоциация" в узком контексте человеческой психологии. Но вряд ли возможно провести чёткую границу между "прямыми связями", которые сами устроены нетривиально, и более запутанными высокоуровневыми ассоциациями.

[b4b5]

Ghost_of_past в сообщении #1694773 писал(а):

Феноменальный образ есть, врожденный - нет. У людей, например, телесная схема формируется в первые 1,5-2 года жизни.

У любого живого организма есть врожденный образ своей системы в том или ином виде той или иной полноты, будь то система инстинктов или рефлексов, или иных механизмов, обеспечивающих базовое функционирование и поведение организма.

[epros]

Ghost_of_past, не вижу в Ваших ответах ничего нового и содержательного. Чтобы не ходить по кругу, отвечать там особо не на что. Разве что вот на это:

epros в сообщении #1694680 писал(а):

Может быть Вы расскажете, каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями?

Ghost_of_past в сообщении #1694758 писал(а):

Основной критерий прохождения теста – это самонаправленное поведение по отношению к незаметной для животного метке на его теле, которую он может увидеть только в зеркале. Поведение по чистке метки указывает на то, что муравей заметил что-то "неправильное" в своем внешнем виде (через отражение) и предпринял действия для удаления метки - без самооценки и саморефлексии путем сопоставления образа своей телесной схемы в феноменальной Я-модели и реального наблюдаемого в зеркале тела это просто невозможно, т.к. перед нами не строго врожденное инстинктивное поведение. Сопоставление зрительной информации с проприоцептивным образом своего тела в феноменальной Я-модели без саморефлексии также невозможно.

Я тоже могу назвать ответ чат-бота "самонаправленным поведением по отношению к неявному упоминанию его самого", которое "указывает на то, что бот заметил в моей оценке его ответов что-то неправильное и предпринял действия, чтобы объясниться". И я тоже могу сказать, что "без самооценки и саморефлексии путём сопоставления данной мной оценки с имеющейся у него Я-моделью это просто невозможно".

[Ghost_of_past]

realeugene в сообщении #1694786 писал(а):

Вы видимо используете термин "ассоциация" в узком контексте человеческой психологии

Да, все так. Добавлю, что и в нервной системе есть ассоциативные нейроны (интернейроны), которые связывают другие виды нейронов между собой, например, сенсорные и моторные, если мы говорим про рефлексы, но все-таки это скорее непринято называть ассоциативными связями.

epros в сообщении #1694856 писал(а):

Я тоже могу назвать ответ чат-бота "самонаправленным поведением по отношению к неявному упоминанию его самого"

Назвать можно что угодно и как угодно - это в теме уже проговаривалось. Вопрос не в этом, а в совпадениях или несовпадениях критериев называемого и объекта/явления в окружающем мире. В зоопсихологии, сравнительной психологии, этологии, теоретической психологии для самонаправленного поведения, самооценки и саморефлексии они (критерии) уже есть. Соответственно, мы либо пользуемся терминологией психологии, либо создаем новый дефинитивный аппарат.

[realeugene]

Ghost_of_past в сообщении #1694881 писал(а):

Да, все так.

А я в писал в общеупотребимом смысле, а не в узком смысле человеческой психологии.

-- 20.07.2025, 17:53 --

Ghost_of_past в сообщении #1694881 писал(а):

Соответственно, мы либо пользуемся терминологией психологии, либо создаем новый дефинитивный аппарат.

И психология использовала привычные слова в качестве терминов. Ничто не мешает использовать эти слова и в новой области.

[diletto]

Ghost_of_past
Я не уверен, что достаточно внимательно прочёл ветку, но, кажется, никто пока не обратил внимания на такую вот сложность любого мыслимого варианта зеркального теста...
Мы по результатам теста пытаемся оценить, распознаёт ли подопытный в некоем обобщенном "зеркале" _себя_. Любой представитель единственной известной нам биосферы телесен и локализован, поэтому наши представления о том, что такое "себя", не вызывают вопросов. При переходе к сущностям распределённым и бестелесным мы должны как-то переопределять what is self (а это, кажется, очень непросто и даже создаёт порочный круг в разговоре о самоосознании). Так ли уж мы уверены, что self для LLM - это напечатанное ею местоимение "я"?
Кстати говоря, я вполне могу вообразить зеркальный тест, который будет заведомо неправильно проинтерпретирован и на привычных нам организмах. Берём подопытную самку хомо, у которой в соседней комнате детёныш (она его не видит непосредственно). Наносим детёнышу на лоб метку, самке показываем его на видео, она бежит в соседнюю комнату выяснять ситуацию. Вывод: она себя узнала на видео и является распределённым организмом.
Можно и проще: сделаем испытуемому дырку на брюках сзади и установим камеру так, чтобы он заметил этот непорядок. Следует ли утверждать, что хомо считает брюки частью себя?

[Mihaylo]

diletto в сообщении #1694923 писал(а):

могу вообразить зеркальный тест, который будет заведомо неправильно проинтерпретирован и на привычных нам организмах

Ничего страшного. Ответы и проверка ответов не обязаны быть идеальными. Не возводите всё это в ранг святых, не думайте, что вы (мы) должны открыть нечто с чем-то.

[epros]

Ghost_of_past в сообщении #1694881 писал(а):

Назвать можно что угодно и как угодно - это в теме уже проговаривалось. Вопрос не в этом, а в совпадениях или несовпадениях критериев называемого и объекта/явления в окружающем мире. В зоопсихологии, сравнительной психологии, этологии, теоретической психологии для самонаправленного поведения, самооценки и саморефлексии они (критерии) уже есть. Соответственно, мы либо пользуемся терминологией психологии, либо создаем новый дефинитивный аппарат.

Я конкретно просил Вас пояснить, каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями. Вы вместо этого произнесли кучу слов о том, на что якобы "указывает" поведение муравья по чистке метки. Я сказал, что о поведении чат-бота можно произнести точно такую же кучу слов. Каким образом выявляется именно то, что процитировано в кавычках (это ведь Ваши слова) от этого так и не становится ясным.

[realeugene]

diletto в сообщении #1694923 писал(а):

Следует ли утверждать, что хомо считает брюки частью себя?

Он их считает своими. Продолжением своего тела. Что показывает, что у "ощущения себя" нет чёткой границы.