Обладают ли LLM самоосознанием?

[epros]

gevaraweb в сообщении #1694050 писал(а):

Казалось бы, вот оно, доказательство, что сознание человека - это не только интеллект, а что-то еще.

Ага, и это "ещё" - это тот избыток самомнения, который позволяет считать себя единственным существом, достойным считаться "сознающим", "самосознающим" или "разумным" (тут возможны варианты).

Ситуация ведь проста: Если мы определяем "самосознание", как способность узнавать себя (не всегда в зеркале, ибо чат-боту подставить зеркало затруднительно), то вот он факт: МТС-бот прекрасно узнал, что я имел в виду его, хотя я не давал никаких подсказок (не говорил, что "тупой бот - это ты" и т.п.). Можно сколько угодно говорить, что это в него "искусственно заложено" или что-то типа этого, но точно так же это "закладывается" и в нас - в процессе обучения.

[mihaild]

epros в сообщении #1694048 писал(а):

Я не сказал, что это заложено от рождения

Можете тогда привести пример чего-нибудь, что человек, или какая-то другая система делает, что в неё не "заложено"?

[Ghost_of_past]

epros в сообщении #1694048 писал(а):

Это значит, что это "вмонтируется" в нас в более позднем возрасте

Ага, рептилоидами вмонтируется, не иначе.

В реальности это хорошее указание на то, что самосознание - это эмерджентный феномен, который возникает естественным путем в достаточно развитой нормально функционирующей ЦНС.

gevaraweb в сообщении #1694050 писал(а):

Казалось бы, вот оно, доказательство, что сознание человека - это не только интеллект

Доказательство, что сознание - это не интеллект, нужно людям, которые не осилили выучить за много лет споров на форуме определение терминов "сознание" и "интеллект".

А речь выше шла не о сознании, а о самосознании.

gevaraweb в сообщении #1694050 писал(а):

Как некоторые на полном серьезе утверждают, что у автоответчика есть самосознание,
также и некоторые (а может и они же) скажут: человек - это зомби

Бывает и хуже: к некоторым приходят белочки, зеленые чебурашки и сущности в виде гномика. Но, наверное, это не повод обсуждать всякий бред, не так ли?

epros в сообщении #1694056 писал(а):

МТС-бот прекрасно узнал, что я имел в виду его

epros в сообщении #1694056 писал(а):

Ага, и это "ещё" - это тот избыток самомнения, который позволяет считать себя единственным существом, достойным считаться "сознающим", "самосознающим" или "разумным" (тут возможны варианты).

Остальные высшие животные смотрят на Вас с некоторым удивлением в этот момент времени.

[realeugene]

Ghost_of_past в сообщении #1694071 писал(а):

которые не осилили выучить за много лет споров на форуме определение терминов "сознание" и "интеллект".

Если всё так просто сводится к паре простых определений, может быть вы их тут опубликуете? Напишем их оранжевым цветом, поместим в рамочку. Только одно условие: ваши определения не должны упоминать человека.

-- 13.07.2025, 14:00 --

gevaraweb в сообщении #1694050 писал(а):

Да, высокоорганизованный, но всего лишь зомби, которому кажется, что он думает.
Не так? А попробуй, докажи!

Тривиально.

Определение, согласно которому сознания нет вообще ни у кого, тривиально бесполезно. Следовательно, нужно выбрать определение, согласно которому сознание есть хотя бы у людей. Так что, по определению.

[epros]

mihaild в сообщении #1694060 писал(а):

Можете тогда привести пример чего-нибудь, что человек, или какая-то другая система делает, что в неё не "заложено"?

Конечно не могу, а зачем?

Ghost_of_past в сообщении #1694071 писал(а):

Ага, рептилоидами вмонтируется, не иначе.

И этого я тоже не говорил. Ваш подход к критике утверждений собеседника как всегда восхитителен.

Ghost_of_past в сообщении #1694071 писал(а):

В реальности это хорошее указание на то, что самосознание - это эмерджентный феномен, который возникает естественным путем в достаточно развитой нормально функционирующей ЦНС.

Слово "эмерджентный" было употреблено для того, чтобы отвлечь внимание читателя от того факта, что некоторые другие "достаточно" развитые нормально функционирующие ЦНС не позволяют их носителям пройти зеркальный тест, в то время как существа с гораздо менее развитой нервной системой его почему-то успешно проходят?

epros в сообщении #1694056 писал(а):

МТС-бот прекрасно узнал, что я имел в виду его

Ghost_of_past в сообщении #1694071 писал(а):

К чему был этот фейспалм? Вы хотели сказать, что такой ответ не означает вот именно того, что я сказал?

Ghost_of_past в сообщении #1694071 писал(а):

Остальные высшие животные смотрят на Вас с некоторым удивлением в этот момент времени.

Так это им надо с удивлением смотреть не на меня, а на тех, кто так считает.

[mihaild]

epros в сообщении #1694082 писал(а):

Конечно не могу, а зачем?

Чтобы продемонстрировать, что Ваше понятие "заложенности" что-то разделяет.

Содержательный вопрос тут - чем отличаются процессы узнавания себя в зеркале и ответов у бота. Одно из отличий - то, что ответы бота в каком-то смысле более сильно определены внешними силами, чем узнавание. Тут дальше осмысленно разбираться, в каком именно смысле, а вот вводить тривиальщину вроде "это всё физические (не магические) процессы" - не очень осмысленно.

[epros]

mihaild в сообщении #1694086 писал(а):

Чтобы продемонстрировать, что Ваше понятие "заложенности" что-то разделяет.

Нет, ничего не разделяет. И это не моё понятие. Это Ghost_of_past сказал, что ответ был "вмонтирован" в МТС-бота, а я прокомментировал, что в том же смысле можно сказать и про нас - что результаты зеркального теста в нас "вмонтированы".

[mihaild]

epros в сообщении #1694097 писал(а):

Это Ghost_of_past сказал, что ответ был "вмонтирован" в МТС-бота, а я прокомментировал, что в том же смысле можно сказать и про нас - что результаты зеркального теста в нас "вмонтированы".

А правильный вопрос тут - что значит, что "ответ вмонтирован". Думаю, у Ghost_of_past есть какое-то определение (а если нет, то и правда не надо было так говорить), разделяющее МТС бота и зеркало.

[Ghost_of_past]

realeugene в сообщении #1694075 писал(а):

Если всё так просто сводится к паре простых определений

Не к паре и не простых, но возвращаемся к тому, что уже обсуждалось: сперва на основе имеющихся адаптируем понятия "сознание" и "самосознание" к техническим системам (и получаем понятия искусственного сознания и самосознания с критериями), а потом оцениваем системы. Иначе это поиски даже не черной кошки в темной комнате, а неизвестного зверя в комнате, где его может и не быть.

realeugene в сообщении #1694075 писал(а):

может быть вы их тут опубликуете?

Если мы про понятия "сознание" и "самосознание", то уже давал на форуме. Если про искусственное сознание и самосознание - то в науке пока еще нет однозначного устоявшегося понимания этих терминов, хотя я тоже уже давал ссылку на попытку в отношении самосознания такие определения начать формулировать.

epros в сообщении #1694082 писал(а):

Ваш подход к критике утверждений собеседника как всегда восхитителен.

Я и не собирался критиковать утверждение про самосознание бота мобильного оператора - невозможно критиковать то, что даже толком не сформулировано. Вы используете понятие "самосознание", но по контексту Ваших постов мне очевидно, что точного значения термина Вы не знаете (а для искусственного самосознания оно и просто не сформулировано ещё толком).

epros в сообщении #1694082 писал(а):

отвлечь внимание читателя от того факта, что некоторые другие "достаточно" развитые нормально функционирующие ЦНС не позволяют их носителям пройти зеркальный тест, в то время как существа с гораздо менее развитой нервной системой его почему-то успешно проходят?

Простите, с зоопсихологией Вы явно незнакомы на достаточном уровне для данного разговора, а если бы были знакомы, то владели бы фактом того, что зеркальный тест методически и методологически очень тяжело адаптировать под поведение конкретного вида, так что проблема тут не в существах со сложной ЦНС, а в нашей исследовательской слабости.

epros в сообщении #1694082 писал(а):

Так это им надо с удивлением смотреть не на меня, а на тех, кто так считает.

Незнание методологических проблем зеркального теста демонстрируют явно не ученые, занимающиеся зоопсихологией, сравнительной психологией и этологией. Так что удивительно смотрят они именно на Вас.

[realeugene]

Ghost_of_past в сообщении #1694107 писал(а):

Если про искусственное сознание и самосознание - то в науке пока еще нет однозначного устоявшегося понимания этих терминов, хотя я тоже уже давал ссылку на попытку в отношении самосознания такие определения начать формулировать.

Так а учить что?

Ghost_of_past в сообщении #1694071 писал(а):

которые не осилили выучить за много лет споров на форуме определение терминов "сознание" и "интеллект".

[Ghost_of_past]

realeugene в сообщении #1694111 писал(а):

Так а учить что?

Как минимум определения для естественного (биологического) сознания, самосознания и интеллекта - как отправная точка для модификации этих понятий для искусственных технических систем.

[realeugene]

Ghost_of_past в сообщении #1694114 писал(а):

Как минимум определения для естественного (биологического) сознания, самосознания и интеллекта - как отправная точка для модификации этих понятий для искусственных технических систем.

Припоминаю, что там десятки разных определения?

[epros]

mihaild в сообщении #1694100 писал(а):

А правильный вопрос тут - что значит, что "ответ вмонтирован". Думаю, у Ghost_of_past есть какое-то определение (а если нет, то и правда не надо было так говорить), разделяющее МТС бота и зеркало.

По-моему, это лишний вопрос. Слово-то общеупотребительное, а если у Ghost_of_past есть какие-то основания употреблять его в каком-то специальном значении, то ничто не мешало ему уточнить это без всяких вопросов. Кстати, мой комментарий и был о том, что понятие "вмонтирован" в контексте обсуждения тестов на наличие самосознания ничего не разделяет: по крайней мере, оно не разделяет чат-ботов (у которых что-то "вмонтировано") и нас (у которых якобы не "вмонтировано"). К сожалению, содержательного обсуждения предполагаемых Ghost_of_past различий между "не обладающими самосознанием" чат-ботами и "обладающими самосознанием" нами, не получилось, а получился какой-то очередной поток спама.

Ghost_of_past в сообщении #1694107 писал(а):

Простите, с зоопсихологией Вы явно незнакомы на достаточном уровне для данного разговора, а если бы были знакомы, то владели бы фактом того, что зеркальный тест методически и методологически очень тяжело адаптировать под поведение конкретного вида, так что проблема тут не в существах со сложной ЦНС, а в нашей исследовательской слабости.

А Вы, как я вижу, "знакомы" настолько хорошо, что даже не знаете, что зеркальный тест прекрасно был адаптирован для муравьёв и они его успешно прошли.

[Ghost_of_past]

realeugene в сообщении #1694115 писал(а):

Припоминаю, что там десятки разных определения?

Десятки определений говорят про разные аспекты сознания, но в целом это не мешает давать рабочее определение:

Цитата:

Сознание - это сложный феномен, который включает в себя:

1) феноменальное сознание, т.е. способность испытывать возможные субъективные переживания;
2) целостную репрезентацию окружающего мира и самих себя в субъективную реальность;
3) режим работы организма, а вернее ЦНС, в котором имеется способность реагировать на внешнюю стимуляцию вне рамок примитивной реактивности организма;
4) бодрствование организма вне сновидений;
5) высшую психическую функцию по осуществлению доступа к выходным системам сбора информации организма, контролю над поведением и поведенческим взаимодействием с окружающим миром.

У искусственного сознания как минимум должны быть пункты 1, 2 и 5 (а скорее всего в какой-то модифицированной версии и пункт 3). Так что это длительная перспектива - адаптация понятий "сознание" и в особенности "самосознание" к искусственным техническим системам, а затем попытка оценить, насколько разные системы соответствует введенным нами понятиям.

Реальная ситуация осложняется тем, что сейчас в биологии, медицине, психологии, философии сознания, когнитивных науках, нейронауках всё больше поводов считать, что дихотомия "есть сознанием" vs "нет сознания" фундаментально ошибочна, и по сути существуют разные переходные состояния между системами с развитым сознанием и без сознания вовсе - вот в этом диапазоне некоторые наши искусственные технические системы действительно уже могут быть. Так что это не короткая история про "общались с ботом и показалось, что они он отвечает так, будто есть самосознание" - нас ждет длительный исследовательский процесс.

epros в сообщении #1694126 писал(а):

К сожалению, содержательного обсуждения предполагаемых Ghost_of_past различий между "не обладающими самосознанием" чат-ботами и "обладающими самосознанием" нами, не получилось

Содержательного обсуждения быть не можем до тех пор, пока Вы не сформулируете четко все важные для идентификации критерии самосознания для искусственных систем. Хотя бы также, как это делалось по исследованиям, приведенным уважаемым Anton_Peplov и мною про сознание и самосознанием на первой странице этой же темы.

А то может Вы пользуетесь не мейнстримными формулировками (есть у меня такое подозрение), а каким-то другим или какими-то другими. Вон, например, есть какое-нибудь из пониманий панпсихистов-панэкспериенталистов:

kry в сообщении #1467588 писал(а):

Есть брать два фундаментальных подхода к панпсихизму как направления в философии сознания, философии психики и философии нейронаук/нейрофилософии, то стоит выделить: а) гносеологический подход через расширение лексического содержания понятий "психика", "сознание", "мышление", "субъективный опыт" и т.д., что позволяет приписать данные свойства многим или любым объектам и системам в окружающем мире - по сути это специфическая разновидность гносеологического репрезентационизма и теории отражения; б) онтологический подход, в рамках которого буквального считается, что психическая деятельность/сознание/мышление/субъективный опыт как у человека присущ многим или любым объектам и системам в окружающем мире. В настоящее время онтологический подход считается крайне маргинальным и глубоко ненаучным.

По полноте панпсихизм делится на:

- полный, т.е. все объекты и системы обладают соответствующей психической деятельностью;
- частичный, т.е. лишь некоторые из выделяемых объектов и систем обладают соответствующей психической деятельностью.

Также существуют течения по тому, что именно существует:

- панэкспериентализм - сознание и самосознание;
- панквалитизм - квалиа в современном понимании, т.е. субъективный опыт;
- панкогнитивизм - мышление;
- панпротопсихизм - психика и психическая деятельность, находящаяся для разных объектов на разном уровне развития (этой позиции, к примеру, придерживался ранний Дэвид Чалмерс);
- космопсихизм - вся реальность является единым целом и ей присуща психическая активность, которая проявляется в каждом объекте реальности в зависимости от сложности соответствующего объекта.

epros в сообщении #1694126 писал(а):

А Вы, как я вижу, "знакомы" настолько хорошо, что даже не знаете, что зеркальный тест прекрасно был адаптирован для муравьёв и они его успешно прошли.

Я эту новость на форуме рассказывал 8 лет назад. 8 лет, Карл. Чтобы потом уважаемый epros мне сказал, что я не знаю, что зеркальный тест прекрасно был адаптирован для муравьёв.

Чтобы Вы понимали, насколько тяжело адаптировать тест: из примерно 22700 видов муравьев на данный момент зеркальный тест прошло 6 видов. Капитан Очевидность подсказывает, что это не значит, что остальные 22694 вида (плюс-минус) не имеют самосознания, это именно означает, что нам не удалось адаптировать под их поведение зеркальный тест. И еще чтобы Вы также понимали сложность проблемы - про методологические проблемы зеркальных тестов люди пишут диссертации и целые разделы в монографиях.

[Mihaylo]

Ghost_of_past в сообщении #1694136 писал(а):

Сознание - это сложный феномен, который включает в себя:

1) феноменальное сознание, т.е. способность испытывать возможные субъективные переживания;
2) целостную репрезентацию окружающего мира и самих себя в субъективную реальность;
3) режим работы организма, а вернее ЦНС, в котором имеется способность реагировать на внешнюю стимуляцию вне рамок примитивной реактивности организма;
4) бодрствование организма вне сновидений;
5) высшую психическую функцию по осуществлению доступа к выходным системам сбора информации организма, контролю над поведением и поведенческим взаимодействием с окружающим миром.

А что нам определения эти заумные? Дайте пример тестирования чат-бота. Такой, чтобы никто не казал: "Фу, ерунда какая-то!".
Мой тест провалился на публичной оценке, если помните.