Обладают ли LLM самоосознанием?

[Ghost_of_past]

Mihaylo в сообщении #1694143 писал(а):

Дайте пример тестирования чат-бота

Пример тестирования на предмет чего? Сперва дается определение с критериями, потом проводится оценивание (например тестирование) на предмет наличия или отсутствия этих критериев.

[Mihaylo]

Тест на самосознание/сознание.

[Ghost_of_past]

Mihaylo в сообщении #1694145 писал(а):

Тест на самосознание/сознание.

Как Вы собираетесь искать самосознание у чат-бота, если Вы перед этим не определили самосознание и его критерии?

"Пойди туда — не знаю куда, принеси то — не знаю что" (с) Удачных Вам тестирований с таким подходом.

[gevaraweb]

realeugene в сообщении #1694075 писал(а):

Определение, согласно которому сознания нет вообще ни у кого, тривиально бесполезно.

С чего это? Дали определение, потом прогресс науки выяснил, что такого нет. Бывает.

epros в сообщении #1694056 писал(а):

Ага, и это "ещё" - это тот избыток самомнения, который позволяет считать себя единственным существом, достойным считаться "сознающим", "самосознающим" или "разумным" (тут возможны варианты).

epros в сообщении #1694082 писал(а):

этого я не говорил. Ваш подход к критике утверждений собеседника как всегда восхитителен.

Ghost_of_past в сообщении #1694071 писал(а):

Доказательство, что сознание - это не интеллект, нужно людям, которые не осилили выучить за много лет споров на форуме определение терминов "сознание" и "интеллект".
А речь выше шла не о сознании, а о самосознании.

Дык, самосознание - это краеугольный камень сознания. Одно без другого не существует, они диалектически связаны (что бы это ни значило). Уже пора бы это знать. Поэтому я и говорил про сознание.
Сознание - это я помню, кстати - высшая форма отражения материи.
Интеллект вот не помню, но точно помню, что они диалектически связаны (что бы это ни значило). Вы, кстати, не смогли его дать.
И, вы его сами тоже не выучили, а процитировали.

Ghost_of_past в сообщении #1694136 писал(а):

рабочее определение:

Цитата:

Сознание - это сложный феномен, который включает в себя:

1) феноменальное сознание, т.е. способность испытывать возможные субъективные переживания;
2) целостную репрезентацию окружающего мира и самих себя в субъективную реальность;
3) режим работы организма, а вернее ЦНС, в котором имеется способность реагировать на внешнюю стимуляцию вне рамок примитивной реактивности организма;
4) бодрствование организма вне сновидений;
5) высшую психическую функцию по осуществлению доступа к выходным системам сбора информации организма, контролю над поведением и поведенческим взаимодействием с окружающим миром.

Ghost_of_past в сообщении #1694136 писал(а):

У искусственного сознания как минимум должны быть пункты 1, 2 и 5 (а скорее всего в какой-то модифицированной версии и пункт 3). Так что это длительная перспектива - адаптация понятий "сознание" и в особенности "самосознание" к искусственным техническим системам, а затем попытка оценить, насколько разные системы соответствует введенным нами понятиям.

В, общем, еще предстоит много-много болтовни. Тогда рано еще мне учить определение сознания. Подожду еще .
За сим сбегаю с этой темы .

[epros]

Ghost_of_past в сообщении #1694136 писал(а):

Я эту новость на форуме рассказывал 8 лет назад. 8 лет, Карл. Чтобы потом уважаемый epros мне сказал, что я не знаю, что зеркальный тест прекрасно был адаптирован для муравьёв.

И это знание, наряду со знанием того, что некоторые млекопитающие зеркальный тест проваливают, не помешало Вам утверждать вот это:

Ghost_of_past в сообщении #1694071 писал(а):

самосознание - это эмерджентный феномен, который возникает естественным путем в достаточно развитой нормально функционирующей ЦНС.

[realeugene]

Ghost_of_past в сообщении #1694136 писал(а):

Сознание - это сложный феномен, который включает в себя:

Как-то намешано. При чём тут "бодрствование вне сновидений"? Это для животных должно следовать из определения, а не быть частью определения.

-- 14.07.2025, 11:45 --

Ghost_of_past в сообщении #1694136 писал(а):

и по сути существуют разные переходные состояния между системами с развитым сознанием и без сознания вовсе

Глюки на веществах? Ну да, нынешние системы могут уже там быть.

[Ghost_of_past]

gevaraweb в сообщении #1694151 писал(а):

Одно без другого не существует

Нет. Самосознание представляет собой отдельную форму рефлексивного сознания, так что самосознание без сознания существовать не может, а вот сознание без самосознания - вполне может.

И опять незнание терминологии.

gevaraweb в сообщении #1694151 писал(а):

они диалектически связаны (что бы это ни значило)

Это ничего не значит. Пример обычной болтологии.

gevaraweb в сообщении #1694151 писал(а):

За сим сбегаю с этой темы

Учитывая, что ничего полезного Вы не написали и Вы не владеете даже базовой терминологией, то не очень понимаю, зачем надо было в тему и приходить. Видимо, для болтологии.

epros в сообщении #1694176 писал(а):

И это знание, наряду со знанием того, что некоторые млекопитающие зеркальный тест проваливают, не помешало Вам утверждать вот это

Нет, не помешало, потому что знаю, что это связано именно с методологическими проблемами зеркального теста под поведение каждого вида, а не с отсутствием у этих видов самосознания.

realeugene в сообщении #1694183 писал(а):

При чём тут "бодрствование вне сновидений"?

Напрямую. Это важнейший медицинский критерий.

realeugene в сообщении #1694183 писал(а):

Глюки на веществах?

Измененные состояния сознания тоже могут туда входить, но речь шла прежде всего не про них, а про различные виды психической деятельности, близких к появлению первичного сознания - например у многих насекомых. Туда же и различные переходные состояния между сновидениями и бодрствованием, между комой и бодрствованием.

[MoonWatcher]

Ghost_of_past в сообщении #1694107 писал(а):

Не к паре и не простых, но возвращаемся к тому, что уже обсуждалось: сперва на основе имеющихся адаптируем понятия "сознание" и "самосознание" к техническим системам (и получаем понятия искусственного сознания и самосознания с критериями), а потом оцениваем системы. Иначе это поиски даже не черной кошки в темной комнате, а неизвестного зверя в комнате, где его может и не быть.

Как вы это собираетесь адаптировать? Разве у сознания есть хоть какие-нибудь объективные критерии, позволяющие отличить их от качественной имитации? Насколько я понимаю, мы можем только чувствовать, что сами обладаем сознанием - и делать разумное допущение, что все похожие на нас также им обладают, а не имитируют его. Но в случае с искусственной системой допущение об имитации им сознания перестает быть маловероятным.

[Ghost_of_past]

MoonWatcher в сообщении #1694199 писал(а):

Как вы это собираетесь адаптировать?

Я никак не собираюсь адаптировать. Адаптировать будут специалисты, как именно это пытаются сделать для самосознания - приводилось мною ранее в этой теме.

MoonWatcher в сообщении #1694199 писал(а):

Разве у сознания есть хоть какие-нибудь объективные критерии

Очень странный вопрос. Объективные критерии есть и они постоянно применяются в реаниматологии, анестезиологии, нейронауках и т.д.

MoonWatcher в сообщении #1694199 писал(а):

позволяющие отличить их от качественной имитации?

Концепция философского зомби практически не реализуема в нашей Вселенной именно по той причине, что она игнорирует объективные проявления сознания и опирается на устаревшее понимание "квалиа". Это аргументированно показал Деннетт еще в своей книге "Consiousness explained" начала 1990ых годов.

MoonWatcher в сообщении #1694199 писал(а):

Насколько я понимаю, мы можем только чувствовать, что сами обладаем сознанием

Неправильно понимаете. То, о чем Вы говорите - это не сознание в целом, а только субъективно переживаемое феноменальное сознание, хотя в психологии удалось разработать достаточно успешные методы изучения и его тоже.

[mihaild]

epros в сообщении #1694126 писал(а):

По-моему, это лишний вопрос. Слово-то общеупотребительное

Но общеупотребительно оно (слово "заложено") именно в смысле "заложено от рождения" или чём-то близком. Если я сидел и решал задачу, а потом нашел решение - в общеупотребительном смысле решение задачи в меня никак не "заложено", а найдено мной.

Ghost_of_past в сообщении #1694144 писал(а):

Пример тестирования на предмет чего? Сперва дается определение с критериями

Собственно "определение" и должно быть каким-то вариантом "теста" (возможно не очень реализуемым, так что нам потом придется искать какие-то реализуемые приближения).

[MoonWatcher]

Ghost_of_past в сообщении #1694200 писал(а):

Концепция философского зомби практически не реализуема в нашей Вселенной именно по той причине, что она игнорирует объективные проявления сознания и опирается на устаревшее понимание "квалиа". Это аргументированно показал Деннетт еще в своей книге "Consiousness explained" начала 1990ых годов.

Только вот с аргументами Деннетта многие не согласны - Дэвид Чалмерс, Джон Сёрл, Джеральд Эдельман, Антонио Дамасио, Вилаянур Рамачандран, Джулио Тонони, Кристоф Кох, Родольфо Ллинас... И что вы понимаете под концепцией философского зомби - возможность его существования? Тогда одно из двух: или нынешние (ну или в недалеком будущем) большие языковые модели (особенно если в их системном промпте заложено соответствующее поведение) - философские зомби, или у них есть сознание.

Ghost_of_past в сообщении #1694200 писал(а):

Неправильно понимаете. То, о чем Вы говорите - это не сознание в целом, а только субъективно переживаемое феноменальное сознание, хотя в психологии удалось разработать достаточно успешные методы изучения и его тоже.

Значит я говорил про "субъективно переживаемое феноменальное сознание". Изучать его у себе подобных психологи могут сколько угодно - вопрос как его отличить от имитации у неживой системы.

Ghost_of_past в сообщении #1694200 писал(а):

Очень странный вопрос. Объективные критерии есть и они постоянно применяются в реаниматологии, анестезиологии, нейронауках и т.д.

Повторюсь - я говорил про "субъективно переживаемое феноменальное сознание". Как можно подтвердить или опровергнуть этот факт субъективного переживания? По принципу "если у меня активна такая-то область мозга, когда я в сознании, то значит человек с аналогичной активностью тоже в сознании"? Это очевидное допущение - но оно никак не проясняет вопрос о наличии или отсутствии "субъективно переживаемого феноменального сознания" у неживой или просто инопланетной системы, которая ведет себя так, как ведут себя обладающие сознанием люди (при том, что вести себя они могут по-разному). Допустим, что перед нами разумное "облако", как в том фантастическом фильме - как мы поймем: у него есть субъективные переживания, или это инопланетный аналог нашего ИИ? В отношении современного или будущего ИИ вопрос стоит аналогичным образом.

[gevaraweb]

Ghost_of_past в сообщении #1694198 писал(а):

а вот сознание без самосознания - вполне может.

А приведите пример, если не затруднит.

Ghost_of_past в сообщении #1694198 писал(а):

Учитывая, что ничего полезного Вы не написали

Откровенная ложь, я написал философское определение сознания. Если оно бесполезно, то остальное не сильно полезнее.

[Ghost_of_past]

mihaild в сообщении #1694208 писал(а):

Собственно "определение" и должно быть каким-то вариантом "теста"

Видимо, как минимум первым этапом такого теста/тестов.

MoonWatcher в сообщении #1694212 писал(а):

Только вот с аргументами Деннетта многие не согласны

Только вот реаниматологам, анестезиологам и нейробиологам на это наплевать: они работают не с метафизическими абстракциями, которые создаются философами, а с реальным сознанием в нашей эмпирической действительности. Деннет же только обобщил и дал философские комментарии к этим эмпирическим представлениям, чем и полезен для эмпирической науки.

MoonWatcher в сообщении #1694212 писал(а):

Тогда одно из двух

Ложная дихотомия. LLM вообще пока еще не достигли стадии появления сколько-нибудь развитого сознания, что прямо говорилось по ссылке в начале темы.

MoonWatcher в сообщении #1694212 писал(а):

вопрос как его отличить от имитации у неживой системы

И на этот вопрос также предлагались варианты ответа по ссылке в начале темы. Читайте, больше здесь я Вам ничем помочь не могу.

MoonWatcher в сообщении #1694212 писал(а):

Как можно подтвердить или опровергнуть этот факт субъективного переживания?

Ну то есть Вы не знаете, как психологи и психиатры изучают субъективные переживания людей? Ок. Читайте и разбирайтесь.

MoonWatcher в сообщении #1694212 писал(а):

Это очевидное допущение

Любое знание относительно и всегда есть место скептицизму. Гипотетически существует даже вероятность, что на самом деле Земля плоская, а все наши представления о её форме ошибочны и являются коллективной галлюцинацией или какой-нибудь ошибкой. Просто никто в здравом уме всерьез такую вероятность не рассматривает.

MoonWatcher в сообщении #1694212 писал(а):

но оно никак не проясняет вопрос о наличии или отсутствии "субъективно переживаемого феноменального сознания" у неживой

Как работа с естественным биологическим сознанием проясняет возможность искусственного сознания прекрасно описано у Метцингера. Читайте и разбирайтесь.

MoonWatcher в сообщении #1694212 писал(а):

или просто инопланетной системе

Будьте добры, продемонстрируйте соответствующую инопланетную систему публике. А то, знаете ли, существование инопланетной жизни - это тоже допущение, но почему-то с этим допущением Вы спокойно работаете, а другое допущение пытаетесь критиковать. Если что, то это претензия не к допущению существования инопланетной жизни, а к непоследовательному отношению к этим двум допущениям.

MoonWatcher в сообщении #1694212 писал(а):

Допустим, что перед нами разумное "облако"

Вы сперва, пожалуйста, откройте такое облако и потом обязательно обсудим, а уже после будем обсуждать соляристику заниматься его исследованием.

MoonWatcher в сообщении #1694212 писал(а):

как мы поймем: у него есть субъективные переживания, или это инопланетный аналог нашего ИИ?

Совершенно непонятно, откуда тут взялось "или". Сильный ИИ с искусственным сознанием и самосознанием, человеческий или инопланетный, вполне возможен - принципиальных ограничений тут не обнаружено, насколько мне известно. Просто LLM - это не сильный ИИ с искусственным сознанием и самосознанием, а только лишь шаг на пути к таковому.

-- 14.07.2025, 15:48 --

gevaraweb в сообщении #1694213 писал(а):

А приведите пример, если не затруднит.

В медицине: состояние минимального сознания без осознания себя, некоторые разновидности синдрома Котара. В биологии: большинство несоциальных насекомых.

gevaraweb в сообщении #1694213 писал(а):

Если оно бесполезно

Без "если".

[MoonWatcher]

Ghost_of_past в сообщении #1694217 писал(а):

Только вот реаниматологам, анестезиологам и нейробиологам на это наплевать: они работают не с метафизическими абстракциями, которые создаются философами, а с реальным сознанием в нашей эмпирической действительности. Деннет же только обобщил и дал философские комментарии к этим эмпирическим представлениям, чем и полезен для эмпирической науки.

Вообще-то, кроме первых двух, все из моего списка - нейробиологи.

Ghost_of_past в сообщении #1694217 писал(а):

И на этот вопрос также предлагались варианты ответа по ссылке в начале темы. Читайте, больше здесь я Вам ничем помочь не могу.

На первых 6 страницах я не нашел этих ссылок.

Ghost_of_past в сообщении #1694217 писал(а):

Ну то есть Вы не знаете, как психологи и психиатры изучают субъективные переживания людей? Ок. Читайте и разбирайтесь.

Я вообще-то не один раз подчеркнул, что проблема возникает, когда мы имеем дело не с людьми - на которых, ясень пень, натянуть любые мыслимые или немыслимые атрибуты сознания не проблема, раз уж в их сознании никто всерьез не сомневается.

Ghost_of_past в сообщении #1694217 писал(а):

Любое знание относительно и всегда есть место скептицизму. Гипотетически существует даже вероятность, что на самом деле Земля плоская, а все наши представления о её форме ошибочны и являются коллективную галлюцинацией или какой-нибудь ошибкой. Просто никто в здравом уме всерьез такую вероятность не рассматривает.

И поэтому (см. выше) я спрашиваю про выявление субъективного переживания не у людей (это все равно, что у себя), а у ИИ, например.

Ghost_of_past в сообщении #1694217 писал(а):

Как работа с естественным биологическим сознанием проясняет возможность искусственного сознания прекрасно описано у Метцингера. Читайте и разбирайтесь.

Апеллировать одновременно к Деннету и Метцингеру - это интересно, особенно когда речь идет об избранном лично вами совпадении их отдельных концепций. Я уже не говорю о том, что:
1) Метцингер ни разу не Маркс, учение которого всесильно, потому что оно верно - у него тоже хватает оппонентов
2) Прозрачная и надлежащая архитектура ИИ, к которой Метцингер апеллирует для подтверждения наличия у ИИ сознания - это спорные функционально-архитектурные корреляты, а не доказательство квалиа.

Ghost_of_past в сообщении #1694217 писал(а):

Будьте добры, продемонстрируйте соответствующую инопланетную систему публике. А то, знаете ли, существование инопланетной жизни - это тоже допущение, но почему-то с этим допущением Вы спокойно работаете, а другое допущение пытаетесь критиковать.

Ghost_of_past в сообщении #1694217 писал(а):

Вы сперва, пожалуйста, откройте такое облако и потом обязательно обсудим, а уже после будем обсуждать соляристику заниматься его исследованием.

Не буду оригинален, если адресую вас к ИИ - если не нынешнему, то будущему. Многие специалисты прямо говорят, что речь идет о зарождении новой формы разума на Земле. Я только не понял, чем вам мое допущение не угодило. Меня ведь ИИ интересует, да и тема про него - вот я спрашиваю: как вы отличите гипотетических инопланетян с сознанием от их умных роботов, "имитирующих" разумное поведение? Метцингер, как я понял, апеллирует к архитектуре - в данном случае она может быть закрытой, непрозрачной и во всех смыслах чуждой нашим представлениям в этой области. Но согласен считать этот вопрос заведомо неразрешимым - давайте к вопросу о подтверждении "субъективных переживаний" у системы, которая имеет функционально-архитектурные корреляты (которые Метцингер считает признаками этих переживаний).

Ghost_of_past в сообщении #1694217 писал(а):

Совершенно непонятно, откуда тут взялось "или". Сильный ИИ с искусственным сознанием и самосознанием, человеческий или инопланетный, вполне возможен - принципиальных ограничений тут не обнаружено, насколько мне известно. Просто LLM - это не сильный ИИ с искусственным сознанием и самосознанием, а только лишь шаг на пути к таковому.

Даже если ИИ отвечал бы всем критериям Метцингера, то все равно в научном мире нашлось бы немало скептиков, отрицающих наличие у него субъективных переживаний.

[Ghost_of_past]

MoonWatcher в сообщении #1694219 писал(а):

Вообще-то, кроме первых двух, все из моего списка - нейробиологи.

Вообще-то нет - эмпирическими исследованиями по нейробиологии сознания занимались Дамасио и Рамачандран, у остальных основной фокус эмпирических исследований был на других областях нейробиологических исследованиях, а в нейробиологию сознания они внесли преимущественно теоретический вклад, хотя он безусловно очень значительный.

Однако из Вашего списка идею философского зомби поддерживал только Чалмерс (до 2020ых годов, сейчас он стал сомневаться в возможности реализации философских зомби), из остальных я не знаю, чтобы кто-нибудь был сторонником философских зомби на данный момент (или момент смерти). Будьте добры, сошлитесь на наиболее актуальные по времени выпуска научные работы приведенных Вами авторов, где бы они не соглашались с Деннетом именно по вопросу невозможности реализации философских зомби - с интересом почитаю.

MoonWatcher в сообщении #1694219 писал(а):

На первых 6 страницах я не нашел этих ссылок.

Значит плохо искали, так как этот вопрос косвенно затрагивался в одной из статей, ссылки на которые были даны на первой странице темы.

MoonWatcher в сообщении #1694219 писал(а):

Я вообще-то не один раз подчеркнул, что проблема возникает, когда мы имеем дело не с людьми

Вам кто-то виноват, что Вы не знаете про существование зоопсихологии и сравнительной психологии, которые в том числе среди прочего изучают феноменальное сознание? А проблемы возникают, кто же с этим спорит, - только наука постепенно их разрешает.

MoonWatcher в сообщении #1694219 писал(а):

а у ИИ, например

Прямо на первой странице есть ссылка на исследование, где разные теории сознания, в том числе феноменального сознания, пытались применить к LLM. Результат отрицательный. Почему Вы не ознакомились ни с какими материалами в теме, но зачем-то решили поднимать вопросы, которые в этих материалах обсуждаются и исследуются - вот для меня загадка.

MoonWatcher в сообщении #1694219 писал(а):

это интересно, особенно когда речь идет об избранном лично вами совпадении их отдельных концепций

Это не совпадение, а банальный мейнстрим философии сознания. Только для знания этого надо было изучать философию сознания по учебной и профессиональной литературе.

MoonWatcher в сообщении #1694219 писал(а):

Прозрачная и надлежащая архитектура ИИ, к которой Метцингер апеллирует для подтверждения наличия у ИИ сознания - это спорные функционально-архитектурные корреляты, а не доказательство квалиа.

Метцингер вполне может ошибаться - Вы можете всегда опровергнуть его идеи. Создайте альтернативное теоретическое объяснение, опираясь в доказательной базе на конкретные эмпирические исследования и опубликуйте результаты в соответствующих научных рецензируемых журналах. Буду ждать.

MoonWatcher в сообщении #1694219 писал(а):

Не буду оригинален, если адресую вас к ИИ

LLM я и без Вас могу воспользоваться, Вы мне как посредник для этого не нужны. Впрочем, уровень большинства ответов почти всех LLM на действительно узкие профессиональные вопросы - ниже плинтуса.

MoonWatcher в сообщении #1694219 писал(а):

как вы отличите гипотетических инопланетян с сознанием от их умных роботов

Вы гипотетических инопланетян с их роботами предъявите, а потом будет что обсуждать и исследовать. А пока предлагается обсуждать плод богатой фантазии - мы почти ничего не знаем про реальную распространенность инопланетян в пространстве и времени. Не исключено, например, что в нашей Галактике вообще других разумных цивилизаций нет, а значит и предмет для обсуждения по сути отсутствует, так как непонятно, встретимся ли мы на практике с этими вопросами.

MoonWatcher в сообщении #1694219 писал(а):

Метцингер, как я понял, апеллирует к архитектуре

Нет, Метцингер апеллирует не только к архитектуре, а прежде всего к функционализму, что совершенно ожидаемо - ведь он сторонник одного из направлений модельно-зависимого натуралистического функционализма. Функциональная архитектура лишь одна из основ его теории, наравне со слабым эмерджентизмом, феноменологией и нередукционистским натурализмом. Вы вообще его работы читали полноценно или только искали информацию LLM/поисковиком? Он в своих книгах и статьях почти постоянно опирается на феноменальный сознательный и квазисознательный опыт.

MoonWatcher в сообщении #1694219 писал(а):

Даже если ИИ отвечал бы всем критериям Метцингера

ИИ не отвечает критериям Метцингера хотя бы по той простой причине, что сильного ИИ вообще на данный момент не существует. Мы его еще не создали. Хотя думаю, что скорее всего и создадим в течение этого столетия.

MoonWatcher в сообщении #1694219 писал(а):

то все равно в научном мире нашлось бы немало скептиков, отрицающих наличие у него субъективных переживаний.

Разумеется. Более того, еще всего лишь 50-70 лет назад базовой точкой зрения было и то, что сознание есть только у людей, но не у других животных, хотя сейчас это совершенно маргинальная позиция. Поэтому когда сильный ИИ с теми или иными формами искусственного сознания (и возможно самосознания) будет создан, то потребуется какой-то период времени, чтобы научный консенсус с этим согласился. С этим я и не спорю.