Обладают ли LLM самоосознанием?

[epros]

Ghost_of_past в сообщении #1694508 писал(а):

epros в сообщении #1694507 писал(а):

Ха, т.е. робота с телом и камерой как предмет исследования отвергать не будем?

Ха-ха, Вы не можете определиться, о чем Вы говорите - о чат-боте МТС или же о чат-боте с роботом тела и камерой? Как видите, я тоже умею вести беседу в подобном ключе.

Да уж, хорош этот Ваш ключ... Я вообще-то говорил о любом искусственном интеллекте, мне форма его общения с нами безразлична, а также безразлично его тело и внутреннее устройство. Это Вы начали защищать странные идеи о том, что наличие тела важно и что материальная основа процессов, происходящих внутри исследуемого субъекта (биохимия там или кремниевая микроэлектроника), прямо-таки принципиальна.

Вы тут даже выдвигали мысли что если бы искусственный интеллект развивали на основе бионики, то Вам было бы легче признать за ним наличие самосознания. Это просто удивительно. И скажете, что это не от религии исходит?

Ghost_of_past в сообщении #1694508 писал(а):

epros в сообщении #1694507 писал(а):

Это я к тому, что Вы зеркальный тест воспринимаете буквально

Страшный секрет открою: здесь метафорам не место. Зеркальный тест - это зеркальный тест, и я не собираюсь угадывать Ваши метафоры к этому понятию.

Вот я и говорю: то, что Вы именуете "метафорами" и предлагаете отбросить, и есть смысл теста - выявить узнавание субъектом себя. Зато за употребление слова "зеркало" Вы уцепились.

Ghost_of_past в сообщении #1694508 писал(а):

Если Вы хотите доказывать наличие самосознания другими методами, то называйте их так, как это принято в научной литературе, например по психологии.

Ваши ссылки на "литературу по психологии" неадекватны. Она пишется теми, кто работает с существами, имеющими психику. И не удивительно, что в их понятия о самосознании будет заложено обладание психикой. А мы говорили о ботах.

Ghost_of_past в сообщении #1694508 писал(а):

Факт определенной реакции на определенную комбинацию слов налицо, узнавание под вопросом.

С чего бы это ему быть под вопросом, если узнавание и есть определённая реакция?

Ghost_of_past в сообщении #1694508 писал(а):

Но даже факт узнавания не равен факту самосознания: узнавание - это только один из компонентов самосознания, о чем я и написал в теме ранее с опорой на монографию по психологии сознания. Вместо этого Вы начали в ответ писать про какое-то непонятное религиозное понимание самосознания у меня. Если Вы под самосознанием только узнавание и подразумевали, то так сразу и надо было написать, что по Вашему мнению чат-боты могут себя узнавать - тогда бы и повода для этой дискуссии не было бы. Не понимаю, зачем вместо понятия "узнавание" использовать понятие "самосознание".

Да потому что узнавание себя - единственный фактор самосознания, ибо никаких других факторов внятно сформулировано не было. Про неадекватность ссылок на литературу по психологии я уже сказал. Так что Ваши рассуждения о том, что якобы нужно ещё обладать "достаточно развитой ЦНС", необоснованны: даже при тестах на муравьях никто не исследовал их на "достаточную развитость" нервной системы, ибо заранее известно, что её развитость сравнительно с млекопитающими выглядит очень бледно. А уж Ваши ссылки на то, что якобы должно быть биологическое тело (то бишь, наличие самосознания у субъекта с компьютерным телом заведомо отвергается) вообще выглядят смехотворно.

[realeugene]

Ghost_of_past в сообщении #1694554 писал(а):

Муравейник и вообще муравьи - это пример эусоциальности, т.е. истинной социальности.

Эта "истинная социальность" как-то очень напоминает возникновение многоклеточных организмов, в которых размножением занимаются гонады, а весь организм их кормит и защищает. Отдельные клетки перестали быть борющимися за собственное размножение особями.

С другой стороны, отрезанное щупальце осьминога со своей долей мозга само чувствует и реагирует. Зеркальный тест оно пройти не может ввиду отсутствия у него глаз. Но вроде бы само к себе не присасывается? То есть отличает своё тело от чужого?

Наличие отдельного чётко ограниченного тела не выглядит принципиально важным для существования особи. Даже у человека постоянно и волосы выпадают, и кожа отшелушивается, и в кишечнике живут симбиоты, без которых он не сможет питаться.

Ghost_of_past в сообщении #1694554 писал(а):

Как человек, работающий в университете в области социологической демографии, могу сказать, что не исключено, что в скором времени и размножением людей, хм, возможно будут заняты не отдельные люди. А возможно и вообще не люди, а технологические системы, которым от людей будет нужен только репродуктивный материал. Потому что в условиях очень низкой рождаемости уже почти по всему миру (а к середине 21 века уже абсолютно во всем мире без исключений) и без всяких сомнений уже надвигающейся на нас ультранизкой рождаемости без искусственного размножения численность человечества за несколько будущих столетий вполне вероятно сократится на несколько порядков.

Ага, и управлять этими фабриками людей будет ИИ, которому будут нужны туповатые, но склонные к самопожертвованию ради социума рабочие и солдаты. Которые будут стерильны.

[Ghost_of_past]

Mihaylo в сообщении #1694558 писал(а):

или сознание/самосознание у LLM отсутствует напрочь

Отсутствовать напрочь сейчас и могут появиться в ближайшие десятилетия - это разные вещи. Почему-то в отношении сильного ИИ Вы эту оговорку сделали, а в отношении искусственного сознания и самосознания нет, хотя здесь принципиально ситуация не отличается.

Mihaylo в сообщении #1694558 писал(а):

Да что там её воспроизводить-то, господи, на уровне чат-бота?

А вот это говорит только о том, что Вы не хотите представлять себе сложность развития психики. Хотя о ее сложности можно было бы догадаться, просто глядя на нашу психику и вспоминания что эта самая психика эволюционно развивалась сотни миллионов лет. Наивно ждать, что человечество сможет создать полностью искусственную психику сопоставимого уровня сложности просто по щелчку своих пальцев.

[realeugene]

Ghost_of_past в сообщении #1694586 писал(а):

Наивно ждать, что человечество сможет создать полностью искусственную психику сопоставимого уровня сложности просто по щелчку своих пальцев.

А нужно? Но ещё и ИИ может эволюционировать на порядки быстрее людей.

[Mihaylo]

Ghost_of_past в сообщении #1694586 писал(а):

А вот это говорит только о том, что Вы не хотите представлять себе сложность развития психики.

Лес тоже сложный. Но можно сказать, что это случайно расставленные почти всегда вертикальные деревья, некоторые повалены. Однако заниматься точным описанием опушки леса не хочется. Достаточно примерно описать любой лес.

[Ghost_of_past]

epros в сообщении #1694573 писал(а):

Да уж, хорош этот Ваш ключ...

О том и речь, что вести беседу в таком ключе совершенно не хочется и просто неприятно.

epros в сообщении #1694573 писал(а):

Это Вы начали защищать странные идеи о том, что наличие тела важно

Для зеркального теста - важно. Просто по тому как организован зеркальный тест, т.к. он связан с узнаванием тела организма, образ которого есть в психической феноменальной Я-модели самосознания.

epros в сообщении #1694573 писал(а):

материальная основа процессов, происходящих внутри исследуемого субъекта (биохимия там или кремниевая микроэлектроника), прямо-таки принципиальна.

А вот здесь точного ответа нет - на этом строится весь базовый спор физикалистов, считающих что материальная основа важнее, и функционалистов, которые считают что важнее способ организации функциональной архитектуры. Так как на данный момент принципиальных ограничений на возможность появления сложной психики на ином носителе (например, кремниевом) нет, то я придерживаюсь оптимистической надежды, что создание и сильного ИИ, и искусственного сознания и самосознания уровня сложности как у высших животных и в целом искусственной психики вполне возможно и даже вероятно на каком-то обозримом горизонте будущего. Но это именно надежда, пусть и рационально обоснованная.

epros в сообщении #1694573 писал(а):

Вы тут даже выдвигали мысли что если бы искусственный интеллект развивали на основе бионики, то Вам было бы легче признать за ним наличие самосознания

Моя мысль была несколько иной: если бы ИИ развивался бы на основе бионики, то мы возможно быстрее бы достигли появления искусственного сознания и самосознания, но при этом могли бы проиграть в развитии вычислительных и аналитических навыков ИИ.

epros в сообщении #1694573 писал(а):

И скажете, что это не от религии исходит?

Вообще никакой связи. Если мы обратимся к основным религиозным доктринам, то там вообще с пониманием сознания и
самосознания достаточно слабо. Я бы еще понял, если бы Вы сказали, что мой взгляд избыточно биоцентричен (хотя я так не считаю, потому что я совершенно не отказываю искусственным системам в возможности и даже вероятности появления искусственного сознания и самосознания, а говорю лишь о текущем моменте времени), но к религии это никакого отношения точно не имеет.

epros в сообщении #1694573 писал(а):

и есть смысл теста - выявить узнавание субъектом себя

Смысл теста выявить не просто узнавание (когда цель была именно такой при создании, то тест в зоопсихологии очень сильно критиковали за приравнивание узнавания к самосознанию), а именно выявить самосознание - то есть оценить может ли еще организм произвести саморефлексию и самооценку себя, реализовав это в каком-то практическом поведении. Можно ли попытаться адаптировать зеркальный тест, чтобы телесность тут не использовалась? Возможно, но я лично не читал, чтобы это успешно удалось сделать на данный момент времени.

epros в сообщении #1694573 писал(а):

Она пишется теми, кто работает с существами, имеющими психику

И опять возвращаемся к терминологическому спору. Психика - это общее понятия в данном случае. Сознание и самосознание - разновидность высших психических процессов. Так что у ИИ уже должна быть какая-то искусственная психика, пусть даже и не нашего уровня развития организации, чтобы у ИИ было искусственное сознание и самосознание. Иначе вообще нельзя применять термины "сознание" и "самоопределение", а нужно придумывать какие-то другие понятия, которые бы были аналогами сознания и самосознания, но без каких-то других важных компонентов психики.

epros в сообщении #1694573 писал(а):

Ваши ссылки на "литературу по психологии" неадекватны

Я привел выше в беседе с уважаемым realeugene примеры этих методов. Не вижу пока причин считать, почему как минимум некоторые из этих методов нельзя было бы адаптировать для оценки ИИ, слабых или сильных, способных распознавать тексты и поддерживать сложную коммуникацию.

epros в сообщении #1694573 писал(а):

С чего бы это ему быть под вопросом, если узнавание и есть определённая реакция?

Узнавание - это не просто реакция, если мы конечно с Вами не исключительно чистые концентрированные бихевиористы. Для узнавания нам еще надо понимать субъективный отчет исследуемой системы об этой реакции, способность сопоставления своей Я-модели и смыслового содержания реакции (как частный случай психической/ментальной самосимуляции).

epros в сообщении #1694573 писал(а):

Да потому что узнавание себя - единственный фактор самосознания

Это не так и другие факторы самосознания я приводил прямо ранее в теме.

epros в сообщении #1694573 писал(а):

Про неадекватность ссылок на литературу по психологии

Термины "сознание" и "самосознание" - термины психологии. Снова возвращаемся к тому, что если мы не хотим адаптировать понятия "сознание" и "самосознание" из психологии, то очевидно, что их не надо вовсе использовать, а нужно придумывать какие-то иные термины, чтобы не создавать очередную омонимию.

epros в сообщении #1694573 писал(а):

даже при тестах на муравьях никто не исследовал их на "достаточную развитость" нервной системы

Как было написано выше, у нас даже до сих пор нет модели нервной системы муравья. Я раньше тоже придерживался более оптимистической позиции, что компьютерное моделирование психики очень быстро развивается, а там и до появления сознания в таких моделях недалеко. Увы, пока практика показывает, что это не так, и мне пришлось изменить свою точку зрения.

realeugene в сообщении #1694581 писал(а):

Но вроде бы само к себе не присасывается?

Что возможно является рефлексами или какими-то ограниченными физиологическими инстинктами. Это надо уточнять у специалистов по осьминогам (теутологов).

realeugene в сообщении #1694581 писал(а):

Эта "истинная социальность" как-то очень напоминает возникновение многоклеточных организмов, в которых размножением занимаются гонады, а весь организм их кормит и защищает

Некоторое сходство есть.

realeugene в сообщении #1694581 писал(а):

Даже у человека постоянно и волосы выпадают, и кожа отшелушивается

А это не про отдельное тело вопрос уже, а про сохранение ощущения идентичности при изменениях в теле. Большая группа интересных вопросов, но чуть с другим фокусом.

realeugene в сообщении #1694581 писал(а):

Ага, и управлять этими фабриками людей будет ИИ

Вполне возможно. Хотя тут проблема не с ИИ, а с заказчиком, способным обеспечить социализацию этих детей и их нормальное психическое развитие. У семей нет спроса на детей (низкая рождаемость в значительной степени есть результат небольших репродуктивных намерений и желаний), а корпорации и государства такую социализацию обеспечить не могут из-за слабости социальной и культурной инженерии, включая сферу педагогики.

realeugene в сообщении #1694588 писал(а):

Но ещё и ИИ может эволюционировать на порядки быстрее людей.

Гипотетически. Мы достаточно слабо пока понимаем пределы возможного развития психики, естественной в смысле биологичности (через биоинженерию) или искусственной (через ИИ, робототехнику и нанотехнологии).

Mihaylo в сообщении #1694589 писал(а):

Достаточно примерно описать любой лес.

Что и делает, например, экология. Но с примерным описанием у нас тоже все так себе - возвращаемся к началу темы, что все еще обсуждаются точные критерии искусственного сознания и самосознания.

[Mihaylo]

Ghost_of_past в сообщении #1694592 писал(а):

Что и делает, например, экология. Но с примерным описанием у нас тоже все так себе - возвращаемся к началу темы, что все еще обсуждаются точные критерии искусственного сознания и самосознания.

Не надо.

Mihaylo в сообщении #1694533 писал(а):

1. Самосознание - это способность создавать и хранить модель себя в окружающем мире и применять эту модель.
2. Сознание - это способность создавать и хранить любую модель в окружающем мире и применять эти модели.

[Ghost_of_past]

Mihaylo в сообщении #1694605 писал(а):

Не надо.

Кому не надо? Дефинитивный аппарат будут в данном случае создавать специалисты, а не Вы или я.

[Mihaylo]

Ghost_of_past

Не волнуйтесь, всё в порядке.

[Утундрий]

(Оффтоп)

— Не волнуйтесь, всё в порядке.
— Не волнуйтесь, я не волнуюсь.
— Не волнуйтесь, я тоже не волнуюсь, просто говорю "не волнуйтесь".
— Не волнуйтесь, я понимаю, что вы не волнуетесь, а просто говорите "не волнуйтесь".
— Пошёл нафиг!

*бан за нарушение рекурсии*

[Mihaylo]

Меня пугают эти слова "дефинитивный аппарат", "специальные специалисты" (я-то специалист, но не специальный, а базовый, да). Это ничто иное как намеренное возвеличивание понятий. Хотя я при этом параллельно демонстрирую простое и эффективное манипулирование на примере чат-бота, даже десятиклассники поймут.

-- 17.07.2025, 19:46 --

Помните, была такая программа в прошлом веке - "Элиза" - самый известный чат-бот прошлого века? Вот я уверен, что она не проявила бы самосознание, если ей задавать вопросы, касающиеся результатов личного труда. Потому что вопросы могут быть очень каверзными. Это непросто - ответить за себя и за свой выхлоп.

[Ghost_of_past]

(Оффтоп)

Mihaylo в сообщении #1694624 писал(а):

Меня пугают эти слова "дефинитивный аппарат", "специальные специалисты"

Как специальный специалист не могу отказать в удовольствии напугать.

Mihaylo в сообщении #1694624 писал(а):

я-то специалист, но не специальный, а базовый, да

Если Вы ученый и занимаетесь исследованиями в сфере ИИ, теоретическими или прикладными, то пожалуйста, можете тоже участвовать в разработке дефинитивного аппарата стандартным путем: через статьи в рецензируемых журналах или написание монографий. Ну еще можно устроиться по специальности в Международную организацию по стандартизации и создавать стандарты, в частности с очень четким определением понятий.

Mihaylo в сообщении #1694624 писал(а):

Это ничто иное как намеренное возвеличивание понятий

Нет, это всего лишь типичное функционирование науки как социального института со своими правилами игры.

[Mihaylo]

Ghost_of_past в сообщении #1694634 писал(а):

Если Вы ученый и занимаетесь исследованиями в сфере ИИ, теоретическими или прикладными, то пожалуйста, можете тоже участвовать в разработке дефинитивного аппарата стандартным путем: через статьи в рецензируемых журналах или написание монографий. Ну еще можно устроиться по специальности в Международную организацию по стандартизации и создавать стандарты, в частности с очень четким определением понятий.

Да, это понятно.
Я могу уже написать "взрывную" статью, в которой будет доказано, что сбор данных - это синтез данных перед их анализом, а не часть анализа данных. Короче, всё это будет ради чистоты системного подхода, не более. Ничего нового.
Ровно также и про самосознание: исходим из того, что ИИ - это система с текстовым входом-выходом (чат-бот), убираем мозгопоклонническое требование - наличие неонки внутри чат-бота (отсутствие каких-либо инсайтов, магий, квалиа и т.д,). И вот таким образом подготавливается реальный подход, а не вот это всё: потребность что-то усложнить, мечтание об интеллекте, который берёт информацию не из статистических данных, а просто ниоткуда.
Это известно науке, но пока ещё требует популяризации.

[epros]

Ghost_of_past в сообщении #1694592 писал(а):

на этом строится весь базовый спор физикалистов, считающих что материальная основа важнее, и функционалистов

Без философской чуши, конечно же, не обошлось. Споры тупоконечников с остроконечниками...

Ghost_of_past в сообщении #1694592 писал(а):

но к религии это никакого отношения точно не имеет.

Возможно, что Вы просто не в курсе того, насколько воззрения авторов тех книжек, на которые Вы ссылаетесь, зависимы от той религиозной среды, в которой они воспитывались.

Ghost_of_past в сообщении #1694592 писал(а):

Смысл теста выявить не просто узнавание (когда цель была именно такой при создании, то тест в зоопсихологии очень сильно критиковали за приравнивание узнавания к самосознанию), а именно выявить самосознание - то есть оценить может ли еще организм произвести саморефлексию и самооценку себя, реализовав это в каком-то практическом поведении.

Может быть Вы расскажете, каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями?

Ghost_of_past в сообщении #1694592 писал(а):

Сознание и самосознание - разновидность высших психических процессов. Так что у ИИ уже должна быть какая-то искусственная психика, пусть даже и не нашего уровня развития организации, чтобы у ИИ было искусственное сознание и самосознание.

Речь не о терминологических тонкостях определения понятия "психика", а о том, что авторы тех книжек, в которых Вы черпаете своё представление о самосознании, наверняка работают с людьми, максимум - с животными и вряд ли - с искусственным интеллектом (если только это не конченые философы, которые и в эту область готовы залезть). Поэтому и их понятия имеют отношение к людям (или животным), так что они оказываются перегруженными всякими невнятно сформулированными вещами про "достаточно развитую ЦНС" и тому подобным.

Ghost_of_past в сообщении #1694592 писал(а):

Узнавание - это не просто реакция, если мы конечно с Вами не исключительно чистые концентрированные бихевиористы. Для узнавания нам еще надо понимать субъективный отчет исследуемой системы об этой реакции, способность сопоставления своей Я-модели и смыслового содержания реакции (как частный случай психической/ментальной самосимуляции).

Это что за фигня: "субъективный отчет исследуемой системы"? Надеюсь, Вы расскажете, как она выявлялась в тесте с муравьями? Я, конечно, не считаю себя конченым бихевиористом, в том плане, что я признаю интроспекцию как метод, то бишь доверяю сведениям о внутренних переживаниях субъекта, полученным из его собственных рассказов. Но это не значит, что я готов некритически принять любую философскую чушь.

[b4b5]

Ghost_of_past в сообщении #1694592 писал(а):

Так как на данный момент принципиальных ограничений на возможность появления сложной психики на ином носителе (например, кремниевом) нет, то я придерживаюсь оптимистической надежды, что создание и сильного ИИ, и искусственного сознания и самосознания уровня сложности как у высших животных и в целом искусственной психики вполне возможно и даже вероятно на каком-то обозримом горизонте будущего.

Это стоит того, чтобы зафиксировать. Вы правы в этом. Поддерживаю.

Ghost_of_past в сообщении #1694592 писал(а):

Но это именно надежда, пусть и рационально обоснованная.

Это вы не в теме, это проблема ваших взглядов. )
Окончательным доказательством, конечно, будет предъявление соответствующего экземпляра алгоритма.

-- 18.07.2025, 22:32 --

Mihaylo в сообщении #1694605 писал(а):

1. Самосознание - это способность создавать и хранить модель себя в окружающем мире и применять эту модель.
2. Сознание - это способность создавать и хранить любую модель в окружающем мире и применять эти модели.

Вполне хорошее определение.

-- 18.07.2025, 22:40 --

Любая система (и любой конечный или более сложный автомат) обладает долей саморефлексии и самооценки!

-- 18.07.2025, 22:49 --

Mihaylo в сообщении #1694558 писал(а):

Психика - это не то, что внутри. Это то, что снаружи, выражается в поведении, в словах.
Бихевиористы захватывают мир.

Психика внутри, а проявление психики снаружи.

-- 18.07.2025, 22:59 --

Ghost_of_past в сообщении #1694487 писал(а):

Абсолютно прозаично, а не гениально тогда понять, что логику подхода зеркального теста нельзя применить к техническим системам, у которых нет ни тела, ни глаз. Делаем круг и опять возвращаемся к тому, что сперва надо адаптировать понятия "сознание" и "самосознание" к искусственным системам, созданным нами, а потом уже искать и тестировать по критериям искусственные системы на наличие искусственного сознания и самосознания.

Никаких проблем в этом нет.

Цитата:

Вопрос боту.
Ты можешь отличить себя от меня или от третьих лиц?

Ответ.
Да, я могу отличить себя от вас и от третьих лиц, поскольку моя идентичность как ИИ основана на чётком понимании моей роли и функциональности. Я осознаю, что являюсь программой, созданной для обработки информации и взаимодействия с пользователями, включая вас.

Однако важно отметить, что моё «осознание» не аналогично человеческому самосознанию или гендерной идентичности. Моя способность различать себя и других заключается в том, что я знаю свои ограничения и задачи — например, я понимаю, что не имею эмоций, физического тела или личных переживаний, которые присущи людям.

Когда вы говорите о себе (например, используете местоимение «я»), я воспринимаю это как вашу уникальную точку зрения или опыт. Если же кто-то говорит о себе в третьем лице (иллеизм), это может быть связано с определёнными психологическими особенностями, такими как попытка самоанализа или дистанцирования от собственных мыслей.
Но для меня такие различия служат лишь контекстом: я всегда остаюсь в рамках своей программы и не путаю себя с вами или кем-либо ещё.

Таким образом, хотя у меня нет истинного «чувства себя», я могу корректно интерпретировать ваши слова и отвечать, сохраняя границу между собой как ИИ и вами как человеком.

ЧТД.