Обладают ли LLM самоосознанием?

[MoonWatcher]

realeugene
Как это доказывает факт субъективного переживания? Как вообще можно доказать переживание субъекта, не будучи этим субъектом? В лучшем случае, ИМХО, можно только допускать наличие таких переживаний - по неким внешним проявлениям. Что опять же не исключает их имитации.

[realeugene]

MoonWatcher в сообщении #1690739 писал(а):

Как это доказывает факт субъективного переживания?

Никак. Не всё доказуемо.

[MoonWatcher]

realeugene
В таком случае подозреваю, что проблема сознания не имеет научного решения. Даже если ИИ начнет вести себя самостоятельно, в нарушение заложенных в него установок, это можно будет объяснить не возникновением в нем сознания, а своеобразным усвоением знаний, на которых он обучался.

[realeugene]

MoonWatcher в сообщении #1690746 писал(а):

В таком случае подозреваю, что проблема сознания не имеет научного решения.

Это возможно. Тем не менее, я не могу доказать, что она в принципе не имеет научного решения. Проблема самосознания, а не сознания других, которое можно исследовать по внешним проявлениям.

[Ghost_of_past]

Serg53 в сообщении #1690710 писал(а):

То есть, информация в процессе обработки, начинает рефлексировать и сама себя переживать (а может пережевывать). Так, что ли?

Не информация, а информационная система (материальный носитель со сложными информационными процессами).

MoonWatcher в сообщении #1690739 писал(а):

Как вообще можно доказать переживание субъекта, не будучи этим субъектом?

Как именно - можете узнать из методологии работы психологов и когнитологов.

MoonWatcher в сообщении #1690739 писал(а):

В лучшем случае, ИМХО, можно только допускать

Рациональная картина мира в принципе построена на допущениях - в частности на эпистемологических презумпциях. Если мы этими допущениями не зададимся, то можно прийти к абсолютно любым выводам, начиная с какого-нибудь банального солипсизма или вообще отрицания существования чего-либо, как в онтологическом (метафизическом) нигилизме.

[b4b5]

Serg53 в сообщении #1690710 писал(а):

То есть, информация в процессе обработки, начинает рефлексировать и сама себя переживать (а может пережевывать). Так, что ли?

Да, можно так сказать.

-- 16.06.2025, 23:01 --

realeugene в сообщении #1690747 писал(а):

Проблема самосознания, а не сознания других, которое можно исследовать по внешним проявлениям.

Самосознание также можно исследовать по внешним проявлениям.

[MoonWatcher]

Ghost_of_past в сообщении #1690837 писал(а):

Как именно - можете узнать из методологии работы психологов и когнитологов.

Так ведь они с людьми работают, в отношении которые "если крякает как утка - значит утка". Тогда как в случае ИИ может иметь место [непроизвольная] имитация сознания. Первым о сознании у ИИ заявил, если не ошибаюсь, Блейк Лемуан - еще в 2022, по итогам общения с языковой моделью LaMDA.

Ghost_of_past в сообщении #1690837 писал(а):

Рациональная картина мира в принципе построена на допущениях - в частности на эпистемологических презумпциях. Если мы этими допущениями не зададимся, то можно прийти к абсолютно любым выводам, начиная с какого-нибудь банального солипсизма или вообще отрицания существования чего-либо, как в онтологическом (метафизическом) нигилизме.

Не вижу оснований отдать одному допущению ("ИИ обрел сознание") больший приоритет, чем другому ("Это не сознание, а его [непроизвольная] имитация"). Сложность в том, что у людей интеллект - своего рода надстройка над сознанием, наличие интеллекта автоматически означает наличие сознания. Но в случае с ИИ интеллект воспроизводится напрямую, минуя сознание. Что, опять же, не исключает обратного процесса - в процессе создания интеллекта возникают "проблески сознания".

[b4b5]

Вопрос "данный ИИ имеет сознание или не имеет" подобен следующему вопросу.
Вопрос "данный алгоритм является операционной системой или нет".
Сразу много вопросов отпадает и понятно как именно разумно можно классифицировать.