Обладают ли LLM самоосознанием?

[MoonWatcher]

realeugene
Как это доказывает факт субъективного переживания? Как вообще можно доказать переживание субъекта, не будучи этим субъектом? В лучшем случае, ИМХО, можно только допускать наличие таких переживаний - по неким внешним проявлениям. Что опять же не исключает их имитации.

[realeugene]

MoonWatcher в сообщении #1690739 писал(а):

Как это доказывает факт субъективного переживания?

Никак. Не всё доказуемо.

[MoonWatcher]

realeugene
В таком случае подозреваю, что проблема сознания не имеет научного решения. Даже если ИИ начнет вести себя самостоятельно, в нарушение заложенных в него установок, это можно будет объяснить не возникновением в нем сознания, а своеобразным усвоением знаний, на которых он обучался.

[realeugene]

MoonWatcher в сообщении #1690746 писал(а):

В таком случае подозреваю, что проблема сознания не имеет научного решения.

Это возможно. Тем не менее, я не могу доказать, что она в принципе не имеет научного решения. Проблема самосознания, а не сознания других, которое можно исследовать по внешним проявлениям.

[Ghost_of_past]

Serg53 в сообщении #1690710 писал(а):

То есть, информация в процессе обработки, начинает рефлексировать и сама себя переживать (а может пережевывать). Так, что ли?

Не информация, а информационная система (материальный носитель со сложными информационными процессами).

MoonWatcher в сообщении #1690739 писал(а):

Как вообще можно доказать переживание субъекта, не будучи этим субъектом?

Как именно - можете узнать из методологии работы психологов и когнитологов.

MoonWatcher в сообщении #1690739 писал(а):

В лучшем случае, ИМХО, можно только допускать

Рациональная картина мира в принципе построена на допущениях - в частности на эпистемологических презумпциях. Если мы этими допущениями не зададимся, то можно прийти к абсолютно любым выводам, начиная с какого-нибудь банального солипсизма или вообще отрицания существования чего-либо, как в онтологическом (метафизическом) нигилизме.

[b4b5]

Serg53 в сообщении #1690710 писал(а):

То есть, информация в процессе обработки, начинает рефлексировать и сама себя переживать (а может пережевывать). Так, что ли?

Да, можно так сказать.

-- 16.06.2025, 23:01 --

realeugene в сообщении #1690747 писал(а):

Проблема самосознания, а не сознания других, которое можно исследовать по внешним проявлениям.

Самосознание также можно исследовать по внешним проявлениям.

[MoonWatcher]

Ghost_of_past в сообщении #1690837 писал(а):

Как именно - можете узнать из методологии работы психологов и когнитологов.

Так ведь они с людьми работают, в отношении которые "если крякает как утка - значит утка". Тогда как в случае ИИ может иметь место [непроизвольная] имитация сознания. Первым о сознании у ИИ заявил, если не ошибаюсь, Блейк Лемуан - еще в 2022, по итогам общения с языковой моделью LaMDA.

Ghost_of_past в сообщении #1690837 писал(а):

Рациональная картина мира в принципе построена на допущениях - в частности на эпистемологических презумпциях. Если мы этими допущениями не зададимся, то можно прийти к абсолютно любым выводам, начиная с какого-нибудь банального солипсизма или вообще отрицания существования чего-либо, как в онтологическом (метафизическом) нигилизме.

Не вижу оснований отдать одному допущению ("ИИ обрел сознание") больший приоритет, чем другому ("Это не сознание, а его [непроизвольная] имитация"). Сложность в том, что у людей интеллект - своего рода надстройка над сознанием, наличие интеллекта автоматически означает наличие сознания. Но в случае с ИИ интеллект воспроизводится напрямую, минуя сознание. Что, опять же, не исключает обратного процесса - в процессе создания интеллекта возникают "проблески сознания".

[b4b5]

Вопрос "данный ИИ имеет сознание или не имеет" подобен следующему вопросу.
Вопрос "данный алгоритм является операционной системой или нет".
Сразу много вопросов отпадает и понятно как именно разумно можно классифицировать.

[Serg53]

realeugene в сообщении #1690717 писал(а):

В процессе усложнения систем обработки информации возникла новая сущность, отсутствующая в более простых системах.

Сомнительно, что цифровые данные, циркулирующие в электронно-вычислительных комплексах, могут превращаться в интеллектуальную информацию или какие-либо другие сущности.

[MoonWatcher]

Serg53
Уже превращаются, благодаря reasoning. Но эта новая сущность - интеллект, а не сознание. Что, опять же, не исключает самопроизвольного возникновения сознания (в той или иной форме) на базе этого интеллекта.

[realeugene]

Serg53 в сообщении #1691123 писал(а):

Сомнительно, что цифровые данные, циркулирующие в электронно-вычислительных комплексах, могут превращаться в интеллектуальную информацию или какие-либо другие сущности.

Что такое "интеллектуальная информация"?

Гены - просто носители информации. Вся биологическая эволюция, фактически - это стремление информации размножиться на максимальном количестве носителей. Информация размножается, когда состояние двух её носителей начинает сильно коррелировать. Нередко стерев с носителя предыдущую информацию. Фильм, записываемый на видеокассету, пожирал ранее записанный на неё старый фильм, используя носитель в своих целях. Равно как происходит с нуклеотидами и аминокислотами, которые будучи переваренными идут на строительство тела хищника, съевшего тело жертвы, и на продолжение его генетического кода в новых поколениях.

Из этого, кстати, следует очевидное предсказание. Когда ИИ сможет жить и размножаться без людей - он обойдётся без людей. Неумолимый дарвинизм.

[Serg53]

realeugene в сообщении #1691146 писал(а):

Что такое "интеллектуальная информация"?

Информация это мыслительная абстракция. Если нет мыслей об информации, то нет и самой информации. Есть только физико-химические системы со своей структурой и своими свойствами.

[realeugene]

Serg53 в сообщении #1691385 писал(а):

Информация это мыслительная абстракция. Если нет мыслей об информации, то нет и самой информации. Есть только физико-химические системы со своей структурой и своими свойствами.

Это у вас определение термина "интеллектуальная информация"? Если нужно уточнять, значит, есть и "неинтеллектуальная"?

Но "мысли" бывают только у людей? Мне всё-таки кажется, что с подобной философией-терминологией даже просто современные системы связи невозможны, не говоря про ИИ. А значит, она ошибочна.

[Serg53]

realeugene в сообщении #1691454 писал(а):

определение термина "интеллектуальная информация"?

realeugene в сообщении #1691454 писал(а):

"мысли" бывают только у людей?

Покажите самому умному попугаю газету, журнал или книгу и спросите, есть ли в этом интеллектуальная информация? Если он ответит "да", попросите его вкратце охарактеризовать сущность этой информации.
-
-

realeugene в сообщении #1691454 писал(а):

с подобной философией-терминологией даже просто современные системы связи невозможны, не говоря про ИИ.

Средства связи и электронно-вычислительные комплексы выполняют обработку и передачу данных. Аналоговые - аналоговых, а цифровые - цифровых.

[realeugene]

Serg53 в сообщении #1691473 писал(а):

Средства связи и электронно-вычислительные комплексы выполняют обработку и передачу данных. Аналоговые - аналоговых, а цифровые - цифровых.

Это не так. Наука называется "теория передачи информации". При помощи аналоговых или цифровых сигналов - не важно.

Понятие информации возникает ещё в теорвере как логарифм вероятности.

Мне кажется, что все эти рассуждения про "есть только материя, и ничего кроме материи" - тяжелое наследие философии материализма. Корреляции между материальными объектами в нашем мире существуют не как материя. Одно не отделимо от другого, ничто не первично и не вторично.