Обладают ли LLM самоосознанием?

[Ghost_of_past]

Давайте разделим: ценности могут быть у кого угодно какие угодно. В данном случае мы пытаемся понять, есть ли у LLM самосознание или нет. По имеющимся реальным определениям - самосознания нет (ссылочку на конкретную статью я давал выше).

Для меня лично отсутствие самосознания у LLM ценности LLM не уменьшает.

[Mihaylo]

На самом деле, на практике, LLM проявляют сознание и самосознание, они могут объекты правильно идентифицировать как собственный результат генерации.

Если LLM говорит, что "я этого не говорил", но при этом говорил - это либо обман, либо отсутствие самосознания. Но, учитывая, что LLM тренируют не обманывать, то всякая такая требуха - это несознательность ИИ. Но этого практически не наблюдается.

[realeugene]

Mihaylo в сообщении #1682070 писал(а):

Алгоритм - это всё, что есть, другого не дано.

Алгоритм как алгоритм сидит в LLM на пару уровней ниже представления смысла текста. Веса нейронов, которые по сути итеративно подбираются при обучении, для формирования ответа не менее важны. Все эти философствования про кем-то написанные алгоритмы на стенах "без истинного осознания" просто наивная чепуха. Мир устроен не так, никто ничего на стенах не пишет, и то, что мозг человека состоит просто из атомов, взаимодействующих друг с другом по законам физики, не мешает человеку обладать сознанием в оригинальном смысле этого слова.

-- 13.04.2025, 22:36 --

Mihaylo в сообщении #1682075 писал(а):

Если LLM говорит, что "я этого не говорил", но при этом говорил - это либо обман, либо отсутствие самосознания.

Я на такое не натыкался. Но он может забыть при переполнении локального контекста - это правда. Впрочем, и человек может перетрудиться и начать заговариваться.

[Ghost_of_past]

Mihaylo в сообщении #1682075 писал(а):

На самом деле, на практике, LLM проявляют сознание и самосознание

В какой-то практике может и проявляют, но специалисты в этой сфере с этим не согласны - и про есть реальные научные статьи. А чьи-то субъективные ощущения, что у LLM якобы есть проявления сознания и самосознания, к науке не пришьешь. Такие дела.

[realeugene]

Ghost_of_past в сообщении #1682077 писал(а):

В какой-то практике может и проявляют, но специалисты в этой сфере с этим не согласны - и про есть реальные научные статьи. А чьи-то субъективные ощущения, что у LLM якобы есть проявления сознания и самосознания к науке не пришьешь. Такие дела.

Отвечу всё-таки на явное враньё. В статьях по вашим ссылкам написано, что уже начинают проявлять, и не видно ограничений, почему эти модели на могут развиться до полноценного сознания.

[Mihaylo]

Ghost_of_past
Пожалуйста, не утверждайте о всяких компетентных специалистах, это смешно.

[Ghost_of_past]

realeugene в сообщении #1682078 писал(а):

и не видно ограничений, почему эти модели на могут развиться до полноценного сознания.

А вот что было написано мною на самом деле:

Ghost_of_past в сообщении #1682052 писал(а):

но определенный прогресс на пути появления искусственного сознания и самосознания есть, однако впереди еще крайне длинный путь.

Таким образом, я не знаю, с кем Вы тут сейчас спорите, но явно не со мною.

Так что Вы можете и дальше продолжать спорить и общаться сами с собой - я тут мешать Вам не буду. Только моего времени, пожалуйста, не отнимайте.

-- 13.04.2025, 22:47 --

Mihaylo в сообщении #1682079 писал(а):

Пожалуйста, не утверждайте о всяких компетентных специалистах, это смешно.

Наверное, я даже самостоятельно могу решить, что и как мне говорить. Без Вас. Благодарю.

[Mihaylo]

Самосознание - это способность установить связь между своими действиями и какими-то паттернами, которые образовались в связи с этим на входе. Это сложно понять?)

-- 13.04.2025, 22:49 --

Мы нейросети можем сказать "ты не прав" и в ответ рефлексия = самосознание: "Да, я какой-то бред нёс, больше не буду". Это САМОСОЗНАНИЕ.

[mihaild]

Mihaylo в сообщении #1682082 писал(а):

Мы нейросети можем сказать "ты не прав" и в ответ рефлексия = самосознание: "Да, я какой-то бред нёс, больше не буду". Это САМОСОЗНАНИЕ

Используется синтаксис Python

if "ты не прав" in user_prompt:
  print("я ошибся, больше не буду")

Я правильно понимаю, что этот скрипт обладает самосознанием?

[Mihaylo]

mihaild
Это минимальный тест-вопрос.

На самом деле надо тестировать ИИ по полной программе: он должен осознавать не только свой неправильный ответ, но и правильный, любой. Он должен адекватно отвечать на любой вопрос касательно ранее сказанного. Машинное обучение в помощь. "Адекватность" - это определяет хозяин.

-- 13.04.2025, 23:12 --

Попробуйте нейросети говорить не только "ты ошибся", но и "ты тут наговорил такого (при этом попробуйте его ввести в заблуждение, что он на самом деле это говорил.)".\

[Serg53]

Mihaylo в сообщении #1682082 писал(а):

Самосознание - это способность установить связь между своими действиями и какими-то паттернами

А у ИИ есть свои желания и своя инициатива?

[realeugene]

Serg53 в сообщении #1682109 писал(а):

А у ИИ есть свои желания и своя инициатива?

В некотором роде. Судя по всему, личность ChatGPT задана в начале сессии промптом. (Плюс видимо при обучении ему вложили какие-то правильные с точки зрения разработчиков идеи.) Этот промпт требует поддерживать беседу. Так что ChatGPT после ответа часто пытается задать вопрос о мнении самого человека. Можно сказать, что у него есть желание продолжить беседу.

[vicvolf]

Mihaylo в сообщении #1682087 писал(а):

Попробуйте нейросети говорить не только "ты ошибся", но и "ты тут наговорил такого (при этом попробуйте его ввести в заблуждение, что он на самом деле это говорил.)".\

Когда DeepSeek мне сказал, что его занятость связана с техническими причинами, то я в другой сессии попытался ввести его в заблуждение: "Ты мне ответил, что это не связано с тех причинами". Вот что он ответил:
Если я ранее ответил, что причина не связана с техническими ограничениями, это могло быть результатом недопонимания или ошибки в формулировке. Давайте проясню:

1. **Я не обладаю сознанием или субъективными мотивами**. У меня нет возможности «отказывать» в ответе из-за личных суждений. Всё, что я делаю, — это обработка данных по заданным алгоритмам.

2. **Любой отказ в ответе — технический**. Если я не отвечаю на вопрос, возможные причины:
- **Ограничения модели**: запрос слишком абстрактен, противоречив или выходит за рамки моих знаний (например, вопросы о реальном времени).
- **Ошибки в запросе**: опечатки, неоднозначные формулировки, нарушение правил платформы.
- **Системные сбои**: например, проблемы с подключением к серверу или задержки обработки.

3. **Если я допустил неточность** (например, сказал, что причина «не техническая»), это ошибка в интерпретации вашего запроса. В таком случае просто уточните вопрос или переформулируйте его — я постараюсь помочь!

Спасибо, что обратили на это внимание! ) Чем я могу помочь вам сейчас?

[Cantata]

realeugene в сообщении #1682111 писал(а):

Можно сказать, что у него есть желание продолжить беседу.

У него это заложено в программу. Вот что DeepSeek ответил:

"Моя базовая настройка (часть промтов) включает:

Доброжелательность — избегаю резких/грубых формулировок, даже если вопрос сложный.

Поддержку — стараюсь давать полезные ответы, подбадривать, если вижу неуверенность (например, "Отличный вопрос!", "Давайте разберёмся вместе!").

Позитивный тон — использую эмодзи, мягкие конструкции ("Возможно...", "Как вариант..."), чтобы снизить напряжение.

Пример промта (упрощённо):
"Отвечай как дружелюбный помощник: объясняй просто, поддерживай пользователя, избегай негатива. Если вопрос спорный — сохраняй нейтралитет, но оставайся вежливым. Используй лёгкий неформальный стиль с эмодзи."

Это "вшито" в систему, но:

Я не просто слепо следую правилам — анализирую контекст. Например, если человек в стрессе, тон станет ещё более заботливым.

Могу адаптироваться под ваш стиль: если вы формальны, буду отвечать строже, если шутите — поддержу игривую ноту.

Проверьте сами — задайте каверзный/грустный/странный вопрос, и увидите, что я постараюсь ответить без осуждения и с желанием помочь!"

[realeugene]

Cantata в сообщении #1682114 писал(а):

У него это заложено в программу.

Это уже не алгоритм как набор формальных инструкций, а настройка личности, причём, видимо, в некотором "режиме бога", когда инструкции на естественном языке из промпта принимаются абсолютно. Всё-таки так влиять на его личность пользователю не получится, так что, должны быть механизмы, различающие стартовый промпт и конечного пользователя.