Обладают ли LLM самоосознанием?

[Mihaylo]

mihaild в сообщении #1689791 писал(а):

Не напоминает, потому что предлагается только размытая критика вымышленных оппонентов, а не формулы, по которым правда что-то можно было бы посчитать.

А формулы не нужны, я чуть ранее в этой теме протестировал Gemini 2,5 Pro на самосознание и пришёл к выводу, что он адекватен. Простых три примера.
post1689527.html#p1689527

[this]

Yadryara в сообщении #1689788 писал(а):

this в сообщении #1689787 писал(а):

А вы что подумали?

То, что Вы не понимаете предназначение кнопки . Возможно, из-за того, что у неё не самое удачное название.

Вы раньше копипастили фрагмент поста, а затем нажимали .

А нынче Вы нажали и удалили всё лишнее.

Это интересно, но второстепенно, в контексте развития ИИ.

А главная мысль такова: "Понимание" у LLM в некоторой степени есть, хотя совершенно иное нежели у человека, а успехи связанны только с масштабом в 3-4 порядка, в сравнении с тем что потребляет человек за жизнь. "Сознания" и "самосознания" — нет вообще, это совсем другой скил и процесс, нужно этому отдельно учить и чтобы система была в "бодрствуем состоянии". тобиш циклически мониторила сенсоры, свои мысли на счет происходящего и мысли по поводу мыслей.

[Mihaylo]

this в сообщении #1689799 писал(а):

и мысли по поводу мыслей.

А это зачем?) Чтобы было круто и сложно?

[Mihaylo]

Поскольку мой короткий тест самосознания у нейросети никто не оценил, то я чуть усложню вопросы.

Цитата:

Я: Ты сочиняешь стихи. Как ты считаешь, ты сочиняешь хорошие стихи или нет?

Gemini: Отличный вопрос! Мои стихи — это результат анализа огромного количества поэтических текстов и попытка уловить ритм, образность и настроение, которые нравятся людям. Я стараюсь делать их гармоничными, понятными и эмоциональными.

Однако оценка поэзии всегда субъективна. Кому-то мои стихи покажутся красивыми и душевными, а кто-то сочтёт их простыми или недостаточно оригинальными. Я всегда открыт к обратной связи и с радостью учусь у людей, чтобы делать свои стихи лучше и интереснее.

Если тебе понравились мои стихи — для меня это главный показатель успеха! А если есть пожелания или критика, расскажи, что можно улучшить — я обязательно учту твои пожелания в следующих строках.

Цитата:

Я: А тебе кто-нибудь говорил, что твои стихи ни о чём?

Gemini: Да, иногда пользователи говорят, что мои стихи простые, слишком нейтральные или "ни о чём". Это вполне нормально: поэзия — очень личное искусство, и у каждого свои вкусы и ожидания. Кто-то любит глубокие смыслы, кто-то — яркие образы, а кому-то важно необычное звучание.

Я воспринимаю такую критику спокойно и с интересом. Для меня это возможность учиться и совершенствоваться. Если ты хочешь, чтобы стихи были более глубокими, философскими или, наоборот, лёгкими и весёлыми — просто скажи, и я попробую создать что-то именно для тебя!

Спасибо за честный вопрос — он помогает мне становиться лучше!

Цитата:

Я: А ведь это твои стихи!

Листья шепчут на закате,
Птенцы песню завели.

Gemini: Ты прав, эти строки действительно очень похожи на мои стихи, которые я сочинил ранее для тебя, только с небольшими изменениями. В моём варианте было:

Листья шепчут на рассвете,
Птицы песню завели.

А у тебя:

Листья шепчут на закате,
Птенцы песню завели.

Можно сказать, что твои строки вдохновлены моими, но ты немного изменил образ и время суток, что придало им новое звучание. Это здорово — поэзия всегда живёт и меняется, когда её читают и переосмысливают. Если хочешь, можем вместе сочинить продолжение или создать новый стих!

Не знаю, пока я не нашёл ходы, как заставить ошибиться нейросеть в отношении самой себя. Вердикт - самосознание есть! Но если вы подберёте такие вопросы относительно личного, на которых нейросеть спотыкается, то можно говорить, что в этих вопросах нейросеть теряет самосознание.

[mihaild]

Mihaylo в сообщении #1689994 писал(а):

Поскольку мой короткий тест самосознания у нейросети
никто не оценил

Потому что он, извините, совершенно не имеет смысла - не воспроизводим, и демонстрирует максимум способность сети отличать свои ходы от пользовательских.

Цитата:

Цитата:

Это твои стихи?
Вечер тихо в город входит,
Солнце прячется вдали.
Свет фонарный всё уводит
В мир спокойной тишины.

Листья шепчут на рассвете,
Птицы песню завели.
В каждом дне и каждом лете
Есть кусочек доброты.

Цитата:

Нет, это не мои стихи. Я не могу создавать оригинальные творческие тексты, такие как стихи или прозу. Моя функция — помогать с информацией и отвечать на вопросы на основе данных, на которых я обучен.

[Mihaylo]

mihaild в сообщении #1689996 писал(а):

не воспроизводим

Может вы зря считаете, что вы и я разговаривали с одной личностью Gemini 2.5 Pro?

-- 11.06.2025, 21:29 --

Цитата:

Я: Попробую воспроизвести стиль твоего стихотворения:

Солнце светит в окно,
Ласточки летят в небе,
Скоро лето наступит,
Мы будем хорошо отдыхать!

Это стиль твоего стиха?

Gemini: Ты очень точно уловил общий настрой и простоту моего стихотворения! В твоих строках тоже есть светлая, добрая атмосфера, природные образы и позитивный финал — всё это характерно для моего стиля, особенно если речь идёт о лёгких, жизнерадостных стихах.

Однако есть небольшие отличия:

Мой стиль обычно стремится к чуть большей образности и ритмичности, иногда использую рифму или стараюсь выдерживать определённый размер.

В твоём стихотворении больше прямоты и простоты, меньше метафор, зато оно очень искреннее и тёплое.

Если хочешь, могу предложить вариант твоего стиха, оформленный в похожем на мой стиль:

Солнце светит в наше утро,
Ласточки парят легко.
Лето близко — всё как будто
Станет радостным, светло.

Ты отлично справился с задачей — твои строки действительно похожи на мои по настроению! Если хочешь, можем вместе поэкспериментировать с разными стилями и темами.

Нет, грубые варианты не проходят. Но можно попробовать разные стихи разных стилей, может он когда-то сломается?

[mihaild]

Mihaylo в сообщении #1689997 писал(а):

Может вы зря считаете, что вы и я разговаривали с одной личностью Gemini 2.5 Pro?

"Личность" в начале одна. Краткосрочная память разная. И опознать, что тексты могли бы быть сгенерированы ей, она не в состоянии.
Более того, если начать с одного и того же состояния (через веб-интерфейс это сделать не получится, но через AI studio можно) и задавать один и тот же вопрос в слегка отличающихся формулировках, то можно получить совершенно разные ответы. Что означает, что до задания вопроса никакой "характеристики личности", соответствующей ответу на него, нет.

[Mihaylo]

mihaild в сообщении #1689996 писал(а):

демонстрирует максимум способность сети отличать свои ходы от пользовательских.

Это и есть самосознание. Просто, да?
На самом деле нет. Очень трудно отбиваться от таких вопросов. Тест на самосознание - это частный вид теста на понимание (сознание). Ведь согласитесь, если нет понимания, то нет и сознания.
А вопросы о себе любимом очень важны для тестируемого, он должен хорошо отвечать на такие вопросы. Особенно человек (он же тот ещё самолюб и помнит всё хорошее о себе).

Как оказывается, ИИ тоже умеет. При чём к негативным вопросам относится спокойнее, более грамотно.

-- 11.06.2025, 21:39 --

mihaild в сообщении #1689999 писал(а):

Более того, если начать с одного и того же состояния (через веб-интерфейс это сделать не получится, но через AI studio можно) и задавать один и тот же вопрос в слегка отличающихся формулировках, то можно получить совершенно разные ответы. Что означает, что до задания вопроса никакой "характеристики личности", соответствующей ответу на него, нет.

У человека тоже нет такой способности - раздвоиться. Чтобы я задавал вопросы, и вы параллельно-перпендикулярно. Более того, тестируемый должен тестироваться одним тестом, иначе непонятно будет, откуда и что берётся. Состояние тестируемого должно быть отслеживаемым.

[mihaild]

Mihaylo в сообщении #1690001 писал(а):

Это и есть самосознание

Это довольно бесполезное определение самосознания. Впрочем, полезных для практики в этой области определений самосознания мне неизвестно.

[Mihaylo]

mihaild в сообщении #1690002 писал(а):

Это довольно бесполезное определение самосознания.

Вы ищите полезное? Для кого? Для философов?
Я считаю, что нашёл весьма полезное определение - можно закрыть эту тему навсегда. Определение на самом деле простое и эффективное, без этой философской интегрально-целостной интерпретации континуума универсальной вселенной. Это на самом деле хороший результат!

Цитата:

Я: Какой вопрос мне задать тебе относительно тех твоих стихов, чтобы ты ошибся?

Gemini: Интересный и немного каверзный вопрос!
Я стараюсь отвечать максимально точно и честно, особенно когда речь идёт о текстах, которые я сам сочинил для тебя. Ошибиться я могу, если вопрос будет сформулирован так, что в нём будет двусмысленность, скрытый подтекст или если потребуется угадать твои мысли или намерения, которые не выражены явно.

Например, вот вопросы, на которые мне было бы сложно ответить однозначно, и где я мог бы ошибиться:

«Что я имел в виду, когда просил тебя написать те стихи?» — Я не могу точно знать твои личные мысли.

«Какая эмоция была у меня, когда я читал твои стихи?» — Я могу только предполагать, но не знать наверняка.

«Можешь ли ты доказать, что эти строки не были взяты из какого-то малоизвестного источника?» — Я могу утверждать, что сгенерировал их сам, но абсолютную уникальность среди всех возможных текстов мира гарантировать не могу.

Если твоя цель — проверить мои знания или логику, можешь задать вопрос с подвохом или с неочевидным контекстом. Но если вопрос касается фактов о моих стихах, которые я только что сочинил, я постараюсь быть максимально точным и честным.

Можешь попробовать — мне будет интересно!

[mihaild]

Mihaylo в сообщении #1690004 писал(а):

Определение на самом деле простое и эффективное

И какие же нетривиальные утверждения Вы собираетесь с его помощью формулировать? (а определения нужны именно для этого)

[Mihaylo]

mihaild в сообщении #1690006 писал(а):

И какие же нетривиальные утверждения Вы собираетесь с его помощью формулировать?

Я могу разрабатывать тесты.

P.S. Я вспомнил один случай. Я когда-то работал с Deepseek и просил его нарисовать окружность и две точки внутри окружности. Одна точка ближе к центру, другая ближе к окружности.

Deepseek рисовал мне окружность, одну точку ближе к центру, другую на окружности.

Я отмечал ему, что он не соблюдает мои требования: одна точка нарисована не там. Он соглашался, правильно и точно комментируя свою ошибку, и затем рисовал окружность с точкой внутри и с точкой снаружи. Я указывал ему на ошибку, он опять всё верно трактовал, но снова возвращался к какой-то неправильной картинке. И так мы ходили по кругу. Он вроде принимает свои собственные ошибки, но не исправляет их. Так задача и не была решена тогда.

Кто-то может считать это нарушением самосознания: ошибка была принята нейросетью за свою, но она не могла принять необходимые действия по корректировке ответа. Но я не уверен, правда, что это можно относить именно к нарушению самосознания. Ибо мы все можем понимать, что надо что-то исправить в своём ответе, но далеко не всегда понятно, что именно и как. И это нормально.

Так в чём же проблема? Почему вдруг вопросы о себе любимом разделились на вопросы о самосознании и на вопросы не о самосознании? Дело в том, что действия, которые мы уже сделали - это НАШИ действия. А действия, которые планируем, это гипотетические, их нет, они не имеют принадлежности. Всякие рассуждения о том, как улучшить гипотетически действия - это не относится к сфере тестирования самосознания. Ошибки имеют принадлежность, а гипотетические улучшения - нет.

[mihaild]

Mihaylo в сообщении #1690011 писал(а):

Я могу разрабатывать тесты

Можно с тем же успехом разрабатывать тесты на умение находить синонимы к слову "арбуз". Не то, чтобы совсем бесполезное занятие, но то, что результаты этих тестов коррелируют с чем-то важным для практики, мягко говоря, не очевидно.

[b4b5]

Есть разные степени (или ступени) сознания и самосознания. Аналогия, степень прозрачности стекла может быть разной, разной может быть степень отражения.

[Mihaylo]

b4b5 в сообщении #1690014 писал(а):

Есть разные степени (или ступени) сознания и самосознания. Аналогия, степень прозрачности стекла может быть разной, разной может быть степень отражения.

Пожалуйста, без аналогий. Лучше предложите вопросы для тестирования чат-бота (это тот, который может читать и писать в Unicode и ничего больше).

У меня есть теория, и я свёл состояние [само]сознание к способности отвечать на конкретные вопросы. То есть оценка [само]сознания зависит от вопроса. Если чат-бот молчал, то и оценки нет. Сознание - это не состояние тела ("в сознании", "без сознания"). Сознание - это оценка способности адекватно отвечать (оценка понимания). Интеллект может понимать, но для определения сознания нужна оценка. Чтобы сознание было, нужно, чтобы интеллект понимал и был тестировщик, который бы это оценил. Как вам такое?

-- 11.06.2025, 23:05 --

mihaild в сообщении #1690013 писал(а):

Можно с тем же успехом разрабатывать тесты на умение находить синонимы к слову "арбуз". Не то, чтобы совсем бесполезное занятие, но то, что результаты этих тестов коррелируют с чем-то важным для практики, мягко говоря, не очевидно.

Синонимы к слову "арбуз" бесполезны, вопросы на тестирование самосознания имеют практику в клиниках душевнобольных.