Обладают ли LLM самоосознанием?

[alesha_popovich]

epros в сообщении #1695032 писал(а):

Гениально! Только что-то мне кажется, что я вряд ли бы угадал правильный вопрос, который нужно задать Вашей программе.

Допустим я усложню алгоритм и программа будет отвечать на по разному сформулированные вопросы, вставляя в каждый ответ местоимение "Я". Каждую версию буду делать его все сложнее и сложнее, так что она отвечает на все большее разнообразие вопросов.
На каком уровне сложности алгоритма зарождается самосознание?

[b4b5]

alesha_popovich Ситуация аналогичная - парадокс кучи.
https://ru.wikipedia.org/wiki/Парадокс_кучи

[Mihaylo]

alesha_popovich в сообщении #1695110 писал(а):

Допустим я усложню алгоритм и программа будет отвечать на по разному сформулированные вопросы, вставляя в каждый ответ местоимение "Я". Каждую версию буду делать его все сложнее и сложнее, так что она отвечает на все большее разнообразие вопросов.
На каком уровне сложности алгоритма зарождается самосознание?

Думаю, да, это будет именно искусственное [само]сознание. Тогда как у LLM оно не искусственное.

[diletto]

Mihaylo в сообщении #1694940 писал(а):

Ничего страшного. Ответы и проверка ответов не обязаны быть идеальными. Не возводите всё это в ранг святых, не думайте, что вы (мы) должны открыть нечто с чем-то.

Это частности... А неопределённость "себя" - концептуальная трудность. Акцент был именно на ней, а не на казуистической критике зеркального теста.

[Anton_Peplov]

mihaild в сообщении #1694444 писал(а):

Модель, которой даем на вход те же сигналы, что получают нейроны реального червя, и на выход получаем те же сигналы, что были в реальном черве. Подробнее см. openworm.org.

У проекта на редкость бестолковый сайт. Однако, судя по этому разделу, они пытаются смоделировать всего червя, а не только его нервную систему. Это на порядки более сложная задача, чем моделирование собственно нервной системы. Правда, начинают они все-таки с задачи "нервная система + мышечная система". Но все равно тут добавляется вся биомеханика.

К тому же все волонтерские проекты страдают от того, что люди занимаются ими в свободное время. Возможно, если бы целью смоделировать нервную систему C. elegans задались так же серьезно, как целью создать GPT (большая команда, которая занимается только этим, получает за это зарплату и имеет дедлайны по подзадачам), она уже была бы смоделирована.

[alesha_popovich]

b4b5 в сообщении #1695122 писал(а):

alesha_popovich Ситуация аналогичная - парадокс кучи. https://ru.wikipedia.org/wiki/ Парадокс_кучи

Ну вот, поэтому хорошо бы сначала сформулировать исчерпывающие критерии наличия самосознания у модели. А не "я у нее спросил, она использовала местоимение Я в ответе, значит осознает себя".

[b4b5]

alesha_popovich
Сознание = (Восприятие → Обработка → Реакция).
Конечный автомат = (Вход → Обработка → Выход).
Устраивает?

[Mihaylo]

alesha_popovich в сообщении #1695574 писал(а):

А не "я у нее спросил, она использовала местоимение Я в ответе, значит осознает себя".

Ржака. Я же сказал, что тест должен быть по смыслу, а не по синтаксису.

Не понимаете вы.

Кто-то ещё говорит, что мозгопоклонничество - это грубость. Это не грубость, это факт.

-- 28.07.2025, 05:37 --

Есть такой тест Тьюринга... Так вот, ещё есть тест Михайло - просто опрашиваете интеллект и по смыслу оцениваете адекватность ответа. Всё, больше ничего не надо.

[Mihaylo]

Тест по смыслу - это не просто "ах-ох", это очень трудный тест. Вопрос может звучать так: "Почему фанера над Парижем упала и чуть не убила тебя?". Искусственный интеллект должен понять, а при чем тут фанера, Париж и он сам. Если честно, я сам не знаю, как бы ответил, потому что фанера не падала рядом.