Обладают ли LLM самоосознанием?

[Ghost_of_past]

epros в сообщении #1694297 писал(а):

А вот то, что способность узнавать себя и называется самосознанием

Узнавание себя - это не самосознание, а лишь один из критериев самосознания.

epros в сообщении #1694297 писал(а):

Я не предлагал педагогических революций и не предлагал формализовать обучение людей

Нет, Вы предлагали на полном серьезе еще более странную вещь: что обучение чат-ботов и детей ничем существенно не отличается. Редкий (для форума) образец лженауки в области педагогических наук.

epros в сообщении #1694297 писал(а):

А существенные атрибуты обучения - это то, что предоставляется информация и подкрепляется её корректное усвоение.

Обучение в процессе социализации - вот существенный критерий обучения в педагогике.

epros в сообщении #1694297 писал(а):

А чему именно тут стоит удивляться?

Тому, что научное сообществе не в курсе Ваших откровений про существование самосознания у чат-ботов. Капитан Очевидность должен был бы Вам подсказать, что создание искусственного самосознания как-то не прошло бы незаметно.

epros в сообщении #1694297 писал(а):

Вы преувеличиваете

Я не преувеличиваю, я констатирую факт, что Вы несете просто откровенную фигню, а когда Вас просят продемонстрировать Ваше "открытие" научному сообществу в научных рецензируемых журналах, то как-то очень активно сливаетесь, что лишний раз подтверждает, что Вы и сами прекрасно понимаете, что несете фигню.

epros в сообщении #1694297 писал(а):

Добиваться этого кому-то нужно

Ваш слив для меня не новость. Доказать фигню научному сообществу проблематично в отличие от того, чтобы её написать в теме на форуме в Интернете.

[epros]

realeugene в сообщении #1694289 писал(а):

epros в сообщении #1694286 писал(а):

Если останавливается, то значение функции окажется гораздо больше предыдущего результата, что вряд ли подходит под слова про "приближение".

Вполне подходит. Или вы предполагаете какую-то равномерную меру на натуральных числах?

Ну тогда будем считать, что "в Вашем смысле" даже масса камня в килограммах может "приближать" высоту столба в метрах.

[Ghost_of_past]

Mihaylo в сообщении #1694299 писал(а):

То, что происходит или не происходит внутри чат-бота - это неважно

Важно то, что у ребенка при обучении количество типов информации для обработки и анализаторов для них существенно больше, чем у чат-бота. Много Вы знаете чат-ботов мобильных операторов, способных обрабатывать вкусовую или тактильную информацию?

Mihaylo в сообщении #1694299 писал(а):

Очень важно при этом, чтобы чат-бот осознавал

Очень важно, что чат-бот ничего не осознает: прямо на первой странице темы есть ссылка на исследование, где критериев сознания не удалось обнаружить даже у LLM, а не то что у примитивных чат-ботов или каких-нибудь автоответчиков и калькуляторов. И если от дальнейшего развития LLM в сильный ИИ появление искусственного сознания и самосознания ждать вполне логично и целесообразно, то появление искусственного самосознания у чат-бота не сильно более реалистично, чем появление его у автоответчика и калькулятора.

[realeugene]

Ghost_of_past в сообщении #1694301 писал(а):

а лишь один из критериев самосознания.

Остальные критерии субъективны, типа самоощущения?

-- 15.07.2025, 13:37 --

Ghost_of_past в сообщении #1694301 писал(а):

обучение чат-ботов и детей ничем существенно не отличается

Грубо это так, вопрос только в критерии "существенно".

-- 15.07.2025, 13:39 --

Ghost_of_past в сообщении #1694301 писал(а):

Обучение в процессе социализации - вот существенный критерий обучения в педагогике.

Социализация или предъявление текстов из интернета - это детали. Человек живёт в социуме как активный элемент социума, ему для обучения важна социализация. LLM служит человеку, ему для обучения нужны человеческие тексты.

-- 15.07.2025, 13:40 --

epros в сообщении #1694302 писал(а):

Ну тогда будем считать, что "в Вашем смысле" даже масса камня в килограммах может "приближать" высоту столба в метрах.

Не понимаю как. Разъясните?

-- 15.07.2025, 13:43 --

Ghost_of_past в сообщении #1694303 писал(а):

Много Вы знаете чат-ботов мобильных операторов, способных обрабатывать вкусовую или тактильную информацию?

Принципиальных проблем нет, за исключением того, что соответствующие сенсоры пока что только экспериментальные. Текстовый ввод проще сделать массовым. Но мультимодальные сетки, обрабатывающие вместе с текстом изображения или видео, давно уже работают.

[epros]

Ghost_of_past, с Вами бесполезно разговаривать, Вы просто не понимаете о чём речь. Рассуждаете о каких-то "открытиях", хотя речь всего лишь о том, что не надо мифологизировать понятие "самосознания". Никакой глубокой науки в этом нет. Но те, для кого слово "самосознание" преисполнено неким религиозным смыслом, в который по определению заложено, что "технические устройства" не могут им обладать, конечно же никогда не признают наличие самосознания у ботов, даже если они будут играть с их детьми в одной песочнице и наслаждаться на утреннике вкусом шоколадного зайца.

[Ghost_of_past]

realeugene в сообщении #1694304 писал(а):

Остальные критерии субъективны, типа самоощущения?

Не только, для появления самосознания нужно как минимум существование рефлексивного сознания, а оно требует не только узнавания себя, но и наличие множественного динамичного феноменального опыта о себе, а также иметь устойчивые представления о самом себе (самооценка и самоощущение) и саморепрезентации (феноменальная модель собственного Я).

realeugene в сообщении #1694304 писал(а):

Грубо это так, вопрос только в критерии "существенно".

Существенность - относительна, это понятно. Но это не отменяет того, что я не понимаю позиции уважаемого epros, что обучение чат-ботов и детей существенно не отличается, хотя даже из самых базовых представлений о биологии, психологии и педагогики очевидно, что это не так. А было бы это так, если бы мы создавали чат-боты и прочие технические принципы на основе исключительно бионических принципов методологии, т.е. исключительно по аналогии с живыми организмами и людьми в частности.

[realeugene]

Ghost_of_past в сообщении #1694303 писал(а):

прямо на первой странице темы есть ссылка на исследование, где критериев сознания не удалось обнаружить даже у LLM

Цитата:

This report is far from the final word on these topics.

-- 15.07.2025, 13:48 --

Ghost_of_past в сообщении #1694307 писал(а):

самоощущение

Ощущения разве не из области бессознательной части психики?

[epros]

realeugene в сообщении #1694304 писал(а):

epros в сообщении #1694302 писал(а):

Ну тогда будем считать, что "в Вашем смысле" даже масса камня в килограммах может "приближать" высоту столба в метрах.

Не понимаю как. Разъясните?

Я тоже не понимаю, как натуральное число может "приближаться" другим натуральным числом, большим его в $10050 \uparrow \uparrow 100500$ раз. Разве что если всё что угодно может "приближаться" всем чем угодно.

[realeugene]

Ghost_of_past в сообщении #1694307 писал(а):

феноменальная модель собственного Я

Если чат-бот высказывается о себе, это ещё не признак существования некоторой модели самого себя?

-- 15.07.2025, 13:53 --

epros в сообщении #1694309 писал(а):

Я тоже не понимаю, как натуральное число может "приближаться" другим натуральным числом, большим его в $10050 \uparrow \uparrow 100500$ раз. Разве что если всё что угодно может "приближаться" всем чем угодно.

Топологически. Так как это граница, про которую известно, что меньше быть это число не может. Самое простое приближение - число не отрицательное. Любая известная положительная граница лучше, причём, чем больше - тем она точнее.

-- 15.07.2025, 13:58 --

Ghost_of_past в сообщении #1694307 писал(а):

что я не понимаю позиции уважаемого epros, что обучение чат-ботов и детей существенно не отличается

Ну да, это моя тоже позиция, что существенно не отличается. Можно брать учебник по машинному обучению и узнавать в описываемой там грубой классификации и принципах обучения то, как обучаются дети.

[Ghost_of_past]

epros в сообщении #1694306 писал(а):

Вы просто не понимаете о чём речь

Я очень хорошо понимаю, о чем идет речь. Настолько хорошо понимаю, что прямо Вам написал, что обнаружение искусственного самосознания в технических системах, вроде чат-ботов - это научная сенсация мирового уровня и исторического масштаба. И ничего подобного сделано не было. Но тут приходите Вы и начинаете говорить, что обнаружили самосознание у чат-бота МТС. Ну раз обнаружили, то либо пишите статьи в научные рецензируемые журналы и получайте Нобелевки за свое открытие, либо эти заявление про самосознание у чат-бота - ничего не стоят и представляют из себя обычную интенетовскую фигню. Некоторым, вон, и плоская Земля мерещится или развитие аутизма от вакцин.

epros в сообщении #1694306 писал(а):

Но те, для кого слово "самосознание" преисполнено неким религиозным смыслом

Не надо противопоставлять свое незнание терминологии какому-то религиозному смыслу самосознания. Тут никакого религиозного или магического смысла нет, а есть банальная психология и другие науки.

epros в сообщении #1694306 писал(а):

"технические устройства" не могут им обладать

Судя по всему, Вы боретесь с какими-то моими тезисами, которых я просто вообще не высказывал. Я никогда не говорил, что технические устройства не могут принципиально обладать искусственным самосознанием, но зато прямо написал, что считаю вероятным появление сильного ИИ (в том числе и с искусственным сознанием и самосознанием) до конца этого столетия:

Ghost_of_past в сообщении #1694225 писал(а):

ИИ не отвечает критериям Метцингера хотя бы по той простой причине, что сильного ИИ вообще на данный момент не существует. Мы его еще не создали. Хотя думаю, что скорее всего и создадим в течение этого столетия.

-- 15.07.2025, 14:12 --

realeugene в сообщении #1694308 писал(а):

Цитата:

This report is far from the final word on these topics.

Любое знание относительно и из-за этого не может быть окончательным и вечным. Согласитесь, что странно было бы ждать иного от статьи про наличие/отсутствие критериев сознания по ряду теорий сознания у LLM. Возможно что применив другие теории сознания и другие критерии искусственного сознания в будущем обнаружится, что LLM все-таки в каком-то смысле искусственным сознанием обладают - но здесь и сейчас мы этого не знаем.

realeugene в сообщении #1694308 писал(а):

Ощущения разве не из области бессознательной части психики?

Ощущения могут как осознаваться, так и нет (тогда это внесознательный процесс). Осознание ощущения означает, что вы не просто испытываете его (например, чувствуете прикосновение), но и воспринимаете его в рефлексивном феноменальном опыте, обращаете на него свое внимание и можете его описать.

realeugene в сообщении #1694310 писал(а):

Если чат-бот высказывается о себе

То это не означает, что он даже имеет осознаваемую самооценку, а уж тем более феноменальную Я-модель. Возвращаемся к тому, что самосознание - одна из форм рефлексивного сознания, т.е. для наличия самосознания чат-бот как минимум должен иметь не просто сознание, но и рефлексивное сознание в частности. Мы такого у LLM не находим, откуда бы им взяться у куда более примитивных чат-ботов? Чат-бот - это как раз пример реализации китайской комнаты в классическом виде, но не техническая система с искусственным сознанием.

realeugene в сообщении #1694310 писал(а):

Можно брать учебник по машинному обучению и узнавать в описываемой там грубой классификации и принципах обучения то, как обучаются дети.

У детей примерно к возрасту в полгода формируется сознание, а к возрасту в один год - предметное сознание, которое дальше и позволяет более активно обучаться в процессе социализации, но какое-то обучение происходит и до формирования сознания. Таким образом, у детей есть как осознаваемое, так и неосознаваемое обучение. Для машинного обучения на текущем уровне развития сознания не требуется.

[epros]

Ghost_of_past в сообщении #1694311 писал(а):

Я очень хорошо понимаю, о чем идет речь. Настолько хорошо понимаю, что прямо Вам написал, что обнаружение искусственного самосознания в технических системах, вроде чат-ботов - это научная сенсация мирового уровня и исторического масштаба.

Вот прямо видно, что не понимаете.

Ghost_of_past в сообщении #1694311 писал(а):

Не надо противопоставлять свое незнание терминологии какому-то религиозному смыслу самосознания. Тут никакого религиозного или магического смысла, а есть банальная психология и другие науки.

Только не вешайте мне лапшу, что знаете более правильное и точное определение "самосознания", которое не сводилось бы к прохождению зеркального теста.

Ghost_of_past в сообщении #1694311 писал(а):

прямо написал, что считаю вероятным появление сильного ИИ и искусственным сознанием и самосознанием до конца этого столетия:

Ghost_of_past в сообщении #1694225 писал(а):

ИИ не отвечает критериям Метцингера хотя бы по той простой причине, что сильного ИИ вообще на данный момент не существует. Мы его еще не создали. Хотя думаю, что скорее всего и создадим в течение этого столетия.

И это всё пустые философствования, не имеющие отношения к нормальной науке.

[Ghost_of_past]

epros в сообщении #1694314 писал(а):

Только не вешайте мне лапшу

Мне не надо вешать Вам лапшу на уши по той простой причине, что Вы её уже сами себе навешали, когда взялись рассуждать про самосознание у чат-бота МТС, не зная толком точно, что понимается под самосознанием. Я бы и удивился этому поведению, но это уже какой наш с Вами разговор, где Вы занимаетесь тем, что используете общепринятую терминологию странно и неправильно нетривиальным образом?

epros в сообщении #1694314 писал(а):

И это всё пустые философствования, не имеющие отношения к нормальной науке.

То ли дело фантазирование о самосознании у чат-ботов...

[epros]

Ghost_of_past в сообщении #1694311 писал(а):

Чат-бот - это как раз пример реализации китайской комнаты в классическом виде

Китайская комната - очередная философская чушь.

[realeugene]

Ghost_of_past в сообщении #1694311 писал(а):

но и воспринимаете его в рефлексивном феноменальном опыте, обращаете на него свое внимание и можете его описать.

Так LLM прекрасно описывает эмоции в тексте.

[epros]

Ghost_of_past в сообщении #1694315 писал(а):

Вы занимаетесь тем, что используете общепринятую терминологию странно и неправильно нетривиальным образом?

А Вы занимаетесь тем, что выдаёте за "общепринятую терминологию" всякую философскую чушь и потом, заявляете, что собеседник (в отличие от Вас) её "не знает" - на основании того, что он этой чуши не принимает.