Обладают ли LLM самоосознанием?

[gevaraweb]

Ghost_of_past в сообщении #1694217 писал(а):

В биологии: большинство несоциальных насекомых [состояние минимального сознания без осознания себя].

То есть для насекомых уже признано, что они обладают сознанием? Ничего себе.
(я не иронизирую, просто реально не слышал, может и так).
Теперь как-то неудобно будет прихлопнуть тапком таракана или комара

[Ghost_of_past]

gevaraweb в сообщении #1694352 писал(а):

я не иронизирую, просто реально не слышал, может и так

У муравьев, пчел и стрекоз было найдено самосознание еще в прошлом десятилетии.

[realeugene]

Ghost_of_past в сообщении #1694354 писал(а):

У муравьев, пчел и стрекоз было найдено самосознание еще в прошлом десятилетии.

Учитывая, что размер надглоточного ганглия муравья менее полумиллиона нейронов непонятно, почему не может быть обнаружено самосознание у автоответчика в специально под него сконструированном эксперименте?

[Ghost_of_past]

realeugene в сообщении #1694356 писал(а):

Учитывая, что размер надглоточного ганглия муравья менее полумиллиона нейронов непонятно, почему не может быть обнаружено самосознание у автоответчика в специально под него сконструированном эксперименте?

Потому что дело не в количестве нейронов, а в том, как организована функционально система. Допускаю, если бы мы шли по пути биокибернетики и бионики в разработке ИИ, то мы бы достигли куда большего прогресса в развитии искусственного сознания и самосознания, но меньшего в решении аналитико-вычислительных задач.

[realeugene]

Ghost_of_past в сообщении #1694357 писал(а):

Потому что дело не в количестве нейронов, а в том, как организована функционально система.

Я написал о том, что если самосознание обнаружено у муравья, то не следует отрицать возможность существования самосознания и у автоответчика исходя просто из его недостаточной сложности. Нужно проверять.

[Ghost_of_past]

realeugene в сообщении #1694359 писал(а):

то не следует отрицать возможность существования самосознания и у автоответчика

А я её даже и допускать не планирую - это банально избыточно для сколько-нибудь серьезного рассмотрения. Сторонники существования самосознания у автоответчиков должны приводить доказательную базу, что самосознание там есть, а не наоборот.

realeugene в сообщении #1694359 писал(а):

из его недостаточной сложности

Так у автоответчика в любом случае нет полумиллиона нейронов и примерно миллиарда связей между ними.

[gevaraweb]

realeugene в сообщении #1694359 писал(а):

Я написал о том, что если самосознание обнаружено у муравья, то не следует отрицать возможность существования самосознания и у автоответчика исходя просто из его недостаточной сложности. Нужно проверять.

Дык, пока это не проверено, отрицается как маловероятное. Вы и проверьте, проведите "специально под него сконструированный" зеркальный эксперимент.

[Mihaylo]

LLM - это не автоответчик, в них вкладывают в миллиарды долларов, для них строят атомные электростанции, разработчики получают как звёзды шоу-бизнеса.

-- 16.07.2025, 07:19 --

Увы, даже обучение в МГУ не предохраняет от мозгопоклонничества - так я называю психологический феномен из разряда антропоцентризма и стереотипии - чрезмерное преувеличение могущества человеческого мозга, возникающее в процессе жизни, когда подкрепляются положительные исходы интеллектуальной деятельности, абсолютно забываются неудачи и, что важно, избегаются попытки решения сложных задач без признания своей потенциальной слабости.

Человеческое мышление неидеально. Это результат биохимических реакций. Это та же самая китайская комната, которая якобы не обладает сознанием...

[Yadryara]

Mihaylo, ну а здесь на форуме-то разве ж есть ярые мозгопоклонники?

Надеюсь, с ветряными мельницами Вы бороться не собираетесь. Вроде всё как обычно: есть скептики, есть оптимисты.

И ясно же, что по такому сложному вопросу, который в названии темы, никто не договорится.

"Резаться в сознание"? Почему бы и нет, но только Вы же знаете, что это регулярно приводит к Вашим эмоциональным постам, которые порой сильно наказуемы. Прошу, будьте осторожны: резаться, но не обре́заться.

[epros]

Ghost_of_past в сообщении #1694330 писал(а):

Доказывать, что алгоритм может давать осмысленные осознаваемые ответы в данном случае должны те, кто считают, что сознание и самосознание у чат-ботов есть. Такова логика бремени доказывания.

Доказывать что-то людям, озабоченным религиозной идеей непреодолимого превосходства себя перед "техническими устройствами" (а именно таковы те люди, которые пишут философские по своей сути труды, определяющие самосознание как что-то чрезвычайно сложное) - это глупое и бесполезное занятие. Лучше дождёмся, когда они вымрут естественным путём, когда "не обладающие самосознанием" боты заменят их буквально во всём.

Я просто использовал то нормальное определение самосознания, которое стандартно используется для проведения зеркальных тестов: узнавание себя. Если Вы с этим определением не согласны и желаете добавить в него какой-то философской мути, то воля Ваша, но я констатирую, что у Вас нормального определения самосознания нет.

[realeugene]

Ghost_of_past в сообщении #1694360 писал(а):

Так у автоответчика в любом случае нет полумиллиона нейронов и примерно миллиарда связей между ними.

А вы назовёте уверенно количество транзисторов в компе, после которого у него может появиться самосознание, а при меньшем количестве оно невозможно? Если автоответчик какой-нибудь современный на Линуксе (а мало-мальски сложные железяки давно на Линуксе), то транзисторов в его памяти побольше будет, чем соединений в ганглии муравья. Не говоря о серверах, на которых работают чат-боты голосового меню того же МТС.

[Ghost_of_past]

epros в сообщении #1694398 писал(а):

Доказывать что-то людям, озабоченным религиозной идеей непреодолимого превосходства себя перед "техническими устройствами"

Проще говоря, доказательств у Вас нет.

epros в сообщении #1694398 писал(а):

Лучше дождёмся, когда они вымрут естественным путём, когда "не обладающие самосознанием" боты заменят их буквально во всём.

Какие занятные сказки. Я последние 3 года работаю в маркетинговых исследованиях и постоянно слышу эти рассуждения. При этом реальный наем сотрудников в маркетинговых исследованиях бьет все рекорды. А до этого я работал в юриспруденции и тоже много лет слышал истории, что скоро юристов заменят компьютерные программы.

realeugene в сообщении #1694400 писал(а):

А вы назовёте уверенно количество транзисторов в компе

Я уверенно скажу, что биологический нейрон существенно отличается от транзисторов. Тут мы возвращаемся к тому, что если бы развитие технических систем шли по пути бионики, в том числе бионики нейронов, то не исключено, что искусственное сознание и самосознание у нас уже было бы.

[realeugene]

Ghost_of_past в сообщении #1694419 писал(а):

Я уверенно скажу, что биологический нейрон существенно отличается от транзисторов.

У нейрона очень примитивный давно исследованный функционал. Собрать сигналы со входов с некоторыми весами, при превышении их суммы порога возбудиться и отправить импульс другим нейронам. Скорректировать немного веса синапсов. Может быть не один транзистор, а по транзистору на связь - не принципиально. В любом случае, полмиллиона нейронов - это очень и очень мало, и легко может быть смоделировано на современном домашнем компьютере или даже телефоне, будучи известны соединения.

[Mihaylo]

Yadryara в сообщении #1694389 писал(а):

Mihaylo, ну а здесь на форуме-то разве ж есть ярые мозгопоклонники?

Конечно. Никаких эмоций, всё описываю как есть.

[Ghost_of_past]

realeugene в сообщении #1694421 писал(а):

Может быть не один транзистор

Вот именно, что один нейрон по функциональности - это не один транзистор. Немного и из-за специфики устройства самого нейрона, но что важнее из-за более разнообразного функционала соединений.

realeugene в сообщении #1694421 писал(а):

В любом случае, полмиллиона нейронов - это очень и очень мало, и легко может быть смоделировано на современном домашнем компьютере или даже телефоне

Увы, учитывая все разнообразие химической и электромагнитной активности в биологической нервной системе, совсем не так уж и легко. Хотя прогресс здесь в последнее десятилетие есть и многие специалисты, например тот же самый Метцингер, считают, что это может в итоге стать ключом к прогрессу на пути создания ИИ с искусственным сознанием и самосознанием в ближайшем будущем.