Обладают ли LLM самоосознанием?

[realeugene]

Ghost_of_past в сообщении #1694424 писал(а):

Вот именно, что один нейрон по функциональности - это не один транзистор.

Ну так в обычной достаточно большой флешке в телефоне их триллионы. У моего средненького телефона флеш примерно на 2 террабита.

-- 16.07.2025, 12:30 --

Ghost_of_past в сообщении #1694424 писал(а):

Хотя прогресс здесь в последнее десятилетие есть и многие специалисты, например тот же самый Метцингер, считают, что это может в итоге стать ключом к прогрессу на пути создания ИИ с искусственным сознанием и самосознанием в ближайшем будущем.

Фантазёры, но под носом ничего не видят. Совсем не обязательно повторять мозг муравья. LLM уже от своего имени совершенно уверенно рассуждает о себе.

[epros]

Ghost_of_past в сообщении #1694419 писал(а):

Проще говоря, доказательств у Вас нет.

Доказательство наличия у МТС-бота самосознания у меня есть. Оно основано на определении понятия "самосознания" зеркальным тестом: как способности субъекта узнать себя. Но это доказательство бесполезно для тех, кто не признаёт такое определение по религиозным соображениям.

А вот никакого доказательства "осмысленности" действий МТС-бота я Вам не обещаю, ибо не знаю, что это слово в данном контексте означает.

[Yadryara]

Mihaylo

Ох-ох-ох. А они эти ярые мозгопоклонники, прямо так и говорят или как-то маскируются, а Вы свою задачу видите в том, чтобы вывести их на чистую воду и разубедить? Серьёзно ?

Но ведь прогресс навряд ли остановится. И со временем, если успехов ИИ будет всё больше, им просто деваться некуда будет — придётся признать очевидное. Не парьтесь, необязательно убеждать здесь и сейчас. Уже несколько столетий так. И скептики есть и прогресс есть.

[mihaild]

realeugene в сообщении #1694421 писал(а):

У нейрона очень примитивный давно исследованный функционал. Собрать сигналы со входов с некоторыми весами, при превышении их суммы порога возбудиться и отправить импульс другим нейронам. Скорректировать немного веса синапсов.

Это не то чтобы совсем неправда, но слишком упрощенная для сколь-нибудь прикладных целей схема. Уже элементарно существование множества разных нейромедиаторов с разными эффектами в неё не укладывается.

realeugene в сообщении #1694421 писал(а):

В любом случае, полмиллиона нейронов - это очень и очень мало, и легко может быть смоделировано на современном домашнем компьютере или даже телефоне, будучи известны соединения

Прогресс за последние 3 года не знаю. Но в 2012 году один товарищ говорил, что вот уже почти смоделировали нематоду (302 нейрона), и скоро смоделируют крысу, и я поспорил с ним, что крысу через 10 лет не смоделируют. Как выяснилось, я был недостаточно уверен - к 2022 году не смоделировали не только крысу, но и нематоду. Хотя коннектом её был полностью известен еще в 1988 году.
И это при том, что нейроны у нематоды менее разнообразны, чем у млекопитающих.

[Ghost_of_past]

realeugene в сообщении #1694425 писал(а):

Ну так в обычной достаточно большой флешке в телефоне их триллионы

Нейрон - не бинарный транзистор. Он интегрирует тысячи и даже десятки тысяч входящих сигналов (потенциалов) от дендритов, проводит их по аксону и передает другим нейронам через синапсы. Этот процесс включает в себя сложную биохимию, изменение мембранного потенциала, выброс нейротрансмиттеров и многие другие интересные и сложные механизмы передачи информации. Добавьте к этому синаптическую пластичность и то, что существует до 400 видов нейронов и получим крайне сложную картину даже на уровне клеток, не затрагивая ни архитектуры и организации уровней организации нервной системы выше клеточного, ни системно-интегративных свойств мозга и психики. Если бы дело было в числе транзисторов, то мы бы может быть давно уже и смоделировали бы психику и создали все искусственные психические функции. Но так просто это не работает.

realeugene в сообщении #1694425 писал(а):

Совсем не обязательно повторять мозг муравья

На самом деле мы не знаем, до какой степени надо или не надо повторять биологические нервные системы, чтобы полностью создать искусственную психику, просто потому что в нашей Вселенной известен только один носитель психики со всем ее разнообразием психических функций - биологические нервные системы. Так что мы практически наверняка можем создать искусственную психику на бионических принципах инженерии, но можно ли создать искусственную психику со всеми функциями, включая искусственное сознание и самосознание, на каком-то другом типе функциональной архитектуры, нам до сих пор точно неизвестно. Но такая вероятность явно существует.

[Anton_Peplov]

realeugene в сообщении #1694421 писал(а):

У нейрона очень примитивный давно исследованный функционал. Собрать сигналы со входов с некоторыми весами, при превышении их суммы порога возбудиться и отправить импульс другим нейронам.

Это модель. Она оказалась полезной при создании искусственных нейронных сетей и до некоторой степени - для моделирования процессов в мозге. Но реальные нейроны работают существенно сложнее.

[realeugene]

Ghost_of_past в сообщении #1694430 писал(а):

Этот процесс включает в себя сложную биохимию, изменение мембранного потенциала, выброс нейротрансмиттеров и многие другие интересные и сложные механизмы передачи информации. Добавьте к этому синаптическую пластичность и то, что существует до 400 видов нейронов и получим крайне сложную картину даже на уровне клеток, не затрагивая ни архитектуры и организации уровней организации нервной системы выше клеточного, ни системно-интегративных свойств мозга и психики.

А если ещё квантовую физику подключить, то вообще будет выглядеть в принципе неподъёмно. Тем не менее, то, что вы описываете, фантастически сложным не является, и наверняка для функционала не критично моделировать в точности. Иначе муравья любая пролетевшая космическая частица убивала бы. У нейронов должна быть огромная избыточность.

-- 16.07.2025, 12:55 --

Anton_Peplov в сообщении #1694433 писал(а):

и до некоторой степени - для моделирования процессов в мозге.

Но мозг муравья при этом гораздо проще человеческого.

-- 16.07.2025, 12:57 --

Ghost_of_past в сообщении #1694430 писал(а):

самосознание

Про сознание ещё можно рассуждать, но вот самосознание у LLM уже очевидно есть.

[Mihaylo]

Yadryara в сообщении #1694428 писал(а):

Ох-ох-ох. А они эти ярые мозгопоклонники, прямо так и говорят или как-то маскируются, а Вы свою задачу видите в том, чтобы вывести их на чистую воду и разубедить? Серьёзно ?

Я наблюдаю, что мои слова некоторыми людьми на форуме воспринимаются. Хотя они и не показывают виду, что согласны со мной.

-- 16.07.2025, 13:04 --

Anton_Peplov в сообщении #1694433 писал(а):

Но реальные нейроны работают существенно сложнее.

Но не факт, что лучше и эффективнее. Искусственный нейрон и всякие структуры на базе их - это не просто так. Они отобраны среди многих вариантов.

[Anton_Peplov]

Mihaylo в сообщении #1694437 писал(а):

Но не факт, что лучше и эффективнее.

Да, совсем не факт. Самолеты летают быстрее птиц.

-- 16.07.2025, 13:13 --

mihaild в сообщении #1694429 писал(а):

Но в 2012 году один товарищ говорил, что вот уже почти смоделировали нематоду (302 нейрона), и скоро смоделируют крысу, и я поспорил с ним, что крысу через 10 лет не смоделируют. Как выяснилось, я был недостаточно уверен - к 2022 году не смоделировали не только крысу, но и нематоду.

Что в данном контексте означает "смоделировать нематоду"?

[Ghost_of_past]

epros в сообщении #1694426 писал(а):

Доказательство наличия у МТС-бота самосознания у меня есть

Вот только единственное доказательство - это применение изменения терминологии в нетривиальном расширительном направлении. Можно пойти по пути и панпсихизма в таком случае и обозначить наличие сознания и самосознания через субъективный опыт у элементарных частиц и струн, чего уж мелочиться. Других же доказательств нет, что и объясняет, почему в научном сообществе как-то не распространена тока зрения на наличие самосознания у чат-ботов.

realeugene в сообщении #1694434 писал(а):

А если ещё квантовую физику подключить

Зависит от того, насколько квантовые эффекты оказывают существенное влияние на работу психики и на каком уровне - на уровне нейронов какие-то эффекты могут иметь значение, а например на уровне нейронных ансамблей уже нет.

realeugene в сообщении #1694434 писал(а):

Про сознание ещё можно рассуждать, но вот самосознание у LLM уже очевидно есть.

Возвращаемся к тому, что обсуждали ранее: естественное самосознание - это специфический случай одного из подвидов естественного сознания. Если между искусственным самосознание и сознанием такой связи не будет, то непонятно, зачем вообще говорить о самосознании вместо того, чтобы придумать полностью новый дефинитивно-понятийный аппарат.

Mihaylo в сообщении #1694437 писал(а):

Но не факт, что лучше и эффективнее.

По энергоэффективности проблематично представить себе, чтобы искусственные системы в обозримом будущем (до конца века) могли бы подойти к эффективности ЦНС. Если же мы про эффективность в контексте сложности обработки информации и психических функций, то да, не факт. Но не факт и то, что на другой функциональной архитектуре нам вообще удастся полностью создать искусственную психику - мы не знаем пока что точно, возможно ли это в нашей Вселенной.

[mihaild]

realeugene в сообщении #1694434 писал(а):

Но мозг муравья при этом гораздо проще человеческого

Где мне скачать код, точно моделирующий мозг муравья?

Anton_Peplov в сообщении #1694439 писал(а):

Что в данном контексте означает "смоделировать нематоду"?

Модель, которой даем на вход те же сигналы, что получают нейроны реального червя, и на выход получаем те же сигналы, что были в реальном черве. Подробнее см. openworm.org.

Ghost_of_past в сообщении #1694441 писал(а):

на уровне нейронов какие-то эффекты могут иметь значение, а например на уровне нейронных ансамблей уже нет

Насколько я понимаю, это открытый вопрос https://www.frontiersin.org/journals/mo ... 00366/full (хотя может быть за 8 лет что-то поменялось). Хотя, если я понимаю правильно, там всё же не требуется полноценная квантовое описание всей нервной системы, а лишь требуется учитывать, что случайные флуктуации могут не гаситься, а усиливаться до макроэффектов.

[Ghost_of_past]

mihaild в сообщении #1694444 писал(а):

Насколько я понимаю, это открытый вопрос

Насколько я знаю, ситуация и сейчас не поменялась: открытым вопросом является то, насколько квантовые эффекты надо учитывать при описании нервной системы на разных уровнях. И на сколько мне известно, считается что эти эффекты в любом случае не влекут сами по себе нетривиального влияния за пределами квантовой биохимии и нормальной физиологии на психику - это один из базовых мейнстримов в нейронауках, что квантовые гипотезы о природе сознания, разума и психики в целом являются маргинальными. Но конечно это всё никак не отменяет крайней сложности устройства нервной системы и психики и без квантовых эффектов.

[Anton_Peplov]

mihaild в сообщении #1694444 писал(а):

Модель, которой даем на вход те же сигналы, что получают нейроны реального червя, и на выход получаем те же сигналы, что были в реальном черве. Подробнее см. openworm.org.

Спасибо, посмотрю. Вот за что люблю dxdy - всегда подкинут что-нибудь интересное.

[realeugene]

mihaild в сообщении #1694429 писал(а):

Хотя коннектом её был полностью известен еще в 1988 году.

Понятия коннектома включает веса, или это только граф соединений нейронов?

-- 16.07.2025, 13:45 --

mihaild в сообщении #1694444 писал(а):

Где мне скачать код, точно моделирующий мозг муравья?

Веса не известны.

-- 16.07.2025, 13:47 --

Ghost_of_past в сообщении #1694441 писал(а):

По энергоэффективности проблематично представить себе, чтобы искусственные системы в обозримом будущем (до конца века) могли бы подойти к эффективности ЦНС

Человек выделяет около 100 Ватт тепла, и думает при этом медленно. С долей Джоуля на токен LLM явно энергетически эффективнее.

-- 16.07.2025, 13:51 --

Ghost_of_past в сообщении #1694441 писал(а):

Возвращаемся к тому, что обсуждали ранее: естественное самосознание - это специфический случай одного из подвидов естественного сознания. Если между искусственным самосознание и сознанием такой связи не будет, то непонятно, зачем вообще говорить о самосознании вместо того, чтобы придумать полностью новый дефинитивно-понятийный аппарат.

Чтобы можно было сравнивать с человеческим эталоном.

-- 16.07.2025, 13:54 --

Ghost_of_past в сообщении #1694441 писал(а):

Но не факт и то, что на другой функциональной архитектуре нам вообще удастся полностью создать искусственную психику - мы не знаем пока что точно, возможно ли это в нашей Вселенной.

Точную цифровую копию психики конкретного человека вряд ли сделают в обозримом будущем, но уже сейчас LLM вполне человекоподобные собеседники. Вплоть до того, что приходится проводить тонкие исследования на предмет, это уже сознание или ещё нет? Значит, это уже не очевидно.

[Anton_Peplov]

realeugene в сообщении #1694449 писал(а):

Понятия коннектома включает веса, или это только граф соединений нейронов?

Это граф соединений. Веса не включаются.