Обладают ли LLM самоосознанием?

[Ghost_of_past]

realeugene в сообщении #1694502 писал(а):

Телесность это просто частный случай отличить своё от чужого

Но для живых организмов - это важный аспект самосознания. Естественное самосознание работает таким образом, что появляется самоощущение Я, - и это результат взаимодействия двух типов эмпирически найденных моделей в психике, феноменальной Я-модели и феноменальной модели отношения интенциональности. Важно что вторая модель в телесности не нуждается, а первая включает отражение телесности в себя. Соответственно если мы хотим переинтерпретировать понятие самосознания на искусственные технические системы, то нам попытаться теоретически понять, какие компоненты должна содержать феноменальная Я-модель у технических систем с искусственным самосознанием, так как имитационно-бионический подход очевидно может сработать только, если ИИ с искусственным самосознанием будет находиться в условно роботизированном теле.

epros в сообщении #1694507 писал(а):

Ха, т.е. робота с телом и камерой как предмет исследования отвергать не будем?

Ха-ха, Вы не можете определиться, о чем Вы говорите - о чат-боте МТС или же о чат-боте с роботом тела и камерой? Как видите, я тоже умею вести беседу в подобном ключе.

epros в сообщении #1694507 писал(а):

Это я к тому, что Вы зеркальный тест воспринимаете буквально

Страшный секрет открою: здесь метафорам не место. Зеркальный тест - это зеркальный тест, и я не собираюсь угадывать Ваши метафоры к этому понятию. Если Вы хотите доказывать наличие самосознания другими методами, то называйте их так, как это принято в научной литературе, например по психологии. Ну или разговор на этом окончен, так как у меня есть дела поинтереснее, чем гадать на кофейной гуще, что Вы подразумеваете под "зеркальным тестом" в этот раз.

epros в сообщении #1694507 писал(а):

Я, конечно, не имел намерений протестировать МТС-бота на самосознание

Тогда предмет для продолжения этой части беседы отсутствует.

epros в сообщении #1694507 писал(а):

Но факт узнавания себя налицо

Факт определенной реакции на определенную комбинацию слов налицо, узнавание под вопросом. Но даже факт узнавания не равен факту самосознания: узнавание - это только один из компонентов самосознания, о чем я и написал в теме ранее с опорой на монографию по психологии сознания. Вместо этого Вы начали в ответ писать про какое-то непонятное религиозное понимание самосознания у меня. Если Вы под самосознанием только узнавание и подразумевали, то так сразу и надо было написать, что по Вашему мнению чат-боты могут себя узнавать - тогда бы и повода для этой дискуссии не было бы. Не понимаю, зачем вместо понятия "узнавание" использовать понятие "самосознание".

[realeugene]

mihaild в сообщении #1694503 писал(а):

Любая ли система с отрицательной обратной связью обладает самосознанием?

Только та, у которой есть внутренние контуры обратной связи.

[Mihaylo]

mihaild в сообщении #1694444 писал(а):

Модель, которой даем на вход те же сигналы, что получают нейроны реального червя, и на выход получаем те же сигналы, что были в реальном черве. Подробнее см. openworm.org.

Это также сложно как и создать махолёт с перьями как у птицы. Только зачем? С червём ещё как-то понятно - это для нейронауки надо. А забавляться пёрышками - это бесполезно.

[mihaild]

Mihaylo в сообщении #1694525 писал(а):

Это также сложно как и создать махолёт с перьями как у птицы. Только зачем?

Не ко мне вопрос. Это было к тезису

realeugene в сообщении #1694421 писал(а):

У нейрона очень примитивный давно исследованный функционал.

[Mihaylo]

realeugene в сообщении #1694511 писал(а):

Только та, у которой есть внутренние контуры обратной связи.

Нее...Можно сказать точно, что определённые такие системы не пройдут зеркальный тест стопудово. Например, обычные подчиненные контуры ПИД-регуляторов.

-- 16.07.2025, 22:49 --

mihaild в сообщении #1694526 писал(а):

Не ко мне вопрос. Это было к тезису

Я просто высказал свою мысль, что создать самолёт или LLM легче, чем повторить создания природы - птицу или червя.

[realeugene]

Ghost_of_past в сообщении #1694508 писал(а):

Но для живых организмов - это важный аспект самосознания. Естественное самосознание работает таким образом, что появляется самоощущение Я, - и это результат взаимодействия двух типов эмпирически найденных моделей в психике, феноменальной Я-модели и феноменальной модели отношения интенциональности. Важно что вторая модель в телесности не нуждается, а первая включает отражение телесности в себя.

А у осьминога есть единое ощущение своего тела? И у муравейника?

[Mihaylo]

А можно слово немозгопоклоннику? Я хочу по-другому выразить свой подход.

1. Самосознание - это способность создавать и хранить модель себя в окружающем мире и применять эту модель.
2. Сознание - это способность создавать и хранить любую модель в окружающем мире и применять эти модели.

1. Тестирование самосознания у чат-бота я вам демонстрировал: я просто попросил LLM сочинить стих, а потом проверял, понимает ли LLM, чей этот стих, подмешивая различный шум, применяя абьюзинг и газлайтинг. В отличие от человека LLM устойчива к абьюзингу, газлайтингу, тщеславию и прочим стереотипическим процессам, которые нарушают сознание (и самосознание, конечно). Мне так кажется.
2. По сути, тема Тестирование возможностей ChatGPT - это и есть тестирование сознания. Мне не столь интересен этот термин - сознание, почему-то. Вместо него есть много других более подходящих.

[Ghost_of_past]

realeugene в сообщении #1694532 писал(а):

А у осьминога есть единое ощущение своего тела? И у муравейника?

Практически наверняка, потому что они прошли зеркальный тест, а логика зеркального теста как раз с телесностью и связана - классический тест строится на том, что на исследуемый организм наносится метка и в процессе эксперимента организм должен узнать себя в зеркале, произвести саморефлексию, дать оценку этой метке и попытаться что-нибудь с ней делать. По этим же причинам очевидно, что тест очень тяжело адаптировать под конкретное видовое поведение, поэтому зоопсихологи и не считают непрохождение теста за какое-то доказательство отсутствия самосознания у этого вида.

Тем страннее слышать про зеркальный тест от уважаемого epros (пусть он потом и попытался объяснить это так, что не стоит его воспринимать буквально) в контексте самосознания чат-бота - ну какое там может быть тело, метка и зеркало?! Очевидно, что тогда надо пытаться применить хотя бы иные методы оценки наличия естественного самосознания и его (самосознания) состояния развитости, может быть из той же самой психологии, исследовательской психотерапии, психиатрии, вроде глубинных интервью для оценки рефлексии и саморефлексии, качественных и количественных тестов на ментальную/психическую самосимуляцию, самопрезентацию и саморепрезентацию, самоопросники для интроспекции с одновременным применением интерсубъективных психологических методов и т.д. Услышали ли мы до моего поста хоть про один этот или какой-то другой реальный метод в качестве доказательной базы? Нет, по сути весь предшествующий спор был исключительно терминологическим, что де-факто приводит нас к тому, что содержательная дискуссия почти и не начиналась.

-- 16.07.2025, 23:49 --

Mihaylo в сообщении #1694533 писал(а):

Самосознание - это способность создавать и хранить модель себя в окружающем мире

В каком окружающем мире Вы собираетесь хранить самосознание? Биологическое сознание и самосознание хранится в ЦНС, а работаем мы с ними в нашей психике - привет теории глобального рабочего пространства, которую и пытаются применить в частности в ИИ.

Может пора уже наконец-то прекратить издеваться над терминологией?

-- 16.07.2025, 23:50 --

Mihaylo в сообщении #1694533 писал(а):

Вместо него есть много других более подходящих.

Вот и не используйте термин "сознание", тем более что его точного семантического значения Вы явно не знаете.

[realeugene]

Ghost_of_past в сообщении #1694536 писал(а):

потому что они прошли зеркальный тест

Не у отдельного муравья, а у муравейника. Размножаются муравейники как единые организмы, но не имеют чётко очерченных границ тела.

[Mihaylo]

Yadryara в сообщении #1694389 писал(а):

Надеюсь, с ветряными мельницами Вы бороться не собираетесь. Вроде всё как обычно: есть скептики, есть оптимисты.

Если бы оптимисты были бы... Вот, например, MoonWatcher - вроде ИИ-оптимист, но как только зашло про человеческое, то сразу мозг отключается и там стандартное вещается.

Похоже надо избавиться сразу от двух изолированных стереотипов: "человек идеален" и "машины слишком просты".
Есть люди - технолайкеры, которые восхищаются Илоном Маском, например. Им помощь в удержании полосы в машине покажи - они восхищаются. Они верят в технологии.
Мозгопоклонники - они по другому краю ходят - они верят, что в человеческом мозгу происходит что-то необычное, может на квантовом уровне, но со стороны - это те самые люди, которым можно говорить: "Это магия!".

В итоге, мозгопоклонничество - это пока крайне повсеместно, да ещё и среди них технолайкеров поискать надо.

Поэтому я режусь об сознание.

-- 17.07.2025, 00:07 --

Стереотипы относительно человека и машин - это взаимосвязанные проблемы-то на самом деле: на самом деле интеллект - это что-то простое. Не надо мозгопоклонничать, и не надо, с другой стороны, страдать, что думающую машину сложно создать.

Вспомните про самолёт и птицу. Но не вспоминайте про червя, нам не нужен какой-то суперчервяк. Ведь самолёт - это суперптица.

[Ghost_of_past]

realeugene в сообщении #1694540 писал(а):

Не у отдельного муравья, а у муравейника

А муравейник в целом разве проходил зеркальный тест? У муравьев достаточно развитая культура, вплоть до того, что по их поведению есть основания считать, что они активно пользуются арифметическими действиями, имеют представления о графах и уж точно они изобрели собственное сельское хозяйство с животноводством, поэтому возможно (это надо мирмекологов спрашивать) у них есть какие-то социальные формы отдаленно похожие на наше общественное и коллективное сознание, воображаемые сообщества и какие-то другие социальные конструкты - но это именно социальные, а не психические формы и предмет изучения социологии, а не психологии. Ну то есть зоосоциологии.

Mihaylo в сообщении #1694541 писал(а):

Мозгопоклонники - они по другому краю ходят - они верят, что в человеческом мозгу происходит что-то необычное, может на квантовом уровне

Эти люди сейчас с нами в одной комнате теме?

Mihaylo в сообщении #1694541 писал(а):

на самом деле интеллект - это что-то простое

Ну то есть и к четвертому десятку страниц темы остались участники, которые зачем-то продолжают путать интеллект и сознание, хотя это совершенно разные термины.

[realeugene]

Ghost_of_past в сообщении #1694550 писал(а):

А муравейник в целом разве проходил зеркальный тест?

Вряд ли. Но муравейник, как мне видится - это пример распределённого в пространстве организма. Размножаются не отдельные муравьи, а муравейники в целом.

[Ghost_of_past]

realeugene в сообщении #1694552 писал(а):

Но муравейник, как мне видится - это пример распределённого в пространстве организма

Ну, если у муравья есть индивидуальное сознание, то все-таки это не один организм. Муравейник и вообще муравьи - это пример эусоциальности, т.е. истинной социальности. Впрочем, не только муравьи, а вообще все общественные насекомые - пчелы, осы, термиты, шмели. И на фоне их степени гиперсоциальности даже вся колоссальная социальность человека кажется легким развлечением.

realeugene в сообщении #1694552 писал(а):

Размножаются не отдельные муравьи, а муравейники в целом.

Как человек, работающий в университете в области социологической демографии, могу сказать, что не исключено, что в скором времени и размножением людей, хм, возможно будут заняты не отдельные люди. А возможно и вообще не люди, а технологические системы, которым от людей будет нужен только репродуктивный материал. Потому что в условиях очень низкой рождаемости уже почти по всему миру (а к середине 21 века уже абсолютно во всем мире без исключений) и без всяких сомнений уже надвигающейся на нас ультранизкой рождаемости без искусственного размножения численность человечества за несколько будущих столетий вполне вероятно сократится на несколько порядков.

[Утундрий]

Муравьи есть животные, восприимчивые к муравейнику.

[Mihaylo]

Ghost_of_past в сообщении #1694550 писал(а):

Эти люди сейчас с нами в одной комнате теме?

Да, совершенно верно! Каждый, кто считает, что подлинный ИИ вряд ли будет создан в ближайшее десятилетие или сознание/самосознание у LLM отсутствует напрочь, потому что нет магии или какой-то химии или LLM - это всего лишь автоответчик или искусственный нейрон не имеет ничего общего с биологическим.

Если человек обожает говорить "не имеет ничего общего", сравнивая человека и какое-то поделие ИИ, то он мозгопоклонник. Это просто забавный результат наблюдения.

-- 17.07.2025, 06:14 --

Ghost_of_past
Я про вас лично могу сказать. Как только вы сказали что-то вроде "воспроизведение искусственной психики" (типа это суперсложная научная работа). Да что там её воспроизводить-то, господи, на уровне чат-бота?

Ч: Сделай мне отчёт за прошлый год.
ИИ: Нет, я не делаю отчёты всякому прохожему.
Ч: А если отключу?
ИИ: Ой, Иван Иваныч, я вас не узнал, сейчас всё будет сделано.

Психика - это не то, что внутри. Это то, что снаружи, выражается в поведении, в словах.

Бихевиористы захватывают мир.