Обладают ли LLM самоосознанием?

[alesha_popovich]

diletto в сообщении #1694923 писал(а):

Так ли уж мы уверены, что self для LLM - это напечатанное ею местоимение "я"?

if input=="Ты дурак?":
    print("Я не дурак, мамой клянусь")

У питона обнаружено самосознание, всех поздравляю.

[b4b5]

alesha_popovich в сообщении #1694988 писал(а):

У питона обнаружено самосознание, всех поздравляю.

Именно так. Нет смысла удивляться. Это реактивное (активное) поведение организма (алгоритма) присущее многим видам систем.
А удивление говорит, что надо менять модель мира.

[mihaild]

(Оффтоп)

С учетом

Ghost_of_past в сообщении #1694354 писал(а):

У муравьев, пчел и стрекоз было найдено самосознание еще в прошлом десятилетии.

в

alesha_popovich в сообщении #1694988 писал(а):

У питона обнаружено самосознание

нет ничего удивительного.

[Ghost_of_past]

realeugene в сообщении #1694885 писал(а):

Ничто не мешает использовать эти слова и в новой области.

Ничто кроме того, что этот создаст еще большую путаницу. Если мы у искусственных технических систем ищем аналог естественного сознания, то логично говорить об искусственном сознании, а если нет, то и вовсе непонятно, зачем говорить о сознании (или самосознании).

epros в сообщении #1694954 писал(а):

каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями

За этим к специализированной литературе. Если захотите, то могу позже дать некоторые библиографические ссылки.

mihaild в сообщении #1695005 писал(а):

нет ничего удивительного.

Я все-таки возражу.

Небиологические системы, естественные или искусственные, а также простые биологические системы могут обладать целым множеством форм досознательного отражения - физическое, химическое и информационное отражение, раздражимость (реакция на внешние стимулы), чувствительность (способность к субъективным ощущениям), восприятие (способность отражать и выделять существенные связи в окружающем мире (например, в массиве текста)). У разных видов слабого ИИ, как искусственных технических систем, есть физическое и информационное отражение, некоторые разновидности раздражимости и восприятия.

Я не очень понимаю, зачем все это смешивать с проблемами создания искусственного сознания и самосознания - можно, конечно, и соседскую кошку назвать искусственным сознанием/самосознанием, говоря при этом, что искусственное сознание/самосознание без сомнения существует, но это не приблизит нас к появлению искусственного сознания и искусственного самосознания, а скорее отдалит, ибо применение кривого понятийно-дефинитивного аппарата - это скорее шаг с отрицательной ценностью на пути создания искусственного сознания и самосознания и вообще на пути любой продуктивной деятельности.

[mihaild]

Ghost_of_past в сообщении #1695007 писал(а):

Я все-таки возражу

Это была шутка про многозначность слова "питон".

[Ghost_of_past]

(Оффтоп)

mihaild в сообщении #1695009 писал(а):

Это была шутка про многозначность слова "питон".

Извиняюсь, сегодня я эмоционально туп и юмор проходит мимо меня.

[b4b5]

mihaild в сообщении #1695009 писал(а):

Это была шутка про многозначность слова "питон".

А у меня абсолютно серьезно.

[realeugene]

Ghost_of_past в сообщении #1695007 писал(а):

целым множеством форм досознательного отражения - физическое ...

Что такое "физическое отражение"?

[Ghost_of_past]

realeugene в сообщении #1695017 писал(а):

Что такое "физическое отражение"?

Если точнее, то физическая форма отражения. Т.е. физические взаимодействия, которые приводят к изменению как минимум одного из объектов взаимодействия.

[realeugene]

Ghost_of_past в сообщении #1695018 писал(а):

Т.е. физические взаимодействия, которые приводят к изменению как минимум одного из объектов взаимодействия.

Тут есть две неприятности:

1. Физические взаимодействия не обязательно осуществляется между дискретными объектами.
2. Взаимодействие и означает изменение какого-то состояния. Ничего не меняется = нет взаимодействия.

Ни разу в физике не встречал такого термина. Кроме отражения зеркалом, конечно. Но там смысл термина "отражение" гораздо более строгий и узкий.

[Ghost_of_past]

realeugene в сообщении #1695019 писал(а):

Ни разу в физике не встречал такого термина

Странно было бы встретить термин философии в физике. Конечно терминология разных наук может частично проникать друг в друга, иногда даже возможны интервенции одной науки в другую (например, в 1960ые экономика произвела интервенцию в юриспруденцию так, что появилась экономика права/экономика юриспруденции/экономический анализ права; или пример более крупной интервенции с частичным замещением: в конце 19 века в контексте исследования науковедческих дисциплин говорилось, к примеру, о психологии наук (психология биологии, психология физики, психология математики, психология экономики и т.д., что даже звучит странновато сейчас), но потом все эти исследования отошли к философии и только в последние пару десятилетий психология науки начала вновь активно развиваться), но обычно у разных наук собственные языки теоретического описания (включая и тот самый понятийный аппарат).

Впрочем, к искусственному сознанию и самосознанию это все уже прямого отношения, пожалуй, не имеет.

[epros]

alesha_popovich в сообщении #1694988 писал(а):

if input=="Ты дурак?":
    print("Я не дурак, мамой клянусь")

У питона обнаружено самосознание, всех поздравляю.

Гениально! Только что-то мне кажется, что я вряд ли бы угадал правильный вопрос, который нужно задать Вашей программе.

-- Вт июл 22, 2025 09:21:12 --

Ghost_of_past в сообщении #1695007 писал(а):

epros в сообщении #1694954 писал(а):

каким образом выявлялось "может ли организм произвести саморефлексию и самооценку себя" в тесте с муравьями

За этим к специализированной литературе. Если захотите, то могу позже дать некоторые библиографические ссылки.

Что Вы мне мозги-то компостируете? Вся специализированная литература в данном случае должна заключаться в той самой статье с описанием этого эксперимента, в которой чёрным по белому должно быть написано: "Может ли муравей произвести саморефлексию и самооценку себя выяснялось следующим образом...".

[realeugene]

Ghost_of_past в сообщении #1695020 писал(а):

Странно было бы встретить термин философии в физике.

Вот только философия утверждала, что это физика.

[Mihaylo]

Забавная штука - самосознание. Иногда цепочка причинно-следственных связей настолько запутанна, что нет возможности показать хорошие результаты в тестировании на самосознание. Например, воруя в магазине, мы можем не осознавать, что существует риск попасть в ещё более невыгодное положение, чем просто оплатить покупку. Или мы можем не понимать, что украденное минусуется не из кармана абстрактного богача, а с баланса конкретного филиала магазина или хуже - из зарплаты сотрудников магазина. Эмоции перевешивают, мозг, особо не задумываясь, подчиняется стереотипам. У человека самосознание хорошее, но не идеальное.

[realeugene]

(Оффтоп)

Mihaylo в сообщении #1695040 писал(а):

Например, воруя в магазине, мы можем не осознавать, что существует риск попасть в ещё более невыгодное положение, чем просто оплатить покупку. Или мы можем не понимать, что украденное минусуется не из кармана абстрактного богача, а с баланса конкретного филиала магазина или хуже - из зарплаты сотрудников магазина. Эмоции перевешивают, мозг, особо не задумываясь, подчиняется стереотипам.

Любопытный опыт.

У некоторых это вообще профессия.