Обладают ли LLM самоосознанием?

[Anton_Peplov]

MoonWatcher в сообщении #1718187 писал(а):

есть ли научные подходы к обнаружению сознания более высокого уровня?

Насколько мне известно, нет. Идея, что большие социальные конструкты (например, управленческий аппарат государства) могут работать как нейронная сеть из людей, высказывалась в НЕнаучной литературе. Как ее проверить научными средствами, совершенно непонятно. Мы не можем провести эксперимент над такой большой системой.

MoonWatcher в сообщении #1718187 писал(а):

Или мы в этом вопросе упираемся в теорему Геделя о неполноте?

Господи Боже, опять двадцать пять. Теорема Геделя о неполноте применима только к формальным системам. Что это такое, см., например, здесь.

[ozheredov]

MoonWatcher в сообщении #1718189 писал(а):

Хотя ваш пример не вполне корректный - желания наркомана шырнуться и пописать более чем понятны, он не делает ничего того, чтобы им противоречило.

Я имел в виду, что он пописал именно из чувства протеста. Мог бы дойти до дома, но не стал. А наркоманом я его сделал с единственной целью - чтобы он обладал заведомо куда более низким интеллектом, чем студент, соблюдающий правила. Студент (тот которого я придумал, а не вообще) соблюдает правила не потому, что следует

MoonWatcher в сообщении #1718189 писал(а):

биологическим и социальным установкам

, а потому что он часть цивилизованного общества и ему это нравится.

MoonWatcher в сообщении #1718189 писал(а):

Единственный аналог непослушания своим биологическим и социальным установкам у человека, который мне приходит на ум - сумасшествие. Хотя и в этом случае какая-то своя мотивация у человека имеется - он испытывает безотчетный страх, слышит голоса и т.д.

Биологические и социальные установки == мотивация, другой нету. Правильно я понимаю?

Anton_Peplov в сообщении #1718190 писал(а):

Использующий лифт в качестве туалета наркоман с большей вероятностью обладает сознанием, чем сам лифт.

Лифтом может быть человек, таскающий жильцов на закорках.

[Anton_Peplov]

MoonWatcher в сообщении #1718191 писал(а):

Нет, конечно - она просто следовала другим социальным установкам - о феминизме и т.д.

У Достоевского был персонаж, который покончил с собой, просто чтобы доказать (кому?), что он волен делать с собой что угодно. По-моему, он был идиот (в бытовом смысле). А по-Вашему, он доказал наличие у себя сознания? Или тоже следовал каким-то установкам?

Странный у Вас критерий сознания, раз под него не подпадает практически ни один человек.

[MoonWatcher]

Anton_Peplov
Спорный (я выше все-таки спрашиваю, а не утверждаю), возможно ошибочный - но не странный. Ведь если правильно обученный и настроенный ИИ внезапно начнет проявлять своеволие, то многие как минимум обыватели (вроде меня) сочтут это признаком или даже доказательством сознания. А тот идиот конечно же следовал установкам - упрямство, глупость и т.д. Нам просто трудно проследить и тем более оправдать ход его мыслей - вот мы и думаем, что он нарушил установки. Какие-то нарушил - а каким-то, наоборот, последовал.

Под "мои" критерии сознания подпадает разве что сумасшедший. Но, если вдуматься, тоже нет - его установка состоит в его психическом расстройстве. Причем как немного интересующийся историей человек я знаю массу примеров массового сумасшествия или как минимум откровенного скудоумия - но никто его так не называет, не политкорректно-с. А когда один человек - тогда можно, явный псих...

[ozheredov]

MoonWatcher в сообщении #1718195 писал(а):

А тот идиот конечно же следовал установкам - упрямство, глупость и т.д. Нам просто трудно проследить и тем более оправдать ход его мыслей - вот мы и думаем, что он нарушил установки. Какие-то нарушил - а каким-то, наоборот, последовал.

Вы подменяете понятие. Установка - это по определению то, что легко отследить. Если отследить не легко - это не установка.

[dsge]

Anton_Peplov в сообщении #1718190 писал(а):

Софья Ковалевская пошла против бытовавшей в тогдашнем обществе социальной установки, что женщина должна быть босая, беременная и на кухне.

Беременности Софья Ковалевская не избежала. И на кухне, возможно, бывала, но чтобы дочь генерала была босой, таких социальных установок в тогдашнем обществе даже ИИ не нагаллюцинирует.

[MoonWatcher]

ozheredov в сообщении #1718196 писал(а):

Вы подменяете понятие. Установка - это по определению то, что легко отследить. Если отследить не легко - это не установка.

Не знаю откуда вы взяли это определение, но вообще это вопрос терминологии. В случае с человеком отследить его установки заведомо не легко - как я уже говорил, наши поступки определяются очень сложным переплетением биологических и социальных установок. Условно, и хочется, и колется. А еще бывает, что сам не понимаешь чего тебе хочется («Ой, тошно мне, хочется чегой-то, сам не знаю чего!» ©)

[ozheredov]

MoonWatcher в сообщении #1718199 писал(а):

наши поступки определяются очень сложным переплетением биологических и социальных установок

Мотивацию можно назвать установкой, только если её насильственно навязали, не? А если я её выбрал "сознательно"?

[Anton_Peplov]

dsge в сообщении #1718198 писал(а):

Беременности Софья Ковалевская не избежала. И на кухне, возможно, бывала, но чтобы дочь генерала была босой, таких социальных установок в тогдашнем обществе даже ИИ не нагаллюцинирует.

О Господи, какой буквализм. Ладно, буквально так буквально: социальная установка состояла в том, что наука - занятие не для женщин. У женщин в России в те годы не было доступа к высшему образованию, и для выезда за границу Софье пришлось пойти на фиктивный брак, в связи с чем она и стала Ковалевской. Впрочем, и в Европе тоже не всякий университет был доступен женщинам.

[mihaild]

MoonWatcher в сообщении #1718195 писал(а):

Под "мои" критерии сознания подпадает разве что сумасшедший. Но, если вдуматься, тоже нет

Тогда зачем они нужны?

[b4b5]

Нужны чтобы вдуматься...

[dsge]

Anton_Peplov в сообщении #1718190 писал(а):

женщина должна быть босая, беременная и на кухне

[MoonWatcher]

ozheredov в сообщении #1718200 писал(а):

Мотивацию можно назвать установкой, только если её насильственно навязали, не? А если я её выбрал "сознательно"?

Сознательный выбор тоже навязан - воспитанием, средой, природными и развившимися особенностями характера и интеллекта, и т.д.

mihaild в сообщении #1718204 писал(а):

Тогда зачем они нужны?

Не то, чтобы нужны - мне интересно как следует расценивать своеволие ИИ. Возможно сознанием (у человека или у машины) - следует называть результат сложного и поэтому непредсказуемого взаимодействия заложенных извне установок, как очередного эмерджентного свойства. Во всяком случае это может быть одна из граней сознания, если так можно выразиться. Сама по себе непредсказуемость конечно никакого сознания не означает, она может присутствовать и в криво написанной компьютерной программе.

[ozheredov]

MoonWatcher в сообщении #1718210 писал(а):

Сознательный выбор тоже навязан - воспитанием, средой, природными и развившимися особенностями характера и интеллекта, и т.д.

Человек способен плыть против течения. то есть против воспитания и среды, если он с ними не согласен. Разве нет?

-- 14.02.2026, 00:13 --

MoonWatcher в сообщении #1718210 писал(а):

природными и развившимися особенностями характера и интеллекта

Это составляющие человека. Утверждение, что выбор человека навязан самим этим человеком - столь же очевидно, сколь и бесполезно

[MoonWatcher]

ozheredov в сообщении #1718212 писал(а):

Человек способен плыть против течения. то есть против воспитания и среды, если он с ними не согласен. Разве нет?

Но откуда-то взялось его несогласие? Например, в сериале "Фарго" (1 сезон) внимание главного героя привлек постер с рыбкой, которая плывет против движения косяка других рыб: "А что если прав ты, а не они?" Плыть против течения - это как раз очень мощная социальная установка, внушаемая через детскую литературу, современных героев (которых не признавали, но они своего добились) и даже рекламу (пример 1, пример 2).

ozheredov в сообщении #1718212 писал(а):

Это составляющие человека. Утверждение, что выбор человека навязан самим этим человеком - столь же очевидно, сколь и бесполезно

Это вечный философский спор о свободе воли.