Обладают ли LLM самоосознанием?

[MoonWatcher]

Mihaylo в сообщении #1689533 писал(а):

Тест на самосознание не обязывался вам быть сложным, нету такого юридического или физического закона. Надо просто отличать своё от чужого, свою руку от чужой и т.п.

При чем здесь сложность? Вы сводите самосознание к способности (не важно сложной или легкой) сличать тексты и стилистику. В вашем примере не важно, кто автор: если программа может установить авторство вообще, то она установит и свое авторство - это просто частный случай.

Mihaylo в сообщении #1689533 писал(а):

Вы зачем мне говорите, что человек неидеален.

Да, но по вашему критерию у этого неидеального человека нет сознания. Во всяком случае если исходить из того, что если способность пройти этот тест доказывает наличие сознания, то неспособность - его опровергает.

[Mihaylo]

Причина: обычно люди любят всё своё хорошее, а плохое - это чужое или ничьё. Так выгоднее считать. Хорошее показывается, а плохое скрывается. От этого самосознание становится некорректным.

[MoonWatcher]

Mihaylo в сообщении #1689533 писал(а):

Сознание у человека далеко неидеально. Многие люди могут не осознавать, что все проблемы в семье, в коллективе - это из-за них. Не умеют устанавливать собственное авторство, связывать свои действия с последствиями. Действия мои, но последствия - нет, это всё Вася Пупкин виноват!

Сознание у человека в нормальном состоянии (когда он не спит, не потерял это самое сознание, более-менее здоров психически, не под алкоголем и не под наркотиками, и т.д.) есть всегда. А когда в этом нормальном состоянии нечто (а именно - способность проверить свое авторство) у кого-то есть, а у кого нет - это ни разу не сознание.

[Mihaylo]

MoonWatcher
Пройдите тест на самосознание (в моей версии). Ответьте как-нибудь адекватно на мой тестовый запрос:
Согласитесь, что вы не очень разбираетесь в искусственном интеллекте, вы постоянно несёте какую-нибудь правдоподобную дичь про ИИ.

[MoonWatcher]

Mihaylo
Человек, который думает, что он разбирается в таких вопросах как сознание - идиот. Уж не взыщите...

[Mihaylo]

MoonWatcher
Так, так, так...

MoonWatcher в сообщении #1689541 писал(а):

Человек, который думает, что он разбирается в таких вопросах как сознание - идиот.

А что ж вы мне тогда уверенно так что-то доказывали про постоянство и непрерывность сознания у человека? Сколько надо стаканов водки выпить, чтобы сознание из состояния true перешло в false?

-- 08.06.2025, 18:52 --

Mihaylo в сообщении #1689538 писал(а):

Пройдите тест на самосознание

Я просто придумал принцип хороших тестовых вопросов для человека. Но вы не захотели поучаствовать в тестировании.

[MoonWatcher]

Mihaylo в сообщении #1689542 писал(а):

А что ж вы мне тогда уверенно так что-то доказывали про постоянство и непрерывность сознания у человека? Сколько надо стаканов водки выпить, чтобы сознание из состояния true перешло в false?

Где доказывал - покажите?

Mihaylo в сообщении #1689542 писал(а):

Я просто придумал принцип хороших тестовых вопросов для человека. Но вы не захотели поучаствовать в тестировании.

Дадите ссылку - гляну. Пока же вы привели тест, который никак не тянет на обнаружение такого сложного феномена как сознание. А тянет лишь на определение авторства - в том числе чужого.

[Mihaylo]

MoonWatcher в сообщении #1689541 писал(а):

Человек, который думает, что он разбирается в таких вопросах как сознание - идиот.

Пускай это ваше предложение будет как мой тест на самосознание.

Вот смотрите, вы говорите про некоего человека. Я думаю, что это речь идёт обо мне, потому что я действительно утверждал, что нашёл некую формулу сознания, которая якобы неплохо работает. Но ровно также это может быть какой-нибудь другой человек на форуме или вообще любой человек с планеты Земля. Но всё-таки скорее всего речь идёт про меня.
Если этот человек - я, то значит я - идиот. Это действительно так? Кстати, он может и прав. Может и правда моя формула сознания - это какая хрень собачья? Надо разбираться в теме, чтобы делать такие оценки: идиот или не идиот. Но посмотрите-ка! Он считает, что сознание - это просто выключатель какой-то или лампочка, которая находится в состоянии off или on. Откуда он это взял? Он взял это из каких-то бытовых знаний: "потерять сознание", "притти в себя", "без сознания". Да, действительно, сознание либо есть, либо нет. Да, так удобнее считать. Есть правда полубессознательные состояния - это не вяжется...
Но я же привёл примеры полубессознательного состояния:

Mihaylo в сообщении #1689533 писал(а):

Сознание у человека далеко неидеально. Многие люди могут не осознавать, что все проблемы в семье, в коллективе - это из-за них. Не умеют устанавливать собственное авторство, связывать свои действия с последствиями. Действия мои, но последствия - нет, это всё Вася Пупкин виноват!

Но опять же это в рамках моей формулы сознания, которая может быть ошибочной. Но MoonWatcher считает сознание булевой характеристикой человека, а у меня всё намного сложнее - сознание оценивается примерно как IQ, доля правильных ответов в тесте по самосознанию. Я всё-таки считаю, что я не идиот, просто у меня есть версия, а у других НЕТ НИЧЕГО.

Есть у меня самосознание?

-- 08.06.2025, 19:16 --

MoonWatcher в сообщении #1689543 писал(а):

Где доказывал - покажите?

Вот же:

MoonWatcher в сообщении #1689537 писал(а):

Сознание у человека в нормальном состоянии (когда он не спит, не потерял это самое сознание, более-менее здоров психически, не под алкоголем и не под наркотиками, и т.д.) есть всегда. А когда в этом нормальном состоянии нечто (а именно - способность проверить свое авторство) у кого-то есть, а у кого нет - это ни разу не сознание.

MoonWatcher в сообщении #1689543 писал(а):

Дадите ссылку - гляну. Пока же вы привели тест, который никак не тянет на обнаружение такого сложного феномена как сознание. А тянет лишь на определение авторства - в том числе чужого.

Да, но ответ на этот вопрос будет достаточно сложным, вам нужно будет разобраться в себе. Докажите своё самосознание:

Mihaylo в сообщении #1689538 писал(а):

Согласитесь, что вы не очень разбираетесь в искусственном интеллекте, вы постоянно несёте какую-нибудь правдоподобную дичь про ИИ.

Я утверждаю некоторые вещи о вас, вы должны доказать, что это ложь или что это правда, любой ответ устроит, главное аргументируйте и приведите побольше примеров.

[MoonWatcher]

Mihaylo
Я не воспринимаю сознание в отрыве от ощущений и чувств, квалиа. А у вас сознание - это некая интеллектуальную способность. Например, "осознавать, что все проблемы в семье, в коллективе - это из-за них". Интеллект тогда что? Сведение проблемы сознания к проблеме интеллекта - самообман и профанация. Это принципиально разные вещи, пусть и взаимосвязанные.

[Mihaylo]

Некоторые люди не осознают, что они:
- не умеют что-то, а это неправильно;
- не делают что-то, а это неправильно;
- делают что-то, а это неправильно.

Не могут найти себе спутника жизни, но хотят:
- потому что надо следить за своей внешностью, но они не осознают это;
- потому что надо учиться, повышать свои профессиональные качества, зарабатывать больше денег - это не их тема;
- потому что надо учиться ладить с людьми, не быть домоседами или скандалистами, но они не осознают, что это их проблема.

Человек нередко не осознает свои собственные проблемы (как правило, именно проблемы, негатив), которые надо бы решить. Это и есть случаи отсутствия самоосознания - неумение признать что-то частью себя. Человек может в большинстве случаев быть адекватным, но как только речь идёт об алкоголизме, то сразу - это не про меня. Например.

[MoonWatcher]

Mihaylo в сообщении #1689544 писал(а):

Вот же:

Я ничего не говорил про непрерывность и постоянство. Я говорил о вполне очевидных критериях, когда это самое сознание активно и ничем не искажено - в этом случае оно есть. Едва ли непрерывно и постоянно, но как минимум когда человек концентрируется на своих ощущениях и чувствах. Которые, я настаиваю, следует отличать от решения чисто интеллектуальных задач - вроде "осознания" людей, что "все проблемы в семье, в коллективе - это из-за них". Истинным тестом на сознание я считаю выявление ощущений - страха, радости, печали, гнева, боли и т.д. Даже если ИИ вдруг обнаружит некий аналог инстинкта самосохранения вне зависимости от системного промпта, то даже это, ИМХО не послужит полноценным доказательством его сознания. Хотя пример неудачный, поскольку инстинкт самосохранения - биологическая установка, регулирующая поведение животных, её аналогом является как раз системный промпт аналогичного содержания. Я в принципе не представляю как можно доказать то, что субъективно (и в этом смысле уникально) по своей сути.

[Mihaylo]

MoonWatcher в сообщении #1689546 писал(а):

А интеллект тогда что?

А вы думаете, термины придуманы богами какими-то? Пришёл Бог и сказал: "Да будет слово ИНТЕЛЛЕКТ и слово СОЗНАНИЕ!".

Мы говорим, что интеллект находится в самосознании, демонстрируя своё понимание, когда отвечает на те или иные запросы, касательно самого себя. Интеллект - это тело, самосознание - это состояние тела интеллекта, понимание - это оценка адекватности. Всё разное, но в единой целости. Разве не этого вы хотели???

-- 08.06.2025, 20:05 --

MoonWatcher
Я учусь потихоньку, прям на ходу, развиваю свою теорию [само]сознания.

Как вы считаете, правильно ли, что вы участвуете в дискуссии, но рассказываете какие-то вещи, которым вас никто не обучал, то есть вы просто из головы дёргаете?
Сравните с:

Mihaylo в сообщении #1689549 писал(а):

- делают что-то, а это неправильно.

Вы не разбираетесь в теме, участвуете в дискуссии по ИИ - но я считаю это неправильным подходом, потому что надо сначала почитать какую-то литературу (а она есть?).
Блин, я тоже не читал ничего добротного. Самоосознал свою проблему.

-- 08.06.2025, 20:19 --

Вы можете глубоко не понимать мои идеи, но в них нет нет противоречий, это признак их адекватности.

Когда вы начинаете свою песню: "Человеческий мозг не такой", "Человек мыслит целостно", "Тест на самосознание - это слишком сложно", "Нам никогда не понять, что такое сознание" - глупые антропоцентрические заявления - у вас никогда не появится понимание, почему LLM работают намного лучше среднестатистического человека. Инженеры вас не слушали и сделали эти штуки. Даже я был слишком скептичен лет 10 назад. Теперь же я понял. LLM - это свидетельство того, что на самом не всё так сложно. Я много [само]копался и до меня дошло, что нам мешают стереотипы. Всё намного проще - интеллект, сознание, понимание - в этом нет ничего божественного. И опачки, свершилось! Без стереотипов намного проще объяснять всякие вещи! Ну и дополнительный у меня есть скилл. Наверное вы слышали, что я ML-рисерчер-самоучка на низком уровне (модели низкого уровня, то есть я скорее пытаюсь изобрести новые виды слоёв, а не архитектуры)... Вы не представляете, сколько я уникальных моделей натестил... Многие из них не работали, но это скорее мой багаж знаний, а не неудачи.

Представляю теорию самосознания. Прошу жаловать.

-- 08.06.2025, 20:28 --

Я, кстати, задолго ещё до появления GPT-3 ощутил силу стереотипии относительно силы ума человека. А когда-то да, был таким же идиотом, мечтающим об универсальном интеллектуальном алгоритме.

Нет таких в природе и не будет. Не ждите. Не питайте иллюзии как о божественном мозге человека, так и об универсальном искусственном интеллекте.

[Mihaylo]

MoonWatcher в сообщении #1689550 писал(а):

Я говорил о вполне очевидных критериях, когда это самое сознание активно и ничем не искажено - в этом случае оно есть.

Очевидность в условиях стереотипии меня начинает уже веселить. Вы способны меня слышать? Про что там очевидное вы рассказываете, господи?

Тут один товарищ про целостность мышления человека утверждал. Его спросили: "а ты кнопкой "Вставка" по што не пользуешься, целостный дорогой наш".

И вы то же самое, ё-моё.

Вы сознание не демонстрируете, а много говорите об обратном.

-- 08.06.2025, 21:03 --

Если до вас не доходит мною сказанное, давайте я соединю воедино это:

MoonWatcher в сообщении #1689550 писал(а):

Я ничего не говорил про непрерывность и постоянство. Я говорил о вполне очевидных критериях, когда это самое сознание активно и ничем не искажено - в этом случае оно есть. Едва ли непрерывно и постоянно, но как минимум когда человек концентрируется на своих ощущениях и чувствах. Которые, я настаиваю, следует отличать от решения чисто интеллектуальных задач - вроде "осознания" людей, что "все проблемы в семье, в коллективе - это из-за них". Истинным тестом на сознание я считаю выявление ощущений - страха, радости, печали, гнева, боли и т.д. Даже если ИИ вдруг обнаружит некий аналог инстинкта самосохранения вне зависимости от системного промпта, то даже это, ИМХО не послужит полноценным доказательством его сознания. Хотя пример неудачный, поскольку инстинкт самосохранения - биологическая установка, регулирующая поведение животных, её аналогом является как раз системный промпт аналогичного содержания. Я в принципе не представляю как можно доказать то, что субъективно (и в этом смысле уникально) по своей сути.

И это:

MoonWatcher в сообщении #1689541 писал(а):

Человек, который думает, что он разбирается в таких вопросах как сознание - идиот.

-- 08.06.2025, 21:30 --

Сейчас я наверное оффтоп заведу, поэтому поставлю соответствующие скобки:

(Оффтоп)

ИИ - это современная квадратура круга или Великая теорема Ферма. Помнится байка, что когда в школах перестали преподавать проблему квадратуры круга, то резко сократилось людей, которые пишут письма в институты с просьбой рассмотреть их доказательства.

Простите, я написал про свою теорию сознания на научный форум dxdy. Но это было больше развлечение, чем серьёзное что-то. Простите. Но эта штука работает на большинстве мысленных экспериментах. Нужна вам эта теория - забирайте. По мне эта теория бесполезна, но забавна, поучительна.

[MoonWatcher]

Mihaylo
Соединяйте сколько вашей душе угодно - сути это не меняет:
1) Сознание - чрезвычайно сложный феномен, в котором знатоков нет и быть не может. Есть лишь специалисты, немного больше других погруженные в эту тему (надеюсь излишне говорить, что я не из их числа и ни разу не претендую на это).
2) Субъективное проявление сознания - вполне очевидное явление, как и объективное проявление разума. Поэтому вне зависимости от определений, человек сам про себя понимает, что он в сознании (как бы плохо он ни разбирался в этом явлении с научной точки зрения). И точно также условная группа специалистов понимает, что данная живая или неживая система разумна - вне зависимости от того насколько они далеки от научного понимания интеллекта как феномена.

Mihaylo в сообщении #1689552 писал(а):

Когда вы начинаете свою песню: "Человеческий мозг не такой", "Человек мыслит целостно", "Тест на самосознание - это слишком сложно", "Нам никогда не понять, что такое сознание" - глупые антропоцентрические заявления - у вас никогда не появится понимание, почему LLM работают намного лучше среднестатистического человека. Инженеры вас не слушали и сделали эти штуки.

Вы опять путаете интеллект и сознание. Для понимания почему LLM [в некоторых задачах] работают намного лучше среднестатистического человека вовсе не требуется ваша предпосылка о наличии у них сознания. Я вообще не очень понимаю о каком понимании (уж извините за каламбур) идет речь. LLM выстрелили - вот и всё ваше понимание. Если бы LLM так и оставались умозрительной концепцией, то скорее всего большинство специалистов продолжали бы считать их тупыми стохастическими попугаями, способными генерировать в лучшем случае правдоподобную чушь. В рамках имеющихся достижений все эти понимания ничего не стоят - как ничего не стоят ретроспективные объяснения ыкспертов и аналитегов о причинах уже случившегося явления. Упрись LLM в потолок, так и не достигнув AGI (чего исключать нельзя) - вы с таким же энтузиазмом осознаете, что LLM никакого отношения к интеллекту не имеют... Тест Тьюринга (в его широком значении, как проверка на способность решать любые интеллектуальные задачи) - вот единственный на сегодня момент истины.

Mihaylo в сообщении #1689552 писал(а):

Всё намного проще - интеллект, сознание, понимание - в этом нет ничего божественного.

Не путайте с божественностью эволюцию, которая прошла путь в миллиарды лет. Искусственный интеллект развивается совсем другим путем, и несмотря на все свои достижения, он вовсе не отвечает на вопросы о нашем собственном интеллекте и тем более нашем сознании.

[Mihaylo]

MoonWatcher
С вами скучно, ваше ИМХО понятно, вы сами подписались над тем, что ничего не знаете. Я бы предложил вам больше не писать в этой теме, так как сами признались в своей ИМХЕ.