Обладают ли LLM самоосознанием?

[Ghost_of_past]

MoonWatcher в сообщении #1690887 писал(а):

Так ведь они с людьми работают

Эти понятия и были изобретены для описания феноменов человеческой психики. Потом уже распространились на других животных, а теперь пытаются адаптировать к искусственным системам.

MoonWatcher в сообщении #1690887 писал(а):

Не вижу оснований

Так Вы и не занимаетесь профессионально вопросами искусственного сознания. Так почему Ваше мнение по данному вопросу в принципе должно представлять интерес в отличие от мнения специалистов?

MoonWatcher в сообщении #1690887 писал(а):

Сложность в том, что у людей интеллект - своего рода надстройка над сознанием

Простите, но если Вы не знаете как связаны между собой человеческий интеллект и сознание, то, наверное, не стоит делать выводы космического масштаба.

[MoonWatcher]

Ghost_of_past в сообщении #1691491 писал(а):

Эти понятия и были изобретены для описания феноменов человеческой психики. Потом уже распространились на других животных, а теперь пытаются адаптировать к искусственным системам.

Ну и как успехи?

Ghost_of_past в сообщении #1691491 писал(а):

Так Вы и не занимаетесь профессионально вопросами искусственного сознания. Так почему Ваше мнение по данному вопросу в принципе должно представлять интерес в отличие от мнения специалистов?

Каких именно? Одних только теорий сознания - десятки.

Ghost_of_past в сообщении #1691491 писал(а):

Простите, но если Вы не знаете как связаны между собой человеческий интеллект и сознание, то, наверное, не стоит делать выводы космического масштаба.

Я не настолько наивен, чтобы считать, что знаю это. Я лишь предполагаю, что фундаментально сознание основано на ощущениях и чувствах - и подозреваю, что ничуть не оригинален в этом предположении. Но выше речь шла об интеллекте (если угодно - знаниях), который точно является надстройкой - книжных знаниях (включая способность к решению абстрактных задач). Человек надстроил эти знания, на своем природном сознании и интеллекте, благодаря социальной среде - и теперь передал их ИИ. Далеко не факт, что этого книжного интеллекта (пусть даже дополненного другими модальностями) достаточно, чтобы ИИ проделал обратный путь к сознанию.

[Serg53]

realeugene в сообщении #1691483 писал(а):

Наука называется "теория передачи информации".

Определение понятия "информация" там имеется? В каких единицах измеряют информацию?

[realeugene]

Serg53 в сообщении #1691608 писал(а):

В каких единицах измеряют информацию?

Чаще всего в битах. Определения - да, имеются, через терминологию теорвера.

[Serg53]

realeugene в сообщении #1691614 писал(а):

В каких единицах измеряют информацию? Чаще всего в битах

Бит это единица объёма цифровых данных.

[realeugene]

Serg53 в сообщении #1691662 писал(а):

Бит это единица объёма цифровых данных.

Это слово изобрёл Шеннон именно в качестве единицы информации.

[Serg53]

realeugene в сообщении #1691666 писал(а):

слово изобрёл Шеннон

Если изобрёл, значит это мыслительная абстракция. Значит до этого изобретения не было ни единицы информации, ни самой информации. Правильно?

[realeugene]

Serg53 в сообщении #1691730 писал(а):

Если изобрёл, значит это мыслительная абстракция. Значит до этого изобретения не было ни единицы информации, ни самой информации. Правильно?

По поводу подобной философии вспоминается история про Фаину Раневскую, которую ввиду наличия в истории не совсем нормативной лексики я тут процитировать не могу.

[epros]

Самосознание - это очень простая вещь, которой можно обладать даже при очень, очень, очень ограниченной разумности.

Сейчас обратился в поддержку МТС с очень простым вопросом, и поскольку знаю, что дождаться ответа живого оператора - это то ещё приключение, то решил для начала попробовать задать этот вопрос боту. Как ни перефразировал вопрос, в итоге получал в ответ: "Уточните, что Вас интересует" и список стандартных тем, из которых ни одна мне не подходит. Итак, ограниченность разумности налицо. В итоге я в сердцах написал: "Отключите тупого бота". В ответ, конечно же: "Уточните, что Вы хотите отключить" - и список услуг. Я уточняю: "тупого бота". Он отвечает: "Я по своей природе добрый и стараюсь помочь".

Ага, самосознание-то налицо!

[Ghost_of_past]

epros в сообщении #1693980 писал(а):

Ага, самосознание-то налицо!

Налицо несколько десятков фраз, которые вмонтированы в стандартного бота любого оператора или провайдера.

С таким же успехом можно и автоответчик заподозрить в наличие самосознания.

[epros]

Ровно как можно заподозрить, что узнавание себя в зеркале в нас тоже "вмонтировано".

[Утундрий]

А спросите "его", как он узнаёт вас?

[Ghost_of_past]

epros в сообщении #1694032 писал(а):

Ровно как можно заподозрить, что узнавание себя в зеркале в нас тоже "вмонтировано".

Нельзя, если знать базовые факты из психологии развития, что новорожденный ребенок не узнает себя в зеркале. Обычно между 1 и 1,5 годами начинается постепенно и периодическое узнавание, а между 1,5 и 2 годами формируется постоянное узнавание себя в зеркале.

[epros]

Ghost_of_past в сообщении #1694035 писал(а):

Нельзя, если знать базовые факты из психологии развития, что новорожденный ребенок не узнает себя в зеркале.

Можно, если знать базовые факты из психологии развития, что новорожденный ребенок не узнает себя в зеркале. Это значит, что это "вмонтируется" в нас в более позднем возрасте. Я не сказал, что это заложено от рождения.

[gevaraweb]

Ghost_of_past в сообщении #1694035 писал(а):

Нельзя

Как видите, безболезно тут спорить :) Тут две крайности.
LLM сегодня - это идеальный кандидат для филосовского зомби.
Казалось бы, вот оно, доказательство, что сознание человека - это не только интеллект, а что-то еще.
LLM обладает интеллектом, но нет разума (термины можно уточнить, но мысль понятна).
Но и тут не просто!
Как некоторые на полном серьезе утверждают, что у автоответчика есть самосознание,
также и некоторые (а может и они же) скажут: человек - это зомби.
Да, высокоорганизованный, но всего лишь зомби, которому кажется, что он думает.
Не так? А попробуй, докажи!