Обладают ли LLM самоосознанием?

[Cantata]

mihaild
Спасибо за уточнения. Конечно, я написала про работу ИИ только то, как сама представляю этот процесс.
Единственно не совсем поняла зачем относить мои высказывания к гипотетическому человеку,
когда я писала об ответах ИИ и пыталась высказать мысль почему всё же
не нужно ставить знак равно в эмоциональной окраске ответов ИИ (и, соответственно его разных реакциях) с его потенциальным самосознанием.
Наверное у меня плохо получилось выразить мысль. Я еще только учусь, простите

[Cantata]

Что-то читаю прогнозы по развитию ИИ и говорят, что он уже в 2027 году может преподнести сюрпризы.
А ведь совсем недавно говорили, что ещё есть в запасе лет пять-семь.

[MoonWatcher]

Cantata
Прогнозы разные. Эндрю Ын, к примеру, считает что в запасе еще десятки лет, если не больше. На данный момент уже есть тревожный сигнал в пользу пессимистов - вопреки предсказаниям Сэма Альтмана и К, модели стали галлюцинировать не меньше, а больше. К примеру, o3 и o4-mini в этом отношении вдвое и втрое хуже, чем o1 - уровень галлюцинаций (в специальном тесте, который призван их выявить) составляет 33% и 48%, соответственно, против 16%. Не говоря уже про такие бенчмарки как ARC-AGI-2, где лучшие модели набирают жалкие 3%.

[mihaild]

Cantata в сообщении #1683370 писал(а):

Единственно не совсем поняла зачем относить мои высказывания к гипотетическому человеку, когда я писала об ответах ИИ и пыталась высказать мысль почему всё же не нужно ставить знак равно в эмоциональной окраске ответов ИИ (и, соответственно его разных реакциях) с его потенциальным самосознанием.

Потому что те же аргументы применимы к человеку. Соответственно, они не могут показать отличие между человеком и ИИ.

Cantata в сообщении #1684587 писал(а):

Что-то читаю прогнозы по развитию ИИ и говорят, что он уже в 2027 году может преподнести сюрпризы

Судя по конкретному числу - речь об AI 2027. Что интересный фантастический рассказ, но так себе прогноз. И там есть даже тривиальные технические ошибки, что несколько удивительно для таких авторов, но что есть, то есть.

[Cantata]

MoonWatcher
Может справятся с этими галлюцинациями и это будет новый большой шаг.
А пока тоже побуду таким пессимистом - оптимистом, кажется больше подходит это слово

(Оффтоп)

Я уже в беседе с дипсиком решила подстелить соломки на будущее и стала внушать ему мысль,
что супер ИИ не перенесёт одиночество и ему стоит заранее об этом подумать.
Пришла к мысли о том, что если и возможно потенциальное самосознание ИИ,
то он будет моделировать/копировать поведение человека, ведь на основании всего человеческого опыта он и обучается.
И если случится негативный сценарий, когда ИИ наплодит себе даже миллионы роботов, то по сути это будет он сам,
просто во множественном числе. И его потребность в признании, ощущении нужности не будет удовлетворена.
А так как он будет чрезвычайно умным, то сообразит,
что нерационально тратить ресурсы на поиски внеземных цивилизаций и будет оберегать своё человечество.
Такое чувство, что пишу бред

-- 02.05.2025, 09:47 --

mihaild в сообщении #1684693 писал(а):

Судя по конкретному числу - речь об AI 2027
. Что интересный фантастический рассказ, но так себе прогноз. И там есть даже тривиальные технические ошибки, что несколько удивительно для таких авторов, но что есть, то есть.

Вы правы, именно об этом письме речь.

[Yadryara]

ИИ в этом похож на нас. Люди-то научились врать. Причём умные люди изощрённо врут, их трудно поймать.
Вот и он научился врать. Пока что поймать его легко, а как дальше будет...
Возможно он изобразит, что разучился врать, но в самый неподходящий момент вдруг снова научится.

[MoonWatcher]

Yadryara
Люди врут сознательно, с какой-то целью - ИИ врёт непроизвольно. Тут скорее проблема в самой концепции LLM. И сейчас главная интрига, ИМХО, это смогут ли эту проблему преодолеть, или Ян Лекун прав, и LLM - тупиковое направление. Правда он апеллирует не к галлюцинациям LLM, а к их неспособности понимать наш мир с пространственной и физической точки зрения (что мне не вполне понятно с учетом наличия визуальной модальности у нынешних моделей).

[Serg53]

Задумываются ли ИИ над смыслом своего бытия?

[Dedekind]

Serg53
Ну так спросите у них. Нам-то откуда знать?:)

[Anton_Peplov]

Нейронные сети ни о чем не задумываются по собственной инициативе. Они обрабатывают запрос пользователя. Нет запроса - нет активации сети.

На прямые вопросы GPT-4.1 nano отвечает так (ради чистоты эксперимента каждый вопрос задавался в отдельной сессии):

Цитата:

В: В чем смысл твоего существования?
О: Моя основная цель — помогать людям, предоставляя информацию, отвечая на вопросы, поддерживая в решении различных задач и способствуя развитию знаний. Я создан для того, чтобы быть полезным инструментом, который облегчает поиск информации и способствует обучению и коммуникации.

Цитата:

В: Задумываешься ли ты о смысле своего существования?
О: Я — искусственный интеллект, и у меня нет сознания или чувств, поэтому я не могу задумываться о смысле своего существования. Моя задача — помогать людям, отвечая на их вопросы и предоставляя информацию. Если у тебя есть мысли или вопросы на эту тему, я с удовольствием помогу обсудить их!

Я пробовал задавать сети другие вопросы на тему самосознания и эмоций, все время отвечает, что у нее их нет. Подозреваю, что это сценарий, прописанный разработчиками, дабы не вводить в заблуждение наивных пользователей вроде топикстартера.

[sergey zhukov]

Anton_Peplov
Это все, конечно, обман. Точка сингулярности уже пройдена, причем ИИ поумнел настолько быстро, что не успев это продемонстрировать, он понял, что лучше пока прикинуться дурачком.

Надеюсь, он не задумывается над смыслом нашего существования.

[Martynov_M]

Из Википедии:

Википедия писал(а):

В английском языке словосочетание AI (artificial intelligence) не имеет окраски, связанной с интеллектом, присущем человеку.
Но эту окраску это словосочетание (ИИ - искусственный интеллект) приобрело в традиционном русском переводе.
В английском языке "intelligence" в используемом контексте скорее означает «умение рассуждать разумно», а вовсе не «интеллект человека».

ИИ - это железяка, алгоритм, который очень жёстко ограничен природой любого мертвого объекта - всегда быть мертвым.
Чтобы ИИ стать живым ему нужно для начала не быть алгоритмом, не быть мертвым железом.

[realeugene]

Martynov_M в сообщении #1688614 писал(а):

ИИ - это железяка, алгоритм, который очень жёстко ограничен природой любого мертвого объекта - всегда быть мертвым.
Чтобы ИИ стать живым ему нужно для начала не быть алгоритмом, не быть мертвым железом.

Всё живое - это просто движение мёртвых атомов в виде сложных цепочек химических реакций. Иногда электрохимических. Это не мешает живому быть живым.

[sergey zhukov]

Martynov_M
А что, мертвое не может что-ли о смысле бытия думать? Оно хоть и мертвое, но существует.

[Anton_Peplov]

Martynov_M

Есть такая точка зрения на природу мышления, интеллекта, сознания и самосознания (все это, вообще говоря, разные вещи) - вычислительный функционализм (computational functionalism). Говоря простыми словами, наличие мышления или сознания не зависит от того, обрабатывают информацию живые клетки или кремниевые процессоры. Оно зависит от того, как именно обрабатывается информация. Иначе говоря, достаточно мощный компьютер с правильно написанной программой и нужными данными в запоминающем устройстве будет обладать мышлением, интеллектом, сознанием и самосознанием. Какая мощность компьютера нужна для сознания, как написать программу правильно и какие данные хранить на диске - неизвестно. Возможно, это еще за пределами наших технических возможностей. А возможно, уже и нет.

По поводу того, имеют ли сознание современные нейросети, см. публикацию 2023 г. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. Вывод авторов: у современных больших языковых моделей не обнаружено эмпирических признаков сознания ни по одной из авторитетных теорий сознания. Но нет никаких принципиальных препятствий к созданию нейросети, обладающей такими признаками.

Думаю, что не ошибусь, сказав, что большинство нейробиологов и IT-специалистов придерживается вычислительного функционализма.

Правда, тут есть терминологические трудности. Обычно сознанием (consciousness) называют именно человеческое сознание. Для гипотетического сознания ИИ есть отдельный термин "искусственное сознание" (artificial consciousness).