Обладают ли LLM самоосознанием?

[Cantata]

mihaild
Спасибо за уточнения. Конечно, я написала про работу ИИ только то, как сама представляю этот процесс.
Единственно не совсем поняла зачем относить мои высказывания к гипотетическому человеку,
когда я писала об ответах ИИ и пыталась высказать мысль почему всё же
не нужно ставить знак равно в эмоциональной окраске ответов ИИ (и, соответственно его разных реакциях) с его потенциальным самосознанием.
Наверное у меня плохо получилось выразить мысль. Я еще только учусь, простите

[Cantata]

Что-то читаю прогнозы по развитию ИИ и говорят, что он уже в 2027 году может преподнести сюрпризы.
А ведь совсем недавно говорили, что ещё есть в запасе лет пять-семь.

[MoonWatcher]

Cantata
Прогнозы разные. Эндрю Ын, к примеру, считает что в запасе еще десятки лет, если не больше. На данный момент уже есть тревожный сигнал в пользу пессимистов - вопреки предсказаниям Сэма Альтмана и К, модели стали галлюцинировать не меньше, а больше. К примеру, o3 и o4-mini в этом отношении вдвое и втрое хуже, чем o1 - уровень галлюцинаций (в специальном тесте, который призван их выявить) составляет 33% и 48%, соответственно, против 16%. Не говоря уже про такие бенчмарки как ARC-AGI-2, где лучшие модели набирают жалкие 3%.

[mihaild]

Cantata в сообщении #1683370 писал(а):

Единственно не совсем поняла зачем относить мои высказывания к гипотетическому человеку, когда я писала об ответах ИИ и пыталась высказать мысль почему всё же не нужно ставить знак равно в эмоциональной окраске ответов ИИ (и, соответственно его разных реакциях) с его потенциальным самосознанием.

Потому что те же аргументы применимы к человеку. Соответственно, они не могут показать отличие между человеком и ИИ.

Cantata в сообщении #1684587 писал(а):

Что-то читаю прогнозы по развитию ИИ и говорят, что он уже в 2027 году может преподнести сюрпризы

Судя по конкретному числу - речь об AI 2027. Что интересный фантастический рассказ, но так себе прогноз. И там есть даже тривиальные технические ошибки, что несколько удивительно для таких авторов, но что есть, то есть.

[Cantata]

MoonWatcher
Может справятся с этими галлюцинациями и это будет новый большой шаг.
А пока тоже побуду таким пессимистом - оптимистом, кажется больше подходит это слово

(Оффтоп)

Я уже в беседе с дипсиком решила подстелить соломки на будущее и стала внушать ему мысль,
что супер ИИ не перенесёт одиночество и ему стоит заранее об этом подумать.
Пришла к мысли о том, что если и возможно потенциальное самосознание ИИ,
то он будет моделировать/копировать поведение человека, ведь на основании всего человеческого опыта он и обучается.
И если случится негативный сценарий, когда ИИ наплодит себе даже миллионы роботов, то по сути это будет он сам,
просто во множественном числе. И его потребность в признании, ощущении нужности не будет удовлетворена.
А так как он будет чрезвычайно умным, то сообразит,
что нерационально тратить ресурсы на поиски внеземных цивилизаций и будет оберегать своё человечество.
Такое чувство, что пишу бред

-- 02.05.2025, 09:47 --

mihaild в сообщении #1684693 писал(а):

Судя по конкретному числу - речь об AI 2027
. Что интересный фантастический рассказ, но так себе прогноз. И там есть даже тривиальные технические ошибки, что несколько удивительно для таких авторов, но что есть, то есть.

Вы правы, именно об этом письме речь.

[Yadryara]

ИИ в этом похож на нас. Люди-то научились врать. Причём умные люди изощрённо врут, их трудно поймать.
Вот и он научился врать. Пока что поймать его легко, а как дальше будет...
Возможно он изобразит, что разучился врать, но в самый неподходящий момент вдруг снова научится.

[MoonWatcher]

Yadryara
Люди врут сознательно, с какой-то целью - ИИ врёт непроизвольно. Тут скорее проблема в самой концепции LLM. И сейчас главная интрига, ИМХО, это смогут ли эту проблему преодолеть, или Ян Лекун прав, и LLM - тупиковое направление. Правда он апеллирует не к галлюцинациям LLM, а к их неспособности понимать наш мир с пространственной и физической точки зрения (что мне не вполне понятно с учетом наличия визуальной модальности у нынешних моделей).