Обладают ли LLM самоосознанием?

[Mihaylo]

Ghost_of_past в сообщении #1690258 писал(а):

Сознание - это трудная проблема. Разрешимая, но трудная.

Есть такая проблема проблем... Что всегда можно сказать, что проблема - это не проблема.

Философы назвали сознание трудной проблемой, чтобы повысить значимость своей идеи (Чалмерс постарался). Я же могу назвать сознание совершенно понятной хренотенью. И это не будет никак конфликтовать с великими умами, которые на самом деле обманули всех.

[Mihaylo]

(Оффтоп)

Запомните, каждый философ стремится повысить свою личную значимость, а не раскрыть правду. Так как у людей в голове каша, философы придумывают какие-то идеи, которые захватывают умы. Эти идеи ходят вокруг правды, но не совпадают с ней.

Возьмём, Анохина-младшего или Черниговскую... Анохин совсем ку-ку, с Далай-ламой встречался. Черниговская поумнее. Но они бесполезны обществу оба и даже вредны. Они обманщики. Они выдают себя за опытных, но весь их опыт - это портянка сознания.

[b4b5]

Mihaylo в сообщении #1690256 писал(а):

Вы почему-то считаете, что сознание - это трудная проблема, значит она должна быть описана 1000+ страницами какого-нибудь словесного поноса.
В этом вся ваша проблема. Ха!

У меня проблем нет и противоречий. )
Я свой ответ так уже формулировал на форуме.

b4b5 в сообщении #1669924 писал(а):

Раньше была душа, потом психика, сознание, сейчас операционная система.

[Mihaylo]

(Оффтоп)

Ладно, не буду никого тут ни в чём обвинять... Поговорим немного о другом, о компетенциях в области искусственного интеллекта.

Есть такие специалисты - датасайентисты, они машинным обучением занимаются. Они знают кучу полезных методик и технологий, чтобы достичь наилучшего результата. Это реальные практики, не балаболы.

Но! Если их спросить что-нибудь про сильный искусственный интеллект или про самосознание, то здесь их полномочия всё. Они повторяют всё ту же мыслительную деятельность как на форумах - улетают в многомерные универсальные континуумы. В слабом интеллекте они разбираются отлично, но про сильный интеллект они испытывают всё те же стереотипы как и обычный неподготовленный человек.

Ну не то, чтобы все подряд заблуждаются, там есть очень повышенный процент толковых ребят, которые борятся с этой ненаучной блажью. Просто общение с ними ограничено, не могу оценить. Они как прилетели, так и улетели. Я вижу только, что они критикуют зафилософствовавшихся идиотов. Таких ребят очень часто можно встретить на Хабре.

Я из тех редких специалистов. Я правда не работаю профессионально в ML, но я тот ещё самоучка. Я ставлю интересные цели для нейронок, и пытаюсь достичь их. Никто этим ещё не занимался. Я поднаторел в этом деле. А ещё я заклятый бихевиорист (на самом деле у мамы системный инженер). Я практик.

[b4b5]

(Оффтоп)

Mihaylo
Бихевиоризм, это очень хорошо. )
Комбинируя некоторые фрагменты правильных идей, вы после нескольких итераций приходите к неверным выводам, отсюда проблемы. А вместо доводов, подозрения в том, что собеседники ваши некомпетентны. А мы компетентны и еще как. )

-- 13.06.2025, 19:44 --

Кстати, поиск по форуму дал интересные аналогичные высказывания в теме, с это сообщения и далее.

dvb в сообщении #1293522 писал(а):

У меня есть, что сказать по поводу сознания, но здесь это будет оффтопом, а где не будет - понятия не имею.
Только пара слов. Сознание - это совокупность взаимодействующих моделей, реализуемых на "железе" мозга. Одна из основных моделей - ДИНАМИЧЕСКАЯ модель внешнего мира. Эта модель непрерывно корректируется и проигрывается в нашем мозгу, что позволяет нам ПРОГНОЗИРОВАТЬ варианты нашего взаимодействия с этим миром и осуществлять ВЫБОР поведения. Но чтобы этот выбор делать, нужно уметь чего-то ХОТЕТЬ. А хотеть нужно чем-то, для этого нужно иметь действующую модель себя самого, то есть, модель "Я".

[Mihaylo]

И вот теперь, поскольку вы ознакомились с моим "портфолио", я докладываю:

Как вы любите. Есть универсум всех задач мира (The Sum of All Tasks), это сборник всевозможных задач, которые можно решить с разной точностью. Давайте рассмотрим поподробнее отдельную задачу: у неё есть критерий решения, то есть мы можем взять ответ, проделать ряд математических операций, результатом которых будет вывод "решено/не решено". Обычно эти математические действия - это операция сравнения с эталоном (компарация). Давайте для простоты рассмотрим задачу, у которой ответ предполагает некоторое вещественное число a (answer). Чтобы сравнить с эталоном e, можно поступить просто:
$decided = (|a - e| \leqslant q)$,
где $q$ - это качество решения задачи.

И вот тут самое главное: $q$ - это принадлежность задачи. Мы можем попросить помыть полы ребёнка тщательно ($q$ минимально), а также можем попросить, чтобы поелозил по полу лентяйкой, лишь бы привыкал к трудовой деятельности. Разные критерии $q$ - разные задачи, даже если формулировки задач совпадают.

И теперь переходим к практике. А интеллектуальные задачи какую часть всех задач мира занимают? Ваш абсолютно неадекватный ответ будет звучать 100%.

Вы когда-нибудь отмывали квартиру до такого состояния, которое было после капитального ремонта?

-- 13.06.2025, 20:10 --

b4b5 в сообщении #1690284 писал(а):

А мы компетентны и еще как.

Раньше я от вас какую-то чушь слышал, я заимел такое мнение. Но последние пару дней в этой теме вы ещё пока не прокололись.

[mihaild]

Mihaylo
Формулировка общая до бесполезности.

[Mihaylo]

mihaild в сообщении #1690288 писал(а):

Формулировка общая до бесполезности.

Да, я ждал этого ответа.)

На самом деле это было только теоретическое обучение. Давайте шагнём дальше.

Есть "все задачи мира" и интеллектуальные задачи. Интеллектуальные задачи - это что?

Определение. Интеллектуальные задачи - это задачи, которые человек (или другой интеллект?) может реально решить.

Интеллектуальные задачи составляют $10^{-1000000}$ % от всех задач мира. Намотайте это на ус.

Человек не настолько силён, чтобы решить произвольную задачу. К сожалению, мы пока не ездим на автомобилях, которые можно свернуть в полиэтиленовый пакет и положить на полку. Хотя это физика наверное не запрещает.

Вторая часть теории. Психология.

Люди подвержены стереотипам. Они любят положительное и избегают негатива. Конечно же, у человека большая радость, когда он спроектировал что-то, и оно работает, или запрограммировал, и оно работает. А когда что-то не получается, человек просто уходит в свою зону комфорта. Эффект выжившего в действии. "За что бы я не брался, у меня всё получается!". Нет, дорогуша, но ты не за всё брался.

Заключение.

Всё намного проще, нет никаких многомерных континуумов. LLM, которые внезапно появились, это лишь подтверждение. Более того, LLM превосходят человека (вы же не знаете 160 языков мира и 60 языков программирования?).

[mihaild]

Mihaylo в сообщении #1690291 писал(а):

Интеллектуальные задачи составляют $10^{-1000000}$ % от всех задач мира

А вот это уже эмпирическое утверждение. И для его доказательства Вам надо для начала дать конкретное определение задачи, общей пафосной болтологией не обойдетесь.
Иначе я скажу, что задач всего две: "наклеить марку" и "сделать то, что нужно, в ситуации, когда это не наклеить марку".

[Ghost_of_past]

Mihaylo в сообщении #1690259 писал(а):

Что всегда можно сказать, что проблема - это не проблема.

Говорить можно всё, что угодно. Важно то, что проблему считают проблемой специалисты.

Mihaylo в сообщении #1690259 писал(а):

Философы назвали сознание трудной проблемой

Чалмерс назвал трудной проблемой не сознание, а заявил о наличии в объяснениях природы сознания двух типов проблем - простых (объяснить как из нейрофизиологических взаимодействий появляется психика и сознание в частности) и трудной, т.е. почему сознательный опыт сопровождается субъективными переживаниями от первого лица. Для начала 1990ых это был важно теоретическое развитие в философии сознания, которое сейчас сильно померкло под влиянием других теорий и концепций, в частности Деннета и Метцингера. Взгляды и самого Чалмерса тоже сильно изменились с тех пор с натуралистического дуализма в сторону материалистического панпсихизма.

Я же говорил о совсем другой проблеме - чисто эпистемологической, - что у нас нет на данный момент единой интегративной теории сознания, она только в процессе формирования и займет этот процесс явно еще как минимум несколько десятилетий.

Mihaylo в сообщении #1690259 писал(а):

Я же могу назвать сознание совершенно понятной хренотенью

Можете конечно, но едва ли это хоть кого-нибудь заинтересует среди нейробиологов, психологов, когнитологов и философов.

Mihaylo в сообщении #1690278 писал(а):

Возьмём, Анохина-младшего или Черниговскую... Анохин совсем ку-ку

Сейчас Вы занимаетесь очередным хамством в адрес хорошего ученого - Константин Анохин вполне уважаемый нейробиолог со вполне корректными и мейнстримными взглядами на природу психики с опорой на концепцию когнитома и гиперсетевого подхода к работе ЦНС как нейронной гиперсети.

Mihaylo в сообщении #1690282 писал(а):

Если их спросить что-нибудь про сильный искусственный интеллект или про самосознание

С таким же успехом можно спрашивать про самосознание продавцов из ближайшего супермаркета: что первые, что вторые к изучению самосознания отношения не имеют. Самосознание - биологический и психический феномен. Если Вы хотите распространить применение этого понятия на какие-то искусственные системы, то сперва само понятие и концепцию самосознания надо адаптировать к этому - и на этом пути последние несколько лет начали делаться первые шаги. И тут приходите Вы и начинаете писать какую-ту ерундистику про то, что датасайентисты занимаются самосознание. Пока у меня четкое ощущение, что Вы банально не понимаете, чем занимаются датасайентисты, что такое "самосознание" и каковы границы между разными областями академического знания.

Mihaylo в сообщении #1690282 писал(а):

Я практик.

В области изучения самосознания Ваши знания нулевые, и дело совсем не в философии - это я могу оценить как биолог по образованию.

Mihaylo в сообщении #1690291 писал(а):

Интеллектуальные задачи - это задачи, которые человек (или другой интеллект?) может реально решить.

А масло - масляное.

Всего лишь пару тысяч лет назад человеческий интеллект не мог решить банальную для нашего времени задачу о природе молний. При этом биологически это был практически тот же самый интеллект, что и сейчас у нас.

[Mihaylo]

Ghost_of_past в сообщении #1690293 писал(а):

Всего лишь пару тысяч лет назад человеческий интеллект не мог решить банальную для нашего времени задачу о природе молний. При этом биологически это был практически тот же самый интеллект, что и сейчас у нас.

О! Вы начали рассуждать. До этого вы только защищали философов.) Так держать!

-- 13.06.2025, 20:53 --

mihaild в сообщении #1690292 писал(а):

А вот это уже эмпирическое утверждение.

Я думал интеллект человека хотя бы может отличить гиперболу от параболы...

[Ghost_of_past]

Mihaylo в сообщении #1690295 писал(а):

Вы начали рассуждать

А Вы как не знали банальную терминологию, так и продолжаете её не знать, - отсюда всякая фигня про то, что датасайентисты занимаются изучением самосознания.

[Mihaylo]

Ghost_of_past в сообщении #1690296 писал(а):

отсюда всякая фигня про то, что датасайентисты занимаются изучением самосознания.

Боже мой, где я такое ляпнул? Нет же, датасайентисты просто имеют мнение про самосознание, иногда это на всяких форумах проскакивает.

[Ghost_of_past]

Mihaylo в сообщении #1690299 писал(а):

Нет же, датасайентисты просто имеют мнение про самосознание

Ну да, продавцы в ближайшем супермаркете тоже могут иметь мнение про самосознание. Просто к науке как деятельности это отношения никакого не имеет.

Кстати, результаты социологических опросов датасайентистов про самосознание можете привести? Ну чтобы я понимал, что Вы изучили мнение датасайентистов по репрезентативной выборке нужного объема, а не натягиваете собственные anecdotal evidence аки сову на глобус.

[mihaild]

Mihaylo в сообщении #1690295 писал(а):

Я думал интеллект человека хотя бы может отличить гиперболу от параболы

И от эллипса. Но я пока даже не просил Вас ответить за конкретное число, пока что Ваши "рассуждения" такого вопроса не заслуживают. Вопрос в том, что Вы вообще пытаетесь посчитать.