Обладают ли LLM самоосознанием?

[Mihaylo]

Ghost_of_past в сообщении #1694146 писал(а):

Как Вы собираетесь искать самосознание у чат-бота, если Вы перед этим не определили самосознание и его критерии?

"Пойди туда — не знаю куда, принеси то — не знаю что" (с) Удачных Вам тестирований с таким подходом.

А что ржёте-то? Вот вы толкаете мне определения. А они мне нафига нужны? Мозг только заполняют. Дефиниции - это неправильный подход. Это сферический конь в вакууме.

Дайте мне алгоритм задавания вопросов на тестировании. Критерии? Ну придумайте сами. Мне лишь бы как-то реально потестить LLM-ку. Я вас конкретно прошу, а не это всё.

Лет сто назад превалировал такой подход: "А давайте дадим определение ИИ, чтобы создать его." А потом пошёл немного другой подход: "Делаем вот так, получаем хорошо.". И сейчас этот подход фонтанирует! А определения ИИ так никому и не понадобилось.

[Ghost_of_past]

Mihaylo в сообщении #1694237 писал(а):

Дефиниции - это неправильный подход.

То ли дело тестирование того, незнамо чего. Удачи в тестах.

Mihaylo в сообщении #1694237 писал(а):

Критерии? Ну придумайте сами.

Mihaylo в сообщении #1694237 писал(а):

Лет сто назад превалировал такой подход: "А давайте дадим определение ИИ

Вы решили нам написать из какой-то параллельной вселенной, где сто лет назад обсуждали определения ИИ? Ух ты.

Кстати, если Вы вдруг не заметили, то разговор шел про искусственное сознание, а не просто про ИИ. Надеюсь, что Вы хотя бы не путаете до степени тождественности понятия "искусственный интеллект" и "искусственное сознание".

[Mihaylo]

Ghost_of_past в сообщении #1694238 писал(а):

Надеюсь, что Вы хотя бы не путаете до степени тождественности понятия "искусственный интеллект" и "искусственное сознание".

Вряд ли я перепутаю LLM и наличие сознания у LLM. Нее, я системный подход могу, и даже получше философов. Они-то даже анализ от синтеза отличить не могут (вспомните, я высказывался про сбор информации как часть анализа). И не рассматриваю понятия типа "искусственное сознание" - это фигня какая-то.

[Ghost_of_past]

Mihaylo в сообщении #1694239 писал(а):

И не рассматриваю понятия типа "искусственное сознание" - это фигня какая-то.

Тогда тем более непонятно, что делать в теме про наличие/отсутствие сознания и самосознания у LLM с таким отношением к обсуждаемой терминологии.

[Mihaylo]

Ghost_of_past, сознание у искусственного интеллекта не создаётся искусственно. ИИ скармливаются реальные живые данные - и, вуаля, сознание/самосознание появляется само собой.

[epros]

mihaild в сообщении #1694208 писал(а):

Но общеупотребительно оно (слово "заложено") именно в смысле "заложено от рождения" или чём-то близком. Если я сидел и решал задачу, а потом нашел решение - в общеупотребительном смысле решение задачи в меня никак не "заложено", а найдено мной.

Было сказано, что реакция бота на упоминание мною "тупого бота" была в него "вмонтирована". Я прокомментировал, что точно в таком же смысле можно говорить о "вмонтировании" в нас реакции узнавания себя в зеркале: очевидно, что в процессе развития ребёнка он как-то учится (с помощью родителей или кого-то ещё) узнавать себя в зеркале. Это никоим образом не подразумевает "заложено от рождения" и ничем принципиальным не отличается от того, как обучают ботов.

[Ghost_of_past]

Mihaylo в сообщении #1694244 писал(а):

ИИ скармливаются реальные живые данные - и, вуаля, сознание/самосознание появляется само собой.

А это Вы откуда взяли? На основе какие источников информации сделали такой вывод?

epros в сообщении #1694247 писал(а):

Было сказано, что реакция бота на упоминание мною "тупого бота" была в него "вмонтирована".

Конечно, а какая тут может быть альтернатива, если это простой чат-бот без надстройки в виде LLM над ним с каким-то более сложным обучением? Или надстройка там была? Это не поменяло бы ситуацию с самосознанием, но тогда можно говорить о чем-то более интересном, чем стандартные чат-боты.

epros в сообщении #1694247 писал(а):

очевидно, что в процессе развития ребёнка он как-то учится

И также очевидно, что обучение биологических организмов достаточно существенно отличается от обучения LLM, не говоря уж об относительно простых чат-ботах. Если бы не отличалось, то ИИ и вообще бы технические системы мы должны были бы создавать исключительно на подходе бионики, что не так.

epros в сообщении #1694247 писал(а):

и ничем принципиальным не отличается от того, как обучают ботов.

Отличается. Вот как раз про отличия в применяемых методах обучения технических систем и биологических систем написаны просто горы литературы. Начиная с того, что обучение чат-ботов - это вычислительный процесс, в то время как можно ли обучение маленького ребенка алгоритмизовать и формализовать - это большой и дискуссионный вопрос (вот образование более старших детей формализации поддается, но тоже не до конца на практике, насколько мне известно) и заканчивая тем, что обучение стандартных чат-ботов, вроде тех что используются мобильными операторами или банками, обычно ограничено массивами данных в текстовом или звуковом виде, в то время как обучение ребенка производится за счет разных анализаторов и сенсорных систем.

[Mihaylo]

Ghost_of_past в сообщении #1694249 писал(а):

А это Вы откуда взяли? На основе какие источников информации сделали такой вывод?

Я знаю как обучаются нейросетевые модели. Других вариантов нет.

[Ghost_of_past]

Mihaylo в сообщении #1694251 писал(а):

Я знаю как обучаются нейросетевые модели

И? Примеры возникновения сознания/самосознания в искусственных нейросетях человечеству неизвестны. А если Вам вдруг известны, то, пожалуйста, это Вам за Нобелевской премией.

[Mihaylo]

Интеллект искусственный, а сознание/самосознание не искусственное. Связано это с тем, что интеллект - это искусственная модель аппроксимации функции y=F(X), а сознание/самосознание - это результат выполнения функции y = F(X), на которую гораздо сильнее вносят вклад не алгоритмы обучения, а обучающие данные. И тот человек, который задал общий алгоритм F(), разработчик, не обязан понимать, как всё срослось. Эта технология работает независимо от F(). Разработчик просто понимает, что входные данные обладают свойствами, которые подходят для функции F(). Этого достаточно.

Блин, короче, требуется понимание принципа решения интеллектуальных задач, тут философия не работает, она не умеет это. Этому всему есть объяснения, надо преодолеть стереотипы. Я объясняю, но вам не заходит. Ну и туды вам дорожка.

Очень важным является понимание, что интеллектуальные задачи - это очень узкий круг задач. К таким задачам трудно относить математические и логические задачи. Но правда всё относительно... Выводом всего этого является понимание ограниченности хоть какого интеллекта.

[Ghost_of_past]

Mihaylo в сообщении #1694253 писал(а):

Интеллект искусственный, а сознание/самосознание не искусственное

В искусственной нейросети не искусственное сознание и самосознание. Не иначе как трансцендентные ангелочки трансцендентными пинцетами внесли в эти искусственные нейросети естественные биологические сознание и самосознание. Что еще можете рассказать?

Mihaylo в сообщении #1694253 писал(а):

а сознание/самосознание - это результат выполнения функции y = F(X)

В других разделах за подобные пассажи посты отправляют в Пургаторий. Если что, то это недвусмысленный намек на содержательную ценность того, что Вы сейчас написали.

Mihaylo в сообщении #1694253 писал(а):

Блин, короче, требуется понимание принципа решения задач

Пока вижу болтологию, применение формул непонятно к чему и зачем, да банальное незнание терминологии.

Mihaylo в сообщении #1694253 писал(а):

Я объясняю, но вам не заходит

Вы главное Нобелевскому комитету объясните, чтобы им зашло.

[Mihaylo]

Ghost_of_past в сообщении #1694252 писал(а):

И? Примеры возникновения сознания/самосознания в искусственных нейросетях человечеству неизвестны. А если Вам вдруг известны, то, пожалуйста, это Вам за Нобелевской премией.

Стереотип мощный. Если выдумаете, что тест существующих LLM на самосознание - это хрень какая-то, то вы не философ.

-- 14.07.2025, 21:17 --

Ghost_of_past в сообщении #1694254 писал(а):

Пока вижу болтологию, применение формул непонятно к чему и зачем, да банальное незнание терминологии.

Какой терминологии я не знаю, простите? Это очень важно уточнить, а то вы тоже много чего не знаете.

[Ghost_of_past]

Mihaylo в сообщении #1694255 писал(а):

Стереотип мощный.

Ну вот с опровержением стереотипа и ступайте в Нобелевский комитет. Но сперва в специализированные рецензируемые научные журналы, где опубликуете свое творчество.

Mihaylo в сообщении #1694255 писал(а):

Если выдумаете, что тест существующих LLM на самосознание - это хрень какая-то

Грамотно и правильной сделанный тест - нет, а случайный поток сознания, выданный за тест LLM на самосознание даже хренью не назвать - это слишком большой комплимент будет.

Mihaylo в сообщении #1694255 писал(а):

то вы не философ.

А я и не философ.

Mihaylo в сообщении #1694255 писал(а):

Какой терминологии я не знаю, простите?

Перечитайте несколько последних страниц разговора и поймете, о какой терминологии шла речь. Больше ничем Вам помочь не могу.

[Mihaylo]

Ghost_of_past
Вы разочаровали меня, философы должны стоять за себя. То, что вы не философ - это обман элементарный. Вы им становитесь, когда надо положить на лопатки оппонента, а когда вас кладут на лопатки - вы уходите от атаки. Меня-то чего обманывать, я могу отличить анализ от синтеза.

[Ghost_of_past]

(Оффтоп)

Mihaylo в сообщении #1694258 писал(а):

Вы им становитесь, когда надо положить на лопатки оппонента

Нет, я вынужден разжевывать и обсуждать разные вещи из философии просто по той причине, что особо на форуме больше некому это делать. Философией профессионально я от этого не занимаюсь, а на самом деле даже и не особо люблю ее обсуждать.