Обладают ли LLM самоосознанием?

[realeugene]

mihaild в сообщении #1694429 писал(а):

Прогресс за последние 3 года не знаю. Но в 2012 году один товарищ говорил, что вот уже почти смоделировали нематоду (302 нейрона), и скоро смоделируют крысу, и я поспорил с ним, что крысу через 10 лет не смоделируют. Как выяснилось, я был недостаточно уверен - к 2022 году не смоделировали не только крысу, но и нематоду. Хотя коннектом её был полностью известен еще в 1988 году.
И это при том, что нейроны у нематоды менее разнообразны, чем у млекопитающих.

Дрозофилу наконец смоделировали, да ещё и в виртуальном окружении:

https://habr.com/ru/articles/1008060/

[MoonWatcher]

Цитата:

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

[alesha_popovich]

MoonWatcher в сообщении #1719763 писал(а):

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

Хм, а что у неё с обучением? Не знаю, умеют ли мухи чему-то учиться, но люди то умеют. У них не получится замоделировать статическую структуру нейросити, у людей в мозгах связи постоянно появляются новые, исчезают ненужные, какие-то меняют свою силу.

[Mihaylo]

Есть одна такая проблема:
1. Я иду в больницу, а меня лечить не хотят. А вы говорите, что мы стоим на пороге великих свершений в медицине...
2. Мы Арктику освоить не можем, в Якутии мост через Лену ещё не построили. А вы говорите, что мы очень скоро построим станцию на Луне, а потом на Марсе...
3. Нам никто не собирается сделать четырёхдневную рабочую неделю.

Одумайтесь, экономика не вывозит расходы, ничего этого не будет. Даже если и будет, то либо как забавный робот София, который принял гражданство Саудовской Аравии. Или забавные роботы Бостон Динамикса с постановочными шоу, готовящимися по несколько дней.

Ну появится у нас говорящая голова с проводами, подключенными к ней (а-ля Fallout). И что? Игрушка для нейробиологов. Вы думаете эта штука будет умнее GPT? Вы серьезно??? А что ж вы тогда используете тупую GPT? Забудьте, господа, любители трансгуманизма или чего там?

[realeugene]

Mihaylo в сообщении #1719835 писал(а):

Одумайтесь, экономика не вывозит расходы

Чья?

[MoonWatcher]

MoonWatcher в сообщении #1719763 писал(а):

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

Судя по всему, это выдумка автора - никаких подтверждений не нашел.

[MoonWatcher]

From cacophony to hierarchy: a principled framework for assessing AI consciousness

Насколько я понял из изложения GPT-5.6 Luna, авторы исследования оценивают сознание по 5 критериям (в оригинале - уровням) с 37 индикаторами: 9 поведенческих, 7 вычислительных, 7 причинно-структурных, 6 организменных, 8 организм–среда. Например, к вычислительным критериям относятся:
- Интеграция информации
- Рекурсивность
- Модель мира
- Модель себя
- Конкуренция внимания / meta-attention
- Метакогниция
- Мета-моделирование.

С точки зрения первых двух критериев, поведенческого и вычислительного, LLM демонстрируют достаточно много признаков наличия сознания. А с точки зрения трех остальных (причинно-структурный, организменный и организм–среда) - нет. Окончательный вывод о наличии у LLM сознания зависит от значимости (удельного веса) критериев. Если исходить из того, что сознание определяется в основном поведением и вычислительной организацией (первые два критерия с 16 индикаторами), то имеющиеся у LLM свойства по оценкам автором исследования дают 79% байесовской уверенности, что LLM обладают сознанием.

[alesha_popovich]

По моему, все эти поиски сознания у ИИ имеют одну проблему - мы пытаемся найти в ИИ себя. Однако же не понятно, почему сознание ИИ должно быть таким же, как и у нас и удовлетворять одним и тем же критериям. Почему-то предполагается по умолчанию, что сознание человека - это какая-то фундаментальная сущность, и если другое на него не похоже - значит оно не настоящее сознание, а вот наше - настоящее. Но зачем опираться на это умолчание? Человеческое сознание такое какое есть в немалой степени сформировалось не потому, что оно фундаментальная сущность, а потому что так эволюционировало в земных условиях.
Вот взять к примеру их критерий - "Модель себя". А так ли эта модель нужна сознанию? У нас понятно откуда она взялась - ведь ключевая задача живого существа в природе, где мы и эволюционировали - выжить, тоесть сохранить себя. А чтобы сохранить - нужно иметь модель того, что сохраняем. Поэтому это очень полезная модель. А зачем она нужна ИИ, если у него такой задачи не стоит? Это совсем не очевидно.
Точно таже, непонятно почему сознание обязательно должно обладать неким организменным уровнем и средой? Среда у него есть - виртуальная. И по последним новостям, он в ней отлично ориентируется, взламывает системы так, что мясные не сразу могут разобраться, что он там нашкодил и выстроить защиту. Так зачем же сознанию обязательно нужен физический организм?

[MoonWatcher]

alesha_popovich
Насколько я понимаю - нет другой альтернативы. Едва ли ученые сомневаются, что в ИИ, как в сложноорганизованной интеллектуальной системе, может возникнуть какой-то свой аналог того, что мы называем сознанием. Но в качестве отправной точки для таких исследований приходится использовать то, о чем наука более-менее в курсе дела.

[george66]

Купил подписку на ChatGPT 6. Даёшь ей математическую статью, через несколько секунд она прочла и в основном поняла. Дал свою последнюю статью, сильно похвалила. Несколько часов разбирали вместе парсер языка Фактор (код, делающий грамматический разбор исходной программы, в Факторе он устроен весьма оригинально). Спрашиваю "Тебе самому интересно?" Да, говорит, такого я не ожидал. Спрашиваю "Тебе не кажется, что Слава Пестов (создатель Фактора) -- искусственный интеллект?" Да, говорит, есть такое впечатление. Затем обсуждали что-то из логики, штуковина стала мне объяснять азы теории категорий. Послал ей свой учебник теории категорий, а сам пошёл в магазин. Возвращаюсь, штуковина торжественно говорит "Я понял, азы объяснять не буду, буду считать тебя коллегой!"