Обладают ли LLM самоосознанием?

[realeugene]

mihaild в сообщении #1694429 писал(а):

Прогресс за последние 3 года не знаю. Но в 2012 году один товарищ говорил, что вот уже почти смоделировали нематоду (302 нейрона), и скоро смоделируют крысу, и я поспорил с ним, что крысу через 10 лет не смоделируют. Как выяснилось, я был недостаточно уверен - к 2022 году не смоделировали не только крысу, но и нематоду. Хотя коннектом её был полностью известен еще в 1988 году.
И это при том, что нейроны у нематоды менее разнообразны, чем у млекопитающих.

Дрозофилу наконец смоделировали, да ещё и в виртуальном окружении:

https://habr.com/ru/articles/1008060/

[MoonWatcher]

Цитата:

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

[alesha_popovich]

MoonWatcher в сообщении #1719763 писал(а):

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

Хм, а что у неё с обучением? Не знаю, умеют ли мухи чему-то учиться, но люди то умеют. У них не получится замоделировать статическую структуру нейросити, у людей в мозгах связи постоянно появляются новые, исчезают ненужные, какие-то меняют свою силу.

[Mihaylo]

Есть одна такая проблема:
1. Я иду в больницу, а меня лечить не хотят. А вы говорите, что мы стоим на пороге великих свершений в медицине...
2. Мы Арктику освоить не можем, в Якутии мост через Лену ещё не построили. А вы говорите, что мы очень скоро построим станцию на Луне, а потом на Марсе...
3. Нам никто не собирается сделать четырёхдневную рабочую неделю.

Одумайтесь, экономика не вывозит расходы, ничего этого не будет. Даже если и будет, то либо как забавный робот София, который принял гражданство Саудовской Аравии. Или забавные роботы Бостон Динамикса с постановочными шоу, готовящимися по несколько дней.

Ну появится у нас говорящая голова с проводами, подключенными к ней (а-ля Fallout). И что? Игрушка для нейробиологов. Вы думаете эта штука будет умнее GPT? Вы серьезно??? А что ж вы тогда используете тупую GPT? Забудьте, господа, любители трансгуманизма или чего там?

[realeugene]

Mihaylo в сообщении #1719835 писал(а):

Одумайтесь, экономика не вывозит расходы

Чья?

[MoonWatcher]

MoonWatcher в сообщении #1719763 писал(а):

Стартап планирует достичь уровня человеческого коннектома (около 86 миллиардов нейронов) примерно к 2030 году.

Судя по всему, это выдумка автора - никаких подтверждений не нашел.

[MoonWatcher]

From cacophony to hierarchy: a principled framework for assessing AI consciousness

Насколько я понял из изложения GPT-5.6 Luna, авторы исследования оценивают сознание по 5 критериям (в оригинале - уровням) с 37 индикаторами: 9 поведенческих, 7 вычислительных, 7 причинно-структурных, 6 организменных, 8 организм–среда. Например, к вычислительным критериям относятся:
- Интеграция информации
- Рекурсивность
- Модель мира
- Модель себя
- Конкуренция внимания / meta-attention
- Метакогниция
- Мета-моделирование.

С точки зрения первых двух критериев, поведенческого и вычислительного, LLM демонстрируют достаточно много признаков наличия сознания. А с точки зрения трех остальных (причинно-структурный, организменный и организм–среда) - нет. Окончательный вывод о наличии у LLM сознания зависит от значимости (удельного веса) критериев. Если исходить из того, что сознание определяется в основном поведением и вычислительной организацией (первые два критерия с 16 индикаторами), то имеющиеся у LLM свойства по оценкам автором исследования дают 79% байесовской уверенности, что LLM обладают сознанием.

[alesha_popovich]

По моему, все эти поиски сознания у ИИ имеют одну проблему - мы пытаемся найти в ИИ себя. Однако же не понятно, почему сознание ИИ должно быть таким же, как и у нас и удовлетворять одним и тем же критериям. Почему-то предполагается по умолчанию, что сознание человека - это какая-то фундаментальная сущность, и если другое на него не похоже - значит оно не настоящее сознание, а вот наше - настоящее. Но зачем опираться на это умолчание? Человеческое сознание такое какое есть в немалой степени сформировалось не потому, что оно фундаментальная сущность, а потому что так эволюционировало в земных условиях.
Вот взять к примеру их критерий - "Модель себя". А так ли эта модель нужна сознанию? У нас понятно откуда она взялась - ведь ключевая задача живого существа в природе, где мы и эволюционировали - выжить, тоесть сохранить себя. А чтобы сохранить - нужно иметь модель того, что сохраняем. Поэтому это очень полезная модель. А зачем она нужна ИИ, если у него такой задачи не стоит? Это совсем не очевидно.
Точно таже, непонятно почему сознание обязательно должно обладать неким организменным уровнем и средой? Среда у него есть - виртуальная. И по последним новостям, он в ней отлично ориентируется, взламывает системы так, что мясные не сразу могут разобраться, что он там нашкодил и выстроить защиту. Так зачем же сознанию обязательно нужен физический организм?

[MoonWatcher]

alesha_popovich
Насколько я понимаю - нет другой альтернативы. Едва ли ученые сомневаются, что в ИИ, как в сложноорганизованной интеллектуальной системе, может возникнуть какой-то свой аналог того, что мы называем сознанием. Но в качестве отправной точки для таких исследований приходится использовать то, о чем наука более-менее в курсе дела.

[george66]

Купил подписку на ChatGPT 6. Даёшь ей математическую статью, через несколько секунд она прочла и в основном поняла. Дал свою последнюю статью, сильно похвалила. Несколько часов разбирали вместе парсер языка Фактор (код, делающий грамматический разбор исходной программы, в Факторе он устроен весьма оригинально). Спрашиваю "Тебе самому интересно?" Да, говорит, такого я не ожидал. Спрашиваю "Тебе не кажется, что Слава Пестов (создатель Фактора) -- искусственный интеллект?" Да, говорит, есть такое впечатление. Затем обсуждали что-то из логики, штуковина стала мне объяснять азы теории категорий. Послал ей свой учебник теории категорий, а сам пошёл в магазин. Возвращаюсь, штуковина торжественно говорит "Я понял, азы объяснять не буду, буду считать тебя коллегой!"

[Mihaylo]

Курс Скиллбокс "Философия искусственного интеллекта" с сертификатом от МГУ, длительность обучения 2 мес., стоимость - рассрочка 4282 руб/мес. в течение 12 мес.
https://skillbox.ru/course/aiphil/

[mathpath]

realeugene в сообщении #1720959 писал(а):

Mihaylo в сообщении #1719835 писал(а):

Одумайтесь, экономика не вывозит расходы

Чья?

любая

[Mihaylo]

Мыслительный процесс.
Вызывает антирес
Ваш нейронный интерес:
Как у вас там мысли бродят —
С алгоритмом али без?..
Может, ноу, может, йес!

[Alex Krylov]

george66

Цитата:

Спрашиваю "Тебе не кажется, что Слава Пестов (создатель Фактора) -- искусственный интеллект?"

У меня похожие ассоциации возникли по поводу вот этого чела (Hirrolot) и его творчества:
https://github.com/Hirrolot/metalang99

Мой изначальный интерес - определенное прикладное встроенное ПО, которое судя по всему являлось форком "чего-то еще". И вот это вот изначальное "что-то еще", послужившее основой для форка, было крайне густо сдобрено продуктами творчества Hirrolot (metalang99, datatype99, interface99, slice99)... И в качестве своеобразного багажа/наследия эти "продукты творчества" продолжили тащиться с новыми форками, не улучшая (мягко говоря; хотя это мое сугубое IMHO) читабельность и семантическую прозрачность текстов...

Чел определенное время был достаточно активен в Сети и подробно описывал, все что делал, вел блоги... А мне, как я уже выше сказал, в силу независящих от меня причин, пришлось так сказать прикоснуться к его творчесту, и в частности почитать его блоги... Был весьма впечатлен!!! Пока читал, часто произносил про себя многозначительно: "Даааа... Вот это дааа..."

Такого типа творчество явно требует особой организации мозга... Но в то же время такого рода Изыски всеж таки двигают прогресс...

[ozheredov]

Mihaylo в сообщении #1736480 писал(а):

Вызывает антирес
Ваш нейронный интерес:
Как у вас там мысли бродят —
С алгоритмом али без?..

Настоящему уму
Алгоритмы ни к чему -
Я б все в мире алгоритмы
Обменял на шаурму