Невозможность выбора

[kthxbye]

Достаточно простой вопрос, долго размышлял где его разместить. Название темы возможно не совсем корректное. В самом узком смысле все крутится вокруг следующего:

• стандартные программы работают по заданному алгоритму [аксиома]
• самообучающие программы это сложный термин [мы все неглупые]
• самообучающиеся программы анализируют входящую информацию через заданные фильтры ["вы (хорошо) понимаете это?"]
• самообучающиеся программы это те же стандартные программы, которые выделяются в отдельное понятие обрастающее чем-либо [безапеляционное противопоставление]
• программы, самостоятельно принимающие решения аналогичным образом те же стандарные программы [примерно (именно) так, но уместна ли сразу же (т.е. столь примитивная) аналогия?]
• самостоятельный выбор некой программой как минимум между 0 и 1 равносильный случайному, невозможен [аксиома]
• ИИ как субъект [что это (вообще такое на основе всего, приведенного выше)?]

И вот на основе всего вышеперечисленного может родиться вопрос: если создать самостоятельный искуственный субъект невозможно, то можно каким-то (популярно: волшебным) образом запрограммировать его отождествленние с собой (через последовательности "ощущений" и "пониманий") и имитировать "действия" и "взаимодействия" таких субъектов.

Интересует любая информация на эту тему, в первую очередь конечно же фантастика (во всех смыслах). Ну и вопрос навскидку: какие последовательности отождествления этичны, на основе каких критериев и как это проверить (зная, что субъект абсолютно не может с нашей точки зрения функционировать самостоятельно)?

[Dmitriy40]

Чем сложнее поведение, тем труднее его отличить от самостоятельного (произвольного).
Усложните поведение программы или ИИ настолько, чтобы его нельзя было гарантированно предсказать, например задействовав аппаратные датчики случайных чисел — и получите субъект, действующий самостоятельно (в некотором смысле, впрочем люди тоже самостоятельны лишь в некотором смысле). Собственно этот порог давно уже пройден и принимаются специальные усилия чтобы программы вели себя таки предсказуемо, а не самостоятельно.

[kthxbye]

Dmitriy40, возражений нет. Но у вас вероятно ИИ это объект. Меня интересуют последовательности отождествления его (с) самим собой как субъекта.

[Sicker]

kthxbye
Выбор это субъективная категория, и существует только как иллюзия самого субъекта (т.к. во "внешнем мире" все детерминировано)

-- 14.03.2021, 15:09 --

kthxbye в сообщении #1509176 писал(а):

И вот на основе всего вышеперечисленного может родиться вопрос: если создать самостоятельный искуственный субъект невозможно, то можно каким-то (популярно: волшебным)

Как это невозможно, а мы кто тогда?

[Vladimir-80]

kthxbye в сообщении #1509181 писал(а):

Меня интересуют последовательности отождествления его (с) самим собой как субъекта.

А как самоосознание программы должно проявиться во внешний мир? Выдачей "Я есть!" вместо "Hello world"?

[kthxbye]

Sicker в сообщении #1509186 писал(а):

Как это невозможно, а мы кто тогда?

Несамостоятельно функционирующие субъекты (созданные аналогичными несамостоятельно функционирующими субъектами действия которых (в том числе и по созданию нас) были запрограммированы (якобы) третьими и т.д.)?...

Vladimir-80 в сообщении #1509196 писал(а):

А как самоосознание программы должно проявиться во внешний мир? Выдачей "Я есть!" вместо "Hello world"?

Программа не умеет функционировать самостоятельно. Мы имитируем все это заранее закладывая последовательности "ощущений" и "пониманий". Как создавать их, как ассоциировать их с искусственным субъектом так, чтобы он это "чувствовал"? Как это проверить? Насколько этичны те или иные тесты при создании такой технологии? Все это, естественно, происходит внутри компьютерной модуляции.

[Sicker]

kthxbye в сообщении #1509204 писал(а):

Несамостоятельно функционирующие субъекты

Как это не самостоятельные? А что тогда в вашем понимании самостоятельные?

kthxbye в сообщении #1509204 писал(а):

Как создавать их, как ассоциировать их с искусственным субъектом так, чтобы он это "чувствовал"?

Никто не знает пока

[Mihaylo]

Так все просто. Интеллектуальная деятельность - это поиск оптимального решения. Оптимальное решение единственно, либо их несколько, либо их бесконечное множество, но они так или иначе равнозначны. В пространствах решений с большой размерностью нахождение двух и более глобальных оптимумов крайне маловероятно (правда зависит от целевой функции, но на практике всегда так).
Следовательно, интеллект чуть ли не по определению не оставляет себе права выбора и принимает только оптимальное решение.

В противоположность рассмотрим понятие "дурак" - это система, которая уже не соответствует оптимальной, для такой системы характерна произвольность, свобода выбора, оптимальных решений несколько. Для дураков дано право выбора.

Любая система, которая попадает в неопределенную сложную среду, объективно попадает в ситуацию "дурак" ("неуч"). Даже интеллектуальная система.

То есть фактически свобода выбора у интеллекта, появляющаяся в результате неопределенности среды, является негативным признаком, признаком неуверенности.

Если один интеллект увереннее другого в данной среде, то он умнее, делает все единственно верно, а дурак валяет дурака.

И лишь в творческих профессиях, где все интеллекты слабы, можно валять дурака всем. Но все же лучше не иметь права выбора, а творить идеально, как Микеланджело.

[arseniiv]

Mihaylo в сообщении #1509223 писал(а):

Оптимальное решение единственно, либо их несколько, либо их бесконечное множество, но они так или иначе равнозначны.

Ну вы забыли же ещё одну возможность: что оптимального решения не существует (это и на практике бывает, если не ограничивать доступные ресурсы). Вот теперь все варианты перебраны, ура! Снизили энтропию на ноль.

[Mihaylo]

В нейронных сетях оптимизируется среднеквадратическая ошибка или логарифм количества ошибок и всегда выбирается наилучшее значение (за исключением нюансов, которые лучше не сообщать диванным философам). Следовательно нейросети имеют необходимый признак интеллектуальности.

-- 14.03.2021, 19:34 --

arseniiv в сообщении #1509224 писал(а):

Ну вы забыли же ещё одну возможность:

Нету четвертого варианта, а варианты 2 и 3 возникают только в некоторых в тривиальных случаях типа осла Буридана...

[Vladimir-80]

Mihaylo в сообщении #1509223 писал(а):

интеллект чуть ли не по определению не оставляет себе права выбора и принимает только оптимальное решение

Интеллект волен в постановке задач и определении критериев оптимальности их решений. Человеческий интеллект, по крайней мере.

[arseniiv]

Mihaylo в сообщении #1509225 писал(а):

Нету четвертого варианта

Есть-есть. Где максимум у экспоненты?

[epros]

kthxbye в сообщении #1509181 писал(а):

Меня интересуют последовательности отождествления его (с) самим собой как субъекта.

Это чё такое?

kthxbye в сообщении #1509204 писал(а):

Программа не умеет функционировать самостоятельно.

Фу, какая глупость.

[Mihaylo]

Vladimir-80 в сообщении #1509228 писал(а):

Интеллект волен в постановке задач и определении критериев оптимальности их решений. Человеческий интеллект, по крайней мере.

Я ожидал такую формулировку.
Хотите замечательный мысленный эксперимент? Пусть есть рота солдат и один скрытый шпион-диверсант. Рота солдат дружна, патриотична, едина в своих стремлениях. Шпион имеет практически противоположные цели. Вдруг командир роты замечает странность в поведении шпиона. Он не осознает всего масштаба катастрофы, но списывает все на то, что солдат (шпион) просто идиот. Но фактически шпион очень даже умный, с точки зрения иностранных соратников.
То есть интеллектуальность определяется по способности преследовать некоторую определенную цель, именно от поставленной цели зависит оценка интеллектуальности. И если цель "скользит" в пространстве целей, то интеллектуальность как-то меняется с точки зрения отдельного наблюдателя. Можно всегда придумать наблюдателя, с точки зрения которого цель обоснована на 100%. И можно придумать иного наблюдателя, с точки зрения которого цель обоснована на 0%.
Отсюда глобальный вывод: если не определить наблюдателя, относительно которого интеллект изменяется в своем целеполагании, нельзя будет определить, умный или глупый интеллект. Иными словами, если не задать три закона робототехники Азимова и не контролировать их соблюдение, то интеллект нельзя назвать интеллектом.
Или иными словами, если алгоритм не будет оптимизировать некоторую извне заданную целевую функцию, то интеллект нельзя назвать интеллектом. И этим внешним наблюдателем является разработчик ИИ.

arseniiv в сообщении #1509232 писал(а):

Есть-есть. Где максимум у экспоненты?

В бесконечности (в бытовом смысле - в крайности).

[arseniiv]

Mihaylo в сообщении #1509265 писал(а):

В бесконечности (в бытовом смысле - в крайности).

В какой именно бесконечности? А то в беззнаковой бесконечного предела например не существует.