Невозможность выбора

[Mihaylo]

arseniiv
у нас же тут обсуждение сугубо прикладной математики.

-- 15.03.2021, 01:18 --

Что же касается человека, он же вроде свободен в праве выбора: захотел выбрал спутницу жизни, захотел выбрал профессию, выбрал работодателя, выбрал квартиру... Однако все ли так на самом деле свободно? Вся свобода лишь при условии, что дурь в голове, а если умный, то выберешь хорошую жену, хорошую работу, добротный дом.

[Vladimir-80]

Mihaylo в сообщении #1509265 писал(а):

Можно всегда придумать наблюдателя, с точки зрения которого цель обоснована на 100%. И можно придумать иного наблюдателя, с точки зрения которого цель обоснована на 0%.

Цель - она не наблюдателем ставится и не им оценивается. (Наблюдатель волен давать субъективные оценки - но кого это волнует?) Цель - это внутреннее дело действующего субъекта. Сторонний наблюдатель может её понимать правильно, может понимать её неправильно, может абсолютно не понимать эту цель или даже может вовсе отсутствовать - на отношении субъекта к его цели и на интеллектуальных способностях этого субъекта все вышеуказанные нюансы никак не скажутся. Наблюдатель в данном случае не влияет на наблюдаемую систему.

[Mihaylo]

Астероид, который летает вокруг солнца, имеет цель летать вокруг солнца.
Камень, который лежит на земле, имеет цель лежать на земле.
И если ИИ, который задумал глобальное производство скрепок, имеет цель глобального производства скрепок.

Целей - бесконечное пространство. Вот вы создали ИИ. Чем ему заняться? Ну пускай он захочет летать вокруг солнца, например. Почему нет?)))

Я вам не зря о субъективности целей говорил. А вы опять про свое, обывательско-житейское, навязанное воспитанием и философами.

[Vladimir-80]

Mihaylo в сообщении #1509283 писал(а):

Астероид, который летает вокруг солнца, имеет цель летать вокруг солнца.

Он долго шёл к этой цели, мечтал, во всём себе отказывал и прикладывал массу усилий - и вот свершилось!
У астероида нет цели, равно как у ИИ и любого другого неодушевлённого предмета.

Mihaylo в сообщении #1509283 писал(а):

Вот вы создали ИИ. Чем ему заняться?

Какую цель я ему поставлю, к такой он и будет стремиться. Нет у ИИ свободы воли, приходится ему в этом вопросе на меня положиться.

[epros]

Столкнулись две религии. Жди священной войны.

[mihaild]

Mihaylo в сообщении #1509265 писал(а):

Отсюда глобальный вывод: если не определить наблюдателя, относительно которого интеллект изменяется в своем целеполагании, нельзя будет определить, умный или глупый интеллект

Как минимум для людей целепологание можно считать функцией от самого агента, поэтому такой проблемы не возникает.

Mihaylo в сообщении #1509265 писал(а):

Или иными словами, если алгоритм не будет оптимизировать некоторую извне заданную целевую функцию, то интеллект нельзя назвать интеллектом

Называть можно что угодно чем угодно, но когда построенная система разберет Землю на скрепки - будет не очень важно, интеллектуальна она или нет.

[Emergency]

Mihaylo в сообщении #1509265 писал(а):

Рота солдат дружна...

Это мечта, но так не бывает. В любом коллективе через некоторое время появляется доминант и мальчик для битья.

[arseniiv]

Mihaylo в сообщении #1509267 писал(а):

у нас же тут обсуждение сугубо прикладной математики.

Не вижу никаких противоречий. Что, асимптотика в прикладной математике уже не используется например? К тому же изначально тема вроде не была скована рамками прикладной математики. (Она вообще не особо была очерчена.)

[Mihaylo]

Vladimir-80 в сообщении #1509329 писал(а):

Какую цель я ему поставлю, к такой он и будет стремиться. Нет у ИИ свободы воли, приходится ему в этом вопросе на меня положиться.

Vladimir-80 в сообщении #1509269 писал(а):

Цель - она не наблюдателем ставится и не им оценивается.

Вы себя не считаете сторонним наблюдателем? Вы он и есть!

[Vladimir-80]

По отношению к моим собственным целям я не сторонний наблюдатель, а действующий субъект. По отношению к ИИ, которому я поставил цели, я сторонний наблюдатель - но цели, над которыми работает этот ИИ, мне понятны на 100%, так как поставил их я.

[Mihaylo]

Vladimir-80
Я не понял, какие ошибки вы пытались найти у меня.)

Существует огромное пространство целевых функций. Каждая целевая функция в этом пространстве изначально равнозначна. И если некий ИИ будет самостоятельно выбирать целевую функцию (=иметь независимую ни от кого систему целеполагания), то весь смысл теряется. Ибо с точки зрения нас (людей), цели делятся на здравые и нездравые. И если в интеллект данную информацию не внести, то он станет бесполезным, нездравым.
Точка зрения -> субъективность, здравость цели в зависимости от наблюдателя не лишены смысла. Я не понимаю, что вам не понравилось в этом. Мысленный эксперимент про шпиона должен был помочь вам в понимании данного факта, однако вы придрались к отдельным словам, не пытаясь понять.

[geomath]

Подобными вопросами занимался Владимир Лефевр, скончавшийся в прошлом году, 9 апреля год будет. А его диплом и вовсе о рефлексии был.

Вики писал(а):

В 1968 году окончил мехмат МГУ; в качестве дипломной работы представил свою книгу «Конфликтующие структуры» (1967), в которой ввел основные понятия теории рефлексии.

[Vladimir-80]

Mihaylo в сообщении #1509447 писал(а):

Я не понял, какие ошибки вы пытались найти у меня.)

Я не согласен с этим утверждением:

Mihaylo в сообщении #1509223 писал(а):

интеллект чуть ли не по определению не оставляет себе права выбора и принимает только оптимальное решение.

[Emergency]

Mihaylo в сообщении #1509447 писал(а):

Существует огромное пространство целевых функций.

Цель всегда только одна, а задач множество.

[Mihaylo]

Vladimir-80 в сообщении #1509469 писал(а):

Я не согласен с этим утверждением:

Оговорки всякие возможны, например, "5 минут интеллект может подурковать". Ну вы поняли, что значит отклонение от того утверждения...

-- 17.03.2021, 09:32 --

Emergency в сообщении #1509539 писал(а):

Цель всегда только одна, а задач множество.

Изначально целей множество, но после работы так называемой системы целеполагания должна быть выбрана одна. Ну и путей решения (задач) у одной цели, действительно, может быть несколько. Однако в теории управления в отличии от менеджмента статический и конечно-счетный термин "задача" не фигурирует, наверное там достаточно понятия "модель".