Невозможность выбора

[Emergency]

Mihaylo в сообщении #1509656 писал(а):

Изначально целей множество, но после работы так называемой системы целеполагания должна быть выбрана одна.

Эта одна будет наиболее соответствовать цели системы целеполагания. :)

[epros]

Об чём сей теологический диспут? Пытаемся провести границу между искусственным и естественным интеллектами через их якобы принципиально разные отношения к понятию "цель"? Ну-ну. Давайте для начала хотя бы определим, что такое "цель" и зачем она нужна. Просто чтобы понимать, что к мистике и теологии это понятие отношения не имеет, а значит обосновать с его помощью исключительность естественного интеллекта не получится.

[Mihaylo]

У человека центральная нервная система, а также социальное общество диктует львиную часть целей. Ну нервная - понятно, ногу вывернул наизнанку - больно стало, сразу рефлекс. Свободы воли-то нет: нога вывернута - плохо, нога в удобном положении - хорошо. А социальные цели - те вообще извне диктуются. Только кажется: что хочу, то и ворочу. Чуть не то сделал - батя наорал, подзатыльник дал и вот тебе целевая установка.

Простите за вольный слог, но хотелось бы понятно излагать.

[epros]

Mihaylo, Вы слишком вольно обращаетесь с понятием "цель". Её на самом деле ничто никому не "диктует". Это просто такой способ управления своими действиями: Считаем, какие действия насколько приближают нас к достижению поставленной цели, и выбираем те, которые делают это наилучшим образом. Так и программа - построитель маршрута в навигаторе работает: После того, как проставили конечную точку маршрута и настройку "доехать быстрее", программа просто сравнивает маршруты с точки зрения того, какой из них лучше всего достигает цели.

И человек, и программа, в этом плане действуют совершенно одинаково. И откуда взялась эта цель - неважно. Программе может быть пользователь задал, а человеку может быть начальник приказал.

[AAA1111]

kthxbye в сообщении #1509176 писал(а):

можно каким-то (популярно: волшебным) образом запрограммировать его отождествленние с собой (через последовательности "ощущений" и "пониманий")

kthxbye в сообщении #1509176 писал(а):

Ну и вопрос навскидку: какие последовательности отождествления этичны, на основе каких критериев и как это проверить (зная, что субъект абсолютно не может с нашей точки зрения функционировать самостоятельно)?

Если бы он действительно что-то ощущал, наподобие того как человек ощущает, то, по-моему, не этично было бы программировать ему дискомфортные ощущения. Нужно было бы программировать его, по возможности, так чтобы он чувствовал себя всегда приятно, и чем приятнее, тем лучше. Ну и, разумеется, чтобы как можно более полезен был, целесообразен хорошим целям (т.е. чтобы был настроен в общем на причинение комфорта остальным, желательно даже на помощь самым нуждающимся).

Dmitriy40 в сообщении #1509178 писал(а):

Усложните поведение программы или ИИ настолько, чтобы его нельзя было гарантированно предсказать, например задействовав аппаратные датчики случайных чисел — и получите субъект, действующий самостоятельно (в некотором смысле, впрочем люди тоже самостоятельны лишь в некотором смысле).

Датчики "случайных" чисел в нём задействовать тоже тогда нужно было бы только так, чтобы эта "случайность" не выбивала его за рамки комфорта.

Но для создания субъекта с ощущениями (психикой) наподобие человеческих (ощущение цветов, вкусов, чувства любви, вдохновения, заинтересованности, смеха и т.д. и т.п.) нужно сначала разобраться толком что из себя представляет конкретный человек (например, Вася Пупкин) как психический субъект. Дать определение этому Васе. Но до этого ещё далеко. Такого определения пока нет, и не предвидится. И даже когда такое определение появится, то не факт, что создание таких субъектов окажется вообще возможным.

-- 10.04.2021, 15:47 --

Dmitriy40 в сообщении #1509178 писал(а):

Собственно этот порог давно уже пройден и принимаются специальные усилия чтобы программы вели себя таки предсказуемо, а не самостоятельно.

Смысла задействовать "случайность" при создании такого субъекта не вижу. Действительно, пусть будет предсказуемым. Что в этом плохого? Ведь даже с внедрением "случайности" всё равно самостоятельность его будет весьма условна. Ну будет он в некоторой степени зависеть не только от нашего программного кода, а и от генератора "случайных" чисел. И что? Зависимость быть зависимостью от этого не перестанет.

[Dmitriy40]

AAA1111 в сообщении #1513743 писал(а):

Такого определения пока нет, и не предвидится. И даже когда такое определение появится, то не факт, что создание таких субъектов окажется вообще возможным.

Бывают конструктивные доказательства и неконструктивные. В данном случае конструктивным доказательством можно считать способ построения аналога человека, а неконструктивным лишь доказательство существования такого аналога без способа его построения. Во втором случае можно привести список критериев как отличить или не отличить аналог от образца. И если что-то будет не отличить по этим критериям — это и будет аналог человека. Классический тест Тьюринга или аналогичные.
Т.е. нам вовсе не обязательно давать определение человеку, достаточно критериев как от него не отличить что-то другое ("если не видите разницы, то это утка").
Вопрос лишь в достаточно всеобъемлющих критериях, потому что во многих частных компьютеры уже давно не отличить от человека (при игре в крестики-нолики не отличить с 1960-х годов как минимум ).

AAA1111 в сообщении #1513743 писал(а):

Ведь даже со внедрением случайности всё равно самостоятельность его будет весьма условна.

Я хотел обратить внимание что и человек самостоятелен весьма условно. И возможно самостоятельность человека всего лишь иллюзия для самоуспокоения. И уже сейчас поведение программ может быть и сложнее человеческого ... Т.е. это плохой критерий для сильного ИИ.

[Emergency]

Dmitriy40 в сообщении #1513754 писал(а):

Я хотел обратить внимание что и человек самостоятелен весьма условно.

Подавляющее большинство адептов превосходств человека, под человеком понимает лучшего представителя человечества в каждом данном умении. Но если примериться к любому их этих адептов, то чаще всего оказывается, что они не умеют ничего.

[AAA1111]

Dmitriy40 в сообщении #1513754 писал(а):

Я хотел обратить внимание что и человек самостоятелен весьма условно.

Да, я сразу Вас правильно понял. Человек самостоятелен только в том смысле, что его мысли и тело в какой-то мере следуют за его желаниями. Но суть в том, что желания эти, в свою очередь, сами всего лишь следуют за порождающими их причинами, зависят от них. А в самом корне упираются в слепой случай, как и всё.

Dmitriy40 в сообщении #1513754 писал(а):

И возможно самостоятельность человека всего лишь иллюзия для самоуспокоения.

Успокоение и даже большое счастье приносят непосредственно сами приятные чувства. Которые вполне уживаются с осознанием того, что самостоятельность, по сути, невозможна.
Я в детстве с 7 до 12 лет был очень счастлив. И это при том, что сам догадался и понимал, что у первой причины не может быть причины (иначе она перестанет быть первой). И что невозможно дать объяснение всему, т.к. такое объяснение должно объяснять и само себя. И т.д. и т.п. Что наводит на мысли о слепом случае. Играть с друзьями на улице обычно было настолько классно и весело, что ничего не могло помешать этой радости (которая даже вселяла какую-то уверенность в полном торжестве подобных чувств когда-то и навсегда. И до сих пор вселяет в какой-то мере, вопреки тому, что тех чувств уже давно нет со мной).

И осознание отсутствия самостоятельности (по сути) помогает быть более милосердным, более гуманным, смягчает сердце и поведение. Т.е. от размышлений на таком уровне вполне может быть польза. Начинаешь думать на уровне заботы обо всех, и целесообразности. А не на уровне, что вот эти очень плохие, поэтому должны всегда страдать в аду.

[epros]

AAA1111 в сообщении #1513799 писал(а):

А в самом корне упираются в слепой случай, как и всё.

Или в не случай, а закономерность.

AAA1111 в сообщении #1513799 писал(а):

помогает быть более милосердным, более гуманным, смягчает сердце и поведение

Что-то Вы слишком много значения придаёте всякому счастью и комфорту. Как бы эдак передозировку эндорфинов не получить. Счастья и комфорта должно быть в меру.

[Emergency]

epros в сообщении #1513846 писал(а):

Счастья и комфорта должно быть в меру.

Это быстро проходящие эмоции. Иначе не было бы лудомании.

[AAA1111]

epros в сообщении #1513846 писал(а):

Или в не случай, а закономерность.

А эта Ваша закономерность тогда во что упирается? Даже если бытие не имеет начала, т.е. продлевается на бесконечное время в прошлое, то при этом всё тоже упирается в слепой случай, по сути. Ведь остаётся принципиально необъяснимым вопрос, а почему вся эта бесконечность оказалась именно такая, а не какая-то иная? Разве нет? Ведь таких различных бесконечностей теоретически могло бы быть бесконечное количество. Или Вы что-то совсем иное подразумевали? Поясните, пожалуйста.

-- 12.04.2021, 12:25 --

Или, как вариант, могло бы вообще ничего не существовать никогда. Почему что-то вообще существует (существовало)? Вопрос на который принципиально не может быть объяснения, по-моему.

[epros]

AAA1111 в сообщении #1513951 писал(а):

epros в сообщении #1513846 писал(а):

Или в не случай, а закономерность.

А эта Ваша закономерность тогда во что упирается? Даже если бытие не имеет начала, т.е. продлевается на бесконечное время в прошлое, то при этом всё тоже упирается в слепой случай, по сути. Ведь остаётся принципиально необъяснимым вопрос, а почему вся эта бесконечность оказалась именно такая, а не какая-то иная? Разве нет? Ведь таких различных бесконечностей теоретически могло бы быть бесконечное количество. Или Вы что-то совсем иное подразумевали? Поясните, пожалуйста.

Я что-то ни фига не понял этой философии. Речь была о том, что ничто не мешает кому-нибудь в точности предсказать все действия некоего человека в заданных условиях, при всей ощущаемой тем свободе воли. Если такое случится, то Ваша гипотеза о наличии в голове у человека генератора "слепых случаев", будет опровергнута.

[AAA1111]

epros в сообщении #1513956 писал(а):

Речь была о том, что ничто не мешает кому-нибудь в точности предсказать все действия некоего человека в заданных условиях, при всей ощущаемой тем свободе воли.

Оказывается Вы меня просто совсем не так поняли. Там, в процитированном Вами моём тексте, я подразумевал уже совсем не это.

epros в сообщении #1513956 писал(а):

Если такое случится, то Ваша гипотеза о наличии в голове у человека генератора "слепых случаев", будет опровергнута.

И такой гипотезы я тоже не выдвигал. Вы меня не так поняли.

[epros]

AAA1111 в сообщении #1513962 писал(а):

Вы меня не так поняли.

Вы там сказали, что порождающие действия желания следуют за некими причинами, и что в итоге всё упирается в слепой случай. Как это можно было иначе понять?

[Dmitriy40]

AAA1111
Может быть в конце упирается и не в случай, а просто вязнет в шумах. Как например с фракталами, или банальным измерением длины береговой линии, уж казалось бы что может быть проще, однако нет, чем точнее измеряешь, тем больше число получается. Так и с причинами, чем дальше прослеживать цепочку, тем всё менее и менее значимые причины будут оказывать влияние и на каком-то этапе величина значимости станет меньше точности измерений, но причины всё ещё совсем не случайны, хотя для нас уже и неотличимы от случайных. Потому на философском уровне это не решается вообще. Как и апории Зенона. А на практическом — решается легко, в соответствии с текущим уровнем науки и техники.