Мысленный эксперимент с искусственным интеллектом.

[Dru]

Представим, что в будущем, люди создадут искусственный интеллект (ИИ) в виртуальной среде, в которой он сможет исследовать созданный нами виртуальный мир. При этом, ИИ, разумеется, не сможет никакими опытами определить, что его мир — это набор высоких и низких уровней напряжения в транзисторах нашего компьютера. Также, он не будет иметь никакой связи с «внешним миром» (например, нельзя будет с ним общаться через микрофон или текстовые сообщения) для общения с людьми. В дальнейшем, продолжая развиваяться, он, возможно достигнет такого уровня, что сможет сам создать ИИ в созданном им виртуальном мире, который также не будет иметь связи с внешним, и т.д. Получается своеобразная матрёшка. Каков шанс того, что наш мир, в таком случае, сам не является «внутренней матрешкой» внутри более развитого?

Одну из границ (к счастью, нижнюю) интервала вероятности даст, количество известных нам миров включая наш (N). Вероятность того, что наш мир был первоисточником, будет меньше или равна $\frac1N$, а вероятность того, что наш мир был создан внешним более $\frac{N-1}N$. К примеру, если этих миров, вместе с нашим будет 10, то $P = \frac9{10}$. Т.О., даже если нам удастся создать ИИ, способный к обучению, но не сумевший создать внутри себя «матрёшку», то N уже равна 2, а значит P болше 50%!
Есть ли в этих рассуждениях ошибки?

[arseniiv]

(Оффтоп)

Интересно вы вероятностями манипулируете…

[Dru]

arseniiv в сообщении #508576 писал(а):

(Оффтоп)

Интересно вы вероятностями манипулируете…

Допустим у вас есть генератор случайных чисел (ГСЧ), модуль которого (M) вы не знаете. ГСЧ сгенерировал число N. Какова вероятность, что N=M? Она равна $\frac1M$. М не известно, но известно, что ${N}\le{M}$. Поэтому, $P(N=M)\le\frac1N$. Отсюда и 2-я формула. Так что, никаких манипуляций.

[anik]

Dru в сообщении #508554 писал(а):

Представим, что в будущем, люди создадут искусственный интеллект (ИИ) в виртуальной среде

Попытаемся это представить. Но, сначала определимся с тем, что значат: ИИ, и виртуальная среда, а то получается разговор неизвестно о чём.
Итак, есть природа и некоторая её часть – человек, как разумное начало в этой природе. Человек, это «натуральный интеллект», а окружающая его природа это «натуральная среда». Человек связан с окружающей природой и воспринимает её посредством органов чувств. Далее, другие люди (мы) хотим обмануть этот натуральный интеллект (НИ) и подключаем к его органам чувств некоторые задатчики, которые и создают нереальный, т.е. виртуальный мир. Конечно, эти задатчики связаны с какой-то компьютерной системой, имитирующей окружающую природу, но эта природа нереальна.
Внешне это может выглядеть как участник компьютерной игры, у которого не просто шлем, но некоторый скафандр, изолирующий человека от реального мира. В качестве фрагмента виртуальной среды представлена война 1912г. а участник игры, НИ (натуральный интеллект), представлен Наполеоном.
Можно эту ситуацию представить по-другому. Больной шизофренией считает себя Наполеоном, и «участвует» в некотором виртуальном сражении, но не терпит поражение, а побеждает.
Неужели в нормальном мире (не виртуальном) от этого что-то изменится? Если этот, с позволения сказать, Наполеон создаст в своём виртуальном мире свой «ИИ», то можно ли такой «ИИ» рассматривать всерьёз, наряду с реальным ИИ?
Виртуальный мир создаётся в сознании человека, как некоторая модель реального мира. Ровно насколько «виртуальный мир» в сознании человека соответствует реальному миру, ровно настолько его понимание окружающей среды адекватно самой природе.
Иногда у меня создаётся впечатление, что некоторые математики и физики уходят слишком далеко в виртуальный мир.

[Dru]

anik в сообщении #508695 писал(а):

другие люди (мы) хотим обмануть этот натуральный интеллект (НИ) и подключаем к его органам чувств некоторые задатчики, которые и создают нереальный, т.е. виртуальный мир

Нет конечно, вы не так поняли. Подключить наш мозг к компьютеру это куда более сложная задача (но даже при такой формулировке, выводы те же).
Речь вот о чём: Если мы полностью разберёмся в алгоритме мышления (и поступков) человека, то сможем написать программу (ИИ), которая сможет исследовать виртуальный 3D мир, также созданный в нашем компьютере. Никого из людей, при этом подключать к компьютеру не нужно.

anik в сообщении #508695 писал(а):

Неужели в нормальном мире (не виртуальном) от этого что-то изменится?

Изменится наше знание о вероятности. Думаю, пример с матрёшкой и ГСЧ это проясняют.

[EtCetera]

См. рассказ "Странные ящики профессора Конкорана" (цикл "Из воспоминаний Йона Тихого") Станислава Лема.

[anik]

Dru в сообщении #508723 писал(а):

Речь вот о чём: Если мы полностью разберёмся в алгоритме мышления (и поступков) человека, то...

Не представляю себе, как можно полностью разобраться в алгоритме и поступках человека (какого именно?) в отрыве от его взаимоотношений с природой, причём реальной. Неужели для того, чтобы "изменить наши знания о вероятности" нужно пройти такой сложный путь?

[arseniiv]

(Оффтоп)

Dru, не забудьте перед чтением сообщений anik посмотреть в его профиле, каких он ещё написал.

[anik]

arseniiv, спасибо за рекламу.

[Dru]

Товарищи, пожалуйста отвечайте только по теме! Единственный вопрос на который нужно ответить - в конце первого сообщения.

anik в сообщении #508734 писал(а):

как можно полностью разобраться в алгоритме и поступках человека ...

anik, ваша точка зрения понятна (кажется), но говорить об этом - уже другая тема.
Поэтому, считайте вопрос сформулированным так: "Если бы люди создали подобную "матрёшку", означало ли бы это, что вероятность того, что наша Вселенная сама является "матрёшкой" внутри другой, больше 50%? Если нет, скажите, где ошибка."

[anik]

Если "наша Вселенная" является матрёшкой в Вашем сознании, то вероятность того, что "наша" т.е. Ваша вселенная является матрёшкой может быть даже больше 50%, она (вероятность) может быть даже равна 1!
Вы же хотите при помощи Ваших умозаключений сделать весьма не хилый вывод о свойствах Вселенной, или я опять что-то не так понял?
Может быть Вам следовало привести не столь амбициозный пример?

[epros]

anik в сообщении #508774 писал(а):

Единственный вопрос на который нужно ответить - в конце первого сообщения.

Я бы сказал так, что вот это:

Dru в сообщении #508554 писал(а):

Вероятность того, что наш мир был первоисточником, будет ...

противоречит вот этому:

Dru в сообщении #508554 писал(а):

При этом, ИИ, разумеется, не сможет никакими опытами определить, что его мир — это набор высоких и низких уровней напряжения в транзисторах нашего компьютера.

Если ИИ не может распознать наличие или отсутствие "высшего мира", то и нам, будь мы сами ИИ, это не удастся. Даже в терминах каких-то там "вероятностей".

[Dru]

epros, я имел ввиду, что ИИ не сможет каким-либо опытом определить, как устроен внешний мир (помните, там что-то говорилось про транзисторы), но это не значит, что он не сможет догадаться о высокой вероятности его существования (например, построив следующий). Впрочем, он может догадаться, а может и нет, дело это не меняет. Тот факт, что мы можем создать только виртуальный мир, ограниченный ресурсами (например объемом жесткого диска и оперативки), да и сама теория вероятности требуют, чтобы этот набор "матрёшек" не был бесконечным. А значит будет существовать мир, который, хотя и будет разумным (хоть немного ), из-за ограниченности ресурсов не сможет породить следующий.
PS: Мне показалось, вы не верно поняли, что я имел ввиду под словом "первоисточник". Это та самая 1-я матрёшка, которую никто не создавал.

[epros]

Dru в сообщении #509278 писал(а):

я имел ввиду, что ИИ не сможет каким-либо опытом определить, как устроен внешний мир (помните, там что-то говорилось про транзисторы), но это не значит, что он не сможет догадаться о высокой вероятности его существования

Вопрос о существовании тоже в некотором смысле относится к "устройству". И потом, что значит "догадаться"? Есть люди, которые упорно верят в высшие миры или в надмировые силы, есть - которые упорно не верят, а есть такие, кому это до лампочки.

Dru в сообщении #509278 писал(а):

Тот факт, что мы можем создать только виртуальный мир, ограниченный ресурсами (например объемом жесткого диска и оперативки)

Какими именно ресурсами мы ограничены? Я могу посчитать ресурсы, которыми ограничен мой комп, но его ведь можно проапгрейдить. И я не знаю где именно лежит принципиальная граница...

Dru в сообщении #509278 писал(а):

Это та самая 1-я матрёшка, которую никто не создавал.

Хотя на первый взгляд и понятно, но если покопаться ... "Природные силы" можно считать "тем, кто нас создал"? Или наш создатель должен обладать какими-то специфическими качествами?

[Dru]

epros в сообщении #509549 писал(а):

Вопрос о существовании тоже в некотором смысле относится к "устройству"

Да это так . Но ИИ никак не сможет узнать, например, какие законы физики действуют у нас, как устроен наш организм и т.д.

Под выражением "сможет догадаться", я имел в виду, что ему может прийти в голову такая мысль (например, после осознания своего огромного творческого и познавательного потенциала).

epros в сообщении #509549 писал(а):

Какими именно ресурсами мы ограничены?

Просто я считаю, что пространство нашей Вселенной квантуемо и имеет границы. Но это другая тема. Даже если предположить, что это не так и у нас в распоряжении неограниченные ресурсы пространства и материи, то все-равно, мы не можем создать винт с бесконечным объёмом памяти, но лишь сколь угодно, ограниченно большим. Поэтому, даже если мы будем ежедневно апгрейдить наш компьютер, в какой бы реальный момент времени мы его не проверили, то его ресурсы -- ограничены, а значит, и матрёшка в нём не бесконечна.

epros в сообщении #509549 писал(а):

"Природные силы" можно считать "тем, кто нас создал"?

Не совсем понял о чём вы? Вы считаете теорию эволюции доказанной? Уточните, пожалуйста, что вы хотели сказать.