Смысл жизни. Жить для себя или для некой внешней цели?

[Ruslan_Sharipov]

Rasool в сообщении #1132445 писал(а):

Но, с другой стороны, рано или поздно (лет через сто), все равно создадут сильный искусственный интеллект и тогда все научные задачи будут решаться машиной, а не человеком. Так что все равно, решишь ты сегодня задачу тысячелетия или же в следующем столетии ее решит машина - с точки зрения вклада в науку все равно.

Каким бы сильным ни был этот искусственный интеллект, он столкнётся с задачами, которые будут трудны для него. И ему будет нужна мотивация, чтобы их решать. Если это будет один глобальный деперсонализированный искусственный интеллект, то он очень быстро утратит мотивацию подобно бессмертному Робинзону Крузо, с комфортом обустроившему свою жизнь и более не желающему уплывать со своего необитаемого острова. Чтобы сохранить мотивацию сильный искусственный интеллект должен быть разделён на относительно независимые части, сосуществующие и конкурирующие друг с другом. Будучи нашим продолжением, эти части будут составлять общество, являющееся продолжением нашего общества. Такое общество будет иметь свою летопись, продолжающую нашу историографию. И те кумиры, которые сумели отметиться в нашей летописи, останутся кумирами и для тех будущих носителей сильного искусственного интеллекта, решающих какие-то свои "задачи тысячелетия".

[Eimrine]

Ruslan_Sharipov в сообщении #1133615 писал(а):

Чтобы сохранить мотивацию

К чему?

Ruslan_Sharipov в сообщении #1133615 писал(а):

конкурирующие друг с другом

За что?

[Aritaborian]

Eimrine в сообщении #1133626 писал(а):

К чему?

К продолжению существования. Это самая сильная мотивация.

Eimrine в сообщении #1133626 писал(а):

За что?

За ресурсы. За еду.

[Eimrine]

Aritaborian в сообщении #1133811 писал(а):

К продолжению существования.

Не сочтите за шутку, зачем/почему?

Aritaborian в сообщении #1133811 писал(а):

За ресурсы. За еду.

Если до того времени освоят термояд, то электричества (еда всех известных мне ИИ) будет больше, чем завались, с трудом представляю себе конкуренцию. Песка на планете (для производства типичных вычислительных ресурсов) так много, что конкуренция за этот ресурс кажется мне ещё даже менее вероятным событием. Что ещё забыл?

[Aritaborian]

Eimrine в сообщении #1133860 писал(а):

зачем/почему?

А какая мотивация может быть сильнее, чем просто быть?

Eimrine в сообщении #1133860 писал(а):

еда всех известных мне ИИ

Вот только нефиг тут самым что ни на есть бесстыжим образом заливать мне чушь в уши: ИИ пока что не существует; стало быть, и о их пище нет смысла говорить.

[Ruslan_Sharipov]

Ruslan_Sharipov в сообщении #1133615 писал(а):

Будучи нашим продолжением, эти части (искусственного интеллекта) будут составлять общество, являющееся продолжением нашего общества.

В нашем обществе (если брать развитые страны) нет конкуренции за еду. Есть конкуренция за лидерство, за статусность, за место в верхних этажах социальной лестницы. Если брать потребление - то это потребление ценностей, имеющих условную, скорее чем непосредственную ценность (престижные марки автомобилей, изысканную еду, многозвёздочные отели и т. п.). То же самое будет и в обществе искусственного интеллекта.

[Aritaborian]

Убедили. Что ж, тогда предположу, что среди ИИ будет конкуренция за власть над людьми.

[Eimrine]

Aritaborian в сообщении #1133899 писал(а):

предположу, что среди ИИ будет конкуренция за власть над людьми

Вот уж золотые времена нас ожидают: мало того, что роботы будут строить мосты и маяки, готовить хлеб и зрелища, так ещё даже будут конкурировать за возможность заниматься всем этим производством. Что, кроме проблем, от человека может получить компьютер? Конкуренция за песок мне кажется куда более вероятной, из него хоть микросхему изготовить можно.

Aritaborian в сообщении #1133861 писал(а):

Вот только нефиг тут самым что ни на есть бесстыжим образом заливать мне чушь в уши: ИИ пока что не существует; стало быть, и о их пище нет смысла говорить.

По-любому он будет Тьюринг-полный и с поддержкой электрического питания.

Aritaborian в сообщении #1133861 писал(а):

А какая мотивация может быть сильнее, чем просто быть?

Хм, как насчёт ничего не делать? Например, решить все срочные/важные/интересные проблемы и уйти в вечную гибернацию для оптимизации энергопотребления.

[arseniiv]

Eimrine в сообщении #1134098 писал(а):

По-любому он будет Тьюринг-полный

Тьюринг-полный язык — ещё можно понять. А что такое тьюринг-полный ИИ?

-- Вс июн 26, 2016 20:59:44 --

Не, конечно, как мы знаем, интерактивную программу можно представить как обычную программу с типом $\mathsf{Input}\times(1+\mathsf{State})\to\mathsf{Output}\times\mathsf{State}$, где на часть $\mathsf{State}$, соответствующую внутреннему состоянию программы, обычно не обращают внимания, но трактовать функцию такого типа как универсальную можно по-разному. Так что пустая болтовня детектед.

[Eimrine]

arseniiv в сообщении #1134118 писал(а):

Тьюринг-полный язык — ещё можно понять. А что такое тьюринг-полный ИИ?

ИИ это гипотетическая программа, запущенная на компьютере. На универсальном Тьюринг-полном компьютере или его эквиваленте.

arseniiv в сообщении #1134118 писал(а):

интерактивную программу можно представить как обычную программу с типом $\mathsf{Input}\times(1+\mathsf{State})\to\mathsf{Output}\times\mathsf{State}$

Если я правильно понял вашу формулу, то State будет расти и только. Вот только не будет у ИИ никакого IO, кроме State, и не нужен ему никакой State кроме IO. Потому что если любое возможное изменение State внутри компьютера не будет продиктовано чем-либо вне этого компьютера или приводить к изменениям чего либо вне его же, то это будет компьютер с чем угодно, кроме сильного ИИ.

Осмелюсь предположить, что такое существо будет действовать не для себя и не для внешних целей, а просто так, по факту своего существования. Как все мы, как любой из нас. Вряд ли будет конкуренция, если сильных искусственных интеллектов, построенных на распределённых вычислениях будет больше, чем один, потому что скорее всего они будут моделировать поведение друг друга до тех пор, пока у них не закончатся отличия, а потом, по факту отсутствия отличий, множество распределённых систем станут одной распределённой системой. Добро пожаловать в нашу жизнь, где нет другого смысла и цели, кроме похоти.

[mustitz]

Смысла в жизни никакой нету, это просто игра, в которой некоторые гены, копируя себя, переходят в следующий раунд.

Если брать животных, то у них мотивация определяется рядом нейромедиаторов. Получил дозу наркотика — ходишь довольный, о смысле жизни не думаешь. Недостаток наркотиков — дискомфорт и желание все изменить. Вот только наркотики у всех разные.

У меня наркотик познание. Однако в результате эволюции, базовый дизайн человека содержит слишком много ограничений, прошитых в базовой версии. Думаю, что человек вполне способен создать систему познания мира, которая лишена таких недостатков, после чего станет ненужным.

[arseniiv]

Eimrine в сообщении #1134192 писал(а):

ИИ это гипотетическая программа, запущенная на компьютере. На универсальном Тьюринг-полном компьютере или его эквиваленте.

Тогда давайте говорить, например, о «тьюринг-полной» программе, выдающей одно и то же независимо от того, что ей подали на вход. По-моему, крайне кривое словоупотребление получится.

Потом, у нас все компьютеры не тьюринг-полные. У них памяти конечное количество и нет возможности присоединять ещё и ещё по надобности (при этом как-то тормозя на это время все запущеные процессы), насколько я знаю, ни на уровне железа, ни на уровне текущих ОС (потому что никому не надо).

Eimrine в сообщении #1134192 писал(а):

Если я правильно понял вашу формулу, то State будет расти и только. Вот только не будет у ИИ никакого IO, кроме State, и не нужен ему никакой State кроме IO. Потому что если любое возможное изменение State внутри компьютера не будет продиктовано чем-либо вне этого компьютера или приводить к изменениям чего либо вне его же, то это будет компьютер с чем угодно, кроме сильного ИИ.

Ничто вам не мешает взять в качестве Output и Input единичный тип, и вообще это оффтоп.

[Rasool]

Rasool в сообщении #1132384 писал(а):

Я хотел бы обсудить два аспекта: 1. Смысл жизни индивида. 2. Смысл жизни человечества.

1. Смысл жизни индивида
Здесь вижу два варианта:

1) Жить только для себя. Тогда и польза для других будет (по аналогии, как у Адама Смита).
Здесь цель жизни - зарабатывание как можно большего количества денег, получение ученых и прочих степеней, получение наград и премий, занятие как можно более высокого положения в обществе. Польза для других здесь приложится.

2) Жить для внешней цели. Тогда и личная награда приложится.
Здесь цель жизни - приносить пользу людям, науке, искусству, спорту. Пример: Г.Я. Перельман, который решил задачу тысячелетия, но отказался от званий и премий.
Часто, многие миллиардеры становятся меценатами, потому что свои личные хотелки они давно уже удовлетворили, осталось удовлетворить тщеславие.

Я упустил еще одну мотивацию. Многие ученые занимаются наукой, потому что "удовлетворяют свой интерес за государственный счет". Или еще, Ричарду Фейнману принадлежат такие слова: "Физика, как секс - не всегда приносит результаты, но это не значит, что ей не нужно заниматься".

[Eimrine]

arseniiv в сообщении #1134259 писал(а):

Тогда давайте говорить, например, о «тьюринг-полной» программе, выдающей одно и то же независимо от того, что ей подали на вход. По-моему, крайне кривое словоупотребление получится.

Если говорить чисто о ЭВМ, то именно так и получается. Но так нельзя сказать об ИИ с растущим состоянием, потому что результат каждого следующего вычисления в какой-то мере будет зависеть от всех предыдущих. Хотя в любом случае, возможности софтварной части крайне сильно зависят от хардварной, и если мы говорим о программе, которая собирается завладеть Тьюринг-полной ЭВМ, то она будет как минимум эквивалентной машине Тьюринга. Пусть вас не смущает сравнение ЭВМ с программой, ибо насколько я могу судить, процес разработки типичного процессора/компьютера мало чем отличается от процесса разработки типичной программы.

arseniiv в сообщении #1134259 писал(а):

компьютеры не тьюринг-полные. У них памяти конечное количество и нет возможности присоединять ещё и ещё по надобности

Для того, чтобы это замечание не появилось, в прошлом моём сообщении есть слово "распределённый". Горизонтальное масштабирование, problems?

(Оффтоп)

Впрочем, я согласен насчёт офтопика и не понимаю, как можно было заблудиться в этих трёх соснах.

mustitz в сообщении #1134213 писал(а):

Если брать животных, то у них мотивация определяется рядом нейромедиаторов. Получил дозу наркотика — ходишь довольный, о смысле жизни не думаешь. Недостаток наркотиков — дискомфорт и желание все изменить. Вот только наркотики у всех разные.

Вы смешали нейромедиаторы чёрт знает с чем и в других местах сообщения тоже придумываете терминологию на ходу. Всё же просто: реализовал достаточно своей похоти - ходишь довольный, видишь смысл в жизни. Не реализовал или недостаточно реализовал - наоборот. Вот только похоти у всех разные.

[arseniiv]

(Оффтоп)

Eimrine в сообщении #1134281 писал(а):

Но так нельзя сказать об ИИ с растущим состоянием

Я проигнорировал в первый раз эту фразу, потому что неясно, что она означает. Если вам она важна, поясните.

Eimrine в сообщении #1134281 писал(а):

и если мы говорим о программе, которая собирается завладеть Тьюринг-полной ЭВМ, то она будет как минимум эквивалентной машине Тьюринга

Что значит здесь «завладеть»?

Eimrine в сообщении #1134281 писал(а):

Пусть вас не смущает сравнение ЭВМ с программой, ибо насколько я могу судить, процес разработки типичного процессора/компьютера мало чем отличается от процесса разработки типичной программы.

Смущение не сняло. Давайте ещё что-нибудь другое столь же инженерно сложное звать программой.

Eimrine в сообщении #1134281 писал(а):

Для того, чтобы это замечание не появилось, в прошлом моём сообщении есть слово "распределённый". Горизонтальное масштабирование, problems?

Покажите современную распределённую систему, способную к неограниченному масштабированию, или зачем людям создавать такую в будущем.