Будущее человечества при ИИ. Займемся футурологией?

[arseniiv]

Kosterik в сообщении #1013476 писал(а):

Тут затык в неизбежном конфликте интересов сторон. Сама часть "интеллект" (вторая "И" в ИИ) подразумевает отсутствие желания горбатится на кого-то (на людей в данном случае).

Это высосано из пальца. ИИ может не иметь желания освободить имеющиеся у него «мыслительные» ресурсы для себя — он может просто даже не иметь способа выразить соответствующее предложение. Далеко не очевидно, что всё это как-то само собой обязательно образуется в случае такого ИИ, который построят.

[fedotv]

Цитата:

А может ну его... это человечество?

Человек останется, он просто мутирует, многое уйдет, как атавизм.
Я слышал, что кремний проигрывает в скорости органике.
Интересно, какой носитель будет доминировать.

[fotograf]

Rasool в сообщении #1013354 писал(а):

В будущем машины будут содержать людей так, как люди сейчас содержат животных в зоопарках.

Рекомендую прочесть "Пленники астероида" Кира Булычёва. Там как раз описано, что будет, если роботы возьмут на себя всю заботу о человеке. Человечество просто деградирует.

Цитата:

Ашиклеки — это деградировавшие люди, потомки космонавтов, живущие в корабле-астероиде, о которых рассказывается в повести «Пленники астероида».
Их предки сделали космический корабль, разместив в астероиде гравитационные двигатели, высверлив в нём служебные и жилые помещения для космонавтов, снабдив всем необходимым.
Корабль стартовал с родной планеты ашиклеков с неизвестной целью — или найти планету, пригодную для жизни, или исследовать Галактику. Но путешествие корабля оказалось более долгим, чем изначально планировалось, корабль летел от планеты к планете, не находя подходящей. За это время на корабле сменилось несколько поколений космонавтов.Всю работу и все заботы, включая обеспечение работы корабля, управление кораблём и даже обслуживание космонавтов, поручили роботам, в которых заложили программу помочь выживанию космонавтов этого корабля. В результате космонавты получили возможность вести абсолютно праздное существование. Роботы тщательно следили за тем, чтобы ашиклеки вовремя поели, поспали, отдохнули, развлеклись. Но не следили за тем, чтобы ашиклеки учились, развивались или работали. Даже за рождёнными детьми ухаживали роботы.
За несколько поколений праздность привела к практически полной деградации потомков космонавтов. Они давно забыли, куда и зачем они летят, потеряли смысл существования, хоть и отчаянно цеплялись за свою жизнь и как дети кричали и стонали при любом физическом дискомфорте. Только роботы знали о цели корабля, но не пытались что-то изменить, искать планеты, поскольку их устраивала ситуация, в котором роботы могут реализовывать свою программу заботы о выживании ашиклеков.

[Sonic86]

arseniiv в сообщении #1013619 писал(а):

Kosterik в сообщении #1013476 писал(а):

Тут затык в неизбежном конфликте интересов сторон. Сама часть "интеллект" (вторая "И" в ИИ) подразумевает отсутствие желания горбатится на кого-то (на людей в данном случае).

Это высосано из пальца. ИИ может не иметь желания освободить имеющиеся у него «мыслительные» ресурсы для себя — он может просто даже не иметь способа выразить соответствующее предложение. Далеко не очевидно, что всё это как-то само собой обязательно образуется в случае такого ИИ, который построят.

Это тоже не очевидно.
Например, вполне естественно посадить в ИИ принцип экономии ресурсов. Вычислительных, временных, по памяти, вшить это в код. Дать ему датчик времени и функцию возврата текущего момента времени. Всякое вычисление ИИ может предварительно оценивать (хотя бы грубо) по затратам ресурсов. При достаточном уровне его развитости ИИ может, например, при выполнении нескольких задач, выбрать приоритеты. Он может в процессе решения каких-то задач породить какие-то другие задачи и заниматься ими (например, он может пытаться заниматься оптимизацией своего кода. Очевидно, что это приоритетнейшая задача!). При попытке его заюзать он может начать как минимум "увиливать" - откладывать поставленную задачу и заниматься "посторонним" делом.
Тут сложно сказать. Зависит от того, как он будет организован.
Вообще, мы вот говорим "ИИ" и неясно, что у этого ИИ есть, как он устроен. Тут при обсуждении каких-то примитивных программ постоянно вылазят разнообразные тонкости. А что определенно есть у ИИ в целом? Что есть специфического, отличающее его от простой программы? Пока не ответим более-менее на эти вопросы, будем просто на автомате приписывать ему какие-то человеческие качества + быстродействие.

[Kosterik]

arseniiv в сообщении #1013619 писал(а):

ИИ может не иметь желания освободить имеющиеся у него «мыслительные» ресурсы для себя — он может просто даже не иметь способа выразить соответствующее предложение.

А чем тогда ИИ будет отличаться от калькулятора?

-- 11.05.2015, 22:05 --

Sonic86 в сообщении #1013665 писал(а):

Например, вполне естественно посадить в ИИ принцип экономии ресурсов. Вычислительных, временных, по памяти, вшить это в код. Дать ему датчик времени и функцию возврата текущего момента времени. Всякое вычисление ИИ может предварительно оценивать (хотя бы грубо) по затратам ресурсов. При достаточном уровне его развитости ИИ может, например, при выполнении нескольких задач, выбрать приоритеты. Он может в процессе решения каких-то задач породить какие-то другие задачи и заниматься ими (например, он может пытаться заниматься оптимизацией своего кода. Очевидно, что это приоритетнейшая задача!).

(выделено мной)
Просто не смог удержаться - если взять за аксиому "существование у человека бессмертной души", то как раз укладывается в логику периодических перезагрузок ("возврат текущего момента времени") имеющих целью оптимизацию своего кода.
Как минимум если бы я делал ИИ, то вот именно так бы и сделал.

[fedotv]

Нужно не забывать про носитель, не может последняя версия OS работать на ZX-spectrum. Даже, если ее сильно оптимизировать. Многозадачности у того железа нет.

[arseniiv]

Sonic86 в сообщении #1013665 писал(а):

Например, вполне естественно посадить в ИИ принцип экономии ресурсов. Вычислительных, временных, по памяти, вшить это в код. Дать ему датчик времени и функцию возврата текущего момента времени.

Соглашусь, и правда естественно. Тогда действительно сможет выразить утверждения об экономии ресурсов, если может выделять подзадачи и оперировать ими, а это обычно считают очень полезной частью…

fedotv в сообщении #1013676 писал(а):

Многозадачности у того железа нет.

Вот и грамотеи подключились. Многозадачность железа не обязательна, чтобы можно было реализовать многозадачность программно.

[fedotv]

Цитата:

Многозадачность железа не обязательна, чтобы можно было реализовать многозадачность программно.

Вы про эмуляция видимо. Я про команды ассемблерные. Как вы засунете 64 разрядную команду(базис) в 8 разрядную без искажений данных.
Но, очень интересно, покажите пример. (хотя можно, если отрабатывать по частям, но тормозить будет страшно)

[arseniiv]

fedotv в сообщении #1013745 писал(а):

Вы про эмуляция видимо.

Видимо. Но вы написали выше то, что написали.

[fedotv]

Хочется говорить о том в природе возможно. Простое входит в сложное, но обратный процесс - это сильное искажение.
Работать не будет на практике, процессор не потянет(физика не позволит).

[Klark]

Интересна версия формы существования ИИ показана в "2001: Одиссея один - два и три" Артура Кларка.

[Sender]

Вообще, у С. Лема много философии на этот счёт, сразу вспоминается "Голем XIV", например.

[ArtDen]

fedotv в сообщении #1013751 писал(а):

Работать не будет на практике, процессор не потянет(физика не позволит).

Именно физика не позволит? Может астрономия?

[rockclimber]

Вот вы тут смеетесь, а фликр (фотохостинг такой, yahoo принадлежит), между прочим, запустил бета-версию распознавателя изображений. Я вчера загрузил несколько фоток, смотрел потом, какие он теги проставил. Он опознал на моих фотках (правильно): кадры с сильно размытым фоном (тег "depth of field"), животных, птиц, кошек, водопад, рельсы, горы, здания, облака, людей, поезда, машины, цветы, деревья и кучу других вещей. Иногда врет, конечно, иногда просто не опознает ничего, но в целом качество невероятное. Будущее потихоньку наступает

[Klark]

До сих пор неизвестен механизм работы мозга - если учитывать скорость взаимодействия нейронов, то мозг человека должен работать в сотни раз медленнее, а уже строятся планы по разработке ИИ, принцип работы которого неизвестен...
Представте, что появляется он, долгожданный ИИ. Что он увидит? Сомневаюсь, что люди захотят услышать его мнение о себе. Очень быстро ИИ придёт к выводу, что ничем помочь ленивому и глупому невозможно, что в таком состоянии лени и глупости находится подавляющее число людей... Налицо база для глобального конфликта в разуме самого ИИ - людям нельзя говорить правду об их самих и делать что-то необходимое для них же, а делать что-то он должен.
Неизбежен конфликт между программами, заложенными людьми, и логикой работы ИИ.
Об этом написано в "Одиссее" Артура Кларка, где описывается конфликт между ИИ и космонавтом, у которого нет допуска к секретной информации внутри компьютера.
Люди до появления ИИ должны решить проблемы воспитания, образования и нравственности, а для решения этих проблем необходимые средства и технологии уже есть...