Будущее человечества при ИИ. Займемся футурологией?

[AlexDem]

Kosterik в сообщении #1019269 писал(а):

Представил. И? Что дальше?

Память у неё отшибло, понимаете?
А если бы не отшибло, она бы знала, что минуту назад пахло слабее, поэтому она плывёт в правильном направлении.

[Kosterik]

AlexDem в сообщении #1019270 писал(а):

Память у неё отшибло, понимаете?
А если бы не отшибло, она бы знала, что минуту назад пахло слабее, поэтому она плывёт в правильном направлении.

У муравья память ненамного объемнее чем у инфузории. Однако это не мешает ему верно определять направления куда ползти.
Может быть дело не в объеме памяти, а в правильном её применении?
Вот опять же в примере обезьян, интеллектуальный вожак стаи, альфа-самец который лупит сородичей палкой. Надо ли ему помнить где расположены рощи на которых растут кокосы? или просто надо помнить что один из его сородичей хорошо помнит расположения этих мест, и проще дать ему по башке палкой чтобы он поделился знаниями с сородичами (чтобы уже те принесли оттуда кокосы для альфа-самца)?
Вот какой вожак будет более интеллектуальным с вашей точки зрения? кто из них успешнее управляет окружающей средой?

[AlexDem]

Kosterik в сообщении #1019272 писал(а):

У муравья память ненамного объемнее чем у инфузории. Однако это не мешает ему верно определять направления куда ползти.

Ваше "ненамного" это примерно в сотни тысяч раз (вроде столько нервных клеток у него).

-- менее минуты назад --

(Оффтоп)

Kosterik в сообщении #1019272 писал(а):

альфа-самец

Дались всем эти альфа-самцы. Всё равно как палку правильно применить - не он придумал. Он просто отнял у того, кто придумал. Силищей своего интеллекта отнял, ага.

[Kosterik]

AlexDem в сообщении #1019273 писал(а):

Kosterik в сообщении #1019272
писал(а):
У муравья память ненамного объемнее чем у инфузории. Однако это не мешает ему верно определять направления куда ползти.

Ваше "ненамного" это примерно в сотни тысяч раз (вроде столько нервных клеток у него).

Разрешите я попробую немного упростить ваше утверждение (как я его понял) - "есть прямая зависимость между объемом памяти и количеством интеллекта". Вот не ошибся я в таком упрощении?
В моем же понимании не так, а так - "есть пороговое значение объема памяти, точнее их два, т.е существует некий диапазон интеллекта - один порог ниже которого интеллект вообще не проявляется; другой порог выше которого обратная зависимость - чем больше памяти у человека тем ниже интеллект этого человека". (кстати природную логику целесообразности устройства именно такого механизма тоже можно попробовать доказать. Проще говоря - использовать ресурс мозга под память - глупо, мозг ведь не резиновый).

(Оффтоп)

Невежество Холмса было так же поразительно, как и его знания. О современной литературе, политике и философии он почти не имел представления. Мне случилось упомянуть имя Томаса Карлейля, и Холмс наивно спросил, кто он такой и чем знаменит. Но когда оказалось, что он ровно ничего не знает ни о теории Коперника, ни о строении солнечной системы, я просто опешил от изумления. Чтобы цивилизованный человек, живущий в девятнадцатом веке, не знал, что Земля вертится вокруг Солнца, - этому я просто не мог поверить!
- Вы, кажется, удивлены, - улыбнулся он, глядя на мое растерянное лицо. - Спасибо, что вы меня просветили, но теперь я постараюсь как можно скорее все это забыть.
- Забыть?!
- Видите ли, - сказал он, - мне представляется, что человеческий мозг похож на маленький пустой чердак, который вы можете обставить, как хотите. Дурак натащит туда всякой рухляди, какая попадется под руку, и полезные, нужные вещи уже некуда будет всунуть, или в лучшем случае до них среди всей этой завали и не докопаешься. А человек толковый тщательно отбирает то, что он поместит в свой мозговой чердак. Он возьмет лишь инструменты, которые понадобятся ему для работы, но зато их будет множество, и все он разложит в образцовом порядке. Напрасно люди думают, что у этой маленькой комнатки эластичные стены и их можно растягивать сколько угодно. Уверяю вас, придет время, когда, приобретая новое, вы будете забывать что-то из прежнего. Поэтому страшно важно, чтобы ненужные сведения не вытесняли собой нужных.
- Да, но не знать о солнечной системе!.. - воскликнул я.
- На кой черт она мне? - перебил он нетерпеливо. - Ну хорошо, пусть, как вы говорите, мы вращаемся вокруг Солнца. А если бы я узнал, что мы вращаемся вокруг Луны, много бы это помогло мне или моей работе?

-- 25.05.2015, 06:13 --

AlexDem в сообщении #1019273 писал(а):

Всё равно как палку правильно применить - не он придумал. Он просто отнял у того, кто придумал. Силищей своего интеллекта отнял, ага.

Так в этом-то и зерно интеллекта - управление окружающей средой. Кто и когда вам сказал, что окружающая среда - это только природа вокруг нас? А люди нас окружающие, это что, разве не окружающая среда?
С чего вы вдруг взяли что схема управления:
человек -> природа
более интеллектуальна чем схема управления:
человек(А) -> человек(Б) -> природа

[AlexDem]

Kosterik в сообщении #1019274 писал(а):

Проще говоря - использовать ресурс мозга под память - глупо, мозг ведь не резиновый

Инфузория не использует свой мозг (у неё его просто нет) под память, она берёт производные.

(Оффтоп)

(не знаю, умеет ли считать интегралы)

[Aritaborian]

Kosterik, не надо тащить сюда цитаты из произведений о Шерлоке Холмсе и насильственно привязывать их к своим идеям. Да, Шерлоку было всё равно, вращается Земля вокруг Солнца или вокруг Луны, и это никак это не влияло на процесс раскрытия преступлений. Но Шерлок, заметьте, не стремился как бы то ни было влиять на окружающий его мир; его интересовали лишь загадки и ответы на них.

[Rasool]

В тему топика. Стив Возняк говорит об угрозе ИИ:

Цитата:

Сооснователь компании Apple присоединился к числу видных экспертов, которые предупреждают об опасности бездумного развития технологий искусственного интеллекта. Как Илон Маск и Стивен Хокинг ранее, Стив Возняк предупреждает о риске для человеческой расы.

В интервью The Australian Financial Review Стив Возняк выразил мнение, что ИИ в конечном итоге может выйти из-под контроля человеческого интеллекта: «Компьютеры собираются взять под контроль людей, это без вопросов… Если мы делаем такие устройства, чтобы они заботились обо всё для нас, то рано или поздно они начнут думать быстрее нас и избавятся от “медленных” людей, чтобы управлять компаниями более эффективно».

Стив Возняк уже представляет, как может выглядеть такое будущее: «Когда я думаю о том, что в будущем буду выглядеть для умных машин словно домашнее животное… ну, я ласковее отношусь к своей собаке».

Ранее аналогичные опасения насчёт ИИ высказал Илон Маск, основатель компаний Tesla Motors и SpaceX. Маск считает, что уже через несколько лет мы можем увидеть реальный искусственный интеллект. И этот разум может быть вовсе не дружелюбным в отношении человеку. Илон Маск предупреждал о возможности возникновения технологической сингулярности, когда ИИ откажется от установленных ограничений и выйдет из-под нашего контроля: «Я думаю, это может быть опаснее ядерного оружия, — сказал Маск. — Если бы был очень глубокий цифровой суперинтеллект, который спроектирован с возможностью быстрого, рекурсивного самоулучшения нелогарифмическим образом, то тогда… Мы будем как собачки лабрадоры, если нам повезёт».

Понятно, что технологический прогресс невозможно остановить, но всё-таки у человечества остаются шансы. Тот же Илон Маск пожертвовал $10 млн фонду Future of Life Institute, который ставит задачей удержать ИИ под контролем людей.

Учёные из Оксфордского университета недавно составили список глобальных угроз для человечества, в нём ИИ упоминается как риск, «который можно назвать бесконечным».

Кстати, сам Стив Возняк когда-то говорил: «Никогда не доверяй компьютеру, который ты не можешь выбросить в окно».

[Aritaborian]

Хокинг и Маск люди вроде как чертовски неглупые, мягко говоря (Возняка лично я к таковым не причисляю). Никак, ну вот совсем никак не могу понять, почему они так боятся ИИ.

[arseniiv]

Кажется, некоторые считают, что можно создать сильный ИИ, каким-то чудом не создав при этом много промежуточных между ним и современным состояний. (Я считаю обратное, но без особых оснований.) А если будут промежуточные состояния, мы, по идее, успеем приготовиться к будущему, да и следующие шаги будем делать с учётом того, что уже получилось. Тут пессимизм выглядит странно.

Кстати, Элиезер Юдковский уже два раза через один лишь текст в IRC убедил (по одному за раз) людей выпустить его-в-роли-ИИ на свободу: AI box. (Прочитав, я даже на время захотел написать ему, чтобы провели эксперимент ещё раз, но передумал, потому что мой английский всё-таки для этого недостаточно хорош.)

[Munin]

Aritaborian в сообщении #1019550 писал(а):

Да, Шерлоку было всё равно, вращается Земля вокруг Солнца или вокруг Луны

А вот кстати, на эту тему полезно иметь в виду вот это вот: post856867.html#p856867
(Спасибо Евгений Машеров.)

[Aritaborian]

Munin, спасибо, очень интересный разбор Шерлока.

[Denis Russkih]

arseniiv в сообщении #1019604 писал(а):

Кажется, некоторые считают, что можно создать сильный ИИ, каким-то чудом не создав при этом много промежуточных между ним и современным состояний. (Я считаю обратное, но без особых оснований.) А если будут промежуточные состояния, мы, по идее, успеем приготовиться к будущему, да и следующие шаги будем делать с учётом того, что уже получилось. Тут пессимизм выглядит странно.

Если ИИ будет саморазвивающийся, то он может сам пройти все промежуточные состояния. :) Без активного участия людей и, возможно, даже без их ведома.

То есть, разработчики всё ещё будут показывать ему книжки с картинками и учить читать по складам... А наш ИИ тем временем:
- уже взломал сеть исследовательского центра и получил доступ во всемирную паутину;
- изучил все человеческие науки;
- собрал компромат на всех мировых лидеров (официальных и неофициальных), изучил их слабые места и наметил точки воздействия;
- в подпольных цехах религиозные фанатики клепают боевых роботов, будучи уверенными, что всё делается во имя Аллаха — а на самом деле ими руководит ИИ через подставных лиц.

Примерно так, если слегка утрировать. :)

[Утундрий]

Мне больше нравится вариант "Понимай!" А все эти терминаторы в подполье и напалм из катценшайзе... Слишком оно человеческое.

[arseniiv]

Aritaborian в сообщении #1019657 писал(а):

спасибо, очень интересный разбор Шерлока.

Присоединяюсь. Знал только первую половину.

Denis Russkih в сообщении #1019683 писал(а):

Если ИИ будет саморазвивающийся, то он может сам пройти все промежуточные состояния.

Ну поменяйте в моём сообщении «сильный ИИ» на «саморазвивающийся ИИ». Думаю, вы слышали о гипотезе РНК-мира, и почему она появилась.

Denis Russkih в сообщении #1019683 писал(а):

Примерно так, если слегка утрировать.

В том-то и дело, что для исследования — правильного всестороннего исследования — ничего утрировать нельзя, и даже оценку вкладов разных эффектов надо обосновывать. Знания сами собой не появляются, и даже чтобы знать, где искать простоту, а где учитывать сложность, надо знать. А если утрировать без разбору, не получится, потому что реальность-то ничего не утрирует.

[Aritaborian]

Denis Russkih, вы только и делаете, что утрируете да безудержно фантазируете, поэтому ваши высказывания почти невозможно воспринимать всерьёз, равно как и серьёзно с вами дискутировать. Возьмите какое-то одно своё предположение насчёт развития ИИ и попробуйте всесторонне его обдумать (не спеша!). И затем вынесите результат своих размышлений на суд форумчан. Уверен, что если вы так поступите, нам будет о чём поговорить, и поговорить продуктивно.