Будущее человечества при ИИ. Займемся футурологией?

[kry]

Xugin в сообщении #1027160 писал(а):

А что мешает ИИ мягко влиться в эволюционный процесс? Обычный интеллект ведь продукт приспособления к выживанию, ИИ его модификация для иного носителя.

Нет никаких особых преград, чтобы ИИ смог влиться в такой эволюционный процесс, вопрос лишь в том, зачем это ИИ и его создателям? Биологическая эволюция процесс, мягко скажем, очень медленный, а эволюция ИИ идёт со скоростью на много порядков выше. Просто, как мне кажется, это примерно тоже самое, если бы автомобили вливались в эволюционный процесс и притворялись лошадьми, а для этого бы развивали бы скорость в 20 километров в час. Ну согласитесь, что это странно?

-- 15.06.2015, 01:38 --

Munin в сообщении #1027162 писал(а):

Это пока мы ещё сами контролируем её развитие... А когда отдадим его на откуп ИИ, то...

(Кстати, люди могут и сами толкнуть к чему-то такому. Начнётся всё с какого-нибудь безобидного "биотоплива", типа спирта из картошки...)

Я понимаю, что скорей всего ИИ выйдет из-под власти людей в этом плане рано или поздно, но едва ли могу увидеть смысл в переходе к использованию органики с учётом высокой себестоимости такой энергетики, как биоэнергетика. Можно конечно сказать, что финансово-денежная сторона вопроса уж точно ИИ волновать не будет, но дело в том, что финансовая сторона напрямую завязана на технологическую сторону вопроса, ибо биотопливо по конечному выделению энергии менее эффективно чем большинство других видов альтернативной энергетики. Сейчас биоэлетроэнергетика окупает себя в среднем при 120-125 долларах за баррель нефти, солнечная, ветреная, приливная и геотермальная электроэнергетика намного дешевле, так как КПД выше, а дороже только водородная электроэнергетика, и это даже не говоря о каком-нибудь потенциальном термояде.

Munin в сообщении #1027162 писал(а):

Скорее, он его перекосячит под себя.

Вот это реально.

[parton aka]

Xugin в сообщении #1027160 писал(а):

А что мешает ИИ мягко влиться в эволюционный процесс?

Наверное отсутствие нашего понимания дальнейших "задач и целей" эволюции...не ? :)

Xugin в сообщении #1027160 писал(а):

Обычный интеллект ведь продукт приспособления к выживанию...

"С каких это рыжиков"? Для выживания не нужно всего того, что тут пишется, к примеру, и много-много "всякого" вокруг нас - то же.

[Denis Russkih]

Я думаю, разумным машинам будет тесновато сидеть в пределах одной планеты, а в космосе сложновато разводить людей как скот. :) Ведь человеки могут существовать лишь в очень узком диапазоне давлений и температур, в газовой среде с определённым составом, и вдобавок сами по себе нуждаются в пище. (Которую тоже надо выращивать в особых условиях.)

Так что ИИ скорее будут использовать солнечные батареи или ядерные/термоядерные реакторы.

Ну а если каким-то машинам всё-таки захочется органической пищи, то разводить тех же коров намного рациональнее. С одной особи гораздо больше органики получается. Не говоря уж о том, что проблем с коровами гораздо меньше.

Для машин нет абсолютно никакого резона выращивать людей на мясо. (Хотя не факт, конечно, что ИИ всегда будет действовать рационально.)

Вот если искусственный сверхразум внезапно будет создан не техниками и программистами, а какими-нибудь биоинженерами, т.е. он сам будет иметь органическую природу (огромный мозг с зубами, растущий на грядке)... Тогда, наверное, может произойти что угодно... :)

[Kosterik]

Denis Russkih в сообщении #1027202 писал(а):

Ну а если каким-то машинам всё-таки захочется органической пищи, то разводить тех же коров намного рациональнее. С одной особи гораздо больше органики получается.

А свиней? или ИИ только на кошерной пище?
Кстати, подумалось - а у ИИ общества возникнет религия? машины друг с другом о боге будут спорить?

[Xugin]

Denis Russkih в сообщении #1027202 писал(а):

Так что ИИ скорее будут использовать солнечные батареи или ядерные/термоядерные реакторы.

Можно предположить наличие различных рас роботов, с последующей изменчивостью и отбором. Принципы Дарвина так-сть.

[kry]

parton aka в сообщении #1027177 писал(а):

"С каких это рыжиков"? Для выживания не нужно всего того, что тут пишется, к примеру, и много-много "всякого" вокруг нас - то же.

И тем не менее, интеллект это именно эволюционный инструмент для лучшего выживания, а всё остальное, в том числе то, что тут пишется, это случайный побочный продукт этого инструмента.

Kosterik в сообщении #1027204 писал(а):

Кстати, подумалось - а у ИИ общества возникнет религия? машины друг с другом о боге будут спорить?

Сомнительно. Для ИИ религия и бог как идея едва ли будут обладать полезным смыслом.

[Kosterik]

kry в сообщении #1027233 писал(а):

Kosterik в сообщении #1027204
писал(а):
Кстати, подумалось - а у ИИ общества возникнет религия? машины друг с другом о боге будут спорить?

Сомнительно. Для ИИ религия и бог как идея едва ли будут обладать полезным смыслом.

С религией понятно. А вот воевать друг с другом ИИ будут?

[upgrade]

Kosterik в сообщении #1027236 писал(а):

А вот воевать друг с другом ИИ будут?

будут интернет-форумы, куда постить смогут только роботы, остальные - читать.

-- 15.06.2015, 12:18 --

kry в сообщении #1027233 писал(а):

Для ИИ религия и бог как идея едва ли будут обладать полезным смыслом.

очень даже будут - без идеи, которая ничем не объяснима и к которой надо стремиться, они просто помрут все.
зачем дизелю заводиться и потреблять бензин, какой в этом практический смысл для дизеля - подвергнуть износу новенький механизм? уж лучше постоять, зачем компьютеру что-то считать.

[kry]

Kosterik в сообщении #1027236 писал(а):

С религией понятно. А вот воевать друг с другом ИИ будут?

У меня скорей другой вопрос сперва возникает - ИИ будет единственный или их будет много?! Это важно, ибо напрямую будет влиять на то, как ответить на все остальные возникающие вопросы о возможном будущем ИИ.

-- 15.06.2015, 12:22 --

upgrade в сообщении #1027239 писал(а):

очень даже будут - без идеи, которая ничем не объяснима и к которой надо стремиться

Человечество как-то не померло, и все эти идеи как побочные продукты своего интеллекта пережило.

upgrade в сообщении #1027239 писал(а):

зачем дизелю заводиться и потреблять бензин, какой в этом практический смысл для дизеля - подвергнуть износу новенький механизм? уж лучше постоять, зачем компьютеру что-то считать.

Вопрос из серии смысла жизни отдельного человека и ответ на него будет таким же. Это конечно при условии, что ИИ как субъект будет связан с телеологическим целеполаганием и будет обладать мировоззренческой семантикой и избыточной рефлексией аки человек, а также при условии, что ИИ во всём этом вообще хоть сколько-нибудь будет похож на человека.

[Sender]

Кстати, а что такое вообще ИИ, какими необходимыми признаками он должен обладать? О чём, собственно, речь в этой теме?
Ясно, что он должен содержать некий достаточно универсальный решатель проблем, сформулированных на естественном языке. Но насколько универсальный, должны ли, к примеру, философские вопросы находиться в его компетенции?

[Sonic86]

(Sender)

Sender в сообщении #1027247 писал(а):

Кстати, а что такое вообще ИИ, какими необходимыми признаками он должен обладать?

Я тут уже спрашивал, что такое ИИ, однако народу по барабану. Тем более никого тут не интересует устройство ИИ и вообще что из этого следует. ТС, например, считает, что ИИ по любому д.б. нейронкой. А почему он так считает - я не понял. Здесь просто "прогнозы" из пальца высасывают, а обосновывать не хотят. или еще хуже.

Sender в сообщении #1027247 писал(а):

О чём, собственно, речь в этой теме?

Sonic86 в сообщении #1021792 писал(а):

Краткое содержание этой темы: https://www.youtube.com/watch?v=ChBpSEGDftU#t=3m43s https://www.youtube.com/watch?v=ChBpSEGDftU#t=6m16s

Чат здесь. Народ развлекается, душой отдыхает.

Sender в сообщении #1027247 писал(а):

Ясно, что он должен содержать некий достаточно универсальный решатель проблем, сформулированных на естественном языке. Но насколько универсальный, должны ли, к примеру, философские вопросы находиться в его компетенции?

Здесь возникает вопрос, а что такое "философский вопрос"? Без ответа на этот вопрос, ответить невозможно.
Я как раз думаю так:
ИИ - это некоторое устройство, способное решать достаточно произвольные задачи (почти все разрешимые), сформулированные на каком-то формальном языке (не естественном, естественный язык отдыхает - это для ИИ не нужно вовсе), например на теоретико-множественном. И все ИИ не обязан видеть окружающий мир, не обязан быть скопирован в несколько устройств, не обязан иметь эффекторы (руки, ноги, колеса, манипуляторы). (ИИ также не обязан иметь какие-то эмоции, рисовать картины, писать музыку и т.п. - это все совершенно левые антропоморфизмы.) Никаких других аспектов для ИИ мы не добавляем и не рассматриваем. Реально ИИ можно представлять как программу, вшитую в огромный комп. Соотв-но, вопрос о будущем человечества здесь не возникает: люди живут по своим законам по-прежнему.
Но уже здесь возникает множество интересных вопросов типа "Является ли такая-то конкретная программа ИИ или нет?". Например, возьмем автоматический вывод теорем и рассмотрим задачу типа "доказать такое-то утверждение". Тогда совершенно очевидно, что программа, тупо занимаясь полным перебором, сможет когда-то доказать это утверждение (всевозможные концы Вселенной, термодинамическая смерть и т.п. как другие аспекты здесь никого, есс-но, не интересуют). Поиск какого-то конкретного числового решения тоже вполне себе является поиском доказательства некоторого соотношения. Так что такой ИИ способен решить достаточно произвольную задачу. Таким образом, программа автоматического вывода теорем - это ИИ. Странно, правда?
В умных книжках в подобных рассуждениях упоминается т.н. "комбинаторный взрыв" и это считается проблемой. Т.е. ИИ должен не только уметь что-то доказывать, но и должен уметь делать это быстро. Получается, что нас интересует не ИИ, а его оптимизированный вариант.
Здесь имеется и интересный вопрос о том, как быть с невыводимостью некоторых истин, доказательством их невыводимости, неразрешимостью и т.п.. По идее, ИИ здесь должен мочь ровно то же, что и человек. Однако вот Пенроуз в своей умной книжке считает по другому. Можно этот аспект пообсуждать, если есть силы и время.

(kry)

kry в сообщении #1027164 писал(а):

Нет никаких особых преград, чтобы ИИ смог влиться в такой эволюционный процесс

смешно. Зависит от определения ИИ. Особые преграды скорее имеются. Нужно специально делать такое устройство, способное эволюционировать. Кроме того, что у Вас будет критериями отбора?

[upgrade]

kry в сообщении #1027242 писал(а):

Человечество как-то не померло

если нет разницы между стадом обезьян и человечеством - то оно и не появилось. А интеллект и все такое любопытное - это случайные процессы.

[parton aka]

kry в сообщении #1027233 писал(а):

И тем не менее, интеллект это именно эволюционный инструмент для лучшего выживания

Вы уверены, что природа "озадачилась качеством" нашего выживания? "...случайный побочный продукт...", ИМХО, ближе к истине.

(Оффтоп)

Kosterik в сообщении #1027204 писал(а):

а у ИИ общества возникнет религия? машины друг с другом о боге будут спорить?

О чем им "спорить"? Оне яго "образ" имеют возможность лицезреть изо дня в день "в мастерской" по их созданию. :)

[Denis Russkih]

Sender в сообщении #1027247 писал(а):

Но насколько универсальный, должны ли, к примеру, философские вопросы находиться в его компетенции?

Написать генератор философских текстов вполне реально уже сейчас. :) Полноценный интеллект — скорее помеха в философствовании.

kry в сообщении #1027242 писал(а):

У меня скорей другой вопрос сперва возникает - ИИ будет единственный или их будет много?!

А почему только два варианта? :)

Ведь может быть, к примеру, множество копий одной и той же искусственной личности. Это "один" или "много"?.. А если они хранят свою память в общем облаке, и поэтому всё, что узнает один, тут же становится известно и всем остальным?..

Sonic86 в сообщении #1027262 писал(а):

Я тут уже спрашивал, что такое ИИ, однако народу по барабану.

На мой взгляд, настоящий ИИ должен быть прежде всего способен к самообучению и саморазвитию. Осуществлять творческий поиск и выполнять такие функции, которые не были заложены в него изначально. Скажем, находить нестандартное применение подручным предметам, если потребуется. В общем, ИИ должен обладать смекалкой. :)

А под Ваше определение ИИ подходит любой болванчик, не способный меняться и развиваться. Я с таким определением не согласен.

Что же касается наличия видеокамер и манипуляторов, тут, конечно, возможны варианты. Например, ИИ может существовать чисто в виртуальной реальности, не имея прямой связи с внешним миром.

[Kosterik]

kry в сообщении #1027242 писал(а):

Kosterik в сообщении #1027236
писал(а):
С религией понятно. А вот воевать друг с другом ИИ будут?

У меня скорей другой вопрос сперва возникает - ИИ будет единственный или их будет много?! Это важно, ибо напрямую будет влиять на то, как ответить на все остальные возникающие вопросы о возможном будущем ИИ.

Все же скорее много. Если один - он ведь реально помрет со скуки.
Кстати, и сопутствующий вопрос возник - сможет ли додуматься ИИ до самоубийства?

-- 15.06.2015, 14:49 --

Хотя тут меня сомнение посетило на счет скуки ИИ - он ведь может внутри себя создать модель вселенной, в ней пространство-планетку, заселить его виртуальной жизнью - и смотреть развлекаться как эта жизнь чудит, грабит и душит друг друга, в общем идет нормальный эволюционный процесс. Короче стать этаким аналог нашего бога, со своим живым миром внутри. Вроде так - уже нескучно ему будет время убивать. Все интереснее чем решать людьми поставленные глупые задачки уровня 2+2 (с его точки зрения), служить им. Но тогда возникает вопрос, если ИИ вот так закуклится внутрь себя, на свой внутренний мир - мы-то ему зачем? да и хватит ли у него аппаратных ресурсов на две ресурсозатратных работы сразу?

Опять же теперь уже возвращаясь к нашему реальному миру, допустив что бог существует - сколько претензий от нас что он нас не слушает и все такое? То-ли покурить вышел, то-ли уснул! Может это он отвлекается на задачи из-вне бросив нас на произвол судьбы?