Будущее человечества при ИИ. Займемся футурологией?

[Dmitriy40]

Вот смешно будет если ИИ сможет придумывать способы честного отъёма денег быстрее чем будут успевать подправлять законы для их запрещения ...

[Kosterik]

Dmitriy40 в сообщении #1019880 писал(а):

Что будет с компьютерами даже через 100 лет предсказать невозможно.

Проблемка глобальнее - невозможно даже надежно предсказать что будет с людьми завтра.

Dmitriy40 в сообщении #1019880 писал(а):

Не всё можно измерить в деньгах. Даже в широком смысле слова.

Так никто не спорит что кол-во денег не является универсальным измерительным прибором ни социума в целом, ни каждого одного его элемента (человечка) в частности. Но спорный вопрос - а что тогда является-то этим прибором?
Переведу на язык темы - вот, представим, созданы два ИИ, кто один из них успешнее другого? По какому параметру будет выставляться оценка?
У нас, людей, проще - у кого больше власти, тот и выше, успешнее. (ну а деньги, это одно из средств власти, пожалуй самое эффективное). Тут всё очень просто, иерархическая структура четкая. Но вот как будут распределять социальные места между собой ИИ - это как-то не рассматривается. Как-то изначально подразумевается, что ИИ будет один на всю планетку. Но ведь он сдохнет тогда от скуки

[Dmitriy40]

Вы, как и многие другие, слишком переносите свои личные взгляды на будущий ИИ. А он будет другим.
А критериев сравнения может быть сколько угодно, каждому свой, Вам вот деньги удобнее, а ИИ - что-то ещё. А скорее даже и не один единственный критерий.

[Kosterik]

Sender в сообщении #1019883 писал(а):

Никто не мешает вам указать ИИ в качестве приоритетной цели максимизацию количества денег, зарабатываемых в единицу времени, главное, проследить, чтобы он не отправился грабить банки.

Мы, вроде, ранее уже обсуждали этот вопрос - любой интеллект (в том числе и искусственный) легко и быстро придет к выводу что деньги - не цель, а лишь (одно из) средство достижения цели. А вот целью может быть власть. Собственно, какой либо другой цели-то и нет на горизонте.
Подмечу - проблематикой "какая цель моей жизни?" озадачиваются лишь люди не обладающие властью. У людей, властью обладающих, этого вопроса нет на повестке дня.

[Dmitriy40]

Dmitriy40 в сообщении #1019884 писал(а):

Проблемка глобальнее - невозможно даже надежно предсказать что будет с людьми завтра.

Да ну? Запросто: с вероятностью более 98% завтра с людьми будет тоже самое, что и 6 дней назад.
Помнится это ещё про погоду говорили, что самое надёжное предсказание на завтра - повтор сегодняшней погоды. Шутка конечно, но ...

-- 26.05.2015, 14:37 --

Kosterik в сообщении #1019894 писал(а):

Подмечу - проблематикой "какая цель моей жизни?" озадачиваются лишь люди не обладающие властью. У людей, властью обладающих, этого вопроса нет на повестке дня.

Угу, они для себя его уже решили. В пользу власти/денег. Занавес. Да и некогда им ерундой страдать.

[arseniiv]

Kosterik в сообщении #1019877 писал(а):

Да да, знаю, что не очень красиво смотрится, но, по крайней мере, это хоть какая-то твердая почва под ногами для оценки прожитого дня.

Ну а теперь вместо денег подставьте любые вещи, которые человек способен возомнить ценностями, и сравнивайте по ним. Всё проще некуда, так всё и есть, и на ИИ легко переносится.

EvgenyGR в сообщении #1019882 писал(а):

Но эти данные очень скудны, так что сказать как именно он работает, на уровне познания мира мы не можем.

Это оценочное суждение, не представляющее никакого факта. Мы знаем конкретные вещи и можем из них вывести конкретные вещи, а также делать конкретные устройства. Кому-то мало, кого-то порадует, но это уже иррелевантно.

Dmitriy40 в сообщении #1019892 писал(а):

А скорее даже и не один единственный критерий.

Угу. Не могу представить живого человека, который пользовался бы только одним критерием полезности (более того, чётко определённым критерием, т. е. вся его деятельность могла бы быть выведена как получающаяся из доступной для его вычислительной мощности оптимизации по этому критерию). Деньгами или не деньгами. Скорее, в голове сложная система предпочтений одного другому, да ещё и зависящих часто от контекста.

[Kosterik]

Dmitriy40 в сообщении #1019884 писал(а):

Вот смешно будет если ИИ сможет придумывать способы честного отъёма денег быстрее чем будут успевать подправлять законы для их запрещения ...

Отъёма?! Не, не настолько он глупый будет чтобы занять вторую (лоховскую) позицию. Он выйдет на главную роль, подомнет под себя систему производства/уничтожения и контроля денег в обороте. И тогда все законы (человеческие) - станут бессильны.

[arseniiv]

Dmitriy40 в сообщении #1019892 писал(а):

Вы, как и многие другие, слишком переносите свои личные взгляды на будущий ИИ. А он будет другим.

Итого, тема как была темой для высказывания всего, что привидится на потолке, так и осталась.

[Kosterik]

Dmitriy40 в сообщении #1019892 писал(а):

Вы, как и многие другие, слишком переносите свои личные взгляды на будущий ИИ. А он будет другим.
А критериев сравнения может быть сколько угодно, каждому свой, Вам вот деньги удобнее, а ИИ - что-то ещё. А скорее даже и не один единственный критерий.

Эта вера - сродни веры в бога. В части - интересны мы, люди, богу, или лишь декорация в его какой-то своей игре.
С чего, собственно, вы решили, что у ИИ будет что-то другое? Мы вообще о каком подобии говорим - нашего человеческого интеллекта, или какого-то нечеловеческого?
Если в формате нашего человеческого интеллекта, то просчитать поведение ИИ - проще простого. Ведь наш интеллект - это и есть, по сути, возможность просчета окружающей среды. А если ты просчитал среду, знаешь её ответную реакцию на своё действие - то уж управлять этой средой тебе - проще простого.

-- 26.05.2015, 14:58 --

Dmitriy40 в сообщении #1019895 писал(а):

Kosterik в сообщении #1019894
писал(а):
Подмечу - проблематикой "какая цель моей жизни?" озадачиваются лишь люди не обладающие властью. У людей, властью обладающих, этого вопроса нет на повестке дня.

Угу, они для себя его уже решили. В пользу власти/денег. Занавес. Да и некогда им ерундой страдать.

Скорее не "в пользу", а пришли к выводу - ни одной, хоть сколь близкой к этой цели (власти), нет на горизонте. Ну вот реально - нет.
Это вот как выбирать - лежит кусочек золота в окружении кусочков свинца, или как лежит алмаз в окружении осколков стекла - выбора тут, по сути, нет, сколько ты не перебирай кусочки свинца какой лучше, сколько не перебирай осколки стекла какой лучше, - будет это считаться лишь глупостью, потому что выбор очевиден.
К такому же "пониманию жизни" надо готовится и в случае с ИИ. Будет ли ему интересно создать физ-мат модель функционирования черной дыры? - да плевать он хотел на все черные дыры. Их - нет в его ближайшем окружении. Совершенно логично ему сосредоточится на своём ближнем круге, занять центровое место в этом круге.

-- 26.05.2015, 15:07 --

arseniiv в сообщении #1019897 писал(а):

Ну а теперь вместо денег подставьте любые вещи, которые человек способен возомнить ценностями, и сравнивайте по ним. Всё проще некуда, так всё и есть, и на ИИ легко переносится.

Собственно подошли к очень простому, но, одновременно, сложнейшему вопросу - шкала ценностей ИИ. Более детально - что будет первым пунктом (самым главным, верхним) этой шкалы ценностей. И тут упремся в тупик - мы, люди, каждый из нас, четко поделены на два подвида - у части людей (большей) на первом месте - бог, у другой части людей (меньшей) - на первом месте... тут полный хаос, у кого что.
Так что на счет "на ИИ легко переносится" - это вряд-ли. И надеяться, что ИИ повторит шкалу ценностей своего программиста - это тогда заранее лишить ИИ интеллекта, а рассматривать его как клона программиста.

[EvgenyGR]

arseniiv в сообщении #1019897 писал(а):

Это оценочное суждение, не представляющее никакого факта.

Так других нет.

[Kosterik]

влезу -

arseniiv в сообщении #1019899 писал(а):

Итого, тема как была темой для высказывания всего, что привидится на потолке, так и осталась.

А чего Вы для себя ждали от темы? какого такого прорыва?

Кстати тоже вот интересный вопрос - будет ли у ИИ желание побакланить (ну, в смысле беседовать на бесполезные темы)?
Разве это не одно из свойств интеллекта - поговорить не о чем, в надежде на случайной отделить одно зерно из тонны плевел?

[arseniiv]

Kosterik в сообщении #1019902 писал(а):

Собственно подошли к очень простому, но, одновременно, сложнейшему вопросу - шкала ценностей ИИ. Более детально - что будет первым пунктом (самым главным, верхним) этой шкалы ценностей. И тут упремся в тупик

Да, потому что вопрос это не для дилетантов. Нет, ну правда.

Kosterik в сообщении #1019902 писал(а):

И тут упремся в тупик - мы, люди, каждый из нас, четко поделены на два подвида

Да нет же, на восемь с половиной. У одних на первом месте агротехника, у других на восемнадцатом принтер. И остальные тоже, но они другие. Классификация — это вещь! (А вещь — это классификация. А если вещь не классификация, то, ясно как день, это либо не вещь, либо шкатулка Порции.)

Kosterik в сообщении #1019915 писал(а):

А чего Вы для себя ждали от темы? какого такого прорыва?

Ждал, что она перестанет наполняться, например. Жалко как-то.

Kosterik в сообщении #1019915 писал(а):

Разве это не одно из свойств интеллекта - поговорить не о чем, в надежде на случайной отделить одно зерно из тонны плевел?

Вы уже столько свойств интеллекту приписали, что берёт сомнение, существует ли он-в-таком-понимании.

[Kosterik]

arseniiv в сообщении #1019924 писал(а):

Kosterik в сообщении #1019902
писал(а):
Собственно подошли к очень простому, но, одновременно, сложнейшему вопросу - шкала ценностей ИИ. Более детально - что будет первым пунктом (самым главным, верхним) этой шкалы ценностей. И тут упремся в тупик

Да, потому что вопрос это не для дилетантов. Нет, ну правда.

Правда. Согласен. Именно что вопрос не для дилетантов.
Но проблемка начинается с того, что непонятна граница между дилетантом и специалистом в этом вопросе.
Вот, для примера, я, потратил своих кровных более полумиллиона руб (еще тех, весомых, начала века) на, можно сказать, ИИ. Финансировал проект одного чудика. Тогда дилетант-ли я в этом вопросе?
Что сделали Вы в этой теме?
Как мы порешим кто из нас понимает больше по существу вопроса, и кто они, те специалисты, кто понимают еще больше нас?

arseniiv в сообщении #1019924 писал(а):

Kosterik в сообщении #1019915
писал(а):
А чего Вы для себя ждали от темы? какого такого прорыва?

Ждал, что она перестанет наполняться, например. Жалко как-то.

А чего конкретно, Вам, собственно, жалко? Что Вы потеряли-то?

[arseniiv]

Kosterik в сообщении #1019930 писал(а):

Но проблемка начинается с того, что непонятна граница между дилетантом и специалистом в этом вопросе.

Не обязательно проводить всю границу целиком. Вот мне сразу видно, что вы в теме дилетант, и я тоже дилетант.

Kosterik в сообщении #1019930 писал(а):

Финансировал проект одного чудика. Тогда дилетант-ли я в этом вопросе?

Финансирование само по себе никак не связано с появлением (или исчезновением) знаний.

Kosterik в сообщении #1019930 писал(а):

А чего конкретно, Вам, собственно, жалко?

Ничего конкретного, просто жалко. В рационализации не всегда есть смысл.

Kosterik в сообщении #1019930 писал(а):

Что Вы потеряли-то?

Разумеется, некоторое количество времени и других ресурсов. (Что не значит, что альтернативой были бы меньшие потери.)

[Kosterik]

arseniiv в сообщении #1019932 писал(а):

Kosterik в сообщении #1019930
писал(а):
Но проблемка начинается с того, что непонятна граница между дилетантом и специалистом в этом вопросе.

Не обязательно проводить всю границу целиком. Вот мне сразу видно, что вы в теме дилетант, и я тоже дилетант.

Полностью соглашусь с вами. Но только подмечу - в этой теме вообще нет специалистов, таково объективное положение дел в этой области. А те, кто (как там кто-то выше писал) "люди набравшиеся смелости называть себя специалистами по ИИ" - смело плюйте им в лицо, это самозванцы.

arseniiv в сообщении #1019932 писал(а):

Kosterik в сообщении #1019930
писал(а):
Что Вы потеряли-то?

Разумеется, некоторое количество времени и других ресурсов. (Что не значит, что альтернативой были бы меньшие потери.)

Ну, про потерянные средства (время и "другие ресурсы") достижения цели - это понятно, но вот потерянная (упущенная) Вами цель - это вот непонятно.
Чего Вы там у себя, в Уфе, творите такого важного, что с объективной точки зрения (ну, хотя бы всех россиян, или, если шире - человечества в целом), могло бы вызвать сочувствия "да, действительно, этот человек понес потерю от того что расходовал время и "другие ресурсы" на эту глупую тему про футурологию ИИ"?