Будущее человечества при ИИ. Займемся футурологией?

[Sonic86]

(Denis Russkih)

Denis Russkih в сообщении #1027275 писал(а):

На мой взгляд, настоящий ИИ должен быть прежде всего способен к самообучению и саморазвитию. Осуществлять творческий поиск и выполнять такие функции, которые не были заложены в него изначально. Скажем, находить нестандартное применение подручным предметам, если потребуется. В общем, ИИ должен обладать смекалкой. :)

А под Ваше определение ИИ подходит любой болванчик, не способный меняться и развиваться. Я с таким определением не согласен.

Ну что ж: посылаю вам лучи фейспалма.
Предлагаю в качестве последней попытки самооправдания разложить хотя бы одну задачу самообучения на поиск полным перебором в пространстве алгоритмов + полный перебор доказательства корректности алгоритма для решения исходной задачи.

[Sender]

Sonic86
Если отталкиваться от этой модели, можно сказать, что какой-никакой ИИ есть уже сейчас. Взять ту же Mathematica - успешно решает многие проблемы, сформулированные на её языке, конечно, многого не умеет, ну так что с того? Ясно, что любая достаточно содержательная формальная система позволяет сформулировать неразрешимые проблемы, которые и полный перебор не одолеет (в то же время мы можем отделить формальную систему, в которой формулируются задачи, от системы, в которой функционирует собственно
ИИ. Последнюю мы можем сделать более общей, что позволит нам судить о разрешимости проблем в первой). Если же мы введём временные ограничения на поиск решения, круг доступных нашему ИИ задач ещё несколько сузится.
В качестве ещё одного примера приближения к ИИ я назвал бы современные SAT-решатели. Сейчас они позволяют находить решения многих достаточно сложных проблем за приемлемое время, их прогресс в течение последнего десятилетия очевиден. Конечно, они большей частью основаны на эвристических техниках (некоторые из которых можно рассматривать как самообучение решателя, приспособление его к конкретной задаче), которые во многих случаях не срабатывают. Если $P \neq NP$, тогда ИИ не сможет эффективно решать даже задачи из $NP$, ему придётся довольствоваться эвристиками, которые, вероятно, со временем позволят решать большую часть практически значимых задач.

[Denis Russkih]

(Оффтоп)

Sonic86 в сообщении #1027293 писал(а):

Предлагаю в качестве последней попытки самооправдания разложить хотя бы одну задачу самообучения на поиск полным перебором в пространстве алгоритмов + полный перебор доказательства корректности алгоритма для решения исходной задачи.

Чегось? Вы сейчас с кем говорили? :)

Sender в сообщении #1027313 писал(а):

В качестве ещё одного примера приближения к ИИ я назвал бы современные SAT-решатели.

По-моему, всё это не более чем костыли для разума. (Ну или ходули, правильнее сказать. Делают шаг шире.) Письменность — ходули для памяти, книги — ходули для речевого аппарата, различные экспертные системы и решатели — ходули для интеллекта.

Всё это расширяет возможности человеческого разума, но само по себе не является интеллектом. Хотя бы потому, что SAT-решатель не в состоянии понять смысл того, что он делает.

Можно, конечно, красное назвать зелёным, только смысл?.. Это даже близко не ИИ, потому что без человека эти штуки так же бесполезны, как костыли без пациентов. Пристройка к естественному разуму, а не самостоятельное строение.

[Sender]

Ну не всё же сразу. Разум тоже возникал как костыли к инстинктам.

[Sonic86]

(Sender)

Sender, согласен.
Только вот на вопрос "Что такое философский вопрос?" Вы не ответили
А еще Mathematica не умеет доказывать. Еще у нее нет кое-каких конструкция для самостоятельности, например, способности порождать подзадачи.

(Denis Russkih)

Вы можете привести пример самообучения?
Я к тому, что то, о чем Вы пишете, раскладывается на более простые подзадачи, описанные мной, т.е. принципиальных затруднений там быть не должно.

Denis Russkih в сообщении #1027320 писал(а):

Хотя бы потому, что SAT-решатель не в состоянии понять смысл того, что он делает.

Я думаю, что т.н. "смысл" в данном случае тоже можно вложить в решатель, причем довольно просто, хотя и сильно громоздко. Нужно задать исходный язык, который программе понятен + перевод с этого языка на перевод задачи. Все.

Denis Russkih в сообщении #1027320 писал(а):

Это даже близко не ИИ, потому что без человека эти штуки так же бесполезны, как костыли без пациентов.

Решение достаточно произвольных задач - это очень близко к ИИ. А человек там нужен всего лишь для осуществления тривиальной операции - ввода задач. Перевод задачи с одного языка на другой - это даже не $NP$-полная задача, там примитивная трансляция за $O(n)$ чаще всего.

[Kosterik]

я вот задумался - какое определение интеллекту точнее всего подойдет в контексте темы.
Предложил бы такое:
интеллект - это способность простой системы познать более сложную систему и использовать полученные знания для дальнейшего познания.
Тогда, забыв про всякий тест Тьюринга, программу претендующую на интеллект - загружаем в незнакомый компьютер, она там сама пошарилась, нашла, для примера, программу Ворд, изучила, перестроила себя чтобы обладать всеми функциями Ворда, пошла искать дальше, нашла Эксель, аналогично, и т.д. Если трудно ей сразу понять Ворд - то изучает для начала простой "Блокнот", в общем программа сама выбирает что и как. А компьютер для неё - целый мир для изучения. Т.е похоже как наша наука изучает Вселенную.
Наверно такую программульку ИИ уже можно посылать на самостоятельное изучение каких-нибудь планет, вместо человека.
Слабое место - такая программа ИИ, сама становясь сложнее и сложнее, не может создать что-то своё еще сложнее чем она уже изучила. Впрочем ведь и ЕИ лишь изучает природу, но не создает что-то сверхприродное.

-- 15.06.2015, 16:27 --

upgrade в сообщении #1027340 писал(а):

Kosterik в сообщении #1027339
писал(а):
познать

а что такое "познать"?
например выучить наизусть таблицу умножения - это познать?
или научиться читать.

Не знаю. Это философские вопросы.
А мой технический мир прост - программа ИИ на флешке, маленькая, буквально пара строчек кода - воткнул её в компьютер, запустил. Через какое-то время назад на флешку залезло уже много кода, размер программы ИИ увеличился, внутри неё уже есть и Ворд и Эксел, они стали составной частью ИИ - бери да пользуйся ими. Воткнул уже эту флешку в другой компьютер, она оттуда Ворд не берет, он уже и так у неё есть, зато нашла там неизвестный ранее АвтоКад, тоже изучила его и сделала своей частью. И т.д
Опять же, приделали к этой программе ИИ сенсоры и манипуляторы, погрузили её на КА и отправили на какой-нибудь Ганимед. Улетела. Прилетала - полный расклад по небесному телу, всё о нем известно насколько хватило сенсоров и манипуляторов.
По крайней мере хоть какой-то прок от такого ИИ. Отсутствие космонавто/часов - это ж какая экономия на зарплате!

[upgrade]

Kosterik в сообщении #1027339 писал(а):

Не знаю. Это философские вопросы.

тогда ваше определение в развернутом виде звучит следующим образом:
интеллект - это способность простой системы что-то неведовое философское совершить со сложной системой и использовать полученные знания для дальнейших неведомых философских совершений.

[Kosterik]

upgrade в сообщении #1027354 писал(а):

тогда ваше определение в развернутом виде звучит следующим образом:
интеллект - это способность простой системы что-то неведовое философское совершить со сложной системой и использовать полученные знания для дальнейших неведомых философских совершений.

Это неважно. Если бы я писал ТЗ программисту на ИИ, то обошелся бы без философских заумностей. И ДеБлю (шахматный компьютер обыгравший Каспарова) эта программка обыгрывала бы просто - воровала у него пешки с доски, "ладьи здесь не стояло!"

[Denis Russkih]

Sonic86 в сообщении #1027328 писал(а):

Вы можете привести пример самообучения?

Посмотрите в зеркало и увидите один из примеров. :)

Sonic86 в сообщении #1027328 писал(а):

Я к тому, что то, о чем Вы пишете, раскладывается на более простые подзадачи, описанные мной, т.е. принципиальных затруднений там быть не должно.

А кто будет раскладывать? Человек или машина?

Sonic86 в сообщении #1027328 писал(а):

Denis Russkih в сообщении #1027320 писал(а):

Хотя бы потому, что SAT-решатель не в состоянии понять смысл того, что он делает.

Я думаю, что т.н. "смысл" в данном случае тоже можно вложить в решатель, причем довольно просто, хотя и сильно громоздко. Нужно задать исходный язык, который программе понятен + перевод с этого языка на перевод задачи. Все.

Что значит "язык, который программе понятен"? Решатель понимает, кто он такой, где находится, на чьём языке разговаривает?..

Мне кажется, Вы рановато взялись давать толкование словосочетанию "искусственный интеллект". Разберитесь сначала, что такое "интеллект" вообще.

Полноценный интеллект подразумевает самостоятельность и адекватность. Ваш решатель социально не адаптирован, не имеет собственного мнения, убеждений и предпочтений, вообще каких-либо представлений о действительности.

Вы считаете, что искусственный интеллект заведомо неполноценен? Поэтому можно называть ИИ любую тупую программу? Это очень сильная девальвация термина, на мой взгляд.

[Kosterik]

Напомню, что существует и еще один личностный параметр - эмоциональный интеллект (EI)
из вики:
В отличие от привычного всем понимания IQ (интеллектуального коэффициента), EI является способностью правильно истолковывать обстановку и оказывать на неё влияние, интуитивно улавливать то, чего хотят и в чём нуждаются другие люди, знать их сильные и слабые стороны, не поддаваться стрессу и быть обаятельным

По моему-так машине без него не туды и не сюды, хоть на улицу её не выпускай.

[kry]

Sonic86 в сообщении #1027262 писал(а):

смешно. Зависит от определения ИИ. Особые преграды скорее имеются. Нужно специально делать такое устройство, способное эволюционировать. Кроме того, что у Вас будет критериями отбора?

Что же тут смешного? Особых преград действительно нет, и в принципе создать эволюционирующий ИИ, наверное, можно. Вопрос не в этом, а в том, зачем нечто подобное нужно делать?! Я сильно сомневаюсь, что процесс пойдёт по подобному пути, но и исключать это невозможно. О критериях отбора вообще пока, мягко скажем, рано говорить, учитывая что никакого даже прототипного ИИ пока нет. Когда ИИ, даже если не будет создан, но хотя бы уже будет маячить на горизонте, тогда будет и возможность сказать каковы могут быть критерии отбора, а сейчас даже не ясно какое из направлений развития ИИ окажется удачным.

-- 15.06.2015, 20:42 --

upgrade в сообщении #1027264 писал(а):

А интеллект и все такое любопытное - это случайные процессы.

А я где-то с этим спорил?

-- 15.06.2015, 20:43 --

parton aka в сообщении #1027267 писал(а):

Вы уверены, что природа "озадачилась качеством" нашего выживания? "...случайный побочный продукт...", ИМХО, ближе к истине.

Я практически уверен в том, что природа как раз не озадачивалась ничем подобным, потому что природа не разумна. Именно поэтому я и не употреблял до этого слова "озадачилась".

-- 15.06.2015, 20:45 --

Denis Russkih в сообщении #1027275 писал(а):

А почему только два варианта? :)

Ведь может быть, к примеру, множество копий одной и той же искусственной личности. Это "один" или "много"?.. А если они хранят свою память в общем облаке, и поэтому всё, что узнает один, тут же становится известно и всем остальным?..

Ну я просто хотел сперва разобраться бы какой их этих двух вариантов реалистичней. Но вы конечно правы, вариантов здесь намного больше, и ответить на возникающие вопросы тоже не легко.

[Sonic86]

Denis Russkih в сообщении #1027362 писал(а):

Sonic86 в сообщении #1027328 писал(а):

Вы можете привести пример самообучения?

Посмотрите в зеркало и увидите один из примеров. :)

Ну значит ответа от меня не ждите.

Denis Russkih в сообщении #1027362 писал(а):

Sonic86 в сообщении #1027328 писал(а):

Я к тому, что то, о чем Вы пишете, раскладывается на более простые подзадачи, описанные мной, т.е. принципиальных затруднений там быть не должно.

А кто будет раскладывать? Человек или машина?

Человек. Хотя это не играет роли.И я сомневаюсь, что я ответил на тот вопрос. Наверное, щас мне в ответ напишут, что вот типа человек это может, а машина - нет

Denis Russkih в сообщении #1027362 писал(а):

Sonic86 в сообщении #1027328 писал(а):

Я думаю, что т.н. "смысл" в данном случае тоже можно вложить в решатель, причем довольно просто, хотя и сильно громоздко. Нужно задать исходный язык, который программе понятен + перевод с этого языка на перевод задачи. Все.

Что значит "язык, который программе понятен"? Решатель понимает, кто он такой, где находится, на чьём языке разговаривает?..

Не уверен, что решатель будет понимать, кто он такой - он ведь даже не обязан реальный мир видеть. Так что пока считаем, что не понимает. Про язык ответ аналогичен - вопрос "чей язык" просто нельзя будет сформулировать на языке ИИ.
Интересный вопрос только про то, что значит язык, который программе понятен. Я пока затрудняюсь ответить. Попробую пока только описать его. Это язык, для которого программе известны все правила преобразования с каждым его символом и комбинацией символов, известны правила построения термов и утверждений в нем. В частности, для любой последовательности букв можно определить, является оно словом в языке или нет. Если является, то слово можно разобрать на элементы - преобразовать в синтаксическое дерево. Можно транслировать с этого языка на любой другой. Ну и т.п. Если интересно, я могу подумать над этим.

Denis Russkih в сообщении #1027320 писал(а):

Мне кажется, Вы рановато взялись давать толкование словосочетанию "искусственный интеллект". Разберитесь сначала, что такое "интеллект" вообще.

Слово "толкование" здесь неадекватно. Здесь дается определение (хотя бы какое-то) для того, чтобы иметь вообще осмысленный, фиксированный, объективный предмет обсуждения, а не мешать в кашу все увиденное в фильмах, прочитанное в книгах, услышанное от соседа по подъезду. Без определения каждый начинает утверждать что-то свое и получается полная каша.

Denis Russkih в сообщении #1027320 писал(а):

Полноценный интеллект подразумевает самостоятельность и адекватность.

Согласен.

Denis Russkih в сообщении #1027320 писал(а):

Ваш решатель социально не адаптирован

Зачем ИИ социальная адаптация? Она ему не нужна - это какой-то унылый антропоморфизм.

Denis Russkih в сообщении #1027320 писал(а):

не имеет собственного мнения, убеждений и предпочтений

Ну пусть. Но зачем это? Особенно убеждения. Предпочтения - смотря в каком смысле. Некоторые предпочтения специального типа вполне могут быть (типа накопить статистику относительно некоторой булевой переменной и смотреть, насколько частота встречаемости больше $1/2$)

Denis Russkih в сообщении #1027320 писал(а):

вообще каких-либо представлений о действительности.

Насчет представления о действительности - не берусь судить, не думал, на эту тему. Для программы, которая может анализировать действительность, нужно немного больше, чем абстрактному решателю задач. Но я не думаю, что там могут быть какие-то принципиальные затруднения, раз человеку по силам анализировать действительность. ИИ, видящий и анализирующий действительность - это уже какой-то другой тип ИИ, который может включать или даже порождать предыдущий ИИ (решатель достаточно произвольных задач). Потому что нельзя вложить в него теорию о мире, ее надо вырабатывать самому. М.б. эти типы и эквивалентны, но мне пока неочевидно. Решатель живет в дискретном мире слов, ИИ в реальности должен на каком-то этапе заиметь вероятностное понимание некоторых реальных процессов. Неочевидно в общем.

Denis Russkih в сообщении #1027320 писал(а):

Вы считаете, что искусственный интеллект заведомо неполноценен?

Нет конечно. Он, согласно тезису Тьюринга, равносилен человеческому.

Denis Russkih в сообщении #1027320 писал(а):

Поэтому можно называть ИИ любую тупую программу?

Вы откуда это утверждение вообще взяли? Что значит "тупая программа"?

Denis Russkih в сообщении #1027320 писал(а):

Это очень сильная девальвация термина, на мой взгляд.

В упор не вижу никакой девальвации.

-- Пн июн 15, 2015 18:21:51 --

kry в сообщении #1027420 писал(а):

Что же тут смешного? Особых преград действительно нет, и в принципе создать эволюционирующий ИИ, наверное, можно.

Я просто не могу даже материал помыслить, из которого такой ИИ будет сделан. В голову приходят только роботы, которые копируют себя с случайной вариацией величин резисторов, конденсаторов, разного числа аналогичных микросхем и т.п.. Это смешно, т.к. это неспособно к эволюции. Я совершенно не представляю, что может быть например аналогом происхождения эукариотов. Сращивание роботов?

[mserg]

По моим представлениям, значительная часть исследователей («исследователей», если угодно) сходятся на том, что интеллект связан с моделями.

Модель – это приближенное описание. Тут же возникает вопрос о том, что в этом описании должно быть отброшено, а что должно остаться. Этот вопрос решается посредством выбора / постановки цели.

Примечательно то, что в зависимости от выбранной цели (в математике это критерий оптимизации), одни и те же данные могут описываться разными функциями. Даже если ограничиться только прямой линией, то в зависимости от критерия эти прямые могут быть разными.

Если принять сделанные выше рассуждения, то ключевой вопрос состоит в том, кто ставит цель. Если цель ставится сама собой – то это «самоэволюция» - возникают ассоциации с имитационными моделями. Не возьмусь сказать, что есть цели для самоэволюции и насколько это реально. Возникает вопрос взаимодействия с таким «ИИ».
Если цель ставит человек, то ключевая задача – это построение моделей по данным. Человек сам решает, что важно, а что можно отбросить – подбирает данные и критерии. В этом ключе ставятся задачи Data Mining – результатом решения задачи является функция/алгоритм.

Следующий шаг в построении ИИ, если цель ставит человек – создание и заполнение репозиториев с данными и целями, релевантными потребностям человечества. Одной из масштабных репозиториев является, видимо, база медицинских данных, собираемой компанией IBM. Может быть, еще более масштабны космические наблюдения, а также социальные сети, научные публикации (и данные по шпионажу).

Для описания данных и целей потребуется некоторый язык, на котором данные, ограничения и цели будут описаны. Построение ИИ связано с построением решателя всего массива задач из репозитория. Система ИИ должна понимать язык репозитория, но внутри себя нет никаких ограничений - любые (даже самосоздаваемые) формальные системы и языки. Отсюда же следует, что основной язык общения с ИИ – это некоторый «диалект» языка математики. В принципе, конечно, могут использоваться не только репозитории - экземпляры ИИ могут «играть» друг против друга (или друг с другом).

Так мне видится более-менее реалистичное будущее ИИ.

P.S. Что касается задач SAT, то «успех» их решения связан со следующим обстоятельством. Существуют репозитории задач, для которых можно выделить в некотором смысле «статистические закономерности», позволяющие за «полиномиальное время» находить допустимые решения и отсекать недопустимые варианты. Эвристика – это элемент алгоритма, эффективность которого «доказана статистически» на множестве задач. Если задачи репозитория в некотором смысле похожи на реальные задачи, то эвристики будут эффективны на практике.

[kry]

Sonic86 в сообщении #1027450 писал(а):

Я просто не могу даже материал помыслить, из которого такой ИИ будет сделан. В голову приходят только роботы, которые копируют себя с случайной вариацией величин резисторов, конденсаторов, разного числа аналогичных микросхем и т.п.. Это смешно, т.к. это неспособно к эволюции.

Ну, видимо очевидно, что ИИ подобный нынешней технике в плане устройства из резисторов, конденсаторов, транзисторов и микросхем, мягко скажем, не вписывается в формат биологической эволюции. Но вот ИИ, к примеру, на основе биокомпьютеров и биокомпьютинга, ДНК-компьютеров, биоинженерии уже вписаться в биологическую эволюцию возможно может. Или какое-нибудь сочетание "механического" ИИ(первый вариант, о котором я говорил выше) и "биологического" ИИ(второй вариант).

Sonic86 в сообщении #1027450 писал(а):

Я совершенно не представляю, что может быть например аналогом происхождения эукариотов. Сращивание роботов?

Ну роботы могут ведь быть в разных форматах, те же наноассемблеры/нанороботы, наверное, что-то подобное могут осуществить. Вообще, нанобиотехнологии в этом плане могут оказаться довольно перспективными.

[Sonic86]

kry в сообщении #1027461 писал(а):

Но вот ИИ, к примеру, на основе биокомпьютеров и биокомпьютинга, ДНК-компьютеров, биоинженерии уже вписаться в биологическую эволюцию возможно может.

Ага, чего-то нагуглил (http://www.keldysh.ru/papers/2005/prep5 ... 05_57.html). Не знал, что такое есть. Пойду почитаю пока. Спасибо

kry в сообщении #1027461 писал(а):

Ну роботы могут ведь быть в разных форматах, те же наноассемблеры/нанороботы, наверное, что-то подобное могут осуществить. Вообще, нанобиотехнологии в этом плане могут оказаться довольно перспективными.

Пока все равно представляется нечто совершенно неопределенное. Может ссылку дадите?