Будущее человечества при ИИ. Займемся футурологией?

[fedotv]

Цитата:

fedotv, EvgenyGR, предупреждения за невежественные высказывания и оффтоп.

Про Pi поясните, про его конечность.

[Deggial]

fedotv в сообщении #1028445 писал(а):

Про Pi поясните, про его конечность.

Обсуждение действий модератора - в разделе "Работа форума". Отвечать здесь по существу вопроса мне неинтересно.

[fedotv]

Цитата:

Отвечать здесь по существу вопроса мне неинтересно.

[EvgenyGR]

fedotv в сообщении #1028430 писал(а):

Интеграл Гаусса - это рекурсия? Он, тоже, выражает число Pi

Увы и ах но не на этом форуме.

[fedotv]

Цитата:

Увы и ах но не на этом форуме.

Согласен, любая система имеет свои ограничения и форум dxdy не исключение.

P.S. Через время информация сотрется и с сайта и из сознания участников (шутка)

[Sonic86]

kry в сообщении #1028218 писал(а):

Sonic86 в сообщении #1027664 писал(а):

Чем плохо определение интеллекта как способности решать задачи? (я не в курсе этой проблемы, если она есть, потому в лоб спрашиваю)

Да ничем не плохо. Просто это как-то очень узко, даже для когнитивных наук. И проблема ещё в том, что нужно понять, что в данном случае будет "решать" и что такое будет "задача".

В чем конкретно узость? Я ее не вижу. В начальной нечеткости используемых понятий? Есть конкретный пример вопроса в когнитивной науке, не являющийся задачей?
Что такое задача, ну вот вариант ответа: topic98055.html
"Решить задачу" - это найти ее решение, т.е. найти терм, удовлетворяющий условиям.

[Sonic86]

Denis Russkih в сообщении #1027731 писал(а):

И я внезапно наткнулся на мысли, которые кажутся мне на редкость наивными (контраст особенно разителен на фоне предыдущих, более чем адекватных рассуждений автора):

Цитата:

Единственной практической альтернативой, которую я вижу, является отказ: надо ограничить развитие слишком опасных технологий путём ограничения нашего стремления к определённым родам знаний.
...
Но невзирая на сильные исторические прецеденты, если свободный доступ к знанию и неограниченное развитие знания подвергает всех нас с этого времени ясной опасности вымирания, то здравый смысл требует, чтобы мы пересмотрели даже эти основные, долго удерживаемые убеждения.

По-моему, это просто бред. :)

Ну да, трудно поверить, что это может обезопасить будущих людей. А только других вариантов не видно.

[Sender]

Кстати, как убедиться в опасности тех или иных знаний, хоть раз не применив их?

[Утундрий]

Sender в сообщении #1028679 писал(а):

как убедиться в опасности тех или иных знаний, хоть раз не применив их?

Хоть раз применив аналогичные им. Например, я сбросил с девятого этажа мешок картошки. Пронаблюдав последствия совершённого, я выдвигаю рабочую гипотезу о результатах прыжка с девятого жэтажа самого себя. Проверять которую непосредственно мне совсем не хочется.

[Sender]

Утундрий в сообщении #1028694 писал(а):

Например, я сбросил с девятого этажа мешок картошки.

Хорошо, если это не привело к коллапсу вселенной.

[kry]

Sonic86 в сообщении #1028634 писал(а):

В чем конкретно узость? Я ее не вижу. В начальной нечеткости используемых понятий? Есть конкретный пример вопроса в когнитивной науке, не являющийся задачей?
Что такое задача, ну вот вариант ответа: topic98055.html
"Решить задачу" - это найти ее решение, т.е. найти терм, удовлетворяющий условиям.

Проблема начинается действительно именно с нечёткости используемых понятий. Дело всё в том, что если понятия "задача" и "решение задачи" толковать слишком широко, то под эти понятия в интеллекте попадёт абсолютно всё, но, к сожалению, под эти понятия можно будет подвести и ещё слишком много всего и если вообще не всё подряд. Вот возьмём, к примеру, эмоциональный интеллект. В его рамках существуют такие процессы как ассертивность или эмпатия. Это задачи? В какой-то мере да, и наш мозг и психика их решают. Но с таким подходом тяжело будет отделить интеллект от того же мышления или сознания, так как и сознание, и мышление, и многие высшие функции нервной системы человека завязаны на такое "решение задач". Я даже не буду говорить, что мы как-то опускаем здесь всё нейронаучную составляющую работы интеллекта.
То, о чём вы пишите про математические задачи это интересно и, на мой взгляд, верно, но это именно касательно математических задач. Можно ли понятие "задача" свести к понятию "математическая задача"? Я не уверен, но мне почему-то кажется, что нет.

[statistonline]

22 страницы дискуссии не осилил, потому выскажусь не совсем, полагаю, к месту. Будущее человечества при успешно функционирующем ИИ (критерий успешности привести не могу, но что-то вроде достоверного симулирования повседневной деятельности человека себе вполне представляю: ИИ ходят в магазины, на работе тайком от ГлавИИ раскладывают пасьянсы, загружают в себя новые БД, стоя в пробках, отмечают День программиста и День микроконтроллера - короче как-то так) представляется ужасным из-за одного существенного эволюционного, скажем так, преимущества их перед нами. Мы свои знания вынуждены нарабатывать заново для каждого индивидуума, и процесс это достаточно тягомотный, они же будут просто обновлять версии для новых устройств ИИ. Иначе говоря, сыну профессора математики как ни крути, а приходится учить математику с самого начала, папа ничего из области абстрактного творчества в него не вложил. Это сильно тормозит нас, но будет совершенно незнакомо им. И поэтому рано или поздно ИИ превзойдут своих создателей, как мы превзошли разнообразных родичей по обезьяньей линии, научившись передавать знания в звуковом и символическом виде. Вполне возможно, что настанет момент, когда мы просто перестанем понимать, что же ИИ делает.

[Dan B-Yallay]

statistonline в сообщении #1029008 писал(а):

Мы свои знания вынуждены нарабатывать заново для каждого индивидуума, и процесс это достаточно тягомотный, они же будут просто обновлять версии для новых устройств ИИ. Иначе говоря, сыну профессора математики как ни крути, а приходится учить математику с самого начала, папа ничего из области абстрактного творчества в него не вложил. Это сильно тормозит нас, но будет совершенно незнакомо им. И поэтому рано или поздно ИИ превзойдут своих создателей, как мы превзошли разнообразных родичей по обезьяньей линии, научившись передавать знания в звуковом и символическом виде. Вполне возможно, что настанет момент, когда мы просто перестанем понимать, что же ИИ делает.

А мне так кажется, что в процессе разработки ИИ, человечество столкнется с необходимостью разобраться как работает память, как работают ассоциации и что такое "знание". И ковыряя задачу безболезненного обновления ИИ до новой версии, мимоходом решит проблему "загрузки" знаний в мозг без зубрежки и лекций.

[Sender]

Эдак, чего доброго, и надобность в ИИ отпадёт.

[mserg]

С определением интеллекта как способности решать задачи, все же есть проблемы.

Во-первых, если речь идет о математике, то чтобы «случилась» задача, должен быть определен языка: алфавит, операции/правила и все такое прочее. Решение задачи, в конечном итоге, состоит в том, чтобы с помощью допустимых в языке операций преобразовать условия задачи к виду, как того требует решение (зд. решение = это «ответ» задачи). Поэтому для самой «способности решать задачи» достаточно правильно применять правила плюс регулярный «просмотр в ширину» (патологии, для простоты, здесь не рассматриваем).

Первая же хорошо видимая проблема – это крайне низкая эффективность процедуры решения. Теоретически способность решать задачи есть, но практически ее нет. Опять возвращаемся к критериям/показателям интеллектуальности.

Вторая хорошо видимая проблема – это «высоковероятное» не существование эффективного алгоритма решения «любых задач». Поэтому интеллектуальность связана с обучением. Для обучения разумно взять выборку задач из «реальной жизни» и на ней провести (само-)обучение «системы». На другой выборке задач из «реальной жизни» можно проверить, насколько изменилась эффективность решения задач в сравнении с «необученным экземпляром».

Из первых двух проблем следует третья – это соотнесение критериев друг с другом в связи с многокритериальностью и множествами задач. Чтобы измерять интеллект и автоматически его синтезировать, нужно иметь шкалу для сравнения. Можно все привести к общему знаменателю с помощью «стоимостей» решения задач (израсходованных ресурсов), стоимости обучение, «прибыльности» от решения каждой из задач, и т.д.

В общем, на мой взгляд, к определению «интеллект – способность решать задачи», следует добавить критерии/тесты, по которым мы сможем отнести некоторую систему к интеллектуальной. Если уж не перечислить, то хотя бы указать на их необходимость.