Еще раз про сильный ИИ

[Energos]

Ende
Выделено из темы «Статья по квантовую запутанность в мозге»

Тут интересен вопрос, а выполняют ли эти квантовые эффекты какие-либо полезные функции или они всего лишь некий побочный продукт, который практически не влияет на мыслительный процесс.

Судя по тому, что полноценный ИИ до их пор так и не создан, несмотря на сотни петафлопс вычислительных мощностей, наверно без квантовых вычислений никак.

[Dicson]

(Про сильный ИИ)

Energos в сообщении #1571040 писал(а):

Судя по тому, что полноценный ИИ до их пор так и не создан, несмотря на сотни петафлопс вычислительных мощностей, наверно без квантовых вычислений никак.

Не имеет значения, работают в мозге квантовые эффекты или нет. "Полноценный ИИ" (то есть, видимо, "сильный") не может быть создан в любом случае. Причём, можно сказать, по вполне прозаическим причинам, напрямую не связанным ни с устройством мозга, ни с устройством самого ИИ.

По-моему, очевидно, что предел сложности создаваемых нами систем должен быть. Вопрос только, где он и почему там.

[mihaild]

Dicson в сообщении #1571082 писал(а):

"Полноценный ИИ" (то есть, видимо, "сильный") не может быть создан в любом случае

Можете сформулировать конкретнее - какая например интеллектуальная задача, решаемая человеком, не будет решена машиной никогда? (могу даже упростить вопрос: не будет решена машиной к 2040 году?)

[Dicson]

mihaild в сообщении #1571089 писал(а):

Можете сформулировать конкретнее - какая например интеллектуальная задача, решаемая человеком, не будет решена машиной никогда? (могу даже упростить вопрос: не будет решена машиной к 2040 году?)

По-моему, естественным было бы сразу предложить мне привести аргументы, но вы, видимо, решили зайти издалека. Хорошо. Эта дорога тоже ведёт в Рим.

Упрощать вопрос не надо, так как речь именно о никогда. Обращу только внимание, что речь идёт о системах, создаваемых человеком, его интеллектом, а не о системах вообще. То есть эволюцию и умных инопланетян никто не отменял.

Общий смысл ограничений ИИ таков: чем полнее работу системы определяет созданный человеком алгоритм (то есть чем больше система искусственная), тем ниже будет её сложность по сравнению с интеллектом человека. Проще говоря, человек не сможет создать такую систему, которая бы выразила способность его мозга вырабатывать алгоритмы, поэтому интеллект человека всегда будет оставаться сильнее искусственного.

Вот, собственно, "способность мозга вырабатывать алгоритмы" - это и есть та "интеллектуальная задача", решением которой человек сам по себе обладает, но воспроизвести её в какой-либо искусственной системе не сможет, и, соответственно, это та задача, которая "не будет решена машиной никогда". Она не будет решена на практике - именно это относительно несложно показать, но есть и принципиальные аргументы о том, почему так.

Что касается точной формулировки этой задачи - в смысле, что конкретно представляет из себя "способность мозга вырабатывать алгоритмы", можно ли уточнить её до некой конкретной задачи, в которой бы эта "способность" была полноценно раскрыта - то нет, такую задачу сформулировать нельзя. Если решение задачи можно сформулировать, а ответ оценить, то такие задачи решают детерминированные алгоритмы; если решение непонятно, но можно оценить ответ, то это, например, искусственные нейронные сети. Но мозг в том числе решает такие задачи, которые нельзя ни точно сформулировать, ни сколько-нибудь точно оценить ответ, поэтому и "способность мозга вырабатывать алгоритмы" тоже нельзя конкретизировать в какой-либо конкретной задаче, то есть ответ на ваш вопрос можно сформулировать только в таком обобщённом "неконкретном" виде.

[mihaild]

Dicson, в такой постановке ваш прогноз "сильный ИИ невозможен" неверифицируем, и, соответственно, неинтересен. Разве что когда всех будут разбирать на скрепки утешиться тем, что "зато он не умеет вырабатывать алгоритмы, как человек".

[zykov]

Dicson в сообщении #1571106 писал(а):

"способность мозга вырабатывать алгоритмы" - это и есть та "интеллектуальная задача", решением которой человек сам по себе обладает, но воспроизвести её в какой-либо искусственной системе не сможет

Не видно никаких оснований для утрвеждения, что "способность вырабатывать алгоритмы" представляет из себя что-то особенное, что невозможно осуществить в машине.
Если уж на то пошло, то есть много примеров софта по синтезу каких-то алгоритмов (каждый в своей узкой области).
Вобщем, эти рассуждения про невозможность "вырабатывать алгоритмы" смахивают на какую-то мистику.

[ozheredov]

mihaild в сообщении #1571089 писал(а):

не будет решена машиной к 2040 году?

Работа гувернера/няньки. Я поставил точку, потому что не знаю, что поставить -- это не утверждение. Вы скорее склонны считать, что скорее роботы будут способны нянек/гувернеров к 2040-м, или скорее не склонны?

[mihaild]

ozheredov в сообщении #1571146 писал(а):

Работа гувернера/няньки

Это не интеллектуальная задача - в том смысле, что она по определению требует физического взаимодействия с реальным миром, и задача "собрать для машины тело, которое ребенок примет за человека" вполне может оказаться сложнее, чем "решить, как этому телу нужно действовать для успешного взаимодействия с ребенком".

ozheredov в сообщении #1571146 писал(а):

Вы скорее склонны считать, что скорее роботы будут способны нянек/гувернеров к 2040-м, или скорее не склонны?

Не склонен, т.е. оцениваю вероятность этого меньше чем в 10% (и большая часть вероятности того что смогут всё равно сосредоточена в мирах где не захотят).

[Dicson]

mihaild в сообщении #1571126 писал(а):

Dicson, в такой постановке ваш прогноз "сильный ИИ невозможен" неверифицируем, и, соответственно, неинтересен. Разве что когда всех будут разбирать на скрепки утешиться тем, что "зато он не умеет вырабатывать алгоритмы, как человек".

Вы можете заменить утверждение про алгоритмы утверждением про сложность. ИИ никогда не достигнет сложности человеческого интеллекта. Я написал, речь идёт о любых системах, создаваемых человеком, его интеллектом:

Dicson в сообщении #1571106 писал(а):

Общий смысл ограничений ИИ таков: чем полнее работу системы определяет созданный человеком алгоритм (то есть чем больше система искусственная), тем ниже будет её сложность по сравнению с интеллектом человека.

В то же время единственный настоящий интеллект, который нам известен, занимается именно выработкой алгоритмов, точнее говоря, последовательностей поведенческих действий, управляет мышцами. Поэтому когда речь зашла о задачах, которые не сможет решить ИИ (вы же именно это просили вам предоставить), то это выработка алгоритмов на уровне человеческого мозга.

zykov в сообщении #1571130 писал(а):

Если уж на то пошло, то есть много примеров софта по синтезу каких-то алгоритмов (каждый в своей узкой области).

Ну да, рекуррентные нейронные сети алгоритмы могут вырабатывать. Вы, видимо, меня неправильно поняли. Речь не просто о выработке алгоритмов, а полноценном воспроизведении этой способности. И вообще - см. выше - ограничения касаются сложности в целом, а не каких-то частных задач.

[ozheredov]

Dicson в сообщении #1571171 писал(а):

Речь не просто о выработке алгоритмов, а полноценном воспроизведении этой способности.

Т.е. Вы можете назвать класс алгоритмов, который вырабатывает человек, и при этом не способен выработать ИИ. Так что это за класс?

[mihaild]

Dicson в сообщении #1571171 писал(а):

Вы можете заменить утверждение про алгоритмы утверждением про сложность.

Хорошо, когда всех будут разбирать на скрепки, буду утешаться тем, что ИИ "проще" человеческого интеллекта. Не вижу принципиальной разницы (пока вы не укажете, как измерять "сложность").

Dicson в сообщении #1571171 писал(а):

выработка алгоритмов на уровне человеческого мозга

Вы можете определить, что это значит? Пока что не вижу, что вам помешает заявить, что ИИ, написавший статью с единой теорией всего (содержащую проверяемые предсказания, которые проверили и они оказались правильными), решивший задачу коммивояжера за $o(1)$ и рассчитавший, сколько точно нужно брать водки, всё равно "не вырабатывает алгоритмы на уровне человеческого мозга".

[Dicson]

ozheredov в сообщении #1571184 писал(а):

Т.е. Вы можете назвать класс алгоритмов, который вырабатывает человек, и при этом не способен выработать ИИ. Так что это за класс?

Я бы не стал так сразу принижать способности ИИ. Думаю, ему будут доступны все алгоритмы. Впрочем, речь же о сложности. Чем алгоритм сложнее, тем хуже для ИИ.

mihaild в сообщении #1571188 писал(а):

Хорошо, когда всех будут разбирать на скрепки, буду утешаться тем, что ИИ "проще" человеческого интеллекта. Не вижу принципиальной разницы (пока вы не укажете, как измерять "сложность").

Сложность мы не будем измерять никак. Я предлагаю такие аргументы, которые обходят количественный вопрос стороной. Это, естественно, сказывается на доказательности, но тем не менее, хватает. А то, что наш ИИ всё ещё не столь сложный, как интеллект человека, мы определим так же, как определяем это сейчас. Более или менее на глазок, исходя из разных формальных и неформальных соображений. Сейчас же проблем с этим нет? И в будущем не сильно прибавится.

Вы слышали, наверное, есть те, кто в эволюцию не верит. "Мол, - говорят, - вон там в леске эксперимент поставьте. Пусть обезьяна с дерева слезет и топором каменным нам помашет. Тогда поверим". А им в ответ: "Предсказательная сила, предсказательная сила". Отчасти похожим образом нельзя экспериментально доказать, что сильный ИИ не будет построен - такой эксперимент отнимет вечность. Однако из аргументов следует, что ИИ к сложности интеллекта человека приблизиться не сможет. Поэтому и особых вопросов не будет, построен он уже или нет. Хотя для кого-то, конечно, и AlphaGo уже интеллект человека превзошла. Но таких мало.

mihaild в сообщении #1571188 писал(а):

Вы можете определить, что это значит? Пока что не вижу, что вам помешает заявить, что ИИ, написавший статью с единой теорией всего (содержащую проверяемые предсказания, которые проверили и они оказались правильными), решивший задачу коммивояжера за $o(1)$ и рассчитавший, сколько точно нужно брать водки, всё равно "не вырабатывает алгоритмы на уровне человеческого мозга".

Мне не придётся что-либо в этом смысле заявлять. Не появится причин.

Я утверждаю, что ИИ не сможет приблизиться к сложности интеллекта человека. Но в отдельных задачах, естественно, искусственные системы смогут человека превосходить. Например, это экскаваторы, калькуляторы, та же AlphaGo. В свою очередь, то, что система, успешно решившая некую "одну, но очень сложную задачу", всё-таки не превзошла интеллект человека, будет следовать из того, что такие системы не возникают в отрыве от общего контекста развития вычислительных систем - технологического, интеллектуального или представления о задачах, где и как можно такую систему применить. Гении-изобретатели только в фильмах про бэтменов бывают. А общий контекст систем - согласно аргументам - к сложности интеллекта человека не приблизится. Соответственно и системы, решающие отдельные задачи, может быть, будут превосходить другие системы в сложности, вырываться вперёд, но не значительно. Поэтому и в отдельных задачах человека намного тоже не превзойдут.

В общем если разбирать на скрепки и будут, то не интеллектуалы. Насчёт этого можете быть спокойны.

[warlock66613]

Мне кажется, мой неискусственный интеллект не тянет на сильный интеллект по версии Dicson. Нет, какие-то интеллектуальные задачи отдельные я решаю и даже неплохо, но этот загадочный "интеллект человека" я судя по-всему не то что не превосхожу, но даже не догоняю.

[Energos]

Dicson в сообщении #1571082 писал(а):

Не имеет значения, работают в мозге квантовые эффекты или нет. "Полноценный ИИ" (то есть, видимо, "сильный") не может быть создан в любом случае. Причём, можно сказать, по вполне прозаическим причинам, напрямую не связанным ни с устройством мозга, ни с устройством самого ИИ.

А по-моему как раз очень даже имеет. Квантовые эффекты могут помочь решать некоторые задачи "в лоб".
Если подумать, за последние несколько лет производительность ИИ-систем выросла по меньшей мере в 10 раз, если не больше. И тем не менее, пока никакого сильного интеллекта мы до сих пор не наблюдаем. Что это, ограниченность существующих алгоритмов или по-прежнему недостаток вычислительных мощностей?

Dicson в сообщении #1571106 писал(а):

Но мозг в том числе решает такие задачи, которые нельзя ни точно сформулировать, ни сколько-нибудь точно оценить ответ

Разве подобные задачи реально существуют? В 99% мозг решает вполне конкретные задачи и получает вполне конкретные, иногда вероятностные результаты.

[Rasool]

mihaild в сообщении #1571089 писал(а):

Dicson в сообщении #1571082 писал(а):

"Полноценный ИИ" (то есть, видимо, "сильный") не может быть создан в любом случае

Можете сформулировать конкретнее - какая например интеллектуальная задача, решаемая человеком, не будет решена машиной никогда? (могу даже упростить вопрос: не будет решена машиной к 2040 году?)

А если тупо скопировать человеческий мозг в "железо"? Сейчас технологии не позволяют это сделать, но в будущем-то (пусть и отдаленном) наверняка смогут.