Сильный искусственный интеллект (AGI, HLAI, SAI...)

[Alephegg]

На мой вкус, одна из самых злободневных и перспективных тем сегодня. Все знают, каким СИИ должен быть, но никто не знает как именно он устроен. В этом году я посетил с официальным визитом конференцию HLAI-2018, которая была в Праге, что я могу сказать, и в околонаучных кругах царит разброд и шатание. Уныния и безысходности нет, но причина тому не успехи, а сила духа людей, которые занимаются этой проблематикой.

Может быть, нам удастся здесь, на dxdy, хотя бы обозначить опорные точки СИИ: архитектуру, примерное модульное устройство, какие-то важные понятия, а в перспективе сформулировать представление. Let's go, парни (и девушки)!

[realeugene]

Alephegg в сообщении #1344171 писал(а):

Все знают, каким СИИ должен быть, но никто не знает как именно он устроен.

Эта тема, действительно, про Strong artifical intelligence (сильный искусственный интеллект), или же про Artifical general intelligence? https://en.wikipedia.org/wiki/Artificia ... rong_AI%22

Вопрос про определение понятия сознания не решен даже для человека, судя по многочисленным обсуждениям в более биологических разделах этого форума. Пытаться определять новый термин через обязательное наличие чего-то, что тоже не могут чётко и однозначно определить изначально, мне представляется пустым философствованием. Может оказаться, что, с одной стороны, это уже сознание, но с другой стороны, это ещё не сознание, и, вообще, сознанием может обладать только человек, по определению. Мне представляется, что это рассуждения о бессмысленном.

Напишу несколько тезисов, чего ещё не хватает ИИ, чтобы люди его признали за ИИ. Прошу меня поправить, если это не про СИИ, про который уже все, кроме меня, знают, каким он должен быть, и это оффтопик в этой теме.

1. AGI должен уметь строить различные конкурирующие гипотетические цепочки вывода. Для различных гипотетических цепочек вывода он должен уметь грубо оценивать их качество (вероятность) на основании оценок вероятностей исходных данных.
2. AGI должен уметь самостоятельно разбивать сложные задачи на более мелкие подзадачи. Обучение решению сложной задачи должно осуществляться через обучение решению мелких подзадач и, затем, комбинированию результата с использованием п. 1.
3. Чтобы люди приняли AGI за интеллект, ошибки, которые допускает AGI, должны быть "человечны", т. е. понятны людям. ИИ может допускать те же ошибки, что и люди, может допускать меньше ошибок, но крайне плохо, если он часто допускает ошибки, которые люди легко диагностируют, как ошибки.

[Alephegg]

realeugene в сообщении #1344352 писал(а):

Эта тема, действительно, про Strong artifical intelligence (сильный искусственный интеллект), или же про Artifical general intelligence?

Боюсь, что на текущий момент различие между Общим, Сильным и Человекоподобным (HL) искусственными интеллектами очень условно. И этого различия почти не касалась рука системного аналитика. Мне представляется термин AGI наиболее уместным и я предлагаю именно его использовать для обозначения это проблематики и в качестве синонима всем остальным.

-- 08.10.2018, 06:46 --

realeugene в сообщении #1344352 писал(а):

1. AGI должен уметь строить различные конкурирующие гипотетические цепочки вывода. Для различных гипотетических цепочек вывода он должен уметь грубо оценивать их качество (вероятность) на основании оценок вероятностей исходных данных.

Да, "должен". Это довольно широкая тема. У меня по ней пока несколько замечаний: я бы предложил именовать такие цепочки - маршрутами. Их в системе может быть довольно много и разных (в том числе качественно, по типу), но с точки зрения природы подобных сущностей - это маршруты в рамках некоторого "операционного" пространства.

[Alephegg]

realeugene в сообщении #1344352 писал(а):

2. AGI должен уметь самостоятельно разбивать сложные задачи на более мелкие подзадачи.

Здесь, кмк, нужно начинать с обсуждения того, что такое задача. И что такое самостоятельность. Например, граничит ли эта самостоятельность с поведением и будет ли обладать AGI поведением. И что такое "поведение" для софтверной системы.

[realeugene]

Alephegg в сообщении #1344483 писал(а):

Например, граничит ли эта самостоятельность с поведением

Не понимаю вопрос. Вы пользуетесь некоторым формальным определением понятия "поведение"?

[Alephegg]

realeugene в сообщении #1344352 писал(а):

ошибки, которые допускает AGI, должны быть "человечны", т. е. понятны людям

Это уже из области поэзии. Говорить о каких-то специальных ошибках, которые имитируют человеческую человечность по отношению к формальной системе можно только в одном случае, если эти "ошибки" не являются ошибками (то есть поведением, не предусмотренным спецификацией), а являются просто задачей. Можно выделить такой специальный класс задач - имитировать "человечность" - но мне кажется, что мы сейчас бесконечно далеки, чтобы полагать, что этот класс задач является ключевым для создания AGI.

-- 08.10.2018, 08:08 --

realeugene в сообщении #1344484 писал(а):

Вы пользуетесь некоторым формальным определением понятия "поведение"?

Уверен, что не существует никакого формального понятия "поведения" по причини отсутствия исчисления, в котором поведение было бы элементом. Нет, я хотел бы определить поведение системы сначала на бытовом уровне, потом, может быть, переходить к какому-то операционному пространству и уже потихонько формализовывать. Нет, я имел ввиду тот факт, что современные системы вообще не самостоятельны. 0.9999 из них являются вызываемыми функциями. Сложными, но функциями. И их "самостоятельность" нуждается в том, чтобы ее спроектировать.

[realeugene]

Alephegg в сообщении #1344485 писал(а):

Это уже из области поэзии. Говорить о каких-то специальных ошибках, которые имитируют человеческую человечность по отношению к формальной системе можно только в одном случае, если эти "ошибки" не являются ошибками (то есть поведением, не предусмотренным спецификацией), а являются просто задачей. Можно выделить такой специальный класс задач - имитировать "человечность" - но мне кажется, что мы сейчас бесконечно далеки, чтобы полагать, что этот класс задач является ключевым для создания AGI.

Мы обсуждаем задачи, которые не имеют строго формального решения. Это не алгоритмы сортировки. Критерий правильности решения - если человек считает, что задача решена правильно. Девиации от правильного решения можно рассматривать как неизбежные ошибки. Неизбежные, так как невозможно повторить мышление человека. Эти ошибки имеют различную цену. Ошибки, которые человек считает "объяснимыми" обходятся для репутации системы дешевле, чем ошибки, которые человеку кажутся странными.

-- 08.10.2018, 17:22 --

Alephegg в сообщении #1344443 писал(а):

это маршруты в рамках некоторого "операционного" пространства.

Вы тут опять подразумеваете какие-то формальные определения?

[Alephegg]

realeugene в сообщении #1344486 писал(а):

Мы обсуждаем задачи, которые не имеют строго формального решения.

Нет. Я предполагал, что AGI - это алгоритмическая система, то есть на уровне потока данных (вход - обработка - выход) - это функция. Единственное место, где AGI не сильно похожа на функцию - это реализации ее поведения.

Но в реализации поведения нет ничего сложного, архитектура может выглядеть примерно так:

[realeugene]

Alephegg в сообщении #1344492 писал(а):

Я предполагал, что AGI - это алгоритмическая система,

С этим я не могу согласиться. Детерминированный алгоритм далеко не всегда ведёт себя предсказуемо. Даже простейшие эвристики работают часто непредсказуемо и требуют настройки. Кроме того, в данных сенсоров неизбежно наличие шума. Интеллект должен с этим справляться.

Детерминированность работы алгоритма полезна для отладки, чтобы повторный запуск на тех же данных давал тот же результат. Но и только. И это не является важным. В некоторых случаях даже специально добавляют псевдослучайный шум.

[Alephegg]

realeugene в сообщении #1344495 писал(а):

Детерминированный алгоритм далеко не всегда ведёт себя предсказуемо.

Это для меня новость , скорее всего мы просто не понимаем друг друга.

realeugene в сообщении #1344495 писал(а):

чтобы повторный запуск на тех же данных давал тот же результат.

Давайте условимся, что это всегда так: одни и те же данные на входе дают один и тот же результат на выходе. Это раз.

Конечно же, AGI - это большая сложная функция.
Какая этому может быть альтернатива?

realeugene в сообщении #1344495 писал(а):

Даже простейшие эвристики работают часто непредсказуемо и требуют настройки.

Вообще непонятно. Эвристика - это тоже функция. Она себя может вести exceptional только в одном случае - если Вы неправильно реализовали алгоритм или в нем самом есть ошибка.

realeugene в сообщении #1344495 писал(а):

в данных сенсоров неизбежно наличие шума

И что? Шум ровно такие же входные данные как и всё прочее.

Я не очень понимаю, что именно Вы хотите сказать... Попробуйте перефразировать свою мысль.

[realeugene]

Alephegg в сообщении #1344501 писал(а):

Это для меня новость , скорее всего мы просто не понимаем друг друга.

Вспомните проблему остановки. Машина Тьюринга полностью детерминирована, но предсказать результат выполнения программы на ней в общем случае невозможно, не попытавшись выполнить эту программу. И попытавшись тоже невозможно, если программа не захочет останавливаться достаточно долго.

-- 08.10.2018, 18:08 --

Alephegg в сообщении #1344501 писал(а):

Вообще непонятно. Эвристика - это тоже функция. Она себя может вести exceptional только в одном случае - если Вы неправильно реализовали алгоритм или в нем самом есть ошибка.

Эвристика подразумевает, что она построена на основе обобщения неточного знания, а значит, что в некоторых случаях результат её работы будет не совсем таким, как хотелось бы. Это не обязательно деление на нуль, совсем нет.

[Alephegg]

realeugene в сообщении #1344503 писал(а):

Вспомните проблему остановки

Покажите, где у функции есть проблема останова?

[realeugene]

Alephegg в сообщении #1344505 писал(а):

Покажите, где у функции есть проблема останова?

В каком смысле "функции"? Функции в программах - это частичные функции, строго говоря.

Напишите алгоритм, интерпретирующий машину Тьюринга.

[Alephegg]

realeugene в сообщении #1344508 писал(а):

В каком смысле "функции"?

Я просто расчитывал, что вместо "эвристик", "шумов", "детерменированных алгоритмов" и прочих странных объектов, мы перейдем к вычислимым и невычислимым функциям. Но, честно говоря, я не вижу причины здесь, в этом топике, это обсуждать.

[realeugene]

Alephegg в сообщении #1344509 писал(а):

Я просто расчитывал, что вместо "эвристик", "шумов", "детерменированных алгоритмов" и прочих странных объектов, мы перейдем к вычислимым и невычислимым функциям.

Мне не кажется, что такая формализация возможна. "Странные объекты" вполне соответствуют предметной области.