Сильный искусственный интеллект (AGI, HLAI, SAI...)

[Mihaylo]

Yodine в сообщении #1346250 писал(а):

Да, вполне могут научиться считывать слова по губам и еще чему-либо. Но это не научит нейросеть мыслить, понимать, генерировать смысл, ставить задачи, решать поставленные задачи, переформулировать их, формулировать цели, демонстрировать понимание, самостоятельно обучаться на короких временных рядах и т.п.

Спрашивали сами себя: откуда дровишки? Из лесу, вестимо!
В общем: понавешали ярлыки на ряд видов деятельности, многие из которых с успехом решаются нейросетями уже сегодня. Давайте уж помедленнее и аккуратнее с каждым видом деятельности, кажется вы просто назвали ряд дел, которые сами не можете осознать и думаете: "куда уж там нейросетям...".

[Alephegg]

Я еще раз предлагаю перестать употреблять термин "нейросети" в значении Машинное Обучение или Искусственный Интеллект. Во-первых, нейросети бывают очень разными по задачам и архитектуре. Во-вторых, нейросети типа MLP - это ровно такие же модели машобуча, как решающие деревья или бустинг или что-нибудь еще. В-третьих, нейросети - это вынужденные решения, это как самолет, машущий крыльями - чистая бионика, основанная на внешнем подобии.

Мне (лично) нравится метафора, что машобуч - это программирование 2.0, когда мы иначе формулируем проблему, имеем иные данные, но в результате работы технологии получаем некоторую функцию (фактически, черный ящик), который можем использовать в композиции с другими модулями, в архитектуре решения нашей задачи. Всё просто и понятно, и никаких "слабый интеллектов" в стиле ув. Mihaylo.

[Yodine]

Mihaylo Я понял вашу позицию. Все поняли вашу позицию уже много раз.
На нейросетях можно промоделировать машину Тьюринга, соответственно можно создать и сильный ИИ (если его вообще можно создать, хотя я сторонник гипотезы о возможности создания сильного ИИ уровня человека), просто путь этот тупиковый по возможности реализации. Я уже писал об этом

Цитата:

Я утверждаю, что это тупиковый путь, требуются новые подходы, дело не в недостатке данных, дело в отсутствии правильного алгоритма, а это в свою очередь требует правильного осознания проблемы и выработки правильных подходов.
post1344366.html#p1344366 .

Mihaylo в сообщении #1344367 писал(а):

вы как себе представляли экстраполирование? Это точно не метод генерации новых знаний, смотрите определение.

Вот именно!

[Yodine]

Где и как врубиться в эмбеддинги графов
Что такое cs224w
Курс Юре Лесковека Analysis of Networks выделяется в плеяде образовательных продуктов факультета вычислительных наук университета Стенфорда
https://habr.com/company/ods/blog/418727/

[Mihaylo]

Вопрос понимания методов машинного обучения и искусственного интеллекта сталкивается с серьёзными психологическими трудностями как среди обывателей, так и среди специалистов: многие люди имеют сильное антропоцентричное представление: им кажется, что задачи, которые способен решить человек, созданы для него специально, они все "по плечу", все задачи решаемы и т.д. Это впечатление развивается благодаря смещённой оценке: представляется собирательный образ супер-человека, который на самом деле аккумулирует все достижения человечества за последнюю тысячу лет. Фактически возможности отдельно взятого человека мысленно замещаются возможностями целой цивилизации на протяжении довольно большого промежутка времени.

Антропоцентричное представление я люблю называть мозгопоклонничеством - обожествлением мозга. Это сродни поклонению любителей айфонов, эпплов, стивов джобсов, илонов масков, томасов эдисонов, сергеев королёвых, в конце концов. Да, это все замечательные люди, но не надо лоб о землю разбивать в кровь.

При сравнении интеллектуальных способностей нейросетей и человека совершенно не учитываются:
- объём и (главное!) богатство обучающих данных,
- эффект от генерализации,
- время обучения (рассматриваются люди минимум 2 года от рождения).

На секундочку. Я не в курсе о нейросетях, которые обучались 2 года!

Некоторые тут сетуют, что нейросети не могут объяснить, как они решают задачу. "Обломно", говорят они, "надо бы, чтобы нейросеть объяснила, как она так успешно решает задачу". Господа, ну давайте полистаем код Windows XP, который вроде как Майкрософтом открыт для всеобщего доступа. Что мы там увидим? Фигу в книге?

[realeugene]

Mihaylo в сообщении #1349281 писал(а):

Господа, ну давайте полистаем код Windows XP, который вроде как Майкрософтом открыт для всеобщего доступа. Что мы там увидим? Фигу в книге?

Не сомневаюсь, что он будет понятен, при совместном чтении документации по интерфейсам подсистем и книг по архитектуре Windows XP.

Разумеется, уже сейчас существует множество задач, с решением которых компьютеры справляются лучше людей. В том числе, и алгоритмы ИИ. Но как компьютеры смогут интегрироваться в человеческий социум, если их поведение не будет похоже на человеческое, включая, допускаемые ими ошибки?

[Mihaylo]

realeugene в сообщении #1349288 писал(а):

Не сомневаюсь, что он будет понятен, при совместном чтении документации по интерфейсам подсистем и книг по архитектуре Windows XP.

Вы в 100500-ый раз делаете ошибку: путаете себя лично с собирательным образом супер-человека (цивилизации за определённый промежуток времени).
Правильнее говорить: есть вероятность, что не сегодня, так в течение 20 лет найдётся некий человек, а скорее всего целая организация, которая с горем пополам разберёт код Windows.

Определённо можно представить супер-человека, который разберёт как трёхслойный перцептрон раскусывает задачу MNIST с точностью 92%. Ничего там нет сложного, как и в коде Windows.

Научитесь делать неантропоцентричные оценки.

-- 27.10.2018, 09:19 --

realeugene в сообщении #1349288 писал(а):

Но как компьютеры смогут интегрироваться в человеческий социум, если их поведение не будет похоже на человеческое, включая, допускаемые ими ошибки?

А надо? Роди ребёнка и интегрируй в общество всего за миллион-два рублей.

Порассуждай над экономическим эффектом и в противовес - над техническими трудностями.

[realeugene]

Mihaylo в сообщении #1349407 писал(а):

Правильнее говорить: есть вероятность, что не сегодня, так в течение 20 лет найдётся некий человек, а скорее всего целая организация, которая с горем пополам разберёт код Windows.

Открою вам страшную тайну: великую и ужасную Windows XP написали программисты, то есть, люди. Каждую строчку её кода, своими руками. Даже прочитать все строчки её кода, наверное, сейчас не под силу одному человеку. Но при этом хорошо известна её архитектура, известны её интерфейсы и, при необходимости, можно разобраться, зачем написана та или иная строчка кода. А как вы, думаете, правят баги в старом коде? Тем более, что большинство её разработчиков всё ещё живы и у них можно проконсультироваться.

Windows XP - это сложная машина, которая целиком и полностью спроектированная инженерами, снизу доверху. И никакими не "суперлюдьми", а самыми обычными.

[Mihaylo]

realeugene в сообщении #1349413 писал(а):

Открою вам страшную тайну

Что вы пытаетесь доказать?

Возьмите и изучите веса нейронной сети с сотней нейронов в скрытом слое. Попробуйте понять, какой признак соответствует выходу каждого нейрона в скрытом слое. Думаете это невозможно? Возможно! Только неохота. Также как и ковыряться в коде старой Windows.

Итак, нейронные сети решают сложные задачи, от них не обязательно требовать объяснения, как они достигли хорошего результата. Довольно странное, но расхожее пожелание среди обывателей.

[realeugene]

Mihaylo в сообщении #1349424 писал(а):

Возьмите и изучите веса нейронной сети с сотней нейронов в скрытом слое. Попробуйте понять, какой признак соответствует выходу каждого нейрона в скрытом слое. Думаете это невозможно?

По определению, каждый нейрон несёт какой-то признак. Иногда чёрт поймёт, почему именно такой.

[Mihaylo]

realeugene в сообщении #1349428 писал(а):

Иногда чёрт поймёт, почему именно такой.

Да, такое бывает, особенно, когда нейрон переобученный, то есть ухватившийся за неправильные признаки из предыдущего слоя. Но в основном там из признаков можно выделить наличие/отсутствие различных хвостиков, загибулин, закорючек. (Если говорить о задаче MNIST - распознавании цифр.)

[realeugene]

Mihaylo в сообщении #1349433 писал(а):

Но в основном там из признаков можно выделить наличие/отсутствие различных хвостиков, загибулин, закорючек. (Если говорить о задаче MNIST - распознавании цифр.)

Кстати, были ли статьи по этому поводу с анализом получающихся признаков?

[Alephegg]

Mihaylo в сообщении #1349281 писал(а):

На секундочку. Я не в курсе о нейросетях, которые обучались 2 года!

Это потому, что почти любая искусственная нейросеть чревата переобучением, а у естественных нейросетей такого нет. Только легкая усталость, которая снимается сном или физкультурой.

[ozheredov]

Alephegg в сообщении #1344485 писал(а):

Нет, я имел ввиду тот факт, что современные системы вообще не самостоятельны. 0.9999 из них являются вызываемыми функциями. Сложными, но функциями. И их "самостоятельность" нуждается в том, чтобы ее спроектировать.

myHLI = new HLI ‘ конструктор по умолчанию
myHLI = train(myHLI)
SuccessFlag = apply(RealLifeCircumstances, myHLI)  

И де несамостоятельность??

[Alephegg]

ozheredov в сообщении #1349524 писал(а):

И де несамостоятельность??

А в чем самостоятельность?