Deep Learning и задача понимания естественного языка

[Mihaylo]

Eugeen1948 в сообщении #1347908 писал(а):

Действия Deep Learning?

Deep Learning будет обучаться.

Alephegg в сообщении #1347921 писал(а):

Вы не можете ответить ни на один из вопросов, которые я задаю.

Если вопросы корректно заданы, то на них можно ответить. Так где ваши вопросы?

Yodine в сообщении #1347926 писал(а):

Не проходят аргументы.

А вы подумайте. Вот типовой инженерный вопрос - "Как по информации из интернета понять правила приличия поведения в обществе (что такое хорошо и что такое плохо)?".
Вопрос не философский, а инженерный! Надо придумать реально действующий механизм! Только не говорите мне про сильные интеллекты. Ведь малые дети успешно усваивают простейшие правила приличия. К сожалению, они об этом узнают не из интернета, а от папиного ремня.

[Yodine]

Mihaylo в сообщении #1348027 писал(а):

А вы подумайте. Вот типовой инженерный вопрос - "Как по информации из интернета понять правила приличия поведения в обществе (что такое хорошо и что такое плохо)?".
Вопрос не философский, а инженерный! Надо придумать реально действующий механизм!

Ну вот и подумайте. Это ваш вопрос к вам же должен быть прежде всего, поскольку вы же утверждаете, что нейросеткам все по силам. И даже, если вы умудритесь натренировать нейросетку и на данный вопрос, то это нисколько не поможет нейросетке решать вопросы из иной области. Данный аргумент уже приводился неоднократно.

[realeugene]

Mihaylo в сообщении #1347901 писал(а):

Вроде как считается, что роботы General Dynamics BigDog имеют самые совершенные эффекторы и системы управления ими. Ну вы видели эти неуклюжие машины?

Видели.
https://www.youtube.com/watch?v=kHBcVlqpvZ8

[Mihaylo]

Yodine в сообщении #1348053 писал(а):

Это ваш вопрос к вам же

Ответ прост - никакой слабый или сильный интеллект неспособен из интернет-информации определить правила приличия в обществе. Потому что там эта информация хоть и присутствует, но она завуалирована, скрыта и искажена.

Вы не поняли основной сути моих рассуждений с "шедевральной" человеческой рукой. Продолжаете петь про могущество интернета. Своего рода поклонение мозгу.

[Yodine]

Вот именно, ваша нейросетка и не способна. И в сотый раз уже говорю, что дефект в конструкции, а не в недостатке данных. Дефект в алгориме обобщения, в алгоритме обработки информации, в алгоритме нахождения закономерностей, в алгоритме порождения выводов и т.д., и т.п.

-- 21.10.2018, 16:14 --

Mihaylo, идея появилась делайте голосовалку по поводу перспективности нейросетевого подхода и альтернативных путей создания ИИ, узнаем мнение участников форума.

[Mihaylo]

Yodine в сообщении #1348153 писал(а):

Вот именно, ваша нейросетка и не способна.

Ещё раз. Рассуждайте попроще. Человек правила приличия узнаёт не в интернете, а от папиного ремня. Соответственно нужно для нейросетки создать "папин ремень", а не интернет. Логично? Как вы себе это представляете?

Но вы всегда ставите нейросеть в неравное положение, что потом позволяет вам говорить про нейросеть всё самое плохое. Дефект конструкции.

Вы разве не поняли важность размеченных данных на первом этапе развития любого интеллекта, пусть даже сильного?

Yodine в сообщении #1348153 писал(а):

делайте голосовалку по поводу перспективности нейросетевого подхода

Голосовалка - это что? Мнение обывателей? Буу...

Yodine в сообщении #1348153 писал(а):

альтернативных путей создания ИИ

Мнение обывателей-альтов? Нее, на этом форуме за такое банят.

[Rasool]

Современные нейронные сети реализуют функцию отображения одного множества на другое. Mihaylo искренне считает, что с помощью такой функции или функций на современном железе с современной архитектурой НС можно реализовать сильный ИИ.

[Mihaylo]

Rasool в сообщении #1348273 писал(а):

Современные нейронные сети реализуют функцию отображения одного множества на другое.

Отображение - это лишь половина функционала, вторая более важная часть - обучение. Ну и вдобавок надо ещё немного охарактеризовать обучающие данные, чтобы картина стала полной.

[realeugene]

Mihaylo в сообщении #1348298 писал(а):

Отображение - это лишь половина функционала, вторая более важная часть - обучение. Ну и вдобавок надо ещё немного охарактеризовать обучающие данные, чтобы картина стала полной.

Буду настаивать на том, что крайне важна правильная архитектура сетки. Сейчас архитектуры всё ещё слишком примитивны, а архитектуры со сложными обратными связями никто не знает, как правильно обучать, как я понимаю. Потому как обучить одного ребёнка или повторить всю эволюцию человеческого интеллекта, включая появление такого важного компонента, как папа с ремнём - это задачи различных классов сложности.

[Mihaylo]

realeugene в сообщении #1348310 писал(а):

архитектуры со сложными обратными связями никто не знает

Точно?

[realeugene]

Mihaylo в сообщении #1348346 писал(а):

Точно?

Уже знают?

[Mihaylo]

Классический многослойный перцептрон с обратным распространением ошибки содержит целый вектор обратных связей. Эти обратные связи идут от каждого слоя к предыдущему. Количество этих обратных связей равно количеству синапсов. Ошибка-то и распространяется по этим обратным связям, в этих обратных связях сигналы $\Delta w$ изменения весов. Эти обратные связи только во время обучения, но никто не мешает во время эксплуатации продолжать обучать алгоритм, а значит обратные связи будут всегда.
А посмотрите ещё, как работает RNN или LSTM...

[realeugene]

Mihaylo в сообщении #1348387 писал(а):

А посмотрите ещё, как работает RNN или LSTM...

И всё равно мне кажется, что ещё слишком просто и недостаточно.

Я, конечно, под обратными связями подразумевал не обратное распространение ошибки (что часть алгоритма обучения) а циклы и рекурсию.

[Mihaylo]

Ну тут циклов также хватает... Суперкомпьютеры справиться не могут.

[buddy]

Rasool в сообщении #1343605 писал(а):

Alephegg в сообщении #1343556 писал(а):

Проблема понимания ЕЯ в том, что очень мало людей понимают, что такое понимание. :) Как оно реализовано на уровне когнитивных функций естественного мышления. Что оно такое и как может быть реализовано в формальных системах. Если поймете 'понимание', то уже можно и задачи ставить и инструменты соответствующие искать.

Рекомендую почитать книгу Кобозевой И.М. "Лингвистическая семантика", можно Ю. Д. Апресяна "Избранные труды том I
Лексическая семантика".
Понимание смысла текста сводится к тому, что субьект (человек или машина) сопоставляет смысл прочитанного с имеющимися знаниями о мире в голове. Если 5-летнему ребенку рассказать про синхрофазотрон, то он ничего не поймет, потому что он не обладает нужными знаниями о физике. В случае машины читаемый текст на ЕЯ можно преобразовывать в онтологию с помощью специального синтактико-семантического парсера и сравнить эту онтологию с имеющейся базой знаний в памяти. Тут уже потребуется логика, как говорил известный ученый в области инженерии знаний Джон Сова.

Уважаемый Rasool в данном случае ник Alephegg был прав.
Тут дело не в механических онтологиях и не в логике, хотя частично требуется и то и другое. Нужны правильные модели смысла и понимания.