Deep Learning и задача понимания естественного языка

[Mihaylo]

realeugene в сообщении #1345792 писал(а):

Этот тест полагается на стандартный человеческий опыт. Так что, он ни в коей мере не является примером решения задачи, про которую вообще ничего не известно.

Тест IQ, конечно, содержит некоторую часть исходных данных, но их очень мало, обычно 3-4 обучающих примера. Вот тут всего 2 примера (или сколько? или тут совсем нет примеров? а в чём состоит вопрос?).

Задачи, о которых вообще ничего неизвестно, задаются нам каждый день и мы постоянно их решаем. Естественно просить высокий logloss при решении таких задач не следует, но сам факт ломает любое представление о том, что у каждой задачи должны быть условия и исходные данные.

Обычно эти задачи звучат так:
1. Сделай предположение, как работает мышление.
2. Как работает квантовый компьютер?
3. Сколько галактик во вселенной Яблотрона?

Во всех этих сферах обычный человек не имеет познаний, однако, это не мешает разговаривать на тему.

[Mihaylo]

Вы все утонули во всяких там метазадачах, вы думаете, что интеллект призван решать фундаментальные задачи, решающие судьбу всего человечества. Короче, ваш эгоизм зашкаливает.

Вы может не очень понимаете, какие бывают задачи, поэтому требуется небольшой тренинг.

Вот пример:

Цитата:

Версия смерти Петра Ильича Чайковского от яда не выдерживает никакой критики. Чайковского пытались лечить четыре врача. А поскольку холера имеет очень яркие признаки, перепутать ее с отравлением невозможно. Да и где бы композитор достал такой экзотический яд, который действует четверо суток? Мышьяк, о котором говорили сторонники версии Орловой, убил бы человека за один день. Или Чайковский принимал его малыми порциями, чтобы помучиться?

Я совершенно уверен, что его смерть была жуткой случайностью: он выпил холодной воды, которая была инфицирована вибрионами холеры. Кстати, заразился Петр Ильич, скорее всего не в ресторане Лейнера. Он ушел оттуда часа в два ночи, а утром почувствовал недомогание. Инкубационный период для холеры - от 12 часов до 3 дней. Получается, что заражение произошло раньше.

Так от чего же умер Пётр Ильич Чайковский?

Хватит мучить меня своими универсальными интеллектами, решите что-нибудь частное.

[Yodine]

Mihaylo в сообщении #1345857 писал(а):

Тест IQ, конечно, содержит некоторую часть исходных данных, но их очень мало, обычно 3-4 обучающих примера. Вот тут всего 2 примера (или сколько? или тут совсем нет примеров? а в чём состоит вопрос?).

Сначала думал, что как-то алфавит там по кругу или нечто в таком роде, потом подумал, что "****овая" похоже на окончание прилагательного или существительного, типа "весовая", "буровая", "дубовая", стал подбирать "*о*т", "торт", "корт", "тост", "гост", "мост", ооо "мостовая" ответ.

[realeugene]

Mihaylo в сообщении #1345857 писал(а):

Тест IQ, конечно, содержит некоторую часть исходных данных, но их очень мало, обычно 3-4 обучающих примера.

Не забывайте про словарь русского языка. У про кучу других знаний в вашей голове, необходимых для решения подобных других тестов.

[Yodine]

Онтология это не метаданные, метаданные это не онтология.

Yodine в сообщении #1343995 писал(а):

Онтология это структура данных по сути. Формализация неформальных данных и знаний, понятий. При чтении всяких текстов, где встречается слово онтология, я подставляю мысленно слова "определение/понятие" и текст становится понятным.

На 5-й странице давал.
Неформально онтология это явное описание: понятий/терминов, смысла понятий/терминов, правил использования понятий/терминов.
Онтология это формальное описание предметной области, состоящее из понятий/терминов и правил использования их в рамках предметной области.
Формальные модели предметной области называются онтологией предметной области.
Более формально. Онтология это тройка (множество понятий, множество отношений, множество интерпретаций).

Подробнее можно начать с этой книги, например:
ОНТОЛОГИИ И ТЕЗАУРУСЫ
Учебное пособие
Соловьев В.Д., Добров Б.В., Иванов В.В., Лукашевич Н.В.

-- 13.10.2018, 09:01 --

realeugene в сообщении #1345723 писал(а):

Yodine в сообщении #1345693 писал(а):

Не каждое описание есть функция, не каждая структура есть функция.

Что мешает представить граф функцией? И обучить той же структуре нейросеть.

Функция не граф, граф не функция.

[realeugene]

Alephegg в сообщении #1345831 писал(а):

Невозможность построить функции как модели в том, что у нас всегда останется часть описания (форматов), которая будет за пределами run-time исполнения.

Продолжаю пытаться вас понять.

Допустим, у нас есть компьютерная модель некоторой области знания. Пусть, это будет система складского учёта. Никакого особого интеллекта, не написанного программистом, зато это хорошо знакомая СУБД, умеющая хранить записи в соответствии со схемой БД и эффективно искать при помощи SQL запросов. В схеме БД настроены связи между таблицами в виде первичных и альтернативных ключей. В БД хранятся записи о расположении полок, о коробках на полках и о товарах в коробках. Полок много, коробок много, различных типов товаров ещё больше, экземпляров товаров каждого типа вообще много. Т. е. есть полки, есть коробки, есть товары, есть таблицы в БД, есть записи в различных таблицах про товары, коробки и полки, есть системная таблица с описанием схемы БД, есть код описания схемы БД, в котором описаны поля каждой таблицы и внешние ключи и которым эта БД создаётся.

Вопрос. Что в этой системе объекты, что онтологии и что метаонтологии, которые неизбежно останутся за пределами run-time исполнения?

-- 13.10.2018, 12:05 --

Yodine в сообщении #1345886 писал(а):

Функция не граф, граф не функция.

Это только так кажется. Граф - это предикат на множестве пар вершин.

[fan_of_algoritms]

Yodine в сообщении #1345868 писал(а):

Mihaylo в сообщении #1345857 писал(а):

Тест IQ, конечно, содержит некоторую часть исходных данных, но их очень мало, обычно 3-4 обучающих примера. Вот тут всего 2 примера (или сколько? или тут совсем нет примеров? а в чём состоит вопрос?).

Сначала думал, что как-то алфавит там по кругу или нечто в таком роде, потом подумал, что "****овая" похоже на окончание прилагательного или существительного, типа "весовая", "буровая", "дубовая", стал подбирать "*о*т", "торт", "корт", "тост", "гост", "мост", ооо "мостовая" ответ.

Хороший пример. "Ярмо" тоже подходит по аналогии с имеющимся "Авто", уже два решения. И откуда тестируемому знать, что задумал автор?

[realeugene]

Yodine в сообщении #1345886 писал(а):

ОНТОЛОГИИ И ТЕЗАУРУСЫ
Учебное пособие
Соловьев В.Д., Добров Б.В., Иванов В.В., Лукашевич Н.В.

За ссылку на учебник спасибо. Давно пора.

-- 13.10.2018, 12:12 --

fan_of_algoritms в сообщении #1345889 писал(а):

И откуда тестируемому знать, что задумал автор?

Это нужно понять исходя из модели автора

-- 13.10.2018, 12:21 --

Цитата:

Неформально, онтология представляет собой некоторое описание
взгляда на мир применительно к конкретной области интересов.

Это в самом начале учебника.
Это неформальное определение не подразумевает произвольное расширение онтологии на всё хорошее и против всего плохого. Подразумевается заданный для онтологии выбор области интересов.

[Yodine]

realeugene в сообщении #1345890 писал(а):

Это неформальное определение не подразумевает произвольное расширение онтологии на всё хорошее и против всего плохого. Подразумевается заданный для онтологии выбор области интересов.

Возьмите весь мир в качестве предметной области.

[realeugene]

Yodine в сообщении #1345898 писал(а):

Возьмите весь мир в качестве предметной области.

У меня не получается охватить своим разумом весь мир. И хорошо бы сначала доказать, что это возможно.

[Yodine]

realeugene в сообщении #1345888 писал(а):

Это только так кажется. Граф - это предикат на множестве пар вершин.

Функция это тройка, граф это двойка.

-- 13.10.2018, 10:05 --

realeugene в сообщении #1345900 писал(а):

У меня не получается охватить своим разумом весь мир. И хорошо бы сначала доказать, что это возможно.

Утверждение, что у вас не получается охватить, не является аргументом в пользу этого вашего утверждения:

realeugene в сообщении #1345890 писал(а):

Это неформальное определение не подразумевает произвольное расширение онтологии на всё хорошее и против всего плохого.

[realeugene]

Yodine в сообщении #1345901 писал(а):

Утверждение, что у вас не получается охватить, не является аргументом в пользу этого вашего утверждения:

Так это вам доказывать, что предлагаемое вами расширение понятия из учебника возможно.

[Yodine]

У меня не расширение понятия, а обычно применение, такое применение обычное дело, можно нагуглить в литературе.

-- 13.10.2018, 10:26 --

fan_of_algoritms в сообщении #1345889 писал(а):

"Ярмо" тоже подходит по аналогии с имеющимся "Авто", уже два решения. И откуда тестируемому знать, что задумал автор?

Подразумевается, что если есть информация в задаче, то маловероятно, что эта информация будет излишней. Желательно задействовать всю информацию.

[fan_of_algoritms]

Yodine в сообщении #1345905 писал(а):

У меня не расширение понятия, а обычно применение, такое применение обычное дело, можно нагуглить в литературе.

-- 13.10.2018, 10:26 --

fan_of_algoritms в сообщении #1345889 писал(а):

"Ярмо" тоже подходит по аналогии с имеющимся "Авто", уже два решения. И откуда тестируемому знать, что задумал автор?

Подразумевается, что если есть информация в задаче, то маловероятно, что эта информация будет излишней. Желательно задействовать всю информацию.

Это понятно, но как быть если ее всю можно задействовать разными способами. И откуда знать, что подразумевается именно это а не иное? Третий вариант: "Постовая". Такая ситуация от того, что язык имеет своим свойством избыточность во всем, а автор этого не понимает, ну не лингвист, но язык использовать хочется.

[Alephegg]

Yodine в сообщении #1345886 писал(а):

Онтология это формальное описание предметной области

Это выглядит примерно так, я Вам говорю: яблоки стоят по доллару, это - товар, а Вы мне отвечаете - нет, это фрукты, посмотрите учебник по агротехнике.

Если Вы собираетесь обрабатывать свое "описание проблемной области", то оно удивительным образом станет данными, а если эти данные будут использоваться в качестве описания других данных, то - метаданными. Тут нет места никаким чудесам и магии. Онтология - это метаданные, если мы говорим об исполняемых программах и используемых в них онтологии, а не журналисте вокруг этого.