Машинное обучение. Обучение с оракулом

[Sasha_Gu]

Добрый день, уважаемые форумчане! У меня, наверное, вопрос не совсем для этого раздела (но не знаю, куда его еще определить). Вгрызаюсь в основы машинного обучения и не могу понять идею обучения с оракулом. Обучение с учителем понятно, с оракулом - нет. Что лежит "внутри" оракула? Какой-то вероятностный алгоритм, или это все же какая-то классификация, проведенная человеком (тогда чем оно отличается от обучения с учителем)? Вот, например, цитата из книги Флаха "Машинное обучение" -

"Вторая <хитрость> состоит в том, что он не просто добавляет новые
отрицательные примеры в список, а пытается найти отрицательные примеры,
в которых меньше литералов равно true, поскольку это приводит к более общим
дизъюнктам. Это возможно, если предположить, что у нас есть доступ к ОРАКУЛУ
членства Mb, который может сказать, является конкретный пример членом
концепта, который мы обучаем, или нет. "

Слово "оракул" тут встречается впервые в книге, и абсолютно не понятно, что это за чудесная программка или алгоритм, который вдруг знает является ли конкретный пример членом концепта.

[Sasha_Gu]

Простите, никто не может хоть кратко ответить (интересно же)))

[mserg]

По какому учебнику / труду постигаете "идею обучения с оракулом"?

[Sasha_Gu]

mserg в сообщении #1254230 писал(а):

По какому учебнику / труду постигаете "идею обучения с оракулом"?

Моей вводной, так скажем "легкой" книгой, введением в МО стал Флах (см. выше), "идею обучения с оракулом" мне посоветовали постигать по "классической" книжке Тома Митчела. Одна проблема, я ее не оч.-то тяну. Что-то можете посоветовать?

[mserg]

Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA

На счет литературы ничего подсказать не могу.
Многие изучают язык R на на нем упражняются.

[Sasha_Gu]

mserg в сообщении #1254298 писал(а):

Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA

На Генлибе книга есть, но на английском)
Черный ящик -это, конечно же, хорошо... Только вот конкретная (и реальная ситуация))): преподаватель меня спрашивает, что у нас кроется за оракулом? И как-бы даже ответ вероятностный алгоритм - не есть удовлетворительный ответ. То есть, хотелось бы понять, что есть оракул на практике, а не как некий теоретический/философский концепт или модель.

-- 09.10.2017, 17:45 --

mserg в сообщении #1254298 писал(а):

Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA

На счет литературы ничего подсказать не могу.
Многие изучают язык R на на нем упражняются.

R - это готовые библиотеки, курс, на который я целюсь, увы не про пользование готовым(

[mihaild]

Sasha_Gu в сообщении #1254303 писал(а):

что у нас кроется за оракулом?

Это "неправильный" вопрос.
Вычисление с оракулом - это модель вычислений, в которой, кроме стандартных, есть операция "запрос к оракулу".

На практике через нее моделируют ситуации, когда у нас есть какой-то внешний источник данных, которому мы можем задавать вопросы и получать ответы. Это может быть просто какая-то функция (детерменированная или вероятностная), это может быть пользователь ("на какой картинке есть кот") и т.д.

Machine Learning Митчелла - одна из самых простых общих книжек в этой области. Если с ней проблемы - возможно, стоит подтянуть базу (хотя у нее вроде нет требований, кроме простого комбинаторного тервера).

[mserg]

Можно придумать какой-нибудь "реальный" пример.

Допустим, требуется выпускать трубы разного диаметра и разных характеристик. "Веселые картинки" тут:
https://www.youtube.com/watch?v=A-zyUKJqioY
* Для производства конкретных труб с конкретными характеристиками требуется знать подходящие параметры тех. процесса.
* Конечные характеристики трубы определяются сложной "физико-химической" трехмерной моделью во времени. Для расчетов требуется дорогое вычислительное оборудование и значительное время для моделирования
* Проблема усугубляется тем, что целевые характеристики труб сложным образом зависят от тех. процесса, поэтому нужно их подбирать, каждый раз моделирую сложный "физико-химический" процесс.

По этой причине требуется разработать классификатор, который по целевым характеристикам трубы и параметрам тех. процесса будет выдавать норма/брак (ну, или "вероятность" в диапазоне от 0(брак) до 1(норма) в зависимости от того, насколько заданные характеристики труб отличаются от полученных моделированием).

В этой задаче "Оракул" - это система моделирования "физико-химического" процесса. Знание того, что стоит за "Оракулом", не сильно продвинет к решению задачи классификатора.

На вопрос, что кроется за Оракулом, можно ответить что "сложность" или "неизвестность", а также ненужны детали. В других случаях никакой "Оракул" не нужен.

--------------------
На счет R, я думаю, не все так однозначно - у "готовых" алгоритмов не редко столько параметров, что ...
Какой-то практикум нужен в любом случае - иначе все вылетит из головы.

[Sasha_Gu]

mihaild в сообщении #1254311 писал(а):

Вычисление с оракулом - это модель вычислений, в которой, кроме стандартных, есть операция "запрос к оракулу".

На практике через нее моделируют ситуации, когда у нас есть какой-то внешний источник данных, которому мы можем задавать вопросы и получать ответы. Это может быть просто какая-то функция (детерменированная или вероятностная), это может быть пользователь ("на какой картинке есть кот") и т.д.

Machine Learning Митчелла - одна из самых простых общих книжек в этой области. Если с ней проблемы - возможно, стоит подтянуть базу (хотя у нее вроде нет требований, кроме простого комбинаторного тервера).

Спасибо больше, так гораздо понятнее! Митчелла попробую еще раз проштудировать. Английский тут скорее немного проблема, хотя язык, вроде, сносно знаю, но в больших объемах читать не оч. Привык. А что еще бы вы посоветовали читать начинающему в машинном обучении?

-- 11.10.2017, 08:44 --

mserg в сообщении #1254377 писал(а):

Можно придумать какой-нибудь "реальный" пример.

Допустим, требуется выпускать трубы разного диаметра и разных характеристик. "Веселые картинки" тут:
https://www.youtube.com/watch?v=A-zyUKJqioY
* Для производства конкретных труб с конкретными характеристиками требуется знать подходящие параметры тех. процесса.
* Конечные характеристики трубы определяются сложной "физико-химической" трехмерной моделью во времени. Для расчетов требуется дорогое вычислительное оборудование и значительное время для моделирования
* Проблема усугубляется тем, что целевые характеристики труб сложным образом зависят от тех. процесса, поэтому нужно их подбирать, каждый раз моделирую сложный "физико-химический" процесс.

По этой причине требуется разработать классификатор, который по целевым характеристикам трубы и параметрам тех. процесса будет выдавать норма/брак (ну, или "вероятность" в диапазоне от 0(брак) до 1(норма) в зависимости от того, насколько заданные характеристики труб отличаются от полученных моделированием).

В этой задаче "Оракул" - это система моделирования "физико-химического" процесса. Знание того, что стоит за "Оракулом", не сильно продвинет к решению задачи классификатора.

На вопрос, что кроется за Оракулом, можно ответить что "сложность" или "неизвестность", а также ненужны детали. В других случаях никакой "Оракул" не нужен.

--------------------
На счет R, я думаю, не все так однозначно - у "готовых" алгоритмов не редко столько параметров, что ...
Какой-то практикум нужен в любом случае - иначе все вылетит из головы.

Спасибо за пример, R или не R, но про практику вы все-таки дело говорите.