2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки





Начать новую тему Ответить на тему
 
 Машинное обучение. Обучение с оракулом
Сообщение05.07.2017, 19:00 


19/03/15
27
Добрый день, уважаемые форумчане! У меня, наверное, вопрос не совсем для этого раздела (но не знаю, куда его еще определить). Вгрызаюсь в основы машинного обучения и не могу понять идею обучения с оракулом. Обучение с учителем понятно, с оракулом - нет. Что лежит "внутри" оракула? Какой-то вероятностный алгоритм, или это все же какая-то классификация, проведенная человеком (тогда чем оно отличается от обучения с учителем)? Вот, например, цитата из книги Флаха "Машинное обучение" -

"Вторая <хитрость> состоит в том, что он не просто добавляет новые
отрицательные примеры в список, а пытается найти отрицательные примеры,
в которых меньше литералов равно true, поскольку это приводит к более общим
дизъюнктам. Это возможно, если предположить, что у нас есть доступ к ОРАКУЛУ
членства Mb, который может сказать, является конкретный пример членом
концепта, который мы обучаем, или нет. "

Слово "оракул" тут встречается впервые в книге, и абсолютно не понятно, что это за чудесная программка или алгоритм, который вдруг знает является ли конкретный пример членом концепта.

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение08.10.2017, 22:43 


19/03/15
27
Простите, никто не может хоть кратко ответить (интересно же)))

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение09.10.2017, 13:10 


17/10/08
998
По какому учебнику / труду постигаете "идею обучения с оракулом"?

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение09.10.2017, 18:23 


19/03/15
27
mserg в сообщении #1254230 писал(а):
По какому учебнику / труду постигаете "идею обучения с оракулом"?


Моей вводной, так скажем "легкой" книгой, введением в МО стал Флах (см. выше), "идею обучения с оракулом" мне посоветовали постигать по "классической" книжке Тома Митчела. Одна проблема, я ее не оч.-то тяну. Что-то можете посоветовать?

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение09.10.2017, 19:37 


17/10/08
998
Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA

На счет литературы ничего подсказать не могу.
Многие изучают язык R на на нем упражняются.

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение09.10.2017, 19:43 


19/03/15
27
mserg в сообщении #1254298 писал(а):
Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA


На Генлибе книга есть, но на английском)
Черный ящик -это, конечно же, хорошо... Только вот конкретная (и реальная ситуация))): преподаватель меня спрашивает, что у нас кроется за оракулом? И как-бы даже ответ вероятностный алгоритм - не есть удовлетворительный ответ. То есть, хотелось бы понять, что есть оракул на практике, а не как некий теоретический/философский концепт или модель.

-- 09.10.2017, 17:45 --

mserg в сообщении #1254298 писал(а):
Книги этой нет под рукой....

Но, тут можно рассуждать по методу женской интуиции ...

Оракул, вероятно, - это "черный ящик"
https://ru.wikipedia.org/wiki/%D0%A7%D1 ... 0%B8%D0%BA

На счет литературы ничего подсказать не могу.
Многие изучают язык R на на нем упражняются.


R - это готовые библиотеки, курс, на который я целюсь, увы не про пользование готовым(

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение09.10.2017, 20:04 
Заслуженный участник
Аватара пользователя


16/07/14
1413
Москва
Sasha_Gu в сообщении #1254303 писал(а):
что у нас кроется за оракулом?
Это "неправильный" вопрос.
Вычисление с оракулом - это модель вычислений, в которой, кроме стандартных, есть операция "запрос к оракулу".

На практике через нее моделируют ситуации, когда у нас есть какой-то внешний источник данных, которому мы можем задавать вопросы и получать ответы. Это может быть просто какая-то функция (детерменированная или вероятностная), это может быть пользователь ("на какой картинке есть кот") и т.д.

Machine Learning Митчелла - одна из самых простых общих книжек в этой области. Если с ней проблемы - возможно, стоит подтянуть базу (хотя у нее вроде нет требований, кроме простого комбинаторного тервера).

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение10.10.2017, 00:06 


17/10/08
998
Можно придумать какой-нибудь "реальный" пример.

Допустим, требуется выпускать трубы разного диаметра и разных характеристик. "Веселые картинки" тут:
https://www.youtube.com/watch?v=A-zyUKJqioY
* Для производства конкретных труб с конкретными характеристиками требуется знать подходящие параметры тех. процесса.
* Конечные характеристики трубы определяются сложной "физико-химической" трехмерной моделью во времени. Для расчетов требуется дорогое вычислительное оборудование и значительное время для моделирования
* Проблема усугубляется тем, что целевые характеристики труб сложным образом зависят от тех. процесса, поэтому нужно их подбирать, каждый раз моделирую сложный "физико-химический" процесс.

По этой причине требуется разработать классификатор, который по целевым характеристикам трубы и параметрам тех. процесса будет выдавать норма/брак (ну, или "вероятность" в диапазоне от 0(брак) до 1(норма) в зависимости от того, насколько заданные характеристики труб отличаются от полученных моделированием).

В этой задаче "Оракул" - это система моделирования "физико-химического" процесса. Знание того, что стоит за "Оракулом", не сильно продвинет к решению задачи классификатора.

На вопрос, что кроется за Оракулом, можно ответить что "сложность" или "неизвестность", а также ненужны детали. В других случаях никакой "Оракул" не нужен.

--------------------
На счет R, я думаю, не все так однозначно - у "готовых" алгоритмов не редко столько параметров, что ...
Какой-то практикум нужен в любом случае - иначе все вылетит из головы.

 Профиль  
                  
 
 Re: Машинное обучение. Обучение с оракулом
Сообщение11.10.2017, 10:37 


19/03/15
27
mihaild в сообщении #1254311 писал(а):
Вычисление с оракулом - это модель вычислений, в которой, кроме стандартных, есть операция "запрос к оракулу".

На практике через нее моделируют ситуации, когда у нас есть какой-то внешний источник данных, которому мы можем задавать вопросы и получать ответы. Это может быть просто какая-то функция (детерменированная или вероятностная), это может быть пользователь ("на какой картинке есть кот") и т.д.

Machine Learning Митчелла - одна из самых простых общих книжек в этой области. Если с ней проблемы - возможно, стоит подтянуть базу (хотя у нее вроде нет требований, кроме простого комбинаторного тервера).

Спасибо больше, так гораздо понятнее! Митчелла попробую еще раз проштудировать. Английский тут скорее немного проблема, хотя язык, вроде, сносно знаю, но в больших объемах читать не оч. Привык. А что еще бы вы посоветовали читать начинающему в машинном обучении?

-- 11.10.2017, 08:44 --

mserg в сообщении #1254377 писал(а):
Можно придумать какой-нибудь "реальный" пример.

Допустим, требуется выпускать трубы разного диаметра и разных характеристик. "Веселые картинки" тут:
https://www.youtube.com/watch?v=A-zyUKJqioY
* Для производства конкретных труб с конкретными характеристиками требуется знать подходящие параметры тех. процесса.
* Конечные характеристики трубы определяются сложной "физико-химической" трехмерной моделью во времени. Для расчетов требуется дорогое вычислительное оборудование и значительное время для моделирования
* Проблема усугубляется тем, что целевые характеристики труб сложным образом зависят от тех. процесса, поэтому нужно их подбирать, каждый раз моделирую сложный "физико-химический" процесс.

По этой причине требуется разработать классификатор, который по целевым характеристикам трубы и параметрам тех. процесса будет выдавать норма/брак (ну, или "вероятность" в диапазоне от 0(брак) до 1(норма) в зависимости от того, насколько заданные характеристики труб отличаются от полученных моделированием).

В этой задаче "Оракул" - это система моделирования "физико-химического" процесса. Знание того, что стоит за "Оракулом", не сильно продвинет к решению задачи классификатора.

На вопрос, что кроется за Оракулом, можно ответить что "сложность" или "неизвестность", а также ненужны детали. В других случаях никакой "Оракул" не нужен.

--------------------
На счет R, я думаю, не все так однозначно - у "готовых" алгоритмов не редко столько параметров, что ...
Какой-то практикум нужен в любом случае - иначе все вылетит из головы.


Спасибо за пример, R или не R, но про практику вы все-таки дело говорите.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 9 ] 

Модераторы: maxal, Karan, Toucan, PAV, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group