2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 Машинное обучение [Литература]
Сообщение27.01.2013, 02:04 


07/03/11
690
Подскажите, пожалуйста, книги по машинному обучению и нейросетям, желательно на русском языке (можно на английском). В наличии пока имеется Хайкин. Спасибо!

___________________
// Близкая тема: «Машинное обучение. Необходимые для изучения дисциплины» / GAA

 Профиль  
                  
 
 Posted automatically
Сообщение27.01.2013, 12:12 
Админ форума
Аватара пользователя


19/03/10
8952
 i  Тема перемещена из форума «Помогите решить / разобраться (М)» в форум «Computer Science»

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 15:04 
Аватара пользователя


20/12/08
236
изниоткуда
Хайкина хватит надолго, полгода-год, а то и больше, если нормально вникать. Не думаю, что есть объективные причины, не проработав хайкина, искать другую литературу, тем более только на русском. Лучше даже дважды проработать хайкина, по второму проходу информация воспринимается на другом уровне.

Еще на русском есть сайт machinelearning.ru, там есть интересные вещи (в т.ч. в pdf - лекции Воронцова, например), но это все-таки больше похоже на справочник, чем на учебник.

Все остальное на русском языке - попсовая туфта, честно говоря. На английском конечно полно литературы, но там уже лучше искать по конкретной тематике, интересующей на тот момент.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 16:05 
Заслуженный участник


09/08/09
3438
С.Петербург
vlad_light, машинное обучение не ограничивается нейронными сетями, поэтому полезно почитать какую-нибудь литературу, в которой дается обзор разных методов.
Например, Christopher M. Bishop. Pattern Recognition and Machine Learning

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 17:24 


07/03/11
690
Спасибо! Я ещё нашёл книгу "The elements of statistical learning", что по поводу неё скажите в сравнении с Бишопом? И есть ли перевод Бишопа на русский?

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 17:49 
Аватара пользователя


31/10/08
1244
Читать всё и как можно больше. Нет одного направления и книг где-бы всё было в одном месте.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 18:43 
Аватара пользователя


20/12/08
236
изниоткуда
Maslov в сообщении #676840 писал(а):
vlad_light, машинное обучение не ограничивается нейронными сетями, поэтому полезно почитать какую-нибудь литературу, в которой дается обзор разных методов.
Например, Christopher M. Bishop. Pattern Recognition and Machine Learning

Стопудово. Более того, я все больше разочаровываюсь в классических нейросетях как эфективном инструменте. Пожалуй, реальную пользу могут принести только специфические архитектуры со специфическими свойствами и на специфических задачах. Какой-нибудь, cascade-2, например. Все остальное делается другими методами, но быстрее.

Правда, еще должен сказать, что название книги Хайкина "Нейронные сети" это скорее завлекаловка. Большую часть книги он использует формализм нейронных сетей (даже так: графы передачи данных) для объяснения "на пальцах" алгоритмов, мало связанных с нейронными сетями. Байесы всякие, SVM, ассоциативные машины, деревья принятия решений, анализ главных компонент, модели статфизики, даже фильтры Калмана (это что сразу вспомнилось).
Поэтому я не устаю хвалить эту книгу как одно из лучших введений в data mining среди мировой литературы. А после введения уже выбирать литературу по интересующей тематике.

Pavia писал(а):
тема может быть любой, главное -- её реализируемость и актуальность прикладного применения.

Не соглашусь. Литературы куда больше, чем времени, которое можно потратить на ее прочтение. Поэтому всегда лучше выбирать наиболее достойную литературу, если такой выбор есть.


vlad_light писал(а):
Я ещё нашёл книгу "The elements of statistical learning", что по поводу неё скажите в сравнении с Бишопом? И есть ли перевод Бишопа на русский?

Перевода Бишопа нет. Сама книга хорошая, много годных примеров, но в ней довольно узкий круг тем, и изложение более поверхностное, чем у того же Хайкина.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение27.01.2013, 21:35 
Аватара пользователя


20/12/08
236
изниоткуда
Да, забыл.

Вейвлет-анализ это конечно не machine learning, просто перспективная смежная тема.
Зато есть качественная литература на русском:

S. Mallat. A wavelet tour of signal processing. Есть русский перевод в сети.
Добеши. 10 лекций по вейвлетам.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение02.07.2013, 12:40 
Аватара пользователя


17/07/08
322
allchemist в сообщении #676959 писал(а):
Стопудово. Более того, я все больше разочаровываюсь в классических нейросетях как эфективном инструменте. Пожалуй, реальную пользу могут принести только специфические архитектуры со специфическими свойствами и на специфических задачах. Какой-нибудь, cascade-2, например. Все остальное делается другими методами, но быстрее.

Интересно, в каких Ваших публикациях (журналы, сборники, монографии и др.) можно ознакомиться с конкретными сравнениями? Кстати, что такое "классические нейросети"? Не нашел нигде ссылок на "НЕклассические нейросети" :mrgreen:

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение02.07.2013, 19:23 
Аватара пользователя


31/10/08
1244
Eugeen1948 в сообщении #742342 писал(а):
Кстати, что такое "классические нейросети"?

Лично я классифицирую так.
К классическим нейронным сетям отношу.
1. Однослойный перцептрон
2. Многослойный перцептрон без обратных свзязей.
К неклассическим все остальные нейронные сети.
1. Многослойный перцептрон с обратными свзязями.
2. Корреляционные нейронные сети.
3. Свёрточные нейронные сети Яна.
3. Нейронная сеть Кохонена.
4. Нейронная сеть Хопфилда
и тд.

Eugeen1948 в сообщении #742342 писал(а):
можно ознакомиться с конкретными сравнениями?

Может кому будет интересно. В первой строчке с наихудшим результатом однослойный перспетрон.
http://yann.lecun.com/exdb/mnist/index.html

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение02.07.2013, 22:04 
Аватара пользователя


17/07/08
322
Ваша классификация - типичная отсебятина, здесь прокатит, на тематических форумах по НС - нет! Напр. http://www.neuroproject.ru/
Приведенный пример слишком примитивен как проблема, поэтому не показателен. А тот факт, что в сколь-нибудь сложных примерах сеть с одним скрытым слоем дает худший результат чем с двумя, можно утверждать и априори.
Распознать грязный номер автомобиля конечно важно, но распознать скрытый отказ на атомной станции несравнимо важнее и сложнее. Вот поле для машинного обучения - распознавание (диагностика) отказов в сложных технических системах.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение03.07.2013, 08:35 
Аватара пользователя


31/10/08
1244
Eugeen1948
Eugeen1948 в сообщении #742693 писал(а):
Ваша классификация - типичная отсебятина, здесь прокатит, на тематических форумах по НС - нет!

Не понял что вас удивило: то что я имею мнение или то что оно не совпадает с вашим? Приведите аргументы в пользу своего.

Eugeen1948 в сообщении #742693 писал(а):
тот факт, что в сколь-нибудь сложных примерах сеть с одним скрытым слоем дает худший результат чем с двумя, можно утверждать и априори.

К примеру для многослойный перцептрона без обратных связей и однослойного перцептрона математически доказано их равенство. Поэтому ваше утверждение не верно.
О каких НС вы сейчас ведёте речь? И как вы можете утверждать за все если это утверждение никак не следует из определения многослойности. Тем более можно выдвинуть предположение что в многослойной НС устойчивость хуже чем у однослойной.

 Профиль  
                  
 
 Re: Машинное обучение
Сообщение03.07.2013, 12:42 
Аватара пользователя


17/07/08
322
Во-первых понятия и терминология уже установились, и вносить сумятицу "в умы незрелые" здесь контрпродуктивно.
Во-вторых не путайте понятия перцептрона и искусственной нейросети.
Вот для ознакомления с современными понятиями:
http://ru.wikipedia.org/wiki/%D0%98%D1% ... 1%82%D1%8C
и
http://ru.wikipedia.org/wiki/%CF%E5%F0% ... 2%F0%EE%ED
Если же Вы считаете свою точку зрения правильной, попробуйте скорректировать Википедию.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 13 ] 

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group