2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 Очередная зима ИИ не за горами?
Сообщение29.12.2018, 15:27 


20/09/09
1034
Уфа
Вслед за первой зимой ИИ (после 60-х годов) и второй (после 80-х годов, когда появились первые многослойные НС и экспертные системы) ожидается третья - после 2010-х, когда появились НС с глубоким обучением. Опять же, как и при крахе доткомов в нулевые, сети с глубоким обучением вызвали хайп и высказывания типа "кто займется глубоким обучением, тот станет первым триллионером в истории". Сейчас наблюдаем некоторое отрезвление в области глубокого обучения. Что же имеем в сухом остатке? В книге Франсуа Шолле "Глубокое обучение на Python" написано:
Цитата:
Глубокое обучение имеет несколько свойств, которые оправдывают его статус как революции в ИИ, и оно задержится надолго. Возможно, нейронные сети исчезнут через два десятилетия, но все, что останется взамен, будет прямым наследником современного глубокого обучения и его основных идей. Эти важнейшие свойства можно разделить на три категории:

Простота - глубокое обучение избавляет от необходимости конструировать признаки, заменяя сложные, противоречивые и тяжелые конвейеры простыми обучаемыми моделями, которые обычно строятся с использованием пяти-шести тензорных операций.

Масштабируемость - глубокое обучение легко поддается распараллеливанию на GPU или TPU, поэтому оно в полной мере может использовать закон Мура. Кроме того, обучение моделей можно производить итеративно, на небольших пакетах данных, что дает возможность проводить обучение на наборах данных произвольного размера. (Единственным узким местом является объем доступной вычислительной мощности для параллельных вычислений, которая, как следует из закона Мура, является быстро перемещающимся барьером.)

Гибкость и готовность к многократному использованию - в отличие от многих предшествовавших подходов, модели глубокого обучения могут обучаться на дополнительных данных без полного перезапуска, что делает их пригодными для непрерывного и продолжительного обучения - очень важное свойство для очень больших промышленных моделей. Кроме того, обучаемые модели глубокого обучения можно перенацеливать и, соответственно использовать многократно: например, модель, обученную классификации изображений, можно включить в конвейер обработки видео. Это позволяет использовать предыдущие наработки для создания все более сложных и мощных моделей. Это также позволяет применять глубокое обучение к очень маленьким объемам данных.

Глубокое обучение находится в центре внимания всего несколько лет, и мы еще не определили границы его возможностей. Каждый месяц мы узнаем о новых и новых вариантах использования и инженерных усовершенствованиях, которые снимают предыдущие ограничения. После научной революции прогресс обычно развивается по сигмоиде: сначала наблюдается быстрый рост, который постепенно стабилизируется, когда исследователи сталкиваются с труднопреодолимыми ограничениями, и затем дальнейшие усовершенствования замедляются. В 2017 году глубокое обучение, по всей видимости, находилось на первой половине этой сигмоиды, а это значит, что в следующие несколько лет можно ожидать еще большего прогресса.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 12:14 


11/01/19

2
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 15:41 


20/09/09
1034
Уфа
scrums в сообщении #1367672 писал(а):
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

Интересно, надуется ли еще глубокое обучение?

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 3 ] 

Модераторы: Karan, PAV, Toucan, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group