2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 Очередная зима ИИ не за горами?
Сообщение29.12.2018, 15:27 


20/09/09
1081
Уфа
Вслед за первой зимой ИИ (после 60-х годов) и второй (после 80-х годов, когда появились первые многослойные НС и экспертные системы) ожидается третья - после 2010-х, когда появились НС с глубоким обучением. Опять же, как и при крахе доткомов в нулевые, сети с глубоким обучением вызвали хайп и высказывания типа "кто займется глубоким обучением, тот станет первым триллионером в истории". Сейчас наблюдаем некоторое отрезвление в области глубокого обучения. Что же имеем в сухом остатке? В книге Франсуа Шолле "Глубокое обучение на Python" написано:
Цитата:
Глубокое обучение имеет несколько свойств, которые оправдывают его статус как революции в ИИ, и оно задержится надолго. Возможно, нейронные сети исчезнут через два десятилетия, но все, что останется взамен, будет прямым наследником современного глубокого обучения и его основных идей. Эти важнейшие свойства можно разделить на три категории:

Простота - глубокое обучение избавляет от необходимости конструировать признаки, заменяя сложные, противоречивые и тяжелые конвейеры простыми обучаемыми моделями, которые обычно строятся с использованием пяти-шести тензорных операций.

Масштабируемость - глубокое обучение легко поддается распараллеливанию на GPU или TPU, поэтому оно в полной мере может использовать закон Мура. Кроме того, обучение моделей можно производить итеративно, на небольших пакетах данных, что дает возможность проводить обучение на наборах данных произвольного размера. (Единственным узким местом является объем доступной вычислительной мощности для параллельных вычислений, которая, как следует из закона Мура, является быстро перемещающимся барьером.)

Гибкость и готовность к многократному использованию - в отличие от многих предшествовавших подходов, модели глубокого обучения могут обучаться на дополнительных данных без полного перезапуска, что делает их пригодными для непрерывного и продолжительного обучения - очень важное свойство для очень больших промышленных моделей. Кроме того, обучаемые модели глубокого обучения можно перенацеливать и, соответственно использовать многократно: например, модель, обученную классификации изображений, можно включить в конвейер обработки видео. Это позволяет использовать предыдущие наработки для создания все более сложных и мощных моделей. Это также позволяет применять глубокое обучение к очень маленьким объемам данных.

Глубокое обучение находится в центре внимания всего несколько лет, и мы еще не определили границы его возможностей. Каждый месяц мы узнаем о новых и новых вариантах использования и инженерных усовершенствованиях, которые снимают предыдущие ограничения. После научной революции прогресс обычно развивается по сигмоиде: сначала наблюдается быстрый рост, который постепенно стабилизируется, когда исследователи сталкиваются с труднопреодолимыми ограничениями, и затем дальнейшие усовершенствования замедляются. В 2017 году глубокое обучение, по всей видимости, находилось на первой половине этой сигмоиды, а это значит, что в следующие несколько лет можно ожидать еще большего прогресса.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 12:14 


11/01/19

2
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 15:41 


20/09/09
1081
Уфа
scrums в сообщении #1367672 писал(а):
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

Интересно, надуется ли еще глубокое обучение?

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.01.2019, 12:08 


18/11/18
30
Rasool в сообщении #1367742 писал(а):
Интересно, надуется ли еще глубокое обучение?


Думаю, надуется.
Из свежих (инсайдерских) новостей от разработчиков так называемого "Общего ИИ" - "какие-то" результаты достигнуты. Знаю только, что все, кто занимается сутью, идут по пути автономного повышения абстракций. Ссылок не будет - пока никто не афишируется (хотя не удивлюсь, если вообще не будут).
Смысл - в принципе наработки связей "высших порядков" - собственно, как в мозге - тут секрета никакого нет, - вобщем-то, всю жизнь мозг "обрастает" новыми связями - "связями между связями" и это и есть абстракции. Например, уровни абстракций, в основном, и отличают человека от животных.
Кстати, оказывается, помимо тестов по принципу черного ящика (Тьюринг и т.п.), есть и объективный критерий оценки ИИ - способность к порождению новых уровней абстракций. Ребята научились её как-то оценивать.
Было бы неплохо - как тому "пятому элементу" дать полопатить интернет... Правда, что будет "на выходе" - действительно сложно предположить. Тут я оправдываю "поросячий визг" вокруг ИИ.. :D

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.01.2019, 15:47 


12/07/15
09/04/19
1162
Поисковые машины лопатят интернет как могут. У них довольно важная задача ранжирования для выдачи ответов на поисковые запросы (ну вы поняли).

А что понимается под перелопачиванием интернета в общем случае? Что на выходе? Решение какой-то глобальной человеческой задачи?

Глупо это все.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение27.01.2019, 07:26 


18/11/18
30
A_I в сообщении #1371925 писал(а):
"какие-то" результаты достигнуты.


Ещё немного информации - оказывается, впервые удалось синтезировать "осознанный" переход на формирование верхнего уровня абстракций. Говорят, это чуть ли не прорывной момент...
Есть и кое-какие технические детали - прототип на FPGA-матрицах с каким-то диким общим количеством элементов (миллиарды).

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение27.01.2019, 11:43 


12/07/15
09/04/19
1162
В машинном обучении и искусственном интеллекте не может быть ничего осознанного. Здесь работают эвристики - решения, случайно найденные и проверенные временем.
Эти банальные вещи разъясняют, когда изучают пример ирисов Фишера: существуют различные метрики и нельзя сказать, какая из этих метрик лучше. Все потому что задача искусственного интеллекта не содержит в условии полных данных.

Потом насчет "осознанного формирования верхнего уровня абстракций" - думаете в нейронных сетях это происходит случайно? Нет. Там идет движение по градиенту, то есть направленно и исключительно по входным данным.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение12.03.2019, 06:35 


18/11/18
30
Цитата:

Было бы неплохо - как тому "пятому элементу" дать полопатить интернет...

Оказывается, не получится - там принцип совсем другой - создание некой виртуальной "питательной", но "неживой" среды, в которой происходит развитие неких условно-живых "сущностей," является чуть ли не главнейшим условием. Естественно, по сравнению с "нашим" миром все невообразимо утрировано, хотя введены, к примеру, и свои фундаментальные (физические?) постоянные.. На вопрос об уровне абстракций, которые удалось сымитировать, был ответ - если упрощенно, то "до уровня амеб ещё ооочень далеко"... :-(

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение12.03.2019, 13:56 


10/04/12
562
Ну... определённые результаты достигнуты. Сейчас, в общем-то, для большой выборки реализовать нейросеть, которая бы выдавала необходимый правдоподобный результат это, в общем-то, вопрос техники. А практических применений тут вагон и маленькая тележка. Фактически только сейчас нейросети вышли на массового потребителя — можно поиграть в шахматы и го, распознавание фоток на мобилках и т. п. И тут большое развитие и много денег.

Опять же, у нейросетей есть минус — они работают исключительно с действительными данными. А если брать математику, программирование, там в основном генерация и работа с дискретными данными (доказательство, формула, алгоритм, ...) Почему на общий ИИ не тянет по определению... Тут мне более интересны идеи Співака (olog, теория категорий), но они не очень популярны...

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение13.03.2019, 19:01 


12/07/15
09/04/19
1162
mustitz в сообщении #1381357 писал(а):
А если брать математику, программирование, там в основном генерация и работа с дискретными данными (доказательство, формула, алгоритм, ...)

Довольно наивное представление. Оказывается труд доярки и сталевара труднее автоматизировать нейронными сетями, чем труд генерального директора (CEO), математика и программиста.

Вопрос: откуда инфу черпаете? Почему такая уверенность?

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 10 ] 

Модераторы: Karan, PAV, Toucan, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group