2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу 1, 2, 3, 4, 5  След.
 
 Очередная зима ИИ не за горами?
Сообщение29.12.2018, 15:27 


20/09/09
1114
Уфа
Вслед за первой зимой ИИ (после 60-х годов) и второй (после 80-х годов, когда появились первые многослойные НС и экспертные системы) ожидается третья - после 2010-х, когда появились НС с глубоким обучением. Опять же, как и при крахе доткомов в нулевые, сети с глубоким обучением вызвали хайп и высказывания типа "кто займется глубоким обучением, тот станет первым триллионером в истории". Сейчас наблюдаем некоторое отрезвление в области глубокого обучения. Что же имеем в сухом остатке? В книге Франсуа Шолле "Глубокое обучение на Python" написано:
Цитата:
Глубокое обучение имеет несколько свойств, которые оправдывают его статус как революции в ИИ, и оно задержится надолго. Возможно, нейронные сети исчезнут через два десятилетия, но все, что останется взамен, будет прямым наследником современного глубокого обучения и его основных идей. Эти важнейшие свойства можно разделить на три категории:

Простота - глубокое обучение избавляет от необходимости конструировать признаки, заменяя сложные, противоречивые и тяжелые конвейеры простыми обучаемыми моделями, которые обычно строятся с использованием пяти-шести тензорных операций.

Масштабируемость - глубокое обучение легко поддается распараллеливанию на GPU или TPU, поэтому оно в полной мере может использовать закон Мура. Кроме того, обучение моделей можно производить итеративно, на небольших пакетах данных, что дает возможность проводить обучение на наборах данных произвольного размера. (Единственным узким местом является объем доступной вычислительной мощности для параллельных вычислений, которая, как следует из закона Мура, является быстро перемещающимся барьером.)

Гибкость и готовность к многократному использованию - в отличие от многих предшествовавших подходов, модели глубокого обучения могут обучаться на дополнительных данных без полного перезапуска, что делает их пригодными для непрерывного и продолжительного обучения - очень важное свойство для очень больших промышленных моделей. Кроме того, обучаемые модели глубокого обучения можно перенацеливать и, соответственно использовать многократно: например, модель, обученную классификации изображений, можно включить в конвейер обработки видео. Это позволяет использовать предыдущие наработки для создания все более сложных и мощных моделей. Это также позволяет применять глубокое обучение к очень маленьким объемам данных.

Глубокое обучение находится в центре внимания всего несколько лет, и мы еще не определили границы его возможностей. Каждый месяц мы узнаем о новых и новых вариантах использования и инженерных усовершенствованиях, которые снимают предыдущие ограничения. После научной революции прогресс обычно развивается по сигмоиде: сначала наблюдается быстрый рост, который постепенно стабилизируется, когда исследователи сталкиваются с труднопреодолимыми ограничениями, и затем дальнейшие усовершенствования замедляются. В 2017 году глубокое обучение, по всей видимости, находилось на первой половине этой сигмоиды, а это значит, что в следующие несколько лет можно ожидать еще большего прогресса.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 12:14 


11/01/19

2
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение11.01.2019, 15:41 


20/09/09
1114
Уфа
scrums в сообщении #1367672 писал(а):
Rasool в сообщении #1364535 писал(а):
при крахе доткомов в нулевые

Надулись еще больше после краха доткомы то.

Интересно, надуется ли еще глубокое обучение?

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.01.2019, 12:08 


18/11/18
41
Rasool в сообщении #1367742 писал(а):
Интересно, надуется ли еще глубокое обучение?


Думаю, надуется.
Из свежих (инсайдерских) новостей от разработчиков так называемого "Общего ИИ" - "какие-то" результаты достигнуты. Знаю только, что все, кто занимается сутью, идут по пути автономного повышения абстракций. Ссылок не будет - пока никто не афишируется (хотя не удивлюсь, если вообще не будут).
Смысл - в принципе наработки связей "высших порядков" - собственно, как в мозге - тут секрета никакого нет, - вобщем-то, всю жизнь мозг "обрастает" новыми связями - "связями между связями" и это и есть абстракции. Например, уровни абстракций, в основном, и отличают человека от животных.
Кстати, оказывается, помимо тестов по принципу черного ящика (Тьюринг и т.п.), есть и объективный критерий оценки ИИ - способность к порождению новых уровней абстракций. Ребята научились её как-то оценивать.
Было бы неплохо - как тому "пятому элементу" дать полопатить интернет... Правда, что будет "на выходе" - действительно сложно предположить. Тут я оправдываю "поросячий визг" вокруг ИИ.. :D

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.01.2019, 15:47 


12/07/15
1196
Поисковые машины лопатят интернет как могут. У них довольно важная задача ранжирования для выдачи ответов на поисковые запросы (ну вы поняли).

А что понимается под перелопачиванием интернета в общем случае? Что на выходе? Решение какой-то глобальной человеческой задачи?

Глупо это все.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение27.01.2019, 07:26 


18/11/18
41
A_I в сообщении #1371925 писал(а):
"какие-то" результаты достигнуты.


Ещё немного информации - оказывается, впервые удалось синтезировать "осознанный" переход на формирование верхнего уровня абстракций. Говорят, это чуть ли не прорывной момент...
Есть и кое-какие технические детали - прототип на FPGA-матрицах с каким-то диким общим количеством элементов (миллиарды).

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение27.01.2019, 11:43 


12/07/15
1196
В машинном обучении и искусственном интеллекте не может быть ничего осознанного. Здесь работают эвристики - решения, случайно найденные и проверенные временем.
Эти банальные вещи разъясняют, когда изучают пример ирисов Фишера: существуют различные метрики и нельзя сказать, какая из этих метрик лучше. Все потому что задача искусственного интеллекта не содержит в условии полных данных.

Потом насчет "осознанного формирования верхнего уровня абстракций" - думаете в нейронных сетях это происходит случайно? Нет. Там идет движение по градиенту, то есть направленно и исключительно по входным данным.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение12.03.2019, 06:35 


18/11/18
41
Цитата:

Было бы неплохо - как тому "пятому элементу" дать полопатить интернет...

Оказывается, не получится - там принцип совсем другой - создание некой виртуальной "питательной", но "неживой" среды, в которой происходит развитие неких условно-живых "сущностей," является чуть ли не главнейшим условием. Естественно, по сравнению с "нашим" миром все невообразимо утрировано, хотя введены, к примеру, и свои фундаментальные (физические?) постоянные.. На вопрос об уровне абстракций, которые удалось сымитировать, был ответ - если упрощенно, то "до уровня амеб ещё ооочень далеко"... :-(

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение12.03.2019, 13:56 


10/04/12
564
Ну... определённые результаты достигнуты. Сейчас, в общем-то, для большой выборки реализовать нейросеть, которая бы выдавала необходимый правдоподобный результат это, в общем-то, вопрос техники. А практических применений тут вагон и маленькая тележка. Фактически только сейчас нейросети вышли на массового потребителя — можно поиграть в шахматы и го, распознавание фоток на мобилках и т. п. И тут большое развитие и много денег.

Опять же, у нейросетей есть минус — они работают исключительно с действительными данными. А если брать математику, программирование, там в основном генерация и работа с дискретными данными (доказательство, формула, алгоритм, ...) Почему на общий ИИ не тянет по определению... Тут мне более интересны идеи Співака (olog, теория категорий), но они не очень популярны...

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение13.03.2019, 19:01 


12/07/15
1196
mustitz в сообщении #1381357 писал(а):
А если брать математику, программирование, там в основном генерация и работа с дискретными данными (доказательство, формула, алгоритм, ...)

Довольно наивное представление. Оказывается труд доярки и сталевара труднее автоматизировать нейронными сетями, чем труд генерального директора (CEO), математика и программиста.

Вопрос: откуда инфу черпаете? Почему такая уверенность?

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.04.2019, 15:24 


20/09/09
1114
Уфа
Интересно, насколько широко в бизнес и индустрию сегодня проникло машинное обучение и насколько широко оно проникнет в будущем? Наверное, об этом можно судить по кейсам задач на kaggle?

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.04.2019, 16:11 


12/07/15
1196
Нет, нельзя судить по кагглу. Почитайте исследования. https://mcs.mail.ru/blog/rossiya-vnedry ... py-i-ssha/
Конечно, в чем измеряется проникновение ИИ в бизнес, не указано, наверное в сантиметрах... Извините за сарказм.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.04.2019, 16:36 


20/09/09
1114
Уфа
Mihaylo в сообщении #1389574 писал(а):
Нет, нельзя судить по кагглу. Почитайте исследования. https://mcs.mail.ru/blog/rossiya-vnedry ... py-i-ssha/

Спасибо за ссылку. Хотелось бы поподробнее об областях, куда внедряется ИИ. Например, одно из них - это "умный город"?

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.04.2019, 17:05 


12/07/15
1196
Не знаю, что там за "умный город" имеется в виду. Где-то вроде проскакивал госдокумент по этому поводу. Но вообще в городской среде актуальны пока только зачатки автоматизации - АСУ светофорами, АСУНО (наружное освещение), различные системы диспетчеризации, совмещение их с ГИС (геоинформационными системами). Интеллект в тех системах может и имеется, но скорее случайно и немного, не как база. Слово "умный" лишнее, точнее несколько искаженное.

Я смотрю Вам с трудом представляется, где там ИИ зарабатывает для хозяина деньги. Ну так он не зарабатывает деньги, а сначала отбирает. Дорого стоит, гад. Даже простой продукт ИТ стоит невероятные деньги по меркам мелкого лавочника. Соответственно, Вы ничего не слышите о реальных бизнес-внедрениях, это все дорого и недоступно. А что вообще известно о ИТ-продуктах для бизнеса? Ни-че-го... Ничего существенного и интересного для мелкого лавочника.

 Профиль  
                  
 
 Re: Очередная зима ИИ не за горами?
Сообщение26.04.2019, 17:25 


20/09/09
1114
Уфа
Mihaylo в сообщении #1389587 писал(а):
Не знаю, что там за "умный город" имеется в виду. Где-то вроде проскакивал госдокумент по этому поводу. Но вообще в городской среде актуальны пока только зачатки автоматизации - АСУ светофорами, АСУНО (наружное освещение), различные системы диспетчеризации, совмещение их с ГИС (геоинформационными системами). Интеллект в тех системах может и имеется, но скорее случайно и немного, не как база. Слово "умный" лишнее, точнее несколько искаженное.

Я смотрю Вам с трудом представляется, где там ИИ зарабатывает для хозяина деньги. Ну так он не зарабатывает деньги, а сначала отбирает. Дорого стоит, гад. Даже простой продукт ИТ стоит невероятные деньги по меркам мелкого лавочника. Соответственно, Вы ничего не слышите о реальных бизнес-внедрениях, это все дорого и недоступно. А что вообще известно о ИТ-продуктах для бизнеса? Ни-че-го... Ничего существенного и интересного для мелкого лавочника.

Мне просто нужна мотивация для изучения машинного обучения как исследователю-прикладнику, чтобы знать, где можно потенциально применить результаты наработок или пока просто подождать, работая в более традиционных областях. Например, китайцы применили алгоритм AlphaGo для управления светофорами в системе City Brain 2.0. В результате в городе Ханьчжоу резко сократилось число автомобильных пробок. Возможно, можно еще найти серьезные приложения для машинного обучения, для глубокого обучения, типа обработки естественного языка (GNMT) и т.д. Тут важно определить, найдутся ли еще прикладные области для ИИ, или технология уже выдохлась и остается окучивать уже имеющиеся области.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 63 ]  На страницу 1, 2, 3, 4, 5  След.

Модераторы: Toucan, maxal, PAV, Karan, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group