2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 AI:По-моему, более актуально нежели док-во ВТФ.
Сообщение18.08.2005, 07:18 


17/08/05
23
Привет всем. Может кто тоже работает в этой области или просто интересуется данной проблемой. Интересно было бы обсудить современное состояние этой отрасли математики. Хотелось бы получить (может быть от более осведомленных) ссылки на свежие и интересные источники (как электронные так и книжно-журнальные). :?:

 Профиль  
                  
 
 давайте
Сообщение18.08.2005, 10:33 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Я работаю в этой области. Можем пообсуждать. Я набрал довольно прилично литературы, в основном то, что лежало в сетке общаги мехмата. Что-то наверное есть и в данной электронной библиотеке. Поисковики выдают массу ссылок, но мне показалось, что надо очень долго в этом копаться, чтобы найти что-то полезное. Я пока этим не занимался.

 Профиль  
                  
 
 
Сообщение18.08.2005, 17:29 
Экс-модератор


12/06/05
1595
MSU
А что такое AI? Алюминий?

 Профиль  
                  
 
 
Сообщение18.08.2005, 22:35 


17/08/05
23
AI - Artificial Intelligence - Искусственный интелект.(Далее ИИ)
Это еще достаточно рыхлая и неоформленная область знаний.
Кто-то сюда относит и некоторые кибернетические(задачи управления) задачи, которые немного сложней тех, которые решаются в рамках классической теории управления. Пихают сюда все: от адаптивных систем (обычно речь идет о параметрической адаптации, т.е. нахождении оптимального набора параметров некоторой системы) до пресловутых нейросетей. Нейросети - это по сути тоже один из вариантов систем, где требуется найти набор параметров, дающий минимальное рассогласование при подаче на вход сети некоторой обучающей выборки.
(Например, В.А.Терехов, Д.В.Ефимов, И.Ю.Тюкин Нейросетевые системы управления) Одна из немногих книг, где изложение ведется
не "на соплях". Нахождение оптимального набора параметров осуществляется всевозможными разновидностями градиентных методов(например, метод обратного распространения ошибки).
Нейросеть по сути всего лишь аппроксиматор. Используются сети определенных типов и конфигураций:статические, динамические, Хопфилда, Кохонена, нечеткой логики(на базе известной теории Заде, которая, кстати, в США считалась лженаучной), и.т.д.
По сути ситуация такова: некоторый математик или физик брал некий определенный тип сети, исследовал его, сеть становилась затем "именной". Короче, сплошная эвристика(это минус).
Однако, на мой взгляд и от "теории" нейросетей попахивает лженаукой.
Вывод: имеется ряд строгих хорошо проработанных "классических" теорий, позволяющих решать "классические" задачи того же,например, автоматического управления. Имеется "теория" нейросетей - ценность, полезность, применимость которой сомнительна. Имеются многочисленные теориИ распознавания
образов, базирующиеся на разных принципах (кто-то строит эти теории в расчете на задачи выделения образа на фоне шума - тогда
строятся различные вероятностные меры на различных же объектах, кто то идет по пути использования "формальной логики" и т"теории выводов" - корче, строит автоматы Тьюринга)
Но концептуального, прорывного я пока ничего не видел.

 Профиль  
                  
 
 
Сообщение18.08.2005, 22:42 


17/08/05
23
Алюминий канешна тож проблема вАжная. Для развития народнАго
хАзяйства... :lol:

 Профиль  
                  
 
 нейросети
Сообщение19.08.2005, 09:13 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Alexx писал(а):
Однако, на мой взгляд и от "теории" нейросетей попахивает лженаукой.

Имеется "теория" нейросетей - ценность, полезность, применимость которой сомнительна.

Но концептуального, прорывного я пока ничего не видел.


Я не понял - Вам не нравится "теория" нейросетей или сами нейросети? Они же активно применяются и дают результаты, которые
другими способами получить нельзя.

Я не считаю, что "концептуальность" и "прорывность" есть то, к чему непременно нужно стремится. Нужно, чтобы наука была полезной.

 Профиль  
                  
 
 
Сообщение20.08.2005, 00:37 


17/08/05
23
Не зря слово теория я брал в кавычки.
Важен следующий момент. Например, теория вероятностей (и науки, вытекающие из нее) дает нам ОБОСНОВАННЫЕ МЕТОДЫ РЕШЕНИЯ РЯДА ЗАДАЧ (всякие там оценки максимального правдоподобия, байесовские оценки, критерий Неймана-Пирсона, фильтрация Калмана-Бьюси (идет минимизация дисперсии), итд итд итд).
Т.е. мы говорим себе: " Мы будем производить обработку, например, смеси сигнала и некоторого шума по определенному алгоритму (и не по какому-нибудь иному )потому, что Теор-я
Вер-й говорит, что этот алгоритм оптимален в каком-либо из смыслов (происходит,например, минимизация дисперсии). Я могу со спокойной совестью применять эти алгоритмы в любых ОТВЕТСТВЕННЫХ областях (например, на АЭС). (Чернобыльская АЭС бабахнула по сути потому, что проектировщики не разобрались со всем множеством решений, которые давала система Диф Ур-й, описывающих систему охлаждения реактора.)

Если бы я предложил использовать в какой-нить ОТВЕТСТВЕННОЙ области нейросетевые алгоритмы (с их непредсказуемостью и неоптимальностью, натяжками), меня бы шайками закидали.
Правда некоторые господа зачем-то реализуют например корреляционную обработку сигналов и булевы операции посредством нейросетей. Спрашивается, зачем привносить самодостаточные
алгоритмы в нейросети,- они сами по себе работают во сто крат эффективнее. И получены эти алгоритмы в рамках других теорий.
Ничего даже близкого сама "теория" нейросетей дать не может.

Какие это такие задачи можно решать только с помощью "Теории" нейросетей? Не знаю!!!
Во многих ВУЗ-ах кинулись преподавать это дело (причем на уровне сплошного эмпиризма, эвристики, полнейшей необоснованности) - полный бред. Студентам как заклинание говорится: " минимизируем
ошибку - это есть процесс обучения нейросети ".
Наиважнейший вопрос о поведении(напр., о монотонности)(мож там разрыв, и ошибка возрастает на три порядка скачком - все реактор взрывается :D ) некоторой меры ошибки (нейросети) на некотором множестве входных воздействий не рассматривается вовсе в огромном множестве печатных источников.
Это можно только в программах для офиса применять.

Еще соображение: стандартные и самодостаточные методы минимизации целевых функций перенесли на нейросети. Нейросеть по сути тоже целевая функция. Только тут еще фигурирует "удобное" глазу графическое представление нейросети.
И где тут новизна? Те же градиентные методы... Причем "минимум" не означает "глобальный минимум"!
Я сомневаюсь что мозг живого существа работает по градиентному механизму. Это подразумевало бы что к каждому нейрону был бы подсоединен проводок, причем все эти проводки должны были бы тянуться в одно место. Это абсурд...

 Профиль  
                  
 
 теория и практика
Сообщение20.08.2005, 20:04 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Alexx, я считаю, что вы заблуждаетесь. Не думаю, что мне удастся вас переубедить, но просто зафиксируйте, что я сейчас скажу. Такого рода мнения довольно распространены и характерны для молодых людей, которые осваивают теоретические методы (и весьма очаровываются ими), но реальных практических задач пока не решали. У меня есть коллеги, которые со смехом говорили мне, что когда были "молодые и глупые" (не принимайте на свой счет, пжалста :wink: ), то тоже считали, что где есть теорема об оптимальности - то круто и правильно, а где нет никаких теорем и сплошная эвристика - то фигня. Кто всю жизнь будет работать в теории, тот может и до конца жизни так думать, но столкновение с хоть какими реально практическими задачами быстро развеивает эти иллюзии.

Теперь по сути.

Alexx писал(а):
Не зря слово теория я брал в кавычки.
Важен следующий момент. Например, теория вероятностей (и науки, вытекающие из нее) дает нам ОБОСНОВАННЫЕ МЕТОДЫ РЕШЕНИЯ РЯДА ЗАДАЧ (всякие там оценки максимального правдоподобия, байесовские оценки, критерий Неймана-Пирсона, фильтрация Калмана-Бьюси (идет минимизация дисперсии), итд итд итд).
Т.е. мы говорим себе: " Мы будем производить обработку, например, смеси сигнала и некоторого шума по определенному алгоритму (и не по какому-нибудь иному )потому, что Теор-я
Вер-й говорит, что этот алгоритм оптимален в каком-либо из смыслов (происходит,например, минимизация дисперсии).


Любые математические обоснования даются в рамках определенной математической модели. Любая модель включает в себя ряд предположений и допущений. Применимость этих допущений к реальным задачам и процессам не очевидна. Я приведу цитату из своего поста на mmonline, в котором я писал про подобные вещи какому-то очередному "ниспровергателю основ":

PAV писал(а):

Посмотрите лучше на следующие три цитаты. В.Н.Тутубалин, "Теория вероятностей и случайные процессы", изд-во МГУ, 1992.

Стр 191: "Модели случайных процессов, правдоподобно отражая одни черты какого-то явления, часто являются бессмысленными в других отношениях. Следует это понимать и не напрягать модель выше пределов ее возможностей."

Стр. 193: "Однако модель ... имеет следующее парадоксальное свойство... далее идет объяснение, которое вы вряд ли поймете - PAV ... Ясно, что в практическом отношении такой вывод неразумен. Не следует догматизировать абстракцию точной наблюдаемости значений..."

Стр. 194: "Конечно, как модель физического броуновского движения он ( винеровский процесс, введенный ранее - PAV) условен (позже мы познакомимся с более точной моделью) и действует при не слишком малых разностях ... Принимая эту модель для любых разностей, мы должны быть готовы получить удивительные выводы"

Все понимают, что математика работает с математическими моделями реальных явлений. Они существуют в нашем воображении и наделяются различными абстрактными свойствами (некоторые из них соответствуют свойствам реальных объектов, другие - нет). Чистая математика вообще не выходит за рамки этих моделей, ее задача - исследовать их и только их. Выводы, полученные в этих моделях, также не имеют прямого отношения к реальности и являются лишь логическими следствиями тех свойств, которыми мы сами нашу модель наделили. Другое дело, что мы разрабатываем большинство (не все) модели имея в виду, что они могут оказаться адекватны некоторым реальным процессам. Но опять-таки все понимают, что не все выводы могут быть автоматически перенесены и у любой модели есть некоторые границы применимости. Они определяются экспериментально. Таким образом, про любую модель исследуется, какие стороны реального явления она описывает хорошо, а какие плохо.


Таким образом, вся идеальная точность решений, которая имеет место в моделях, исчезает как только мы переходим к реальным ситуациям. Теория вероятностей в этом смысле, кстати, довольно характерный пример. Посмотрите определение теории вероятностей в математической энциклопедии: "математическая наука, позволяющая по вероятностям одних случайных событий находить вероятности других случайных событий, связанных к.-л. образом с первыми". Т.о. чтобы применять теорию вероятностей к реальным событиям сначала надо задать хоть какие-то вероятности, а откуда вы их возьмете?

Рассмотрим например байесовские оценки. Ну имеете вы точную формулу для пересчета вероятностей гипотез при условии того, что произошло некоторое событие. Но для этого вам нужно знать априорные вероятности этих гипотез, а также вероятности данного события при каждой гипотезе. А откуда вы их возьмете для реального события, кто вам их скажет? Даже само существование вероятности того или иного события есть модель, абстракция, применимость которой к практике не всегда очевидна.

Даже если вы точно рассчитаете вероятность некоторого события, что из того? Какой такой абсолютно точный и надежный вывод можно в принципе из этого сделать?

Или рассмотрим фильтрацию Калмана-Бьюси. Вы исходите из предположения, что наблюдаемые случайные данные удовлетворяют некоторым рекуррентным соотношениям, в которые входят неизвестные постоянные коэффициенты и случайный шум. Шум предполагается гауссовским. В данной модели вы имеете процедуру, которая дает оптимальное в среднеквадратичном смысле решение. Замечательно. Теперь мы имеем реальные данные. Откуда вы узнаете, что ваше рекуррентное предположение к ним применимо? Откуда вы узнаете, что шум гауссовский? Кстати, для специалистов по статистике (и AI) не является большим секретом, что предположение гауссовости для реальных данных часто не очень верно - хвосты тяжелее, чем нужно. Это приходится учитывать.
Наконец, с чего вы взяли, что лучшее решение будет в среднеквадратичном смысле? Может, если взять модуль, то будет еще лучше, или четвертую степень. А может для данной задачи лучшие результаты даст какой-нибудь совсем другой критерий, который еще даже не рассматривали нигде.

Наконец, известно, что нелинейная фильтрация в теории лучше, чем линейная. Но на практике часто применяется все-таки линейная, потому что она не так чувствительна к неточностям задания исходных данных, а в реальных задачах эти неточности неизбежны.

Alexx писал(а):
Я могу со спокойной совестью применять эти алгоритмы в любых ОТВЕТСТВЕННЫХ областях (например, на АЭС). (Чернобыльская АЭС бабахнула по сути потому, что проектировщики не разобрались со всем множеством решений, которые давала система Диф Ур-й, описывающих систему охлаждения реактора.)

Если бы я предложил использовать в какой-нить ОТВЕТСТВЕННОЙ области нейросетевые алгоритмы (с их непредсказуемостью и неоптимальностью, натяжками), меня бы шайками закидали.


Не можете - по причинам, описанным выше. Сначала нужно проверить, что используемая вами модель достаточно адекватно описывает реальную ситуацию (а полной точности описания ни одна модель не добьется). (См. выше мой пример с линейной-нелинейной фильтрацией: на практике применяется модель, дающая худшие теоретические результаты.)

И проверка эта - по сути нечеткая. Вам нужно провести серию опытов, решить (без каких-либо идеальных критериев), является ли приемлемым расхождение между выводами модели и реальными наблюдаемыми результатами, и наконец решить, достаточно ли этих опытов, чтобы признать модель достаточно приемлемой, чтобы можно было ею пользоваться.

А про Чернобыль - я не верю. Дайте ссылку. Лучше уж тогда приведите пример обрушения аквапарка, где официально причиной названы ошибки проектирования и расчета. Что лишний раз доказывает, что абсолютно надежных систем все равно не бывает, везде есть человеческий фактор. И от применения оптимальных и четких, но неподходящих моделей, вреда может быть не меньше, чем от неоптимальных и эвристических. И вообще - критерии применения тех или иных методов в ОТВЕТСТВЕННЫХ областях достаточно сложны и математическая точность - далеко не самй главный из них.


Alexx писал(а):
Какие это такие задачи можно решать только с помощью "Теории" нейросетей? Не знаю!!!


Любые реально работающие продукты по распознаванию используют нейронные сети. Вообще, поверьте человеку, в этой области работающему: сейчас эвристика (по-вашему - минус) дает лучшие результаты, чем теория.

Рассмотрим задачу распознавания отдельно взятой рукописной цифры. Как ее можно решить без нейронных сетей, без обучения на реальных данных? Никак. (Если захотите, напишу про это чуть поподробнее). А любое обучение на реальных данных всегда привносит нечеткость. Другая компания будет обучать даже такую же сеть на другой выборке - и получит другой распознаватель. AI в принципе работает в области таких задач, где от нечеткости не избавиться, а разумных математических моделей просто нет. И что теперь, совсем эти задачи не решать?

 Профиль  
                  
 
 вопрос вдогонку
Сообщение20.08.2005, 20:16 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Кстати,

Alexx писал(а):
Привет всем. Может кто тоже работает в этой области или просто интересуется данной проблемой.


раз "тоже" то я так понял изначально, что вы в этой области именно работаете. Но после последнего поста усомнился :) Если таки-работаете, то поделитесь (не раскрывая корпоративных секретов :) ) - какие задачи решаете, какие методы используете, если не нейронные сети. Может, чему-то новому научусь.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 9 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group