2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Как с нормального распределения убрать шум?
Сообщение25.02.2011, 14:43 
Получил нормальное распределение по реальным данным. На нем есть шум, который надо как-то корректно учитывать.

Особенности шума: достаточно большие значения за пределом 3 среднеквадратичных отклонений и усиленный максимум в нуле.

Ни одной толковой книги на заданную тему в рунете не нашел. Может кто посоветует литературу по вышеозначенному вопросу.

Заранее благодарю за помощь.

 
 
 
 Re: Как с нормального распределения убрать шум?
Сообщение25.02.2011, 15:42 
Аватара пользователя
Убрать шум или корректно учитывать его - это два разных подхода. Погуглите в сети на "робастная статистика".

 
 
 
 Re: Как с нормального распределения убрать шум?
Сообщение25.02.2011, 16:15 
Аватара пользователя
Действительно, уточните задачу. Понятно, что теоретически отфильтровать сильно отклоняющиеся значения можно, но шум в нуле Вы никак не уберете, потому что он ведь статистически никак не отличается от самых типичных значений нормального распределения.

 
 
 
 Re: Как с нормального распределения убрать шум?
Сообщение25.02.2011, 18:00 
мат-ламер в сообщении #417165 писал(а):
Убрать шум или корректно учитывать его - это два разных подхода. Погуглите в сети на "робастная статистика".


Это один подход: если я смогу рассчитать шум, то смогу и отделить от нормального распределения.

-- Пт фев 25, 2011 18:03:05 --

PAV в сообщении #417178 писал(а):
Действительно, уточните задачу. Понятно, что теоретически отфильтровать сильно отклоняющиеся значения можно, но шум в нуле Вы никак не уберете, потому что он ведь статистически никак не отличается от самых типичных значений нормального распределения.


Надо получить данные без шума.
Типичное нормальное распределение в нуле имеет кокретное значение. Поэтому ваши размышления о невозможности убрать шум в окрестности нуля не понятны.

 
 
 
 Re: Как с нормального распределения убрать шум?
Сообщение25.02.2011, 18:21 
Аватара пользователя
Ну смотрите. Я исходил из того, что у Вас есть выборка значений, смешанная из двух распределений: стандартного нормального и шума. Пусть шум добавляет в выборку лишние значения, близкие к нулю, так что их доля в выборке становится существенно больше, чем должно быть у нормального распределения. Вы берете какой-то конкретный элемент выборки, близкий к нулю. Нет никакого способа узнать, является ли он шумовым или нет. Вы можете удалить все такие значения, но тогда вместе с шумом удалятся и все нормальные элементы, а они и в нормальной выборке являются самыми типичными.

 
 
 [ Сообщений: 5 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group