Странный у Вас список. Я так понимаю детектор движения это не самоцель?
Во-вторых хотелось бы уточнить вам детектор движения, в качестве тревожного сигнала нужен или для компрессии изображений?
а) Фильтры, переходные функции, поглубже копнуть свойства z-преобразования и т.п.
Лем Г.-Аналоговые и цифровые фильтры-Мир (1982)
А.Б.Сергиенко Цифровая обработка сигналов(2003)
Б. Яне-Цифровая обработка изображений-Техносфера(2007)
б) Стохастические дифференциальные уравнения
И.К. Волков, СМ. Зуев, Г.М. Цветкова Случайные процессы.
Думаю раз вам нужен детектор, то с него и стоит начинать. Потому что это по большей части набор эмпирика которые хорошо работают или плохо.
Для начало советую прочитать:
http://www.compression.ru/dv/course/compr_video.pdfфильтры Калмана - достаточно открыть википедию.
Лукас-Канаде - достаточно открыть википедию или любую статью. Если проблемы с формулами, то учить линейную алгебру и векторные преобразования.
Перед марковские поля неплохо бы познакомится с деревьями решений. И видео кур Воронова посмотреть по ИИ и классификаторам.