Не удалось найти хорошей литературы на русском языке по фин. математике, но очень интересно было бы получить дополнительные знания разобравшись, что действительно включено в данные области.
Что понимается под фин. математикой? "Старая школа" считает, что это манипуляции с процентами - простые, сложные и т.п. Современная точка зрения, финансовая математика - это теория производных финансовых инструментов, т.е. применение стохастического анализа к финансам.
В какой-то степени теория игр, мат. статистика и эконометрика.
C прикладной точки зрения теория игр не очень нужна в экономике и особенно в финансах, если только вы не собираетесь разрабатывать аукционы, что является довольно узкой сферой экономической деятельности.
Может быть линейная алгебра или мат. анализ?
Это самое важное, плюс мат. статистика и эконометрика. Также - теория оптимизации - максимизировать прибыль там, или минимизировать издержки, оптимизировать портфели ценных бумаг.
Для финансовых инженеров и риск-менеджеров важно знать, кроме того, теорию вероятностей, случайные процессы, дифференциальные уравнения, обыкновенные и в частных производных, численные методы. Но в этой области выпускники российских экономических специальностей неконкурентны по сравнению с математиками и физиками.