Почитать можно вот это
Quarteroni, Alfio et al. Numerical mathematics / ISBN 0-387-98959-5 / 2000
Springer-Verlag New York, Inc.
и
Lynch, Daniel R. Numerical partial differential equations for environmental scien-
tists and engineers: a first practical course / ISBN 0-387-23619-8 / 2005 Springer
Science+Business Media, Inc.
Последняя, правда, по уравнениям в частных производных, но, как правило, при численном решении уравнения в частных производных оно сводится к системе ОДУ, поэтому авторы освещают и эту тему. Да и метод конечных элементов, мимо которого проходить однозначно не стоит, -- полезно освоить в КБ.
Еще воот:
Solin, Pavel. Partial differential equations and the finite element method /
ISBN-13 978-0-471-72070-6 / 2006 by John Wiley & Sons, Inc.
Knabner, Peter, Angermann, Lutz. Numerical methods for elliptic and parabolic
partial differential equations / ISBN 0-387-95449-X / 2003 Springer-Verlag New
York, Inc.
Evans, Lawrence. Partial Differential Equations / ISBN 0-8218-0772-2 / 1998
American Mathematical Society, Providence
Последняя не по численным методам (для НИИ, а не КБ
), но все равно интересно. Еще можно вспомнить Numerical Recipes in C.
Все эти книги утащил из интернета. В отношении реализации посмотрите на GNU Scientific Library.