Могу посоветовать 
Strang. Computational Science and Engineering. 
Вот и 
вот видео лекции автора учебника. 
Совсем конкретно про сами алгоритмы 
Press et al. Numerical Recipes 3rd Edition: The Art of Scientific Computing. К этой книге ещё прилагается библиотека кодов.