Могу посоветовать
Strang. Computational Science and Engineering.
Вот и
вот видео лекции автора учебника.
Совсем конкретно про сами алгоритмы
Press et al. Numerical Recipes 3rd Edition: The Art of Scientific Computing. К этой книге ещё прилагается библиотека кодов.