Но если нужны количественные оценки погрешности, то с самого начала вместо

нужно писать остаточный член в соответствующей форме.
Не нужно по двум причинам. С одной стороны, это некоторая морока и обычно ничего хорошего не получается. С другой стороны, для практических целей нужен вовсе не явный вид остаточного члена, а лишь тот факт, что погрешность имеет соответствующую асимптотику относительно

. Ну так она и имеет.
Кстати, именно по этой причине тейлоровский подход -- не более чем бантик к интерполяционному. Практически полезной информации он почти не даёт, а мороки больше.
Если гладкость функции недостаточная, погрешность формулы растёт.
А это уже другой вопрос. Поскольку здесь разговор идёт о численном дифференцировании, то базовой является такая теорема: если гладкость достаточна (если существует и ограничена

), то погрешность оценивается как

. И есть два дополнения к ней:
1) для симметричных формул при соответствующих дополнительных условиях порядок точности оказывается на единицу выше (естественно, если есть соответствующий запас гладкости);
2) если гладкости не хватает (есть лишь

), то порядок точности соответственно снижается (до всего лишь

).
Так вот, наиболее важна именно базовая теорема (она, кстати, и доказывается не просто, а очень просто, в отличие от остального). Ибо это -- случай общего положения. Нужно знать и первое дополнение. А вот что касается второго -- достаточно лишь помнить о его существовании, чтобы быть готовым к возможным неприятностям.
И по тем же соображениям полезно помнить (не более того) о существовании дополнения к первому дополнению: для некоторых функций в некоторых точках фактическая точность может оказаться ещё выше.