Касательная -- это прямая линия (задаваемая уравнением, прямая это геометрическое понятие, связанное к тому же с декартовой системой координат, на которой изображается график функции в виде кривой).
Я понимаю касательную как некоторую линейную функцию (

), заданную в той же системе координат, что и график функции

и проходящую через точку

. Так можно? А то у Вас как-то сложно
Дифференциал -- это функция двух переменных (аргумента и приращения аргумента).
Зачем "двух переменных"? Рассмотрим некоторую функцию

, заданную на множестве

. Точка

- предельная для

. Тогда функция

, рассматриваемая в точке

, может породить новую линейную функцию

с очень приятными свойствами. Вот ее мы и назовем дифференциалом функции

в точке

. Да, у нас не будет единого дифференциала для всей функции

. Для каждой точки будет свой дифференциал. Конечно, дифференциал, вообще говоря, "дырявая" линейная функция (т.е. определена не на

).Более того, она определена не в той же системе координат, что и функция

. Но это не проблема: при желании можно определить дифференциал, как "дырявую" линейную функцию, заданную в той же системе координат, что и

. Если взять две ее любые точки, превратить в нормальную линейную функцию и переместить по оси

на

, то получим касательную. Имхо, нет ничего криминального в том, чтобы говорить, что "касательная - это дифференциал".