Понятно, что применение индексных обозначений позволяет записать ряд Тейлора в матричной (по вашему тензорной) форме по виду как для случая одной переменной, что очень красиво.
Давайте я начну с другого конца.
Функция

называется дифференцируемой в точке

, если найдется линейный оператор

такой, что

, при

.
Этот оператор в многомерном случае, так же, как и в одномерном, обозначается

.
Как выглядит матрица этого оператора в стандартном базисе, всем известно. Это матрица Якоби. Но оператор инвариантен относительно выбора базиса, в отличие от его матрицы.
Итак, определение дифференцируемости равносильно разложению по формуле Тейлора до первого порядка:

, при

.
Видим, что никакая индексная запись пока не приложилась к этой записи. Индексной записи не может быть без выбора базиса.
Производная второго порядка определяется идентично. Оператор

рассматривается при фиксированном

как функция от

, и стало быть, функция того же сорта, что и

, из

. Тогда вторая производная - билинейная форма

. И так далее. Тензорная запись хороша, в отличие от матричной, не компактностью, а независимостью от выбора системы координат, еще раз. Конечно, в большинстве приложений ее все равно выбирают, но это уже другой вопрос, и я его оставлю за скобками.
И как тут уже было написано, в итоге, при

формула Тейлора выглядит

Тем самым, здесь

-е слагаемое - форма степени

. Компактность записи, еще раз - это не результат сворачивания по мультииндексам, это результат другого взгляда на вещи.