Вы правы, любой вектор в выбранном

-мерном касательном пространстве - касательный вектор к многообразию (только разные векторы будут касательными к разным кривым).
В общем-то, любые

-мерные линейные пространства в точности одинаковы (изоморфны), так что мы можем взять любое

-мерное пространство (все другие от него всё равно ничем не отличаются) и назвать его касательным пространством, а все его элементы - касательными векторами. При этом помнить, что в разных точках многообразия касательные пространства разные.
Смысл в том, чтобы потом сопоставлять гладким кривым на многообразии, проходящим через заданную точку, касательные векторы из заданного касательного пространства. И такое сопоставление будет уже не произвольным.
Ну и соглашусь, что определение из Фоменко действительно эстетически не самое идеальное, зато простое. Если Вам эстетически важно, чтобы определение касательного вектора было более содержательным, чем "просто какой-то вектор", то его можно определить как класс эквивалентности касающихся друг друга гладких кривых, проходящих через данную точку, либо как дифференциальный оператор первого порядка, который можно применять к гладким функциям на многообразии. Недостаток этих определений в том, что они сложнее, хотя и красивее.
-- добавлено через 9 минут --См., например:
Шутц. Геометрические методы математической физики,
глава 2 "Дифференцируемые многообразия и тензоры".