Если я правильно понял, нильпотентный оператор - это линейный оператор равный нулю в какой-то степени?
Тогда нетрудно догадаться, какой может быть жорданова форма данного оператора.
И, например, любой жорданов базиз, сгруппированный по векторам, соответствующим жордановым клеткам, даст искомое разложение.
Если же требуется найти циклические базисы для каждого из подпространств, то например, вот
этим можно воспользоваться.