Обычно в этом случае есть инвариантное подпространство в некотором смысле соответствующее этому собственному числу. Собственные вектора обычно выбираются так, чтобы образовывать базис этого подпространства.
Ещё можно читать про Жорданову форму матрицы. =)
Вообще, можно начать с
википедии. Там основные определения приведены. Можно поискать в учебниках эти определения более развёрнуто.