замкнутый плотно определенный симметрический оператор, удовлетворяющий условиям из первого поста (включая конечномерность ортогонального дополнения к линейной оболочке собственных функций).
Замыкание линейной оболочки собственных векторов -- это инвариантное подпространство. Для симметричного оператора ортогональное дополнение к инвариантному подпространству также является инвариантным. При этом хоть где-то на этом дополнении оператор определён (в противном случае он был бы определён не плотно). Сужение оператора на ортогональное дополнение также симметрично, а поскольку дополнение конечномерно -- на нём заведомо есть собственные векторы.
Т.е. если некоторая система собственных векторов не полна, но ортогональное дополнение к ним конечномерно, то это заведомо не все собственные векторы. Для бесконечномерного дополнения это, разумеется, уже не так.