Вот не знаю, там ведь у них всякие rigged Hilbert spaces, специально для всех этих distributions и прочего безобразия.
Угу. И я сейчас не в курсе, называется ли какое-то из трёх пространств в этой тройке пространством состояний. По идее, конечно, всё должно быть так, чтобы при соответствующем выборе можно было называть

состояниями, но не буду пытаться угадать.

Хотя кажется, что у Иванова в «Как понимать квантовую механику» эта терминологическая деталь описана. Rigged spaces он точно упоминал.
то почему дельта - функции в разложении состояниями не являются?
Являются или нет, вы же знаете, что это обобщённые функции? Важно, что некоторые интегралы с их участием будут, например, просто неопределены.