пока нет гильбертова пространства -- нет и спектра.
Иногда бывает. Например, в

-алгебрах определен спектр любого элемента. Кстати говоря, как раз в контексте данного треда бывает, что говорят об "алгебре наблюдаемых" без гильбертова пространства. И часто случается, что говорящий имеет в виду

-алгебру, но забывает, что его наблюдаемые вообще-то являются неограниченными операторами, а хорошей теории алгебр неограниченных операторов нет. Было бы здорово, если бы кто-нибудь объяснил стандартный выход из этой ситуации.
Так же, как и нехорошо называть собственными значениями точки непрерывного спектра. Казалось бы, какой пустяк -- всего-то разгильдяйство в терминологии. Но вот эта ветка как раз и показывает, к чему она приводит.
Да, собственные значения особенно нехорошо. Единственный стандартный термин в данном контексте -- это "generalized eigenfunction". К сожалению, термин "generalized eigenvalue", уже зарезервирован за другим (обобщенная задача на собственные значения). А в русском языке даже первый термин не очень хорошо переводить напрямую, т. к. возникает путаница с обобщенными функциями.