А какой-нибудь способ такую асимптотику уточнить не подскажите?
Зависит от того, до чего Вы ее уточнить хотите. Если бы не было концов, то Ваш оператор бы был псевдодифференциальным оператором (а точнее—мультипликатором, т.е. оператором умножения в моментном представлении на
и потому ядро Шварца его спектрального проектора (и сужение на диагональ) считалось бы точно. Для нашего (на отрезке) оператора это давало бы асимптотику для сужения на диагональ ядра Шварца его спектрального проектора
.
Я почти уверен, что оценка остатка будет
или хотя бы
(по крайней мере для
eigenvalue counting function). Вообще-то одномерные операторы гораздо легче многомерных и для одномерных ДО стараются строить полную асимптотику
, принципиально невозможную для не суперспециальных многомерных ДО. Но здесь оператор не дифференциальный и не обладает свойством трансмиссии, которое означает что
вплоть до границы он переводит в
вплоть до границы. Я могу спросить у людей, которые занимаются одномерными операторами и могут знать.