Через собственные числа можно, конечно, но тут некоторая проблема -- нужно знать спектральную теорему для нормальных операторов. Кроме того, евклидовыми вообще-то называют
вещественные пространства со скалярным произведением, а тогда тут некоторая дополнительная морока с формальностями; хотя не знаю, что под этим термином понимает Кострикин -- может, он отождествляет евклидовы и унитарные .
Прямее так. Из условия следует, что оператор невырожден и, значит, достаточно доказывать
![$A^*A=E$ $A^*A=E$](https://dxdy-04.korotkov.co.uk/f/f/7/e/f7e6dd2ba0821c80d470984584e14a0882.png)
. Из нормальности и условия очевидно, что
![${(A^*A)}^2=E$ ${(A^*A)}^2=E$](https://dxdy-01.korotkov.co.uk/f/4/c/2/4c2d14a7db479650aa715abdf64270fb82.png)
, и при этом оператор
![$A^*A$ $A^*A$](https://dxdy-04.korotkov.co.uk/f/f/d/7/fd7b9a28304c62b9ec9cc69ec2f33ca982.png)
самосопряжён и неотрицателен. Т.е. дело сводится к доказательству такого факта: если оператор
![$B$ $B$](https://dxdy-03.korotkov.co.uk/f/6/1/e/61e84f854bc6258d4108d08d4c4a085282.png)
самосопряжён, неотрицателен и
![$B^2=E$ $B^2=E$](https://dxdy-02.korotkov.co.uk/f/5/b/3/5b3888749d4d645bd706b13ae081193982.png)
, то и
![$B=E$ $B=E$](https://dxdy-02.korotkov.co.uk/f/d/7/6/d76080e03b558a98d1707440e63f2e6082.png)
. Ну тут уж как угодно можно: и через спектральную теорему для самосопряжённых (точнее, существование собственного базиса, но это она фактически и есть), и без неё.