Описать фактормножество и фактортопологию

[sarret]

Добрый день, уважаемые участники!

Помогите, пожалуйста, разобраться с задачей по общей топологии. Эта задача взята из учебника В. А. Васильева "Топология для младшекурсников", стр. 13. К своему стыду, я над ней бьюсь уже 3-ий день и никак не могу поверить, что такие задачи решают, как написано в аннотации, "старшеклассники и младшекурсники". Итак, текст задачи (привожу без изменения).

Пусть $X = \left\lbrace \begin{pmatrix} a & b \\ c & d \end{pmatrix} \right\rbrace$ — множество линейных отображений $\mathbb{R}^2$ в себя, а топология в нем задается его очевидным отождествлением с $\mathbb{R}^4$. Отношение эквивалентности: $A \sim B \iff A = LBL^{-1}$, где $L$ — какая-нибудь обратимая матрица. Требуется описать фактормножество $X/\!\sim$ и фактортопологию. Выясните, в частности, является ли пространство $X/\!\sim$ хаусдорфовым.

Где я застрял: не могу определить фактортопологию. Но по порядку.

Что мне уже известно. Поскольку по условию $L$ — это обратимая, а, следовательно, невырожденная матрица, то её можно рассматривать как матрицу перехода от одного базиса в $\mathbb{R}^2$ к другому. Так как рассматриваются все такие матрицы, то я предполагаю, что в классе эквивалентности будут матрицы одного и того же оператора во всевозможных базисах. Таким образом, каждому классу эквивалентности сопоставляется некий оператор.

Далее, поскольку спектр не меняется при переходе к новому базису, то оператор однозначно определяется своими собственными значениями. Однако они не упорядочены, то есть, $\left\lbrace\lambda_1,\lambda_2\right\rbrace$ есть то же самое, что и $\left\lbrace\lambda_2,\lambda_1\right\rbrace$.

В итоге получаем полуплоскость, ограниченную прямой $y=x$. Я при решении обозначил ось абсцисс $\sigma_1$, ось ординат — $\sigma_2$. Тогда получаем, например, такую полуплоскость: $S_1 = \left\lbrace\ -\infty < \sigma_1 < +\infty, \sigma_1 \leqslant \sigma_2 < +\infty \right\rbrace$.

Однако это не все возможные спектры, ибо ещё могут быть комплексносопряжённые значения: $\lambda_{1,2} = \sigma \pm i\mu$. Здесь нам также достаточно лишь полуплоскости $S_2 = \left\lbrace -\infty<\sigma<+\infty, \mu > 0\right\rbrace$, что для удобства можно представить следующим образом: к нашей системе координат $\left\lbrace\sigma_1, \sigma_2\right\rbrace$ добавим ось аппликат $\mu$, и тогда полуплоскость $S_2$ "приклеим" к полуплоскости $S_1$ вдоль прямой $\sigma_1 = \sigma_2$.

В результате этих рассуждений приходим к тому, что фактормножество суть $\mathbb{R}^2$. Почему "суть" — потому что пока не гомеоморфно, ведь структура открытых множеств не ясна.

Вот тут-то я и встрял. Я попробовал проверить тривиальный случай: не является ли фактортопология дискретной? Ну, вдруг так задачка подобрана. Очевидно, не является. Контрпример:

$$ A_0 = \begin{pmatrix} 1 & 0\\ 0 & 0 \end{pmatrix}, B_0 = \begin{pmatrix} 0 & 0\\ 1 & 1 \end{pmatrix}, \lambda_{1,2} = \left\lbrace1,0\right\rbrace $$

Для произвольной матрицы $A$ спектр определяется так: $\lambda_{1,2} = \frac{a+d \pm \sqrt{(a-d)^2 +4bc}}{2}$. Тогда для фиксированных с. зн. $\sigma_1, \sigma_2$ имеем:

$$ \left\{ \begin{array}{rcl} \sigma_1 &=& \frac{a+d}{2} + \frac{\sqrt{(a-d)^2 +4bc}}{2}\\ \sigma_2 &=& \frac{a+d}{2} - \frac{\sqrt{(a-d)^2 +4bc}}{2}\\ \end{array} \right. $$

В операторе из контрпримера у матриц либо $b=0$, либо $c=0$, тогда эта часть полного прообраза представляет собой "кресты", расположенные в двух точках в $\mathbb{R}^4$: $a=0,d=1$ и $a=1,d=0$. Если же ни $b$, ни $c$ не равны нулю, то эта часть полного прообраза будет представлять собой довольно интересные поверхности, уходящие на бесконечность:

$$ \left\{ \begin{array}{rcl} \frac{a+d}{2} + \frac{\sqrt{(a-d)^2 +4bc}}{2} &=& 1\\ \frac{a+d}{2} - \frac{\sqrt{(a-d)^2 +4bc}}{2} &=& 0\\ \end{array}\right. \iff \left\{ \begin{array}{rcl} bc &=& 1+ad-a-d\\ bc &=& ad\\ \end{array} \right. $$

В общем, такое множество (полный прообраз спектра $\lambda_{1,2} = \left\lbrace1,0\right\rbrace$) точно не является открытым, так как никакой шар с центром в точке $(1, 0, 0, 0)$ не будет полностью содержаться в нём, ибо точка $(1-\varepsilon, 0, 0, 0)$ не принадлежит ему.

Да, кстати, поскольку в условии не сказано, какая топология задана на $\mathbb{R}^4$, то я по умолчанию считал, что стандартная, метрического пространства (с шарами которая). Тем более, что в книжке раньше делались намёки, что, если не сказано иначе, имеется в виду стандартная. "Очевидное отождествление", насколько я понимаю, это следующее: $(x_1, x_2, x_3, x_4) = (a, b, c, d)$.

Согласно определению, открытыми в фактортопологии считаются те множества, полные прообразы которых при канонической проекции $X \to X/\!\sim $ будут открытыми. Я пробовал найти полные прообразы для открытых кругов в $\mathbb{R}^2$, это ну ооочень нетривиально. И потом, там получается два уравнения для четырёх неизвестных (случай $\sigma_1 < 0, \sigma_2 > 0$):

$$ \left\{ \begin{array}{rcl} a+d &=& \sigma_1 + \sigma_2\\ ad-bc &=& \sigma_1\sigma_2\\ \end{array} \right., $$

что явно намекает на поверхность в четырёхмерном пространстве, а уж коль скоро это поверхность, то никак не открытое множество в стандартной топологии.

Чётко поставленных вопроса у меня три.
1. Не ошибся ли где-то в своих выкладках и рассуждениях, в том числе, в интерпретации задачи?
2. Как поступать дальше, возможно, есть какие стандартные приёмы для таких задач? Как искать открытые множества в фактортопологиях — что, как всегда, угадывать?
3. Неужели такое реально решают старшеклассники в 57-ой школе?

Спасибо всем, кто возьмётся помочь, любым замечаниям и подсказкам буду рад.

С хаусдорфовостью, полагаю, я сам разберусь, если узнаю топологию.

[Brukvalub]

Если вы слыхали про норму линейного оператора, то попробуйте использовать ее здесь.

[alcoholist]

Очевидно, можно считать, что $\operatorname{det}L=\pm 1$. То есть мы ищем фактор-пространство $M_{2,2}/SL_2$.
Давайте укажем "канонических" представителей этого отношения эквивалентности.
1) Невырожденные операторы с вещественным спектром

sarret в сообщении #1095718 писал(а):

В итоге получаем полуплоскость, ограниченную прямой $y=x$. Я при решении обозначил ось абсцисс $\sigma_1$, ось ординат — $\sigma_2$. Тогда получаем, например, такую полуплоскость: $S_1 = \left\lbrace\ -\infty < \sigma_1 < +\infty, \sigma_1 \leqslant \sigma_2 < +\infty \right\rbrace$.

здесь нужно уточнение: сопряжением можно добиться того, что $\sigma_2\ge 0$, поэтому $S_1 = \left\lbrace\ (\sigma_1,\sigma_2)\,|\,0\le \sigma_2 , \sigma_1 \leqslant \sigma_2 \right\rbrace$

2) Операторы с комплексным спектром

sarret в сообщении #1095718 писал(а):

ибо ещё могут быть комплексносопряжённые значения: $\lambda_{1,2} = \sigma \pm i\mu$. Здесь нам также достаточно лишь полуплоскости $S_2 = \left\lbrace -\infty<\sigma<+\infty, \mu > 0\right\rbrace$, что для удобства можно представить следующим образом: к нашей системе координат $\left\lbrace\sigma_1, \sigma_2\right\rbrace$ добавим ось аппликат $\mu$, и тогда полуплоскость $S_2$ "приклеим" к полуплоскости $S_1$ вдоль прямой $\sigma_1 = \sigma_2$.

уточнение: сопряжением можно добиться того, что $\sigma\ge 0$
мнимая часть неизменна (!)
поэтому $S_2 = \left\lbrace (\sigma,\mu)\,|\,0\le \sigma\right\rbrace$
и тогда полуплоскость $S_2$ "приклеим" лучом $\{(\sigma,0),\,\,\sigma\ge 0\}$ к полуплоскости $S_1$ вдоль луча $\sigma_1 = \sigma_2\ge 0$

3) Нильпотентные операторы $A^2=0$
Любой нильпотентный оператор в некотором базисе записывается матрицей $\left(\begin{array}{cc} 0&\rho\\ 0& 0\end{array}\right)$
знак числа $\rho$ однозначно определен оператором
поэтому $S_3=\{\rho\in\mathbb{R}\}$
Эту прямую нужно приклеить началом координат к $S_1\cup S_2$ понятно в какой точке;-)))

То есть $M_{2,2}/SL_2\simeq S_1\cup S_2\cup S_3$

При этом $S_1\cap S_2$ гомеоморфно лучу, $S_1\cap S_3=S_2\cap S_3$ -- точка

[DeBill]

alcoholist

alcoholist в сообщении #1095760 писал(а):

здесь нужно уточнение: сопряжением можно добиться того, что $\sigma_2\ge 0$,

Не,

sarret в сообщении #1095718 писал(а):

спектр не меняется при переходе к новому базису,

так что у sarret здесь все правильно. И в комплексном случае - тоже.

И в конце - тоже нехорошо: все нильпотентные при факторизации плющатся в одну точку, так что $\rho$ - не надо.

-- 01.02.2016, 23:47 --

sarret
1) Ошибки таки есть. Частично, одну указал alcoholist : Вы забыли про жордановы клетки (с произвольным $\lambda$ на диагонали).
Другая

sarret в сообщении #1095718 писал(а):

намекает на поверхность

Верно, намекает. Да только эта поверхность - прообраз ТОЧКИ, а не окрестности. Кстати, тинтель с минтелем тут вполне сходится: Ваше факторпространство, в основном, двумерно, так что в точку и должны проектироваться двумерные штуки.
И наконец "оператор однозначно определяется своими собственными значениями" - тоже неправда, из-за тех самых клеток.

sarret в сообщении #1095718 писал(а):

2. Как поступать дальше,

Ну, во первых, исправить ошибку. Именно, добавить к Вашей модели еще одну прямую $\sigma_1 = \sigma_2$ (приложив ее к старой, но не отождествляя со старой), соответствующую жордановым клеткам. Ну и вот теперь Ваша модель готова. Узнали ее? (У Вас в курсе топологии должон быть рассмотрен классический пример "прямая с двумя нулями" - это когда две прямые склеили в одну, отождествив все точки, кроме нулей).
Ну, а насчет "угадывать" - да обычно и так, из общих соображений, понятно. Единственные непонятки - там, где неприятности возникают - вот как тут, около точек, соответствующих кратным собственным значениям.

[ExtTor]

А если подойти так: матрицы A и B могут быть связаны указанным соотношением тогда и только тогда, когда их ранги одинаковы. Тогда класс эквивалентности включает в себя матрицы с одним и тем же рангом. Отсюда мы имеем фактормножество из трёх элементов: матрица с нулевым рангом = нулевая матрица; матрицы с рангом 1 = вырожденные матрицы; матрицы с рангом 2 = невырожденные матрицы.

[Lia]

ExtTor в сообщении #1097594 писал(а):

А если подойти так: матрицы A и B могут быть связаны указанным соотношением тогда и только тогда, когда их ранги одинаковы. Тогда класс эквивалентности включает в себя матрицы с одним и тем же рангом.

Что неправда.

[ExtTor]

Lia в сообщении #1097595 писал(а):

ExtTor в сообщении #1097594 писал(а):

А если подойти так: матрицы A и B могут быть связаны указанным соотношением тогда и только тогда, когда их ранги одинаковы. Тогда класс эквивалентности включает в себя матрицы с одним и тем же рангом.

Что неправда.

Согласен, приврал, пардон. В данном случае у нас одна и та же матрица L, поэтому утверждение выполняется только в одну сторону, эквивалентность => равенство рангов.

[sarret]

Ещё раз всем доброго дня, извиняюсь, что так долго не отвечал: я слёг на 10 дней с отравлением, было не до задач, теперь вот готов дальше разбираться.

Спасибо всем за ответы и помощь. Я не со всем согласен, сейчас по порядку отвечу.

Brukvalub в сообщении #1095753 писал(а):

Если вы слыхали про норму линейного оператора, то попробуйте использовать ее здесь.

Слыхал, попробовал, не подходит. В каком месте и как её надо использовать, можете пояснить? Я взял частные случаи нормы, попробовал посмотреть, какие множества получаются в фактормножестве, если зафиксировать норму равной какому-нибудь числу, но ничего путного не получил. Как из этого получить открытые множества в фактортопологии? Вот норма Фробениуса, например: она вообще в точности совпадает со стандартной нормой в $\mathbb{R}^4$. Я понимаю, что все нормы эквивалентны, но они все порождают разные множества, поэтому я не понимаю, как этим можно воспользоваться.

alcoholist в сообщении #1095760 писал(а):

1) Невырожденные операторы с вещественным спектром

sarret в сообщении #1095718 писал(а):

В итоге получаем полуплоскость, ограниченную прямой $y=x$. Я при решении обозначил ось абсцисс $\sigma_1$, ось ординат — $\sigma_2$. Тогда получаем, например, такую полуплоскость: $S_1 = \left\lbrace\ -\infty < \sigma_1 < +\infty, \sigma_1 \leqslant \sigma_2 < +\infty \right\rbrace$.

здесь нужно уточнение: сопряжением можно добиться того, что $\sigma_2\ge 0$, поэтому $S_1 = \left\lbrace\ (\sigma_1,\sigma_2)\,|\,0\le \sigma_2 , \sigma_1 \leqslant \sigma_2 \right\rbrace$

Не согласен. Каким это сопряжением вы избавитесь от класса эквивалентности для матрицы $\begin{pmatrix} -1 & 0 \\ 0 & -2 \end{pmatrix}$? Спектром является множество $\left\lbrace-1, -2\right\rbrace$, поэтому, согласно принятому условию $\sigma_1 \leq \sigma_2$, $\sigma_1 = -2, \sigma_2 = -1$. Никаким невырожденным преобразованием вы не перейдёте к полуплоскости $\sigma_2 \geq 0$.

alcoholist в сообщении #1095760 писал(а):

2) Операторы с комплексным спектром

sarret в сообщении #1095718 писал(а):

ибо ещё могут быть комплексносопряжённые значения: $\lambda_{1,2} = \sigma \pm i\mu$. Здесь нам также достаточно лишь полуплоскости $S_2 = \left\lbrace -\infty<\sigma<+\infty, \mu > 0\right\rbrace$, что для удобства можно представить следующим образом: к нашей системе координат $\left\lbrace\sigma_1, \sigma_2\right\rbrace$ добавим ось аппликат $\mu$, и тогда полуплоскость $S_2$ "приклеим" к полуплоскости $S_1$ вдоль прямой $\sigma_1 = \sigma_2$.

уточнение: сопряжением можно добиться того, что $\sigma\ge 0$
мнимая часть неизменна (!)
поэтому $S_2 = \left\lbrace (\sigma,\mu)\,|\,0\le \sigma\right\rbrace$

Опять же не согласен по той же самой причине: при невырожденном переходе характеристический многочлен остаётся неизменным, поэтому от матрицы $\begin{pmatrix} 1 & 3 \\ -3 & 1 \end{pmatrix}$ к матрице $\begin{pmatrix} -1 & 3 \\ -3 & -1 \end{pmatrix}$ перейти не получится. Да и след — это тоже инвариант.

alcoholist в сообщении #1095760 писал(а):

3) Нильпотентные операторы $A^2=0$
Любой нильпотентный оператор в некотором базисе записывается матрицей $\left(\begin{array}{cc} 0&\rho\\ 0& 0\end{array}\right)$
знак числа $\rho$ однозначно определен оператором
поэтому $S_3=\{\rho\in\mathbb{R}\}$

От одного нильпотентного оператора $\begin{pmatrix} 0 & \rho_1 \\ 0 & 0 \end{pmatrix}$ к другому $\begin{pmatrix} 0 & \rho_2 \\ 0 & 0 \end{pmatrix}$ можно перейти с помощью невырожденного преобразования $L = \begin{pmatrix} \rho_2 & c \\ 0 & \rho_1 \end{pmatrix}$, где $c$ — это любое число. Поэтому при факторизации они все соответствуют одному-единственному элементу в фактормножестве. Другое дело, что такие нильпотентные операторы не эквиваленты $\begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix}$ — тут да, согласен.

DeBill в сообщении #1095970 писал(а):

sarret
1) Ошибки таки есть. Частично, одну указал alcoholist : Вы забыли про жордановы клетки (с произвольным $\lambda$ на диагонали).

Да-да! Верно. Виноват, ошибся. Это разные операторы будут: алгебраическая кратность равна двум, а геометрическая равна либо единице, либо двойке. Это я как-то забыл.

DeBill в сообщении #1095970 писал(а):

Другая

sarret в сообщении #1095718 писал(а):

намекает на поверхность

Верно, намекает. Да только эта поверхность - прообраз ТОЧКИ, а не окрестности. Кстати, тинтель с минтелем тут вполне сходится: Ваше факторпространство, в основном, двумерно, так что в точку и должны проектироваться двумерные штуки.

Я согласен, что это логично — тут, действительно, сюрприза нет. Но я пробовал находить прообраз открытых кругов в плоскости $(\sigma_1, \sigma_2)$, там не так-то просто проверить, получаются ли множества открытыми, да к тому же вроде удалось найти контрпример (найти точку, никакая окрестность которой не лежит внутри полного прообраза), только я его потерял в листочках. Могу попробовать ещё раз, я ведь мог и ошибиться. Вы думаете, всё-таки всё так просто — стандартная база в $\mathbb{R}^2$ и будет базой для этой фактортопологии?

DeBill в сообщении #1095970 писал(а):

И наконец "оператор однозначно определяется своими собственными значениями" - тоже неправда, из-за тех самых клеток.

Значит, оператор однозначно определяется всевозможными комбинациями жордановых клеток, с точностью до перестановки. Хорошо, спасибо! Это я понял.

DeBill в сообщении #1095970 писал(а):

Ну, во первых, исправить ошибку. Именно, добавить к Вашей модели еще одну прямую $\sigma_1 = \sigma_2$ (приложив ее к старой, но не отождествляя со старой), соответствующую жордановым клеткам. Ну и вот теперь Ваша модель готова. Узнали ее? (У Вас в курсе топологии должон быть рассмотрен классический пример "прямая с двумя нулями" - это когда две прямые склеили в одну, отождествив все точки, кроме нулей).

Честно говоря, у меня не было обязательного курса топологии, к сожалению, поэтому я сам пытаюсь изучать. Какое-то время ходил на лекции, но там не было такого примера, а поисковый запрос в интернете по вашей фразе не дал результатов. Не могли бы ткнуть меня в какой-нибудь учебник, где это разбирается?

Но главное — другое, всё же я ни на йоту не приблизился к решению задачи В какую сторону копать?

P.S. Про прямую, которую нужно добавить, но не отождествлять, я понял. Получается как бы плоскость $\mathbb{R}^2$ плюс ещё одна прямая.

[Brukvalub]

sarret в сообщении #1098999 писал(а):

Я понимаю, что все нормы эквивалентны, но они все порождают разные множества, поэтому я не понимаю, как этим можно воспользоваться.

Я предлагал использовать следующий стандартный факт: множество всех сопряженных матриц является множеством записей матриц фиксированного линейного оператора в разных базисах. Отсюда возникает кажущаяся естественной мысль: использовать для описания фактор-множества пространство линейных операторов и для описания топологии норму оператора. Дальше я мысль не развивал и не настаиваю на плодотворности этой идеи.

[DeBill]

sarret

sarret в сообщении #1098999 писал(а):

Получается как бы плоскость $\mathbb{R}^2$ плюс ещё одна прямая.

Точно! А база окрестностей может строиться примерно так.
У точек вне прямой - это обычные круги (пусть - не пересекающие нашу прямую). Это боле-мене понятно: у диагональной матрицы (с различными веществеными числами на диагонали), близкие (в пространстве матриц) к ней имеют характеристический многочлен - близкий; его корни также будут вещественными, и близкими к исходным. Аналогично - с комплексными с.зн.. А вот на прямой - будет забавно. Например, что можно сказать про малую окрестность единичной матрицы? А там есть и с близкими к 1, но не равными с.зн., и диагональные (с числами, близкими к 1, на диагонали ) , и жордановы (такие же ) клетки. Значит, окрестности точки (1,1) из первой прямой - это круги на нашей модели, в которые надо включать точки ОБЕИХ прямых. Однако, что будет (малой) окрестностью жордановой клетки с единичкой на диагонали и куда она спроектируется? НЕ ТУДА!

[sarret]

DeBill в сообщении #1099019 писал(а):

sarret

sarret в сообщении #1098999 писал(а):

Получается как бы плоскость $\mathbb{R}^2$ плюс ещё одна прямая.

Точно! А база окрестностей может строиться примерно так.
У точек вне прямой - это обычные круги (пусть - не пересекающие нашу прямую). Это боле-мене понятно: у диагональной матрицы (с различными веществеными числами на диагонали), близкие (в пространстве матриц) к ней имеют характеристический многочлен - близкий; его корни также будут вещественными, и близкими к исходным. Аналогично - с комплексными с.зн.. А вот на прямой - будет забавно.

Вы знаете, возможно, я что-то не понимаю или совсем уже запутался, но я упорно получаю контрпример того, что для "регулярных" точек, которые соответствуют различным действительным собственным значениям, — что для таких точек открытыми множествами будут обыкновенные окрестности в $\mathbb{R}^2$, круги, то бишь.

Погодите с этой отдельной прямой — я понимаю, что там будет всё несколько сложнее :) мне бы сначала просто с "регулярными" точками разобраться, даже не с комплексно сопряжёнными. И как это у вас так легко в уме получается разобраться с полными прообразами! Мне вот надо на бумажке всё выписывать :)

Привожу свои рассуждения, я всё же люблю строго доказывать, а то в математике часто очевидное неверно, а неочевидное оказывается верным.

Возьмём точку $\sigma_1 = 1, \sigma_2 = 2$. Её окрестность такова: $U_{\varepsilon} = \left\lbrace (x,y) \mid (x-1)^2 + (y-2)^2 < \varepsilon\right\rbrace$, или, по-другому, уравнения можно выписать так:

$$\left\{ \begin{array}{rcl} \sigma_1 &=& 1 + r \cos\varphi, \\ \sigma_2 &=& 2 + r \sin\varphi, \\ \end{array} \right. $$

где $0 \leqslant r < \varepsilon, -\pi \leqslant \varphi < \pi$.

Согласно определению фактортопологии, чтобы это множество было открытым, необходимо и достаточно, чтобы полный прообраз был открыт. Какие точки входят в этот прообраз? Ну, например, матрицы $A_1 = \begin{pmatrix} 1 & 0 \\ 0 & 2 \end{pmatrix}, A_2 = \begin{pmatrix} 2 & 0 \\ 0 & 1 \end{pmatrix}$. Выпишем уравнения соответствия с. зн. и коэффициентов матрицы (см. моё самое первое сообщение). Поскольку значения различные, нам не нужно беспокоиться о кратностях, то есть, с. зн. однозначно определяют оператор. Итак:

$$\left\{ \begin{array}{rcl} a+d &=& 3 + r\left(\sin\varphi+\cos\varphi\right), \\ ad - bc &=& 2 + r\left(\sin\varphi + 2\cos\varphi\right) + r^2\sin\varphi\cos\varphi.\\ \end{array} \right.$$

Обозначим каноническую проекцию (сопоставление каждому элементу его класса эквивалентности) через $f$. Зафиксируем точку из прообраза, например, $\xi_0 = (1, 0, 0, 2) \in f^{-1}\left(U_{\varepsilon}\right)$. Множество открыто т. и т. т., когда все его точки внутренние, следовательно, точка $\xi_0$ должна быть внутренней.

Пусть $\xi_0^{\varepsilon_1} = \left(1, b_0, c_0, 2\right)$, где $b_0 < \varepsilon_1\cos\psi, c_0 < \varepsilon_1\sin\psi$. Точка $\xi_0$ внутренняя $\iff \exists \varepsilon_1 > 0 : \forall \psi \in \left[-\pi,\pi\right) \Rightarrow \xi_0^{\varepsilon_1} \in f^{-1}\left(U_{\varepsilon}\right)$. В общем случае можно ввести "сферическую" систему координат для четырёхмерного пространства (радиус + 3 угла), но нам это здесь не нужно. Из первого уравнения системы получаем:
1) либо $r = 0$,
2) либо $\varphi = -\dfrac{\pi}{4}$,
3) либо $\varphi = \dfrac{3\pi}{4}$, (так как $\sin\varphi + \cos\varphi = \sqrt{2}\sin\left(\varphi + \dfrac{\pi}{4}\right)$).

Из второго уравнения: $-b_0c_0 = r\left(\sin\varphi + 2\cos\varphi\right) + \dfrac{r^2}{2}\sin 2\varphi \Rightarrow r \neq 0$.
Сначала рассмотрим 3-ий вариант:
3) $\varphi = \dfrac{3\pi}{4} \Rightarrow b_0c_0 = \dfrac{r}{2}\left(r + \sqrt{2}\right) \Rightarrow$ либо $b_0 > 0, c_0 > 0$, либо $b_0 < 0, c_0 < 0$.
Имеем: $\dfrac{\varepsilon_1^2}{2}\sin 2\psi < \dfrac{\varepsilon}{2}\left(\varepsilon + \sqrt{2}\right)$, и тогда для $\psi \in \left[\pi n, \dfrac{\pi}{2} + \pi n\right]$ неравенство выполняется для всех $\varepsilon_1$, например, удовлетворяющих $\varepsilon_1 \leqslant \varepsilon$. То есть, пока всё хорошо. Я тут опустил некоторые выкладки, впрочем, они все несложные.

Теперь второй вариант!
2) $\varphi = -\dfrac{\pi}{4} \Rightarrow b_0c_0 = \dfrac{r}{2}\left(r - \sqrt{2}\right)$.
Пусть $\varepsilon \leqslant \dfrac{\sqrt{2}}{2} \Rightarrow$ либо $b_0 > 0, c_0 < 0$, либо $b_0 < 0, c_0 > 0$. Тогда:
$0 > \dfrac{r}{2}\left(r - \sqrt{2}\right) > \dfrac{\varepsilon}{2}\left(\varepsilon - \sqrt{2}\right) \Rightarrow \dfrac{\varepsilon_1^2}{2}\sin 2\psi > \dfrac{\varepsilon}{2}\left(\varepsilon - \sqrt{2}\right)$, что тоже выполнимо для соответствующих значений $\psi$ и тех же $\varepsilon_1 \leqslant \varepsilon$.
Но если же $\varepsilon > \dfrac{\sqrt{2}}{2}$, то тогда достаточно потребовать $\dfrac{r}{2}\left(r - \sqrt{2}\right) \geqslant -\dfrac{1}{4} \Rightarrow b_0c_0 \geqslant -\dfrac{1}{4}$. Всё вроде бы нормально, но обратите внимание на знак "больше или равно". Закрадываются сомнения насчёт замкнутости!

Рассмотрим теперь точку $\xi_1 = (1,-\dfrac{1}{2},\dfrac{1}{2},2)$. Пусть $\dfrac{\sqrt{2}}{2} < \varepsilon < \sqrt{2}$. Тогда точка $\xi_1 \in f^{-1}\left(U_{\varepsilon}\right)$, так как при $\varphi = -\dfrac{\pi}{4}$ выполняется $bc = \dfrac{r}{2}\left(r - \sqrt{2}\right)\bigg|_{r=\frac{\sqrt{2}}{2}}$.

А вот окрестность этой точки уже ни при каком $\varepsilon_1$ не принадлежит полному прообразу.
Рассмотрим $\xi_1^{\varepsilon_1} = \left(1,-\dfrac{1 + \varepsilon_1}{2},\dfrac{1 + \varepsilon_1}{2}, 2\right)$. Опять три варианта, опять первый не подходит. Имеем из второго уравнения:

$$ \begin{array}{rcl} 2 + \left(\dfrac{1+\varepsilon_1}{2}\right)^2 &=& 2 + \dfrac{r^2}{2}\sin 2\varphi + r\left(\sin\varphi + 2\cos\varphi\right), \\ \left(1+\varepsilon_1\right)^2 &=& 2r^2\sin 2\varphi + 4r\left(\sin\varphi + 2\cos\varphi\right). \end{array} $$

1) $\varphi = -\dfrac{\pi}{4} : \left(1+\varepsilon_1\right)^2 = 2r\left(\sqrt{2} - r\right) < 0$, ибо $r \in \left[0,\varepsilon\right)$, следовательно, решений нет;
2) $\varphi = \dfrac{3\pi}{4} : \left(1+\varepsilon_1\right)^2 = -2r\left(\sqrt{2} + r\right) < 0$, следовательно, решений тоже нет.

Вероятно, я где-то ошибся :) Вопрос только где? Я вот ещё до того, как написал на dxdy, получил похожий результат и поэтому стал искать более сложные множества, но ничего не придумал. И, видимо, зря

[sarret]

Мда, вот что значит "утро вечера мудренее", или — о пользе сна при решении задачек :)

Вот это предположение

sarret в сообщении #1099781 писал(а):

Пусть $\dfrac{\sqrt{2}}{2} < \varepsilon < \sqrt{2}$.

неверно.

Расстояние от рассматриваемой точки $\left(\sigma_1,\sigma_2\right) = \left(1,2\right)$ до прямой $\sigma_1 = \sigma_2$ равно именно $\dfrac{\sqrt{2}}{2}$, а поскольку там уже и обе эти прямые, и комплексная часть начинается, то их надо рассматривать отдельно. По этой причине $\varepsilon \leqslant \dfrac{\sqrt{2}}{2}$.

Пока попробую доказать для точек вида $\left(\sigma_1,\sigma_2\right)$ и $\sigma\pm\mu$, что открытые круги являются открытыми множествами. Потом разберусь с прямыми :)

[DeBill]

sarret
Да. Более того, все достаточно проверять для "достаточно малых" $\varepsilon$. Но, вообще то , и для не малых тоже должно получаться. Так что, в вашем тексте таки есть неточности (не в выкладках - они все верные, а в их интерпретации). Конкретно, ваша вторая точка $\xi _1$ - не хороша: ей соответствует как раз жорданова клетка! Так что прообраз ее окрестности (при $\varepsilon $ - больших) залезает частично на вашу полуплоскость (случай 1) в конце вашего текста - там, видимо, опечатка - при отрицательных $\varepsilon _1$ решения есть), а частично - в комплексную часть вашего факторпространства. Вобщем, все нормально.
Совет (годный, по крайней мере, для вещественной половины): тупо напишите формулы для собственных значений - через к-ты матрицы, и подставьте в неравенство, задающее окрестность точки $ \sigma _1, \sigma _2$, (и условие "дискриминант положителен") - и получите СТРОГИЕ неравенства (с непрерывными функциями), задающие прообраз.

[sarret]

DeBill в сообщении #1099957 писал(а):

sarret
Да. Более того, все достаточно проверять для "достаточно малых" $\varepsilon$.

Это потому, что достаточно указать базу топологии, верно?

DeBill в сообщении #1099957 писал(а):

Но, вообще то , и для не малых тоже должно получаться.

Ну, тут главное, чтобы не "залезало" на прямые и на комплексную часть, опять же.

DeBill в сообщении #1099957 писал(а):

Так что, в вашем тексте таки есть неточности (не в выкладках - они все верные, а в их интерпретации). Конкретно, ваша вторая точка $\xi _1$ - не хороша: ей соответствует как раз жорданова клетка!

Да-да, верно подмечено, но это именно потому, что предложенный открытый круг залез на прямые $\sigma_1 = \sigma_2$.

DeBill в сообщении #1099957 писал(а):

Так что прообраз ее окрестности (при $\varepsilon $ - больших) залезает частично на вашу полуплоскость (случай 1) в конце вашего текста - там, видимо, опечатка - при отрицательных $\varepsilon _1$ решения есть), а частично - в комплексную часть вашего факторпространства. Вобщем, все нормально.

Вы, вероятно, имели в виду образ её окрестности? Ведь $\xi_1$ — это точка из четырёхмерного пространства.
А вот насчёт опечатки — не совсем: я понимаю, что для отрицательных $\varepsilon_1$ решения есть, но я же там пытался строить контрпример, поэтому, грубо говоря, я зафиксировал угол $\psi = \dfrac{3\pi}{4}$ для точки $\xi_1$ в плоскости $(b,c)$ и хотел показать, что ни для какого $\varepsilon_1$ точка $\xi_1^{\varepsilon_1}$ не лежит в полном прообразе. Другими словами, пытался показать, что точка $\xi_1$ является предельной "по этому направлению".

DeBill в сообщении #1099957 писал(а):

Совет (годный, по крайней мере, для вещественной половины): тупо напишите формулы для собственных значений - через к-ты матрицы, и подставьте в неравенство, задающее окрестность точки $ \sigma _1, \sigma _2$, (и условие "дискриминант положителен") - и получите СТРОГИЕ неравенства (с непрерывными функциями), задающие прообраз.

ОК, спасибо, попробую. Это фактически возврат к тому, до чего я дошёл первый раз сам, и именно там застрял и начал искать другие множества :)