сообщение отредактировано 03.05.2011, исправлены опечатки, но решение неверно!Предположим, что существует решение, где

оба не квадраты.
Делая подстановку

, где

свободны от квадратов и

, получаем, что оба уравнения

и

имеют решения, причем

Рассмотрим уравнение

при

(

новые, не из системы сверху). Оно имеет решение тогда и только тогда, когда

представимо квадратичной формой

. Число

представимо формой

тогда и только тогда, когда существует унимодулярное преобразование координат

, переводящее форму

в форму

, где

,

(Бухштаб). Дискриминант формы

,

, тогда

, т.е.

, откуда

.
Несложно доказать, что

переводится в форму

преобразованием с матрицей

тогда и только тогда, когда

.
Предположим, что оба уравнения

и

имеют решения. Значит форма

переводится в

преобразованием с унимодулярной матрицей

и форма

переводится в

преобразованием с унимодулярной матрицей

(если

какие-либо 2 формы совпадают). Тогда существует унимодулярное преобразование с матрицей

формы

в

. Найдем его напрямую:

такое, что

Поскольку

и

свободны от квадратов, то из 1-го уравнения получаем, что

, и аналогично из 3-го

. Подставляя

, получаем (с условием унимодулярности):

Из 1-го уравнения следует

. Берем 2-е и 4-е уравнения. Так как

и

, то

и по симметрии

получаем

. Подставляя это в 1-е и 3-е уравнения, получаем:

откуда

, что невозможно.
! Вот тут как раз опечатка и сработала. На самом деле получилось

, так что пока никакого противоречия нету. Соответственно, дальше все неверно.
Таким образом, мы из предположения, что

из данной оба не квадраты пришли к противоречию. Значит хотя бы одно из них квадрат.