Пусть такой вписанный в окружность четырехугольник существует и площадь его рациональное число.
Площадь

. где

- длины стороны и

- полупериметр.
Или

где





Поделим это равенство на

и обозначим

,

.
Тогда

. На этой эллиптической кривой три очевидные рациональные точки

второго порядка и

. Дискриминант её

, поэтому можно провести редукцию по модулю 7.

содержит четыре точки

. Из теоремы Лутц-Нагеля - на кривой четыре рациональные точки конечного порядка.
Докажем, что ранг

равен нулю и, следовательно, рациональных точек бесконечного порядка на ней нет.
Действуем по схеме, которая приводит к успеху в силу достаточной простоты

.
Вводим еще одну эллиптическую кривую

. Коэффициенты её вычисляются так:

,
( т.е.

).
Выписываются два уравнения для первой и второй кривой.
1.

2.

Коэффициенты берутся из уравнений кривых.
Формула для ранга кривой

. Пусть

- ранг, тогда

, где

количество целых

,
свободных от квадратов, делящих

(коэффициент при

) и дающих целые нетривиальные решения

для

, а

количество целых

,
свободных от квадратов, делящих

(коэффициент при

) и дающих целые нетривиальные решения

для

.
Рассмотрим

. Варианты для

:

При

есть решение

. При

тоже есть решение

. Два нужных значения

уже имеем.
При

уравнение

выглядит так:

. Сокращая на

имеем

.
Без ограничения общности можно считать, что

. Сравнивая левую и правую части уравнения по модулю

, видим, что уравнение целых решений не имеет.
При

получаем уравнение

. Оно не имеет решений по той же причине, что и предыдущее. Значит,

.
Рассмотрим

. Варианты для

:

.
При

есть решение

, при

и

уравнение не имеет решений, поскольку левая часть меньше нуля, а правая больше.
При

решение есть

. Таким образом,

. Используя формулу для ранга

. Ранг

, следовательно,
рациональных точек бесконечного порядка на кривой нет.
Конечно, такие решения технически возможны, когда немного простых составляющих у коэффициентов кривых ну и т.д. и т.п.
Задача мной специально подобрана, чтобы такой расчет можно было провести. И были пожелания о проведении такого расчета.
Проще, обратиться к PARI/GP, если, конечно, он есть под рукой.
Код:
gp > ellanalyticrank(ellinit([0,3,0,-4,0]))[1]
%1 = 0
Остается проверить точки

.

.

соответствует

.

соответствует

.

соответствует

.
Все три ситуации невозможны. Мы пришли к противоречию с первоначальной посылкой о том, что такой четырехугольник вписан в окружность и имеет рациональную площадь.
Доказательство завершено.