Пусть такой вписанный в окружность четырехугольник существует и площадь его рациональное число.
Площадь  

. где 

 - длины стороны и 

 - полупериметр.
Или 

 где





Поделим это равенство на 

 и обозначим 

, 

.
Тогда 

. На этой эллиптической кривой три очевидные рациональные точки 

второго порядка и 

. Дискриминант её 

, поэтому можно провести редукцию по модулю 7. 

 содержит четыре точки

. Из теоремы Лутц-Нагеля - на кривой четыре рациональные точки конечного порядка.
Докажем, что ранг 

 равен нулю и, следовательно, рациональных точек бесконечного порядка на ней нет.
Действуем по схеме, которая приводит к успеху в силу достаточной простоты 

.
Вводим еще одну эллиптическую кривую 

. Коэффициенты её вычисляются так: 

,
( т.е. 

).
Выписываются два уравнения для первой и второй кривой.
1. 

2. 

Коэффициенты берутся из уравнений кривых.
Формула для ранга кривой 

. Пусть 

 - ранг, тогда 

, где 

 количество целых 

,
свободных от квадратов, делящих 

 (коэффициент при 

) и дающих целые нетривиальные решения 

 для 

,  а 

 количество целых 

,
свободных от квадратов, делящих 

 (коэффициент при 

) и дающих целые нетривиальные решения 

 для 

.
Рассмотрим 

. Варианты для 

: 

При 

 есть решение 

. При 

 тоже есть решение 

. Два нужных значения 

 уже имеем.
При 

 уравнение 

 выглядит так: 

. Сокращая на 

 имеем 

.
Без ограничения общности можно считать, что 

. Сравнивая левую и правую части уравнения по модулю 

, видим, что уравнение целых решений не имеет.
При 

 получаем уравнение 

. Оно не имеет решений по той же причине, что и предыдущее. Значит, 

.
Рассмотрим 

. Варианты для 

: 

.
При 

 есть решение 

, при 

 и 

 уравнение не имеет решений, поскольку левая часть меньше нуля, а правая больше.
При 

 решение есть 

. Таким образом, 

. Используя формулу для ранга 

. Ранг 

, следовательно,
рациональных точек бесконечного порядка на кривой нет.
Конечно, такие решения технически возможны, когда немного простых составляющих у коэффициентов кривых ну и т.д. и т.п.
Задача мной специально подобрана, чтобы такой расчет можно было провести. И были пожелания о проведении такого расчета.
Проще, обратиться к PARI/GP, если, конечно, он есть под рукой.  
Код:
gp > ellanalyticrank(ellinit([0,3,0,-4,0]))[1]
%1 = 0
 Остается проверить точки 

. 

.

 соответствует 

. 

 соответствует 

. 

 соответствует 

.
Все три ситуации невозможны. Мы пришли к противоречию с первоначальной посылкой о том, что такой четырехугольник  вписан в окружность и имеет рациональную площадь.    
Доказательство завершено.