nnosipov, доказательство понравилось. Уже по тексту можно сказать, что оно Ваше (стиль).
Решение можно построить и следующим образом: косинус угла между сторонами

равен или

или

,
где, как обычно,

- натуральные числа разной четности и взаимно простые.
Тогда в первом случае

. Поскольку числитель и знаменатель взаимно просты, то они - квадраты.
Получили задачу Лича, которая при

решений не имеет.
Во втором случае

. Числитель и знаменатель также взаимно просты и, следовательно, квадраты.
Из того,что знаменатель квадрат, следует, что одно из чисел

делится на

, а другое нет. Но тогда числитель

и не является квадратом. Итак, такого треугольника не существует.
При таком подходе, переходя к случаю

, есть надежда использовать теорию проблемы Лича и полученные уже там результаты.
К сведению. Есть интересные результаты в теории построения героновых тругольников по двум сторонам. Известно, например, что для двух целых фиксированных простых чисел

, существует не более пяти героновых треугольников с длинами двух сторон

. Но точная нижняя граница не известна. Мы-то решали другую задачу. Фактически доказали, что не существует геронова треугольника, у которого длины двух сторон относятся как

. Такие задачи (отношение сторон

) тоже решаются.
Теперь по поводу вопроса о вписанном четырехугольнике. Вообще, такие задачи, как правило - плацдарм для применения эллиптических кривых.
Как элеметарно их решать - видимо, по обстоятельствам. Приведенная формула для ранга очень удачная, но Сильверман и Тэйт в этой же книге пишут, что только здесь-то всё и начинается, поскольку системного подхода
для решения получаемых, казалось бы простых уравнений - не существует. Однако, иногда получается. Делайте выводы.