А вот до этого я еще не дошел, что такое ранг матрицы.Но пока видно, что в системе из 4 уравнений после обработки ее Гауссом остается только три.
Это ровно и означает, что ранг матрицы равен трём. Поэтому условие разрешимости системы -- это ортогональность столбца правых частей единственному (с точностью до множителя) решению однородной сопряжённой системы, которую Вы благополучно и вывели.
Следовательно, пока имеем (от Гаусса), чтобы в выпуклый четрыехугольник можно было вписать окружность, сумма его двух противоположных сторон должна быть равна сумме двух его других сторон
А до Гаусса Вы этого требования не знали?
Но в общем случае получаем все равно непределенную систему, из которой пока непонятно, как определять длины отрезков
Никак. Это значит, что для четырёхугольника, в отличие от треугольника, равенства выполняются не только для точек касания.
(Оффтоп)
Но пока никаких мыслей это мне не навивает.
тут, кстати, грамматическая ошибка: навивает не "мне", а "на меня"