Я нашел уже что

Но дальше не могу сделать.
Вы в некотором смысле напрасно это нашли. У Вас после сложения и после вычитания получилась
система из двух линейных уравнений для двух новых переменных -- для суммы квадратов и для произведения. Вот честно её решите, честно зафиксируйте, чему равно произведение и чему равна сумма квадратов -- и получите ещё одну системку для уже исходных переменных, для которой всё уже ясно.
(да, кстати, и нашли-то Вы не то чтоб совсем правильно, но всё-таки и не совсем правильно)