После сложения уравнений составляющих систему (4)
Решение этого уравнения не является решением системы
(4), поэтому получается, что Вы всех ввели в заблуждение: Вы вовсе не "
приравниваете указанные Вами коэффициенты к нулю", а делаете что-то совсем другое.
Ладно, смотрим дальше. Как оказалось, вместо системы
(4) нужно решать уравнение

Его корни

что совпадает с написанным в сообщении
http://dxdy.ru/post752881.html#p752881.
Извините, это неправда. Мягко выражаясь, Вы снова вводите нас в заблуждение.
У Вас

,

,

. Подставляя в уравнение (5), получим уравнение

. Ни один из его корней не равен

. Корни у него такие:

или, приближённо,

и

.
При подстановке этих корней в уравнение
(3) получим для

уравнения
(для знака "

" перед радикалом в выражении для

) и
(для знака "

").
У первого уравнения корни

,

,

, у второго, соответственно,

,

,

. Без комплексных чисел эти уравнения не решаются, поскольку у них по три действительных корня.
Подстановка найденных

и

в выражение
(2) даёт для вашего уравнения корни

,

,

.
Убедительнейше прошу в случае какой-то новой идеи демонстрировать нам
все вычисления подробно на численном примере. Не берите уравнение с большими коэффициентами; возьмите, например, уравнение

, у которого корни

,

,

.