Отвечаю на вопросы.
А как же

и

? Насколько я помню, преобразование таких тригонометрических форм в алгебраическую равносильно решению некоторого кубического уравнения, при котором снова возникнут комплексные числа. Не думаю, что данный подход может привести к успеху.
А кубическое уравнение и не нужно. Нужна будет универсальная тригонометрическая подстановка!
Что касается конкретики, то уже вот это:
Antoshka в сообщении #1590631
писал(а):
дабы сделать изложение короче, я сразу напишу, что

то есть... неверно, соответственно и всё дальнейшее тоже.
Вам непонятно, почему должно быть именно
Давайте рассмотрим случай 
Ясно, что

могут принимать только два значения, кроме нуля, то есть

так вот, если

, то система
![$\eqno[16]$ $\eqno[16]$](https://dxdy-01.korotkov.co.uk/f/4/4/4/4448d8ddecee16e997639a2d3e03c56d82.png)
принимает вид

Но нужный корень рациональный и имеет вид

, поэтому мнимая часть комплексного числа должна быть равна нулю! Это значит, что

, потому что если взять

, либо

, то умножаем на сопряженное выражение

, приравнивая мнимую часть нулю, получаем, что

, но

, причём сейчас рассматривается случай

!
Пусть будет

тогда раз

по лемме 2 положительное, то

принадлежит первой четверти!
Это значит, что

, либо

, что невозможно в силу уравнения
![$\eqno[15]$ $\eqno[15]$](https://dxdy-01.korotkov.co.uk/f/0/f/7/0f7335c0a5c639cfcaee84e32be53a0582.png)
, которое имеет вид

, потому что получается

, а это невозможно! Значит реально

, но тогда корень приобретает вид

, но
mihaild показал, что

, поэтому получается положительное число равно отрицательному, ведь угол

принадлежит либо второй, либо третьей четверти, потому что

из первой четверти, а там косинус отрицательный, потому противоречие получается!
Что, если
?Тогда теперь сразу понятно, что

, поэтому угол приобретает очень удобный вид, и корень кстати тоже

Отсюда сразу следует, что раз

, но это невозможно, так как повторюсь
mihaild показал, что

То есть случай

является самым интересным!
Я бы ещё предложил, раз уж используется вольфрам, явно писать, где он и как используется. Прямо скриптом желательно.
Вольфрам можно использовать здесь
Настала пора наконец составить уравнение, которое приведёт к противоречию. Получается оно из уравнения
![$\eqno[17]$ $\eqno[17]$](https://dxdy-04.korotkov.co.uk/f/b/d/d/bddd65c8fb27a7a4684d8a35fc9a3ab382.png)
его умножением на

, где

, то есть
Здесь

Уравнение
![$\eqno[22]$ $\eqno[22]$](https://dxdy-02.korotkov.co.uk/f/1/0/1/10118be174eb415fee36c64200a8251b82.png)
взялось из того, что если сложить

, то с учётом уравнения

получится ноль.
Для этого набираем в wolfram mathematica
Цитата:

ExpandAll[
]//FactorГреческие буквы вводятся через падающее меню pallets, далее wiring assistant.
Если все сделано правильно, то программа выдаст результат
Цитата:
А это есть в точности ранее полученное уравнение
![$\eqno[15]$ $\eqno[15]$](https://dxdy-01.korotkov.co.uk/f/0/f/7/0f7335c0a5c639cfcaee84e32be53a0582.png)
, точнее его левая часть

!