А что это даст? при замене будет:
Дальше через формулы двойных углов можно прийти к неравенству
Правда, дальше я вижу только некоторую техническую возню. Сначала нужно записать интервал для
, какой он получается с учетом ОДЗ и условия задачи. У меня получается 4 области. Две из них исключаются, одна полностью подходит в это неравенство. Остается только область
. К сожалению не во всей этой области выполняется указанное неравенство, так что придется находить решение соответствующего уравнения. Так или иначе его можно свести к уравнению 4 степени.