а дальше пробую по формулам произведения и частного производных, получается туча тригонометрии, явно чтото делаю не так
Всё Вы делаете так (кроме записи формул). Возможно, проще будет работать с

, довести до конца, упростить, что возможно, и потом, в конце, вспомнить, что

. Может, в
самом конце слегка упростится и тригонометрия. Не такая уж она здесь сложная...
Добавлено спустя 25 минут 39 секунд:
Решение
Dranzerа представляется неверным. В знаменателе должно быть

.