Упростить это выражение не удастся. Вы можете привести это к уравнению 4-й степени, но особого смысла в этом нет. Явные формулы для корней сложны.
В книге Richard Sutherland «Handbook of Nonlinear Optics» (стр. 59-60) выписаны уравнения для

для разных ситуаций. Там, где

можно выразить в явном виде, это сделано, но там, где нельзя или будут очень запутанные формулы, зависимости так и оставлены в неявном виде (и Ваш случай тоже).