С кем? Я не знаю, зачем вы уточнили, что

не раскладывается на множители. Я думал, Вы знаете, что делать, если она таки на множители разложится. Подозреваю, что дальше надо решать системы

и

Это и так понятно.
А вот можно ли применить, например, метод Якоби для решения

.
И где гарантия, что я в итоге получу вероятности.