Непонятно, зачем для возведения в квадрат использовать функцию pow().
-- Thu Dec 07, 2017 16:41:01 --А вообще, проблема, вероятно, в том, что числа сильно разных порядков. При

слагаемые pow(k0*k1-60, 2), pow(k0-3, 2) будут порядка

, а pow(k1*k2*k3, 2) порядка

.