В формулах (1)-(3) пропущены множители

перед интегралами (см. , например,
Вики). Далее, эти интегралы находятся в аналитическом виде для конкретных значений, например,
Код:
Integrate[( Sin[t] Sin[3 t])/Sqrt[1 + Sin[t]^2], {t, -\[Pi], \[Pi]}]
12 EllipticE[-1] - (52 EllipticK[-1])/3
Integrate[(f0*Sin[t] Sin[3 t])/Sqrt[1 + f0^2*Sin[t]^2], {t, -\[Pi], \[Pi]}, Assumptions -> f0 > 0]
(2 (Sqrt[ 1 + f0^2] (8 + f0^2) EllipticE[-f0^2] + (8 + 9 f0^2 +
f0^4) EllipticE[f0^2/( 1 + f0^2)] - (8 + 5 f0^2) (Sqrt[1 + f0^2] EllipticK[-f0^2] +
EllipticK[f0^2/(1 + f0^2)])))/(3 f0^3 Sqrt[1 + f0^2])