Вдруг коэффициенты будут как-то хорошо выражаться.
надеемся.
Если сделать замену

, для удобства положить

, из полученного (точнее, ещё не полученного) интеграла вынести множители

и сделать ещё одну замену

, то можно построить таблицу для конкретных

и

, состоящую только из полиномов по

со степенью, не превышающей

.
Затем можно попробовать поугадывать общий вид формулы для произвольных

и

, к тому же там похожие множители появляются.
Код:
$Assumptions = Element[{g, x, k}, Reals] && Element[{m, n}, Integers] && k > 0;
Table[FullSimplify[
k/Sqrt[2 \[Pi]] Exp[g^2/(2 k^2)] Integrate[
Exp[-k^2 x^2/2] HermiteH[m, k x] Exp[I g x] HermiteH[n, k x],
{x, -\[Infinity], \[Infinity]}] /. g -> p k],
{m, 0, 5}, {n, 0, 5}] // MatrixForm