... Не думаю, что вам нужно, чтобы этот коэффициент был точный. Скорее всего, он нужен слегка меньше единицы, чтобы исправить погрешности округления других ваших коэффициентов.
Так и есть, но это"слегка" много на что влияет, и дело тут совсем не в исправлении погрешностей квантования. Эти погрешности, наоборот, делают фильтр устойчивым на слабых входных сигналах, даже при
. Другими словами есть оптимальное значение
, примерно равное 0.9999 - 0.99999, в этом диапазоне, разумеется, оно может меняться более - менее произвольно, например можно взять
- просто из удобства вычислений.
С советом почитать Оппенгейм, Шафер "Цифровая обработка сигналов" Вы слегка западали, думаю лет на 15 ... ,
но всё равно спасибо.