Почитайте про Фурье-анализ, Z-преобразования, вейвлет-анализ. Что-нибудь может пригодиться.
Например, можно представить аппаратную функцию ящика как

, тогда получим:

,
где

- оператор преобразования Фурье.
Путем нехитрых преобразований найдем аппаратную функцию ящика.
Правда, могут возникнуть проблемы с нулями образа сигнала. Задача, вообще-то не очень корректная, но приближенно решить можно.