Понятие ортогональности вообще редко применяется к преобразованиям над комплексными числами.
Дискретное преобразование Фурье, домноженное на коэффициент

, является унитарным. (это свойство - унитарность с точностью до константы - вроде бы как-то называется, но я не помню, как)