как выразить D(тоже должна получится диагональная но не единичная)?

, где

-- это нормы строк матрицы

.
Про H Вы отказываетесь дать хоть какую-то информацию?
Явно имелось ввиду приведение квадратичной формы к диагональному виду, но постановка вопроса странная, да.