Если ослабить неравенство

до

, то возможно такое решение:
Рассмотрим решетку, порождённую вектор-столбцами матрицы:

где

. По теореме Минковского кратчайший вектор в этой решетке имеет длину не превосходящую

. Нетрудно понять, что этот вектор имеет вид:

где

, а квадрат длины этого вектора удовлетворяет неравенству

. Поэтому

, а значит

- искомые (с точностью до знака).
Вероятно, исходная задача решается уточнением теоремы Минковского в размерности 3.