Aael, что-то у вас вектор
k, при котором, вы говорите, достигается максимум, не соответствует условию задачи: у него есть компонента, отличная от 0 или 1.
Так же, тут что-то нехорошее творится в задаче: без каких-либо ограничений на вектора
a и
b гиперплоскость, соответствующая условию (1) может не проходить ни через одну вершину гиперкуба. Тогда вообще никаких решений не будет. Более того, в
n-мерном пространстве киперкуб имеет
![$2^n$ $2^n$](https://dxdy-04.korotkov.co.uk/f/f/8/f/f8f25e4580c418a51dc556db0d8d2b9382.png)
вершин, в то время как гиперплоскость задаётся только
![$n+1$ $n+1$](https://dxdy-04.korotkov.co.uk/f/3/f/1/3f18d8f60c110e865571bba5ba67dcc682.png)
неколлинеарной точкой. (В гиперкубе есть коллинеарные точки. Кстати, интересный вопрос: через сколько вершин единичного
n-мерного гиперкуба максимум может проходить
n-мерная гиперплоскость?) Я это к тому, уверены ли вы, что вы описали ту задачу, что нужно?