Так то-ж перебор.
Ну я понимаю, что сам не до конца понимаю, чего хочу, ну давайте я так попробую изложить вопрос:
Вот вы говорите, что надо перебрать 512 вариантов; это дело, конечно, хорошее. Но никто же так решать не станет. Мы с вами знаем (доагдываемся), что, к примеру, определитель не будет равен 6, знаем также, что, если все элементы будут либо
, либо
, то мы явно максимум не получим. Вот можно как-то эти наши соображения формализовать, чтобы потом применять на более общие случаи?
Пока оптимальное решение выглядит так: доказать, что определитель не может быть равен 6. Потом доказать, что определитель не равен 5, потом легко находиться хоть один, который равен 4, вот и ответ. Но может есть какие-то другие, более "находчивые" соображения?