По умолчание разложение ищется над полем рациональных чисел (если, разумеется, исходный многочлен сам имеет рациональные коэффициенты). Есть еще такой вариант как "абсолютная факторизация", вот кусочек из Maple help по этому поводу:
Цитата:
The AFactor function is a placeholder for representing an absolute factorization of the polynomial p, that is a factorization over an algebraic closure of its coefficient field. It is used in conjunction with evala.
В данном случае думаю, что и она не поможет: слишком много переменных и мало слагаемых. Скорее всего, этот определитель неразложим над полем комплексных чисел.