Достаточно записать уравнение эллипса в виде

и посмотреть, что будет в точке

.
Зачем?... Альфа же в этих уравнениях -- вовсе не полярный угол.
Единственное, до чего я додумался, что в принципе, нам достаточно рассмотреть квадрат и эллипс максимальной площади. Площадь эллипса равна

. а вот как связать ее с площадью квадрата, ума не приложу(((
Правильно, никак. Поскольку площади непосредственно с объемами никак не связаны.
Возьмите каноническое уравнение эллипсоида и потребуйте, чтоб ему удовлетворяла точка (1;1;1) -- это и будет уравнением связи. И минимизируйте объем эллипсоида, т.е. произведение
всех трех пулуосей. В конце концов получится функция одной переменной (раз уж вращения). Ну и потом привинтите туда еще множители пи и четыре с половиной. (Конечно, сфера и получится, что же еще.)
------------------------------------------------------
Но вообще условие -- странное. Где это они нашли эллиптические отсеки на космических кораблях?... Правильная формулировка -- такая: найти эллиптическое яйцо минимального объема, в которое после высасывания его содержимого можно засунуть данный игральный кубик.