Я представлял себе секущую плоскость, параллельную "дну", которая двигается вверх от этого дна до вершины. Наклонные плоскости делят её на плоские части. Когда плоскость совпадает с одной из горизонтальных секущих плоскостей, то она оказывается разделённой на
маленьких треугольничков, где
это номер горизонтального сечения, начиная от вершины. Основание пирамиды у нас будет как бы
-ным горизонтальным сечением. При продвижении плоскости от сечения к сечению картинка на ней меняется, некоторые треугольнички сжимаются, некоторые превращаются в трапеции. Но количество частей не изменяется. Оно меняется скачком от
к
при совпадении плоскости с очередным горизонтальным сечением.
Таким образом, количество объёмных частей в
-том слое равно количеству плоских частей в
-том сечении. А общее количество частей равно вашей сумме квадратов.
Задача не зависит от вида тетраэдра, и проще рассматривать прямоугольный тетраэдр, помещённый в обычную систему координат своими перпендикулярными рёбрами.