
Это определитель Грама. Был такой датский учёный -- Грам, в его честь и назван этот определитель.
В данном случае определитель

, потому что у Вас трехмерный параллелепипед, построенный на трёх векторах

.
А вот размерность пространства, в котором заданы эти векторы, на формулу не влияет. Вид формулы останется таким же и в 52-мерном пространстве. Поэтому мы и не испугались Вашего 4-мерного пространства.
Вам надо:
1) найти скалярные произведения, указанные в формуле;
2) подставить их в определитель и вычислить его;
3) извлечь квадратный корень.
И будет Вам объём.