Вы имели ввиду так
Оставляя арифметику на вашей совести — да.
Я не знаю как считать такое смешанное произведение
Для начала — вспомнить свойства смешанного произведения и упростить. Как можно упростить

? Вторым шагом — ну, как-нибудь. Если и правда забыть про Грама, то, к примеру, взять удобный базис (первый вектор направить вдоль

, второй в плоскости

, третий понятно), выразить в нём вектора и посчитать смешанное произведение.
Как по мне, для изучения линейной алгебры с геометрией этот способ полезнее. Хотя и муторнее, конечно.