stochastic, простите, я не очень понимаю Ваш вопрос, а точнее — не понимаю, почему мой ответ недостаточен — ведь я, вроде бы, отвечал примерно в том духе, в котором Вы спрашивали (лишь уточнил):
Из семантики я предполагаю что это вращение вектора вокруг оси на заданный угол, т.е. двухкомпонентный вектор вращается на плоскости, а трехкомпонентный вокруг оси

. Возможно кто-то точно подскажет.
Я геометрический смысл функции не уловлю, смотрите, есть приведенная выше мною функция, что она даст если мы в качестве альфы передадим, к примеру,

? Т.е. что она нам вернет в геометрическом смысле? Предположу, что это вектор направления в направлении переданных радиан. Т.е. при передаче

мы получаем вектор

.
Чтобы понять, куда будет смотреть вектор при заданных углах, надо их подставить в выражения (лучше мои

). Если известно, что

, то

и

. В этом случае выражения можно упростить:

И можно даже сказать, что такой вектор лежит в плоскости

, но для полной определённости нужен ещё угол

.
А в трехмерном случае происходит два последовательных поворота вектора выходит?
Да.
Сначала вращаем вокруг оси

(по heading), затем вокруг оси

(по pitch)?
Нет. Первое вращение происходит в плоскости

, это значит, вокруг оси

. Второе вращение в плоскости

, это значит, вокруг оси

.
Да, ещё добавлю, что в моём описании ни одно из вращений не вращает сами оси (из вопроса никак не следует, что их надо тоже вращать).