Например, вектор

задается в виде вектора-столбца с численными значениями и для остальных тоже
Это называется координатами, а координаты задаются относительно некоторого базиса. Вы в курсе?
Если формулировать с самого начала, то
векторы

образуют ортогональный базис и задают смещения атомов в основном состоянии из положения равновесия, эти величины у меня есть
векторы

тоже образуют ортогональный базис, о которых я не упоминаю, задают смещения атомов в возбужденном состоянии, эти величины тоже у меня есть
вектор
a показывает на сколько изменилась геометрия возбужденного состояния относительно геометрии основного состояния, он не известен, но исходя из данных геометрий его можно найти, но как я не знаю
таким образом, мне нужно вектор

разложить по векторам

, чтобы это сделать мне нужно найти величины

Чем дальше в лес, тем толще партизаны... Теперь я вообще не понимаю, чего Вы хотите. Смещение отдельного атома задаётся одним вектором? В трёхмерном пространстве? Или смещение атома это координата вектора? Тогда какого из векторов? И почему они ортогональны и почему, собственно, составляют базис?