Ну так этого почти достаточно для применения условий Эккарта (Эккарта-Сейвица). Колебания от вращений вообще-то отделяются весьма плохо (в общем случае вообще не отделяются), и в случае когда колебания весьма малы, эти условия собственно реализуют минимизацию колебательно-вразщательного взаимодействия. Они заключаются в следующем:
1. очевидно, отделить ц.м. Очевидно, что

. Посчитать это не сложно
2. у Вас осталось разделить вращение и колебания, которые как раз не делятся. Поэтому берете референсную геометрию (логично, что это равновесная геометрия, т.е. отвечающая наименьшей энергии), ну или хотя бы положения атомов в начальный момент времени. Пусть эта геометрия задана векторами

, причем

. Отделим и для рассматриваемой конфигурации траектории ц.м. для координат получив набор векторов

. Тогда Вы ориентируете систему координат для этих векторов так, чтобы
![$\sum_i m_i [\vec{r_i^0} \times \vec{r_i}^{EF}] = 0$ $\sum_i m_i [\vec{r_i^0} \times \vec{r_i}^{EF}] = 0$](https://dxdy-04.korotkov.co.uk/f/f/1/f/f1f9f822cc732ccc5e5a016bb854755b82.png)
, где

-- положения атомов в финальной системе координат. Найти матрицу преобразования, переводящую

в

можно например из системы линейных уравнений, получаемой из вышестоящего условия. Код с LAPACK-ом каким-нть на чем угодно пишется по-идее весьма просто.
Ну и соответственно,
![$[\vec{\omega} \times \vec{r}_i^{EF}] = \vec{v}_i - \vec{v}_{CM} - \vec{v}_i^{EF}$ $[\vec{\omega} \times \vec{r}_i^{EF}] = \vec{v}_i - \vec{v}_{CM} - \vec{v}_i^{EF}$](https://dxdy-02.korotkov.co.uk/f/5/6/e/56eaa6fca65ca727bc419f8dd3d3eebf82.png)
, а это -- простое линейное уравнение на компоненты

.
А вообще численный пример с подробным разбором (как раз для молекулки воды) можно найти в Банкере-Йенсене (Симметрия молекул и спектроскопия).