для того что бы это дело соответствовало Вашему рисунку и направлениям осей, нужно <...>
 Рисунок условный, он поясняет угол между плоскостями и их вертикальность. Можно было бы изобразить маятник 

 отклонённым не "от нас", а "к нам", и тогда такой вопрос о знаке слагаемого с синусом наверное не возник бы, но тогда на рисунке был бы плохо виден угол между плоскостями. Понятно, что знак слагаемого с 

 зависит от выбора направления  отсчёта 

 этот знак меняется при замене 

 на 

 Значения собственных частот от этого выбора не зависят. 
Вообще странно что направление осей меняет ответ или это из-за того что это меняет направление положительного отсчета угла ?
 Да, от выбора направлений отсчёта углов зависит в ответе знак в формулах нормальных колебаний, описывающих связь между 

 и 

 Но спектр собственных частот от этого не зависит. Спектр собственных частот вообще не зависит от выбора обобщённых координат: если вместо  

 и 

 кто-нибудь воспользуется другими обобщёнными координатами, - двумя функциями 

 и 

 - то у него должны получиться в ответе те же собственные частоты. 
получилось уравнение 

 Это правильно.