Most1k, какое-то непонятное уравнение Вы пишете. Должно быть два уравнения Ньютона - по одному на каждую степень свободы, т.е. по одному уравнению динамики для смещения каждого груза из положения равновесия. Соответственно, у этой механической системы получаются два типа собственных колебаний, каждое со своей собственной частотой.
Один тип колебаний (одна собственная мода) это когда грузы колеблются синфазно - с одинаковой амплитудой смещаются в одну и ту же сторону. Средняя пружина при этом "не работает", её жёсткость не даёт вклада в ответ. Второй тип колебаний (вторая собственная мода) - противофазные смещения грузов с одинаковой по абсолютной величине амплитудой. Средняя пружина при этом "работает", и поэтому частота получается более высокой - вот её и требуется найти по условию задачи.
Всё это (типы колебаний и собственные частоты) автоматически получается из решения уравнений динамики. У меня получилось, что вторая частота (которая более высокая) равна

Численно это

без деления на

P.S. UPD: это у меня ошибочная формула вышла, см. ниже исправление.