Без вычислений, это типа в уме.
Пусть у нас массы тел будут

. Поместим их в вершины равностороннего треугольника со стороной

, И векторы их соединяющие

Тогда сила гравитации, действующая на первое тело будет

. Откуда видно, что вектор этой силы проходит через ЦМ Этой системы. Аналогично и для двух других тел. То есть все такие силы проходят через общий центр масс. Давайте закрутим эту систему вокруг ЦМ с такой угловой скростью, чтобы центробежная сила, действующая на первое тело уравновесилась силой гравитации. Тогда получится что векторная сумма остальных двух сил гравитации уравновесится суммой центробежных сил. Причем направления сил гравитации и центробежных сил совпадают. Это возможно только в таком случае, когда центробежные силы и силы гравитации попарно уравновешивают друг друга.
Кстати задачку, в том виде как я дал, я решал довольно долго с помощью геометрических построений и некоторой тригонометрии.
Тогда как она всего лишь частный случай, предложенной вами.
-- 27.06.2018, 06:52 --Ну и невозможность получить равновесие в случае неравностороннего треугольника доказывается анологичным образом. Теперь закрутим систему с какой нибудь угловой скоростью вокруг общего ЦМ. Тогда сила гравитации на первое тело будет

. И явно не проходит через ЦМ системы. Равновесия нет.