Вы по ошибке учли одно и то же два раза. Правильная формула:

где

Все - равно не сходится.
Для примера, рассмотрим качественно, случай, когда масса пробного тела больше массы сферы

и больше массы дырки

.
Силы гравитации между дыркой и пробным телом скомпенсированы

, но из-за отрицательной массы дырки направлены в одну сторону.
Ускорение сферы больше ускорения пробного тела

, т.к. масса последнего больше.
Силы гравитации между пробным телом и сферой скомпенсированы

и направлены в разные стороны (т.к. обе массы положительны).
Ускорение сферы вновь больше ускорения пробного тела

, т.к. масса последнего больше.
Предположим, силы в первом и втором случае равны

(существует расстояние от пробного тела до дырки, когда это так). Силы действующие на сферу разнонаправлены, поэтому ускорения в обе стороны равны - сфера покоится.
Силы, действующие на пробное тело равны, но направлены в одну сторону - ускорения складываются, пробное тело движется, ЦМ движется.

Теперь предположим, что силы не равны

, а итоговые ускорения сферы и пробного тела равны (существует такое расстояние от пробного тела до дырки, когда это так). Т.е.

Расстояние между дыркой и пробным телом неизменно, зато сфера вместе с пробным телом движется, ЦМ движется.

Вывод: Если сила гравитации между дыркой и пробным телом приложена не к дырке, а к сфере, отрицательная масса неприемлема, т.к. ЦМ движется.
Если же рассматривать дырку, как самостоятельную сущность отрицательной массы, взаимодействующую, как с пробным телом, так и со сферой, то похоже можно добиться, чтобы ЦМ покоился, но тогда относительно него ускорения сферы и пробного тела будут постоянны. Естественно, в СО сферы или пробного тела, постоянство собственного ускорения не совместимо с постоянством ускорения пробного тела / сферы соответсвенно. Постоянство ускорений будет только в СО ЦМ системы, а отношение ускорений пробного тела и сферы равны отношениям их масс. Т.е. однородность гравитационного поля будет относительным понятием, зависящим от системы отсчета.