В обоих случаях у меня получился одинаковый знак потенциально энергии. В учебниках в Ньютоновской потенциальной энергии ставят знак минус. Почему?
Когда вы записали выражение
- вы уже потеряли знак. В векторном виде это выражение записывается как

(надеюсь, вас не смущает обозначение вектора полужирным шрифтом - так принято в физике, и так я и буду писать,

). Теперь уже на этом этапе будет видно, что знаки для закона Кулона и закона Ньютона в числителе разные:
Кстати, для проверки: есть ещё закон Кулона для магнитных полюсов. Как по-вашему, какой знак будет иметь числитель для этого закона?
Дальше, когда мы двигаем один заряд (

), и считаем его пробным (слишком малым, чтобы влиять на положение других зарядов), то соотношение между силой и потенциальной энергией становится таким:

и интегрирование происходит по какой-то пространственной линии. Только в случае центрального силового поля (сферически-симметричного, и все силы направлены по радиусу), этот интеграл зависит только от расстояний начальной и конечной точки от центра, и упрощается так, как вы его записали.
И наконец, если всё честно проинтегрировать, то получается, действительно,
где константа
со знаком в точности та же, которая стоит в векторном законе для силы

Ну а знак мы туда уже заложили.
(На более глубоком уровне, оказывается, что гравитация возникает иначе, чем кулоновская сила: на языке теории поля, электрическая сила создаётся векторным полем, а гравитация - тензорным полем. Все векторные поля дают закон типа "одноимённые отталкиваются, разноимённые притягиваются", а все тензорные поля - "все притягиваются". Но это далеко в перспективе.)
-- 13.01.2020 17:10:10 --В том, что для разных взаимодействий работает закон обратных квадратов большого чуда нет.
Ну, та же теория поля, стоит сделать шаг в сторону, даёт много разных законов, а не только закон обратных квадратов. Для примера:
- закон Юкавы

;
- закон Шварцшильда в первом приближении

;
- закон асимптотической свободы и конфайнмента, который вообще "вывернут наизнанку": на малых расстояниях взаимодействие исчезает, а на больших неограниченно растёт.