Непонятно конечно почему формула приобретает такой вид.
Это происходит из-за геометрии пространства-времени. Самый лучший и быстрый способ познакомиться с причинами - прочитать учебник по СТО (специальной теории относительности), причём хороший (бывают плохие, а бывают вообще не учебники, например, школьные учебники).
Например:
Тейлор, Уилер "Физика пространства-времени".
"Фейнмановские лекции по физике" том 2.
Ландау, Лифшиц "Теория поля".
(эти книги сильно различаются по входному уровню, но все они - хорошие учебники по СТО, подбирать надо под себя).
Почему её нельзя использовать на малых скоростях?
Можно! Но на малых скоростях
вот и получается известная вам школьная формула для импульса.
Откуда там С?
Из свойств пространства-времени.
И как эта формула согласуется с законом сохранения энергии?
Как вам уже говорили, законы сохранения энергии и импульса - это два совершенно разных закона. Бывают физические случаи, когда не сохраняется импульс, но сохраняется энергия. Бывают физические случаи, когда сохраняется импульс, но не сохраняется энергия. Так что, согласовывать их между собой вообще не требуется.
Но на всякий случай, для больших скоростей закон сохранения энергии тоже меняется: энергия движущегося тела записывается как