А какая энергия возрастает?
Потенциальная или кинетическая?
Во - первых, возможно, вы просто смотрите малый (по сравнению с
) интервал времени. Возможно, дальше у вас энергия перестанет накапливаться?
Если возрастает потенциальная энергия, то нужно запретить молекулам походить друг к другу на расстояние меньшее т.н. "молекулярного радиуса", он обычно выбирается порядка
. Иначе у вас будет бесконечная энергия отталкивания. На физическом языке это означает, что потенциал Ленарда - Джонса некорректно описывает
близкодействие.
Если кинетическая - то дело в неправильно выбранном численном методе решения ДУ. У разных методов по- разному ведёт себя зависимость погрешности от времени. У Эйлера она вообще экспоненциально возрастает.