Встречный вопрос: а какая у вас квантовая система?
Если брать классическую систему, и её квантовать, то классический гамильтониан будет строиться, как в ЛЛ-1 (Ландау, Лифшиц "Теоретическая физика 1. Механика"). При квантовании, переменные

и

будут заменяться соответствующими операторами. Это описано в ЛЛ-3 (Ландау, Лифшиц "Теоретическая физика 3. Квантовая механика").
В простых стандартных случаях гамильтониан уже известен, и написан в учебниках, типа ЛЛ-3. Например, если у вас одна частица, совершающая одномерное движение, то гамильтониан будет

где

- потенциальная энергия (для свободной частицы

). Если трёхмерное движение - то

Если несколько частиц - то

Здесь подразумеваются бесспиновые частицы, со спином будет ещё сложнее, но идея та же.