Встречный вопрос: а какая у вас квантовая система?
Если брать классическую систему, и её квантовать, то классический гамильтониан будет строиться, как в ЛЛ-1 (Ландау, Лифшиц "Теоретическая физика 1. Механика"). При квантовании, переменные 

 и 

 будут заменяться соответствующими операторами. Это описано в ЛЛ-3 (Ландау, Лифшиц "Теоретическая физика 3. Квантовая механика").
В простых стандартных случаях гамильтониан уже известен, и написан в учебниках, типа ЛЛ-3. Например, если у вас одна частица, совершающая одномерное движение, то гамильтониан будет 

 где 

 - потенциальная энергия (для свободной частицы 

). Если трёхмерное движение - то 

 Если несколько частиц - то 

 Здесь подразумеваются бесспиновые частицы, со спином будет ещё сложнее, но идея та же.