я не понял вашу запись
Это так называемые скобки Дирака. Это очень полезная нотация, её надо знать. Она активно используется и довольно хорошо и просто разъяснется, например, в ФЛФ.
Но вернёмся к вычислению вероятности. Допустим, мы хотим проделать вычисление (плотности) вероятности в координатном представлении. Возьмём одномерный случай для простоты. Первое, что нам для этого надо иметь - состояния с определённым испульсом

, то есть собственные функции оператора импульса. Вы умеете искать собственные функции?
После того, как мы нашли собственные функции оператора импульса

, найти ординату нужной точки на графике очень просто: она будет равна

, где

- волновая функция частицы, а

- значение импульса (абсцисса).
Вот всё изложенное и было кратко записано в формуле, приведённой мной выше.