Так оператор импульса об этом(что потенциал бесконечен) не знает и мы ему не скажем.
Ему -- нет, не скажем, зачем его расстраивать. Но себя-то мы не можем обманывать.
Просто т.к. в рассматриваемом нами случае они не имеют производной в 2-х точках на границах отрезка, оператора импульса не существует(видимо)
Совсем не поэтому. Они могут на концах иметь производные (односторонние, естественно), а могут и не иметь. Волновые функции вообще.
Вот
собственные функции оператора

-- дело другое. Они производные, конечно, имеют. Если вообще существуют. Так вот: если на концах поставить нулевые граничные условия (на саму функцию) -- то никаких собственных функций у этого оператора и не будет. Что и не удивительно -- он ведь при таких граничных условиях не самосопряжён.
Его можно расширить до самосопряжённого, причём не единственным образом. Простейший вариант -- оставить из граничных условий лишь периодическое:

(а все возможные расширения описываются квазипериодическими условиями вида

, где

). Только собственные функции не будут уже иметь ничего общего с собственными функциями оператора энергии

. И собственные числа тоже: у импульса это будут (в периодическом случае)

, у энергии же --

, а вовсе не

.