Спасибо, проблема решена. :) Действительно, "линейный" подход (ставить нулевой поток) здесь не работает. В вакууме уравнения Эйлера не работают также. Необходимо специальным образом отслеживать границу, как на неподвижной сетке, так и на подвижной, и в зависимости от ее положения модифицировать поток.
Я воспользовался подходом C.D. Munz, точные ссылки на его статьи можно найти в книге Торо или в PDF, где изложен сам метод:
http://www.astro.auth.gr/documents/dipl ... Thesis.pdfЧто я понял, из этой задачи, так это то, что для описания движения свободной границы нужно, вообще говоря, еще одно уравнение, помимо уравнений Эйлера и УРС. Она сама себя не описывает -- может получиться "само" только неявным образом в случае лагранжевых переменных и простого конечно-разностного подхода с дифференцированием, как у меня и вышло сначала.