Именно средствами мат.анализа надо? Тут и элементарной геометрии хватит.
-- Ср июн 09, 2010 17:49:35 --В уравнение плоскости вместо

,

и

подставить

,

,

и приравнять к нулю, где

,

-- единичная нормаль к плоскости,

-- искомое расстояние (если получится отрицательное, то по модулю взять).