Тоже сначала подумал, что только численно, однако прикинул, и получается достаточно простое решение.
Я уж приведу алгоритм для топикстартера, не пропадать же добру.
1) Кратчайшее расстояние — это по прямой.
2) Если поверхности гладкие (к счастью, в нашем случае это так), то отрезок, соединяющий ближайшие друг к другу точки поверхностей, будет перпендикулярен касательным к обеим поверхностям в этих точках. То есть, этот отрезок одновременно будет нормалью как к плоскости, так и к касательной к эллипсоиду. Уравнение плоскости (как данной, так и касательной) легко записать так, чтобы этот нормальный вектор очень легко записывался (умеете?).
3) Нормаль к гладкой поверхности, записываемой неявным уравнением
![$F(x, y, z)=0$ $F(x, y, z)=0$](https://dxdy-01.korotkov.co.uk/f/4/d/3/4d3d43cbd88417315e72718ae6e482a282.png)
в точке
![$M=(x_M, y_M, z_M)$ $M=(x_M, y_M, z_M)$](https://dxdy-02.korotkov.co.uk/f/5/0/b/50ba1f290477ac15c2a1a2567991a49b82.png)
, если
![$F$ $F$](https://dxdy-04.korotkov.co.uk/f/b/8/b/b8bc815b5e9d5177af01fd4d3d3c2f1082.png)
достаточно гладкая (тоже наш случай), есть вектор
![$$(n_x, n_y, n_z)=\left(\frac{\partial F}{\partial x}, \frac{\partial F}{\partial y}, \frac{\partial F}{\partial z}\right),$$ $$(n_x, n_y, n_z)=\left(\frac{\partial F}{\partial x}, \frac{\partial F}{\partial y}, \frac{\partial F}{\partial z}\right),$$](https://dxdy-02.korotkov.co.uk/f/9/4/9/9491176e35474d14c2560de95b525a3c82.png)
где все производные берутся в точке
![$M$ $M$](https://dxdy-04.korotkov.co.uk/f/f/b/9/fb97d38bcc19230b0acd442e17db879c82.png)
.
Этот вектор должен быть параллелен нормали к плоскости
![$(A, B, C)$ $(A, B, C)$](https://dxdy-03.korotkov.co.uk/f/6/6/2/6628daefe4bc50fc6feaf97b4bb1a5c182.png)
, т.е.
![$n_x=At$ $n_x=At$](https://dxdy-04.korotkov.co.uk/f/f/6/3/f63579def381b4503556b030ce4fb47d82.png)
,
![$n_y=Bt$ $n_y=Bt$](https://dxdy-04.korotkov.co.uk/f/7/6/4/764d341062ed61a5c15e0a84d0e3b95182.png)
,
![$n_z=Ct$ $n_z=Ct$](https://dxdy-02.korotkov.co.uk/f/1/8/2/1824d0b3d581c13230190f56d67e6b5582.png)
, где
![$t$ $t$](https://dxdy-01.korotkov.co.uk/f/4/f/4/4f4f4e395762a3af4575de74c019ebb582.png)
— некоторое число. Добавляя сюда уравнение принадлежности точки
![$M$ $M$](https://dxdy-04.korotkov.co.uk/f/f/b/9/fb97d38bcc19230b0acd442e17db879c82.png)
эллипсоиду, находим
![$t$ $t$](https://dxdy-01.korotkov.co.uk/f/4/f/4/4f4f4e395762a3af4575de74c019ebb582.png)
, а затем и саму точку касания
![$M$ $M$](https://dxdy-04.korotkov.co.uk/f/f/b/9/fb97d38bcc19230b0acd442e17db879c82.png)
. Получилась задача на расстояние от точки до плоскости.
Нужно применить этот алгоритм к Вашему случаю (записать уравнения плоскости и эллипсоида, подставить их в уравнения и решить их). Это должно быть Вашим трудом, т.к. правила форума запрещают выкладывать полное решение учебной задачи.