Пусть a - основание, его мы трогать не будем.
Зафиксируем с,a и будем варьировать b.
Найдём экстремум:

При b=a или b=c k=0,
При этом a<=b<=c
Значит надо найти значение k при
-- Ср апр 14, 2010 19:07:41 --Получим какое-то выражение от a и c.
Далее фиксируем a и варьируем c
Учтём, что c>=a.
При этом возможны случаи:
1)c=a
2)c=бесконечность
3)с=найденный экстремум, выраженный через a. В этом случае получаем выражение относительно a. Далее варьируем a, т.е. ищем экстремум.