Да но задание из высшей математики. Возможно нужно через интеграл решать.
Не через интеграл, а через производные. Это, возможно, задачка на условный экстремум. Надо найти радиус основания, при котором максимален
радиус шара.
Естественно, как уже и предлагалось, достаточно рассматривать всё в осевом сечении. Введите
две неизвестных величины: радиус основания
и длину боковой стороны (образующей конуса)
. Свяжите их с радиусом шара (наверное, проще всего это сделать через площадь равнобедренного треугольника, получающегося в сечении). Получите радиус шара как функцию
и
. А потом свяжите
и
требованием, что площадь боковой поверхности равна именно
.
(можно, конечно, и не через условный, а просто выразить
чеерез
из второго равенства и подставить в первое)