Да но задание из высшей математики. Возможно нужно через интеграл решать.
Не через интеграл, а через производные. Это, возможно, задачка на условный экстремум. Надо найти радиус основания, при котором максимален
радиус шара.
Естественно, как уже и предлагалось, достаточно рассматривать всё в осевом сечении. Введите
две неизвестных величины: радиус основания

и длину боковой стороны (образующей конуса)

. Свяжите их с радиусом шара (наверное, проще всего это сделать через площадь равнобедренного треугольника, получающегося в сечении). Получите радиус шара как функцию

и

. А потом свяжите

и

требованием, что площадь боковой поверхности равна именно

.
(можно, конечно, и не через условный, а просто выразить

чеерез

из второго равенства и подставить в первое)