Вам нужно рассмотреть сечение плоскостью с нормалью образующей цилиндра и проходящей через центр сферы. В плоскости будет две окружности: первая цилиндра, вторая сферы. Пусть ось Х расположена от центра окружности цилиндра к центру сферы. Ось Y перпендикулярна X и лежит в плоскости.
1. Центр сферы лежит вне цилиндра. Найдите Ymax пересечения. Ваш объем будет равен
представляет собой площадь фигуры ограниченой окружностью(сечением сферы) и линией(сечением цилиндра).
2.Центр сферы лежит внутри цилиндра.
представляет собой площадь фигуры ограниченой линией(сечением цилиндра) и окружностью(сечением сферы).
Вообще это не задача из университетского курса. Я описал случай когда радиус сферы существенно меньше радиуса цилиндра и сфера не находится внутри цилиндра. Когда радиус сферы соиэмерим или много больше радиуса цилиндра нужны другие формулы.