Поток через полусферу — правильно, только в соответствующем интеграле вместо

(переменная) сразу надо писать

(константа). Можно так: компоненты поля

не дают вклада в поток, потому что перпендикулярны нормали. Оставшаяся компонента постоянна на сфере (

) и выносится за интеграл. Тогда сам интеграл равен просто площади полусферы.
Самый главный вопрос: Вы уверены, что по дну тоже надо интегрировать? Ведь поток можно находить и через незамкнутую поверхность. Для меня «поток через верхнюю часть сферы, ограниченную плоскостью

» означает поток только через верхнюю полусферу. А то, что Вы хотите найти — это «поток через границу области, ограниченной верхней полусферой и плоскостью

».