Добрый день.Помогите пожалуйста объяснить алгоритм решения
Дана область

Найти образ при отображении

Преподаватель сказал сделать замену

Во-первых, условие некорректно -- неравенство для аргумента должно быть не только сверху, но и снизу. Вероятно, имелось в виду, что аргумент в том неравенстве берётся по модулю, но Вы уточните.
Во-вторых, да, нужна именно эта замена, но только для участка окружности -- сразу получается очень простая параметризация образа этой дуги через

. А для отрезков лучей параметризация нужна, естественно, другая -- типа

.