Может ли композиция функций ограниченной вариации иметь вариацию не ограниченную?
Конечно. В качестве идеи: возьмите какую-нибудь "пилочку" с высотой "зубьев"

и подействуйте на неё квадратным корнем, который сумму этих "зубьев" превратит в гармонический ряд.