Сказали бы, что за предмет. Инвариантность функций может быть в теории управления, в физике, в математической статистике.
В самом общем и простом смысле инвариантность функции на произвольном множестве рассматривается по отношению к некоторому типу отображений этого множества на себя, то есть проще говоря, замены переменной.
То есть

.
Например, функция Дирихле инвариантна по отношению к линейным преобразованиям с рациональными коэффициентами. Чётная функция инвариантна по отношению к симметрии относительно нуля.
Но у Вас, вероятно, что-то другое.