Ничего не понятно. Вы, видимо, не русский? Но математические формулы от языка не зависят. Что такое

? Это множество? Точек? Функций? Или что-то другое?
Судя по тому, что

вычитается из

, это все-таки множество точек. Но тогда не нужен знак

А что такое "плотние"? Может,

- это замыкание

?