Такое существует в математике?
А какие требования Вы предъявите к такой "системе координат"?
Если требований вообще никаких, то да - можно взаимно однозначно соотнести точке из фигуры пару параметров
![$(A,B)\in[0,1]\times[0,1]$ $(A,B)\in[0,1]\times[0,1]$](https://dxdy-02.korotkov.co.uk/f/9/6/8/968e4be02aa7be3a623aa8483256d92982.png)
. Потому что и фигура, и квадрат
![$[0,1]\times[0,1]$ $[0,1]\times[0,1]$](https://dxdy-03.korotkov.co.uk/f/e/6/4/e64d7b6f9e262f17f34c09862141f55b82.png)
имеют мощность континуума, так что между ними можно построить взаимно однозначное соответствие.
Более того, можно "занумеровать" (опять же, взаимно однозначно) все точки фигуры даже одним параметром от

до

. Хотя это будет сложное и некрасивое соответствие.
Если требовать не только взаимную однозначность, но и взаимную непрерывность - то, очевидно, нельзя.
Вопрос может звучать ещё так: существует ли непрерывное и взаимно однозначное отображение из Вашей фигуры в
![$[0,1]\times[0,1]$ $[0,1]\times[0,1]$](https://dxdy-03.korotkov.co.uk/f/e/6/4/e64d7b6f9e262f17f34c09862141f55b82.png)
? Это, кстати, интересный вопрос - и ответ будет разным для разных фигур.