Услышал при обсуждении с коллегой о вот такой нотации:
![$]a, b[$ $]a, b[$](https://dxdy.ru/math/b94de9fb94404a0fbe731e41399fe39d82.png)
- обозначает открытый интервал (

).
Полез в википедию, потому что ни разу не встречал такого в книгах по математике. И действительно, такая нотация существует. А вы когда-нибудь встречали ее в литературе?