Пример показывает, что форум обрабатывает смайлы раньше формул и не смотрит, в каком месте сообщения они стоят.
А что, есть смысл туда смайлики пихать? Содержимое
math всё целиком должно бы идти на вход

у — ждать от него смайлов на выводе бессмысленно (вряд ли тут кто-то будет за пакет, их выводящий

).
Ну а если в коде нужно будет что-то, что форум распознаёт как смайл, есть флажок для отключения их распознавания в данном сообщении.