Подскажите, как вы добавили bbcode math в ваш форум?
Мы пользуемся тем, что имеем полный контроль над нашим сервером. У нас установлены стандартные пакеты texlive-latex-2007-57.el6_2.i686, texlive-dvips-2007-57.el6_2.i686, ImageMagick, выполняющие функцию бекенда. Работает генерация формул следующим образом: мы определяем какие части сообщения должны обрабатываться как формулы, берем эти кусочки текста, вычисляем хеш, сохраняем кусочки в файлы, в названии которых используем этот самый хеш. Далее если для этого кусочка текста уже сгенерирована картинка, то отдаем ее. Если нет, то просим бекенд сгенерировать новую.
В бекенде используется цепочка latex -> dvips -> convert -> pngcrush. На выходе имеем png с прозрачностью.