Цитата:
Сглаживание работает только при -sDEVICE=pnggray, но при этом нельзя делать цветное. При -sDEVICE=png256 цветное, но не работает сглаживание
Нашел решение - pngalpha.
Если задаю \setlength{\PreviewBorder}{0pt}, то верхушка формулы уже в pdf обрезается:

Если не задавать, то появляется лишнее расстояние снизу, выравнивание по базовой линии получается не совсем правильное.
Еще вопрос. Как в tikz задавать размер\масштаб изображения?