Вы плохо прочитали справку. Правильно Ваша формула кодируется так:
Код:
$\lim\limits_{x\to 0^+}\frac{\ln(2x^2\sin\frac 1x+\sqrt{x})}{\ln(x^2+2\sin x)}$
Не нужно заключать в тег Math обычный текст. Вообще, в большинстве случаев достаточно окружить формулу знаками доллара, а тег Math вставится автоматически при отправке. Формулу наподобие Вашей лучше окружать двойными знаками доллара:
Код формулы можно подсмотреть, наведя на неё курсор мыши.