Обратите внимание, что система записи формул очень проста. Если просто окружить первую Вашу формулу знаками доллара, то получится

, что уже выглядит лучше Вашего текста. Однако можно сделать два улучшения: записать обозначение производной в виде \frac{dx}{dt}, что даёт

, и убрать звёздочки, которые в качестве знаков умножения в математике не используются (если очень нужно, можно использовать точку \cdot "

" или косой крест \times "

"); верхние индексы (показатели степени) обозначаются ^{...}, нижние индексы записываются с помощью _{...} (если индекс содержит один символ, фигурные скобки не нужны). В итоге первое уравнение записывается как

.
Код:
$\frac{dx}{dt}=y+(1-x^2-y^2)x$
Подсмотреть код чужой формулы можно, наведя на него курсор мыши.