eqsolver, math не надо никуда вставлять самостоятельно за редкими исключениями, да и то, когда вы понимаете, что делаете. Все решается простановкой знаков долларов в начало и в конец формулы (теги math сами добавятся)
Сравните ваше
Цитата:
(

,

,

), (

,

,

,

),

, (

,

,

,

,

),
и то, что должно быть:

и соответствующий код:
Код:
([math]a_0[/math], [math]0[/math], [math]\dots[/math]), ([math]0[/math], [math]a_1[/math], [math]0[/math], [math]\dots[/math]), [math]\dots[/math] , ([math]0[/math], [math]\dots[/math] , [math]a_n[/math], [math]0[/math], [math]\dots[/math]), [math]\dots[/math]
vs
Код:
$\left(a_0, 0,\dots\right), \left(0, a_1, 0, \dots\right),\dots,\left(0,\dots, a_n, 0,\dots\right),\dots $