Что-то меня эти нули сильно смущают.
Это однородная система линейных уравнений.
Просто решите систему методом Гаусса и покажите нам, что получилось. Тогда подскажем дальше.
P.S. Поднимите глаза на верхнюю часть страницы и прочтите, что там написано про тег Math и про "Карантин". Не подумайте, что это шутка. Правила записи формул можно найти в темах
http://dxdy.ru/topic8355.html (кратко) и
http://dxdy.ru/topic183.html (более подробно). Вашу систему следовало написать так:
Код:
$$\begin{cases}2x_1-4x_2+5x_3+3x_4=0\\
3x_1-6x_2+4x_3+2x_4=0\\
4x_1-8x_2+17x_3+11x_4=0\end{cases}$$