Лучше расположить переменные в каждом уравнении по порядку. И применить метод Гаусса. То есть вычитать одно уравнение из другого так, чтобы переменные сокращались. Или применить школьный метод: выразить переменную из одного уравнения и подставить в остальные.
Если вы умеете считать определители, можете проверить, равен ли он 0. Если нет - решение только нулевое.
Спасибо, понял.