Странный какой-то Ваш Maple.
Вот что я набрал
Код:
solve({x^2-y*z=t,y^2-z*x=t,z^2-x*y=t},{z,y,z});
и получил
Код:
{y = RootOf(_Z^2+x*_Z+x^2-t), z = -RootOf(_Z^2+x*_Z+x^2-t)-x}
Это надо было бы причесать (и вообще понять, что здесь Maple сделал), но я не смог себя заставить.
Вообще задача для школьников хорошая. Мне показалось, что здесь будут корни каких-нибудь узнаваемых кубических уравнений, например как в системе

Но оказалось иначе.