Ну во-первых, я так понимаю речь везде идет о лексикографическом упорядочивании x > y > z.
S(1,3) - у вас посчитан неправильно. Размышления о редукции S(1,4) и S(2,4) неверны...
Да, о лексикографическом.
Да, не углядел.

Смотрим на 

. Этот полином не делится ни на один старший член. Значит его добавляем в базис.
По поводу размышлений: мы же смотрим, чтобы старший член 

полинома делился на старший член любого из уравнений в системе?
Или надо, чтобы хотя бы один член из 

полинома делился на старший член любого из уравнений в системе?
Кажется уловил мысль.
Смотрим на 

. 

 Второй член делится на старший член 


 Смотрим делится ли полученный полином. Не делится. Включаем его в систему.
Смотрим на 

. 

 Третий член делится на 


 Результат ни на что не делится. Включаем в систему.
Базис:
