MAGMA - ПО для решения задач в области абстрактной алгебры (группы, кольца, модули) и не только. Он платный, но есть бесплатный калькулятор
http://magma.maths.usyd.edu.au/calc/MATLAB - для всяких инженерных расчётов.
Есть еще GAP - бесплатный, больше на теорию групп ориентирован.
SAGE по большей части основан на исходниках GAP и других открытых СКА, только другой движок (на Phyton написан).