калькулятор не встречала, но если Вы его так и не найдете и будете писать код - могу посоветовать свободную библиотеку GSL
http://www.network-theory.co.uk/docs/gslref/index.html , которая может сильно облегчить написание. Там достаточно много встроенных функций по линалу, не нужно писать с нуля. Еще есть BLAS, но с ней я сама не работала.