В среде
R (статистика) можно создавать отчёты, где по результатам расчётов генерятся картинки, таблицы и, собственно ответы. Чуть подробнее
тут в статье «R — данные и графики», раздел «Мастера отчётов».
По поводу чисто математических формул. Есть интерфейс от TeXmacs к maxima (сейчас активно пилится интерфейс к axiom). По-моему было что-то подобное для LyX, как минимум в планах.