Доброго времени суток.
Для вашей программы я бы посоветовал С#, так как имхо на нем проще писать интерфейс. Можно конечно С++ с MFC, но имхо он менее понятен.
Из встроенных контролов можно использовать Tab контрол и подменять формы по вкладкам, ну это типовое применение.
http://www.codeproject.com/KB/tabsТак же можно использовать интерфейсные либы коммерческие например
http://www.componentfactory.comесть и устаревшая но бесплатная версия Crownwood Magic Docking
вот например
http://www.codeproject.com/KB/miscctrl/magicdocking.aspxhttp://www.codeproject.com/KB/miscctrl/dockingmanagerextender.aspxТак же есть Open Source, DockPanel Suite
http://sourceforge.net/projects/dockpanelsuite/Я бы рекомендовал DockPanel Suite пользуюсь, очень доволен
На
http://www.codeproject.com полно примеров использования
Это интерфейс, теперь ваши алгоритмы. Их реализовываете каждый на отдельной форме, далее эти формы вставляете уже в вышеперечисленные варианты интерфейса будь то Tab control или же DockPanel Suite, или что-то другое