Ну, если фигура состоит из треугольников, то и её проекция будет состоять из объединений проекций треугольников. Что спрашивается дальше:
получить координаты всех прямых составляющих контур проекции
не очень понял. Просто взять продолжения всех этих сторон треугольников? Легко, проекции-то сторон — это отрезки между проекциями вершин. Если задача целочисленная, правда, может быть смысл удалять повторяющиеся прямые, но если нет, это будет только ненужная морока. Или надо представить всё множество в виде разности одного большого и другого «множества дырок»? Тут задача интереснее, но векторные редакторы с ней справляются даже в случае нелинейных сплайнов, а тут отрезки.