Описания некоторых алгоритмов построения выпуклой оболочки в

-мерном случае есть в книжке Препарата, Шеймоса. Хорошие результаты показывают разные варианты алгоритма quick-hull, очень популярной реализацией которого является программа qhull
http://www.qhull.org/. На сайте этого проекта можно найти статью с описанием алгоритма. См. также сслыки на страничках
http://www.cs.unb.ca/profs/bremner/docs/recommend.html,
http://cgm.cs.mcgill.ca/%7Eavis/C/lrslib/links.html
Добавлено спустя 16 минут 54 секунды:
Вот еще две ссылки:
B. Chazelle, An Optimal Convex Hull Algorithm in Any Fixed Dimension, Discrete Comput. Geom. 10 (1993), 377-409
D. Avis, D. Bremner, R. Seidel How good are convex hull algorithms? Comput. Geom. Theory and Appl. 7 (1997) 265-302