Раздел математики, занимающийся формализацией таких понятий, как "площадь", "длина", "обьем", ... , называется
"теория меры". На плоскости обычно рассматриваются так называемые мера Жордана, мера Бореля и мера Лебега.
Nick Spirit писал(а):
я не очень силён в математике
Тогда, видимо, нужно начать с меры Жордана.
Все-таки вопрос остается: исходя из чего вам надо это доказать? Что уже считается известным?
Варианты ответа: По определению известно, что
1. ... площадь прямоугольника со сторонами, параллельными осям координат, равна произведению длин сторон
2. ... площадь треугольника - это половина основания на высоту, а площадь многоугольника - сумма площадей составляющих его треугольников.
3. (что-то другое)
В первом случае нужно доказать, что площадь многоугольника может быть зажата между площадями объединения прямоугольников, накрывающих наш многоугольник, и площадями объединения прямоугольников, содержащихся в нашем прямоугольнике, причем эти две площади сближаются сколь угодно близко.
Во втором случае желательно будет доказать, скажем, что площадь не зависит от разбиения на треугольники, итп.