1) Эта задача какая-то странная... ну разобьём числа на пары так, чтобы их произведение было равно 1... или 2... или
... вот и получили бесконечное кол-во способов разбиения
2) Будем считать, что если задача лежит на границе многоугольника, то она лежит внутри (простите за каламбур)
Тогда можно сделать так:
*** Берём одну сторону треугольника и проводим прямую, содержащую сторону треугольника. "Штрихуем" ту часть, которая содержит весь треугольник. Проверяем, лежит ли точка в "заштрихованной" части (это очень легко проверяется). Провести эту операцию для всех сторон. Если во всех случаях точка лежит в "заштрихованной" части, то она лежит внутри, иначе снаружи треугольника.
*** Пустить сканирующую прямую из этой точки в треугольник. Если будет чётное число пересечений, то она лежит снаружи, иначе изнутри.
*** Посчитаем сумму углов, образованной этой точки и всеми парами вершин треугольника. Если она равна 360 градусов, то она лежит внутри, иначе снаружи треугольника.
*** Строим выпуклую оболочку вокруг многоугольника. Если эта оболочка является исходным треугольником, то точка лежит внутри, иначе снаружи треугольника.