Отвечу в порядке написанного.
1) Я не знаю наверняка как исторически пришли к такому определению. Но обычно история такая:
Сначала известен хороший математический объект. Например

- набор вещественных чисел с функцией расстояния

. Потом возникают вопросы на вроде: "Можно ли построить другие похожие функции?", "Можно ли измерять расстояние между словами, графами и вообще на произвольных множествах?" и так далее. Чтобы ответить на это нужно иметь критерий считать функцию вида

метрической. Если выбрать слишком много условий, то будет сложно переносить это на произвольные множества. Если слишком мало, то получается мало содержательных выводов об объекте.
2) Теперь по поводу изменения аксиом. Да такие штуки тоже изучаются: всяческие псевдо-, квази- и так далее метрики. Насчёт неравенства треугольника я не подскажу, но знаю другой очень частый пример. Можно отказаться от положительной определённости и получить песевдометрику (и в частности псевдоевклидовые пространства, если подучать метрику из соответствующего скалярного произведения). В таких пространствах возникают пары точек с нулевым расстоянием, повороты заменяются на гиперболические. Это можно встретить и в физике в СТО: светоподобные интервалы и бусты Лоренца соответственно.