Вообще-то слова "норма матрицы" употребляются в двух смыслах.
1). Просто любая числовая функция от матрицы, удовлетворяющая аксиомам нормы:
,
и
.
2). (как частный случай) Операторная норма матрицы:
(где норма вектора может выбираться как угодно, и каждому такому выбору отвечает своя норма матрицы).
И промежуточный вариант -- мультипликативные нормы матриц, которые кроме трёх аксиом удовлетворяют ещё и требованию
(естественно, это имеет смысл только для квадратных матриц, в отличие от всего предыдущего). Любая операторная норма является мультипликативной, обратное неверно. С другой стороны, любая вообще норма может быть сделана мультипликативной, если умножить её на подходящую константу.
Норма вообще матрицы ориентирована, как уже указывалось, на оценку того, насколько матрица мала. Операторная норма -- кроме того, на оценку возможного увеличения/уменьшения вектора после умножения на него матрицы. Как правило, норма матрицы используется для доказательств сходимости, и тогда выбор нормы не имеет принципиального значения, т.к. все нормы всё равно эквивалентны.