что такое число обусловленности матрицы
Говоря формально -- это произведение нормы матрицы на норму обратной матрицы.
Говоря по существу -- это мера того, насколько сильно может меняться решение системы уравнений при небольших изменениях правой части этой системы. Грубо говоря:
относительная погрешность решения (а именно относительная нас и интересует) не превосходит относительной погрешности правой части, умноженной на число обусловленности матрицы системы. И эта оценка -- формально говоря, точная (хотя во многих конкретных алгоритмах и оказывается сильно завышенной, но это уже другой вопрос, требующий конкретных разбирательств в каждом конкретном случае).