С какой погрешностью считают калькуляторы? В ответе цифры верны в строгом смысле или в широком смысле?
__________________________________
GAA: для справки. Из Лысенко А.В. Методы приближённых вычислений в химии и химической технологии: методические указания по выполнению лабораторной работы. — Курск, 2016. (
pdf)
Цитата:
Приближенное число
содержит
верных значащих цифр в узком смысле, если абсолютная погрешность
этого числа не превышает половины единицы десятичного разряда, выражаемого
-й значащей цифрой (считая слева направо).
Приближенное число
содержит
верных значащих цифр в широком смысле, если абсолютная погрешность
этого числа не превышает единицы десятичного разряда, выражаемого
-й значащей цифрой (считая слева направо).
Пример. Определить количество верных значащих цифр (в узком и широком смысле) в числе
, если известна его абсолютная погрешность
.
Цифра 1 числа
верная и в узком и в широком смысле. Все значащие цифры, предшествующие единице, тоже верные. Таким образом, число верных значащих цифр в узком и широком смысле рано 3
.
Аналогичные определения понятий «в узком» и «в широком смысле» можно найти и в других многочисленных учебных пособиях и страницах в Сети. Например,
Сорокина О.В., Парфёнова Я.А. Введение в вычислительную математику. Учебное пособие для студентов механико-математического факультета. — Саратов, 2011. (
pdf);
Барон Л.А., Нуриев Н.К., Старыгина С.Д. Численные методы для IT инженеров: учеб. пособие для вузов. – Казань, 2012. (
pdf).