sergey zhukov,
Так вот эта погрешность прибора и превращает результат измерения в случайную величину с распределение Гаусса. Это уже и есть "сложный" случай.
Я просто под погрешностью прибора понимал погрешность, которая написана на самом приборе (или в документах идущих к прибору). И ещё я представлял себе формулу, что абсолютная погрешность равна сумме погрешности прибора и погрешности отсчёта. В свою очередь погрешность отсчёта составляет половину цены деления измерительного прибора.
Я записываю
с точностью
.
Хорошо, примем это, тогда как я понимаю можно написать
. И в принципе это логично, потому что при округлении чисел
,
и чисел между ними к сотым мы придём к
(если округлим пятерку в разные стороны в первых двух случаях, но это сейчас можно опустить). Но как тогда быть с этим?:
одним из правил округления является то, что количество значащих цифр в результате измерения должно быть таким, чтобы сомнительная цифра имела порядок абсолютной погрешности
Здесь получается, что если у нас абсолютная погрешность, округлённая к одной значащей цифре имеет, например, порядок сотых (
или
, например), то результат измерения тоже округляется к сотым (например к
). Или это неправильно? Просто я видел следующий пример. Получили (калькулятор выдал) абсолютною погрешность
. Мы округляем это к одной значащей цифре:
. Получили (калькулятор выдал) неокруглённое значение измеряемой величины
, его мы округляем так, чтобы последняя цифра имела порядок единицы (как абсолютная погрешность), то есть
. И конечный результат записывался как
.