Вопрос возник еще один: Число такое: 0,12356 А в скобках записано плюс-минус 0,00036. После того, как я отбросила сомнительные цифры, у меня получилось число 0,1236. Это правильно? Теперь нужно опред. абсолютную погрешность результата. Что же, она будет равна 0,0001 и все?
А еще дано число 8,24163. (в скобках написано отн. погрешность=0,2 %) После того, как я отбросила сомнительные цифры, у меня получилось число 8,242. Здесь абс. погрешность как найти? 0,002/8,242 или нет? Скажите пожалуйста.
1) С учетом погрешности диапазон значений от 0,12320 до 0,12392 .
Для сохранения только верных цифр придется оставить 0, 123 или 0,124. При восстановлении получим диапазоны 0,122 - 0,124 или 0,123-0,125. В метрологии иногда записывают так: 0,123(56), тогда восстановленный диапазон точных значений будет 0,123 - 0,124.
2) Абс. погрешность 8,242*0,002=0,016 и диапазон точных значений 8,225 - 8,257. Для метрологов сохраним значение 8,2(4).