Как-то я решал задачу на 10-ти разрядном карманном калькуляторе.
Требовалось извлечь корень кубический из дроби:
В числителе 10 в 11 степени, в знаменателе 9. Получил: 2231,443167
Но поскольку калькулятор выводит на экран только 10 цифр, а фактически вычисляет с бОльшей точностью,
то я из полученного результата 2231,443167 вычел 2231 и получил 0,44316694 , т.е. получается ответ: 2231,44316694.
Обратите внимание, что если отбросив запятую, в законченном результате, разделить запись ответа по 4 знака, то получится 3 числа: 2231 4431 6694.
Если 94 в конце числа списать на техническую неточность, то предыдущие "66" "намекает", что при бОльшей точности вычисления калькулятора,
результат можно представить как сумму чисел представляющую арифметическую прогрессию со смещением на 4 разряда:
и т.д.
т.е.
и т.д.
Таким образом законченный результат с точностью до 32 знаков должен выглядеть так:
2231,4431'6631'8832'1032'3232'5432'6732
а компьютор, решая эту задачу, выдаёт результат:
2231,4431'6694'0565'0729'4219'7748'7998
Так где же ошибка?