Число 1/5 может ли быть представленным в системе счисления с нечётным основанием 3? Или 1/10 в двоичной системе?
Один мой знакомый считал (зачем, не знаю) определитель в целых числах, цитирую его:
Цитата:
Определитель я решил считать примерно как в школе учили, приводя матрицу к верхнетреугольной, но, чтобы ограничиться целочисленными вычислениями и не лезть во всякие double'ы, занулять элементы матрицы решил не вычисляя нецелый коэффициент, а, по алгоритму Евклида попытаться занулить либо текущий диагональный элемент, либо поддиагональный, уж как получится, если занулится диагональный, то переставить две строчки.
Переполнение в 32-битных целых получалось для матриц 8х8, в 64-битной для 11х11.