2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Максимальная возможность вычисления чисел в программах
Сообщение11.12.2017, 12:58 
Здравствуйте,уважаемые профессионалы своего дела. Заинтересовал вопрос,какое максимальное количество чисел способна просчитать программа за раз.
Приведу конкретный пример. Имеется формула
Изображение
Имеются проблемы с вычислением коэффициентов A, т.к. придется обрабатывать числа вроде 90 и более. С вычислением по формуле - очень большие числа возникают при обработке большого массива данных. Соответственно, непонятно до какого знака будет отображаться результат и какое максимальное произведение мы сможем обработать.
К сожалению Ecxel здесь не подходит,нужные другие программы Matlab,тоже. Которые смогут обработать большой массив данных. Возможно нужны языки программирования. Что подскажете господа?

 
 
 
 Re: Максимальная возможность вычисления чисел в программах
Сообщение11.12.2017, 13:44 
Аватара пользователя
liunsak в сообщении #1273974 писал(а):
какое максимальное количество чисел способна просчитать программа за раз
Что значит — "за раз"? Одной командой процессора? Или за один запуск? Или ещё что-то?

 
 
 
 Re: Максимальная возможность вычисления чисел в программах
Сообщение11.12.2017, 13:47 
Если Вам нужна возможность работать с большими числами, ищите по ключевым словам "длинная арифметика", "arbitrary-precision arithmetic". Если это не то, что Вы хотите - объясните, что Вам надо.

 
 
 
 Posted automatically
Сообщение11.12.2017, 13:47 
 i  Тема перемещена из форума «Помогите решить / разобраться (М)» в форум «Карантин»
по следующим причинам:

- не сформулирована тема обсуждения.

Исправьте все Ваши ошибки и сообщите об этом в теме Сообщение в карантине исправлено.
Настоятельно рекомендуется ознакомиться с темами Что такое карантин и что нужно делать, чтобы там оказаться и Правила научного форума.

 
 
 [ Сообщений: 4 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group