2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Задать количество цифр после запятой в Mathematica
Сообщение15.12.2019, 22:15 
Приветствую, у меня в системе Mathematica запрограммированы некоторые алгоритмы, хотелось бы посмотреть, как изменится итоговый ответ, если уменьшить учитываемое количество цифр после запятой, например до 5. Я имею ввиду то, что в промежуточных вычислениях значения будут постепенно все больше отличаться от настоящих, и в конечном итоге ответ будет не тот.

Как это сделать наиболее простым образом?

 
 
 
 Re: Задать количество цифр после запятой в Mathematica
Сообщение15.12.2019, 22:42 
Аватара пользователя
Есть, например, опция WorkingPrecision.

 
 
 [ Сообщений: 2 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group