2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 CORDIC (метод Волдера)
Сообщение15.12.2009, 14:53 
Здравствуйте.
Имею задание - вычислить функцию $cth(\theta)$ методом CORDIC. Для проверки правильности нужно написать математическую модель в SciLab.
Вычисление происходит в два этапа:
1. Вычисление $sh(\theta)$ и $ch(\theta)$. С этим проблем нет, все считается правильно.
2. Деление $ch(\theta)$ на $sh(\theta)$. Вот тут ступор.
Для деления использовал следующие итерационные формулы:
Изображение
$X_0=ch(\theta)$,$Y_0=sh(\theta)$, $X_{out}=cth(\theta)$.
SciLab выдает график:
Изображение.
На промежутке 0.5...2.0 результат получается правильным, но на -2.0...0.4 - какая-то ерунда.
Собственно вопрос: почему так?
Ходят слухи, что есть ограничение на делитель, зависящее от разрядности операндов, но я ничего об этом в интернетах не нашел :(

 
 
 [ 1 сообщение ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group