2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.



Начать новую тему Ответить на тему
 
 CORDIC (метод Волдера)
Сообщение15.12.2009, 14:53 


15/12/09
1
Здравствуйте.
Имею задание - вычислить функцию $cth(\theta)$ методом CORDIC. Для проверки правильности нужно написать математическую модель в SciLab.
Вычисление происходит в два этапа:
1. Вычисление $sh(\theta)$ и $ch(\theta)$. С этим проблем нет, все считается правильно.
2. Деление $ch(\theta)$ на $sh(\theta)$. Вот тут ступор.
Для деления использовал следующие итерационные формулы:
Изображение
$X_0=ch(\theta)$,$Y_0=sh(\theta)$, $X_{out}=cth(\theta)$.
SciLab выдает график:
Изображение.
На промежутке 0.5...2.0 результат получается правильным, но на -2.0...0.4 - какая-то ерунда.
Собственно вопрос: почему так?
Ходят слухи, что есть ограничение на делитель, зависящее от разрядности операндов, но я ничего об этом в интернетах не нашел :(

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ 1 сообщение ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group