Здравствуйте.
Имею задание - вычислить функцию

методом CORDIC. Для проверки правильности нужно написать математическую модель в SciLab.
Вычисление происходит в два этапа:
1. Вычисление

и

. С этим проблем нет, все считается правильно.
2. Деление

на

. Вот тут ступор.
Для деления использовал следующие итерационные формулы:


,

,

.
SciLab выдает график:

.
На промежутке 0.5...2.0 результат получается правильным, но на -2.0...0.4 - какая-то ерунда.
Собственно вопрос:
почему так?Ходят слухи, что есть ограничение на делитель, зависящее от разрядности операндов, но я ничего об этом в интернетах не нашел
