если считать, что

Так считать лучше не надо. А то ведь
-- это ничего, что в первом приближении у Вас слева получается альфа вовсе не на восемь?...
Всё гораздо проще. Во втором приближении

. т.е.

. Игнорирование знаменателя даёт относительную погрешность

и, соответственно, абсолютную погрешность

.
Уточнять же начальное приближение

проще всего, наверное, итерациями

. Для угла в девяносто градусов машинная точность (double) исчерпывается на 14-й итерации. Впрочем, экранная точность (для которой пяти знаков за глаза хватит) достигается уже на пятом шаге.
Что любопытно, эти итерации дают результат, похоже, при всех допустимых

. Правда, при

корней два, и получить таким образом удаётся только левый из них. Кроме того, вблизи максимально возможного значения

(оно достигается рядом с

) метод сходится, естественно, очень медленно -- для получения машинной точности требуется больше тысячи шагов.