1. Радиус кривизны зависит от изгибающего момента, который в начале балки равен нулю.
2. В общем случае наверно надо учитывать знак. Для многоступенчатого стержня можно решать разделяя на части. Только надо аккуратно "соединить" части.
При меньшем угле косинус больше, поэтому при Ваших ограничениях (

) всё в порядке.
3. Кажется на 120 странице (Работнов Ю. Н. Механика деформируемого твердого тела. 1988) в конце перепутали оси.
4. Точке

соответствует начало балки

.
Переменная

введена заменой угла наклона касательной

следующим образом

(Работнов Ю. Н. Механика деформируемого твердого тела. 1988. стр. 119. (4.3.4))
Таки образом угол

изменяется от

в начале балки до нуля в середине (далее до

в конце).
5. Не понял про "опять при закритическом".
Изначально задача заключается в поиске второго решения. Первое решение задачи - прямой стержень. Поиск решения уже кроется в постановке задачи. Пусть есть другая форма равновесия - стержень прогибается и появляется изгибающий момент... (Работнов Ю. Н. Механика деформируемого твердого тела. 1988. стр. 115.)
Нелинейная постановка описывает деформацию стрежня при закритических силах полностью.