У Ильина с компанией слишком занудное доказательство. Надо просто использовать определение предела функции в смысле Гейне (в данном случае речь о функциях

и

, изначально не определённых при

и

соответственно, но это и не нужно).
Предположим, что существует предел

(конечный или бесконечный-- неважно). Тогда

для любой последовательности

. Берём произвольную последовательность

. Для каждого

по теореме Лагранжа существует

такое, что

и, поскольку

также стремятся к нулю, имеем

. Это в точности означает (в силу произвольности последовательности

) существование

.
Т.е. существование односторонней производной (конечной или бесконечной)
следует из существования предела производных. Если этот предел конечен, то и на конце отрезка функция дифференцируема; если бесконечен -- естественно, нет. Соответственно, требование дифференцируемости в точке

, наложенное в книжке, явно избыточно, а вот потребовать непрерывность нужно.