Как он получил оценку времени умножения
Не очень понятно, что есть

...
Было: три умножения маленьких чисе (нашли

). А также : 2 сдвига и несколько сложений-вычитаний (обозначим их кол-во через

. Пусть

- время вычисления призведения ( для суммы-сдвига-вычитания оно равно

). Тогда :

Это (почти) и есть Ваше уравнение.
Решается полученное уравнение - как дифуры: только сначала надо сделать подстановку

и замену

. Получится линейное неоднородное уравнение на функцию

:

Решаете однородное уравнение, а затем - методом вариации постоянной - неоднородное....