Все это понятно, не понятен следующий шаг: далее производится замена в интеграле на:

Где

- спектр мощности.
Производя эту замену и интегрируя, действительно приходим к результату, о котором говорится в Теореме Винера-Хинчина, но непонятно, почему происходит именно такая замена, и в чем ее суть?
Никакой замены тут не было. Некоторую подынтегральную фнукцию из некоторых соображений сочли пропорциональной дельта-функции, а множитель пропорциональности может зависеть от частоты. Возможно проще было сказать, что поскольку корреляционная функция стационарного случайного процесса не зависит от времени, то

можно представить в виде

. Согласен, что тут не доказано, что это единственное возможное представление, если Вы об этом. То есть, вопреки тексту учебника (а там написано "логика подсказывает"), логика как раз тут в обратную сторону: если представить в таком виде, то зависимости от времени корреляционной функции не будет, а надо бы наоборот.
Далее интегрирование выполнили с учётом фильтрующего свойства дельта-функции. Потом множитель

назвали спектром мощности.
И еще вопрос, в процессе вывода пользуются тем фактом, что входной сигнал - реальная функция, отсюда и происходит безвредная замена на комплексно-сопряженную функцию. А сохранится ли результат для комплексного воздействия?
Для комплексного случайного процесса комплексное сопряжение там фигурирует по определению:

, но это упущено в главе 6, видимо, для простоты.