Нелинейность можно слегка уменьшить, перейдя к виду

Для случая наименьших квадратов и если омега известна, получаем обычную регрессию. Омегу можно оценить просто перебором по сетке, зная интервал, к которому она принадлежит (а не зная таковой - решение неоднозначно, даже в отсутствие ошибок). МНК-решение может быть хорошей начальной точкой как для МНМ, так и для уточнения омеги.
Оценивание МНМ можно вести либо, как оптимизационной задачи общего вида (и я бы использовал оптимизацию, не использующую производных), либо сводя к взвешенному МНК (веса для больших отклонений берутся меньшими, см. Мудров и Кушко), либо к задаче линейного программирования. Нелинейно входящий параметр, частота, либо берётся перебором, либо каким-нибудь градиентным поиском от начального приближения.