Извините, я теряюсь. Не умею слишком элементарные вещи рассказывать. Когда я их учил, я был слишком несмышлён, и они отложились по большей части в подсознании, а не в сознании уже. Так что делайте скидку на мою неуклюжесть. И в самом деле, в учебниках всё это гораздо более отработано и вылизано.
У нас уравнение имеет вид
где в квадратных скобках - искомые неизвестные, и кроме того, правая и левая часть зависят от
как функции, то есть равенство должно выполняться при любых
(точнее - в некоторой области). Это значит, вообще говоря, что приравниваются бесконечномерные векторы, и в общем случае скорее всего такая система не имеет решений. Но в данном случае эти векторы принадлежат низкоразмерному общему подпространству. Мы это обнаруживаем, если вспоминаем про такой базис в нашем пространстве функций, как фурье-компоненты. Тогда мы можем разложить обе части по базису, и приравнять коэффициенты при базисных векторах.
Базисными векторами будут
(для ваших знаков
) и дальше надо отдельно рассмотреть два случая: когда они совпадают (и подпространство одномерно), и когда не совпадают (и пространство двумерно - всё время в комплексном смысле). Случай совпадения я оставлю вам на самостоятельное рассмотрение, а когда эти векторы не совпадают, уравнение превращается в систему:
Каких-то неоднозначностей тут больше нет, кроме разве что случая
который нас не интересует.