Я давно этим не занимался и с ходу могу ошибиться.
1. Сильно поменяется ситуация, если принять
?
В этом случае компактность должна быть в
, значит, скорее, надо будет переходить к обобщенным производным и рассматривать Соболевское пространство
, которое вкладывается в
компактно.
2. А если к этому добавить нелинейность системы? (тут, думается, большие проблемы в общем случае (: )
Нелинейности не испортят ситуации, если они позволяют решению существовать на
; интегральные операторы обычно сглаживают функции, т.е., вольно выражаясь, переводят ограниченные множества в компактные.
3. Может есть ходовые методы опровержения компактности, то есть, насколько мне известно, построение соответствующей последовательности, например.
Обычно пытаются делать наоборот - доказывают компактность. Опровергнуть компактность - это опровергнуть одно из условий в её определении.