Начальное введение в операторы - линейная алгебра, более полное - функциональный анализ.
Линейная алгебра позволяет рассматривать операторы на конечномерных пространствах, учит читать и понимать действия и формулы с операторами, даёт понятия ядра (kernel), обратного и псевдообратного, образа (здесь range, в основном image), коммутирования (перестановочности), проекторов (операторов проекции) и т. п.
Функциональный анализ применяет этот инструментарий для бесконечномерных пространств (например, пространство функций, как здесь), вводит некоторые нюансы в определения, и накладывает ограничения на ряд фактов, которые в конечномерном случае справедливы, а в бесконечном уже нет.
Таким образом, чтобы читать и понимать (и "на физическом уровне строгости" применять), достаточно линала, а чтобы удостовериться в истинности математических утверждений - нужен функан.
В качестве совершенно "быстрого и грязного" введения можно порекомендовать почитать квантовую механику: там операторы нужны примерно так же, но в учебниках по КМ они обычно ещё и вводятся "на физическом уровне строгости", так что после учебника КМ можно разбираться с аналогичным текстом по другим разделам физики. Могут только отличаться обозначения: в квантах часто вводятся бра-кет скобки, а
означают антикоммутатор, в отличие от класмеха (гамильтонова формализма), где
означают классическую скобку Пуассона. И то, и другое отличается от чисто математической нотации.