Подскажите, пожалуйста, какие есть методы подсчета эффективности программного обеспечения (ПО) или программных систем (ПС). Каков математический аппарат?
Смотря что понимать под эффективностью.
Есть теория сложности. Она изучает алгоритмы с точки зрения количества шагов, необходимых для получения результата, и необходимой памяти.
Если это то, что Вам нужно, то могу посоветовать Кормена (Т. Кормен, Ч. Лейзерсон, Р. Ривест. Алгоритмы: построение и анализ), а также небольшую книгу Д. Грин, Д. Кнут. Математические методы анализа алгоритмов - это, по сути, описание основного мат.аппарата для анализ алгоритмов и некоторые примеры. (я так понимаю, Вам нужно что-то более приближенное к практике, есть таке более "чистые" книги по этой теме)
Есть разные мануалы по написанию программ с учетом особенностей реального "железа" или эффективных сетевых приложений, но тут я не советчик.
Если же это не то, что Вам нужно, то, возможно, стоит пояснить, что именно Вы включаете в понятие "эффективность ПО".