Посмотрите, например, Зорича,
Математический анализ, часть 1, гл. III, §2, 4d «Сравнение асимптотического поведения функций» [это в шестом издании, про ранние не скажу]. Формально,

— это множества функций, а записи

читаются как

Читать надо не Зорича, а Кудрявцева -- у Зорича говорится ровно то же, только гораздо более вычурно. Но даже и Зорич, при всей своей вычурности, до слова "множество" всё-таки не додумался, слава богу:
Зорич в 1997-м писал(а):
Сами символы

,

обозначают не столько функцию, сколько указание на характер ее асимптотического поведения, которым, кстати, обладают сразу многие функции, например, и

, и

, и т. п.
А слава богу потому, что если "множества", то формулы становятся решительно нечитабельными. Скажем,

придётся проговаривать про себя как "
-- это такое множество функций, что..." или как "

".
Никакое это не множество, а описание поведения вполне конкретной функции. Что по смыслу, конечно, то же самое; но хоть звучит по-человечески.
при этом многие другие записи будут просто некорректными, в том числе засовывание

в предел
Вот именно. Например, станет некорректной такая почтенная, общепринятая (и, главное, в высшей степени полезная) запись как
