Начнем с того, что в математике нет понятия "число".
Есть понятия "комплексное число", "кардинальное число", "ординальное число", "
-адическое число". Нет понятия "число", которое все их объединяет. Такое понятие было бы просто бесполезным, потому что у всего вышеперечисленного слишком мало общих хороших свойств.
Далее, общего на всю математику понятия бесконечности тоже не существует.
Кардинальные и ординальные числа бывают как конечными (тогда это просто натуральные числа), так и бесконечными. Бывают бесконечные числа в нестандартном анализе. Бывает предел при стремлении функции или последовательности к бесконечности, в таком случае нет объекта "бесконечность", есть лишь неделимое с точки зрения смысла словосочетание "стремиться к бесконечности". Что оно означает, рассказано в учебниках матанализа за первый курс.
В теории меры есть множества бесконечной меры. При их рассмотрении бывает удобно определить результаты
некоторых (не всех) операций над бесконечностью и действительными числами. Например,
, но операция
не определена. В этом случае "бесконечность" - это просто название для элемента, который мы присоединяем к
и разрешаем определенные операции. С тем же успехом можно было бы назвать его пивной кружкой.
В проективной геометрии бывают "бесконечно удаленные точки", но про них пусть расскажет тот, кто лучше с ней знаком.
Это только то, что знаю я - не математик. Привести все эти "бесконечности" к единому математическому понятию невозможно и не нужно.
И по поводу вопроса "если не число, то что?". Число - не базовый элемент в математике. Математика строится примерно так: мы берем некоторое множество и задаем на нем структуру: алгебраические операции, или функции типа метрики, или систему подмножеств, как в топологии, или еще что-нибудь. Элементы этого множества можно так и называть элементами, можно - точками. Иногда они по историческим причинам имеют специальные названия, например, натуральные числа или векторы. Но это, в сущности, традиция и ничего больше.