Есть разные исчисления. Классическое исчисление высказываний формализует средства, которые мы используем для работы с утверждениями без учета их "внутренней структуры".
Есть исчисление предикатов, которое формализует "обычные" рассуждения в математике. Оно формализовано (в нем уже три правила вывода - modus ponens и правила Бернайса). И арифметика (Пеано) формализуется именно в исчислении предикатов.
Но писать всё абсолютно формально очень неудобно (например сравнительно простое утверждение
требует 26323 шагов для доказательства), и не особо нужно. Для упрощения жизни используются два основных подхода.
Во-первых, мы доказываем, что если что-то выводимо, то что-то другое тоже выводимо - и тем самым получаем правила вывода. Правда само по себе это утверждение про выводимость доказывается уже не в том исчислении, о которым мы говорим, а в каком-то другом (обычно не формализованном). Например, есть специальная теорема
об исчислении высказываний (не теорема исчисления высказываний): если

, то

. Это позволяет нам попробовать добавить

к аксиомам, и, формально выведя противоречие, сказать, что можно вывести

.
Во-вторых, мы можем писать рассуждения на приближенном к естественному языку, надеясь, что все заинтересованные лица при необходимости смогут формализовать нужные куски, и сделают это скорее всего примерно одним и тем же способом.