Соответственно, никакой способ не правильный. Способы — это вне математики.
Ну это слишком сильное утверждение, теорем о разных способах что-то находить (собственно, конструктивных) пруд пруди, проблема-то тут как раз в неопределённости слова «правильно» и молчаливой пресуппозиции, что школьные способы чем-то в этом смысле «неправильны», хотя скорее всего имеется в виду такая банальность, что пресуппозиция в итоге неверна.
Разностью двух натуральных чисел b и a (b > a) называется решение уравнения x + a = b.
Ограничение

тут излишне. Если решения не существует, то и разность не существует. (И если бы решений могло быть больше одного, можно было бы говорить, что разность не единственна — для многих понятий это совершенно нормальное словоупотребление.)
Далее вы погружаетесь в арифметику первого порядка, хотя это совершенно необязательно, потому что если так хочется дойти до самого низа, нужно другое — какой-то аппарат вычислимости типа рекурсивных функций, алгоритмов Маркова, машин Тьюринга/Минского/Поста/Колмогорова, λ-исчисления и т. п..
В частности, если мы абстрагируемся от вопроса записи чисел и считаем, что можем к любому числу прибавить 1, сравнить число с нулём и отнять 1 от ненулевого числа (сравнили перед этим и убедились), и работаем всё время с конечным набором чисел (записывая их на поименованных листках), для формализации подойдут машины Минского. Вычитание будет происходить как написал
wrest:
В начале на листе
уменьшаемое
, на
вычитаемое
. Начинать с шага 1.
1.
Да — закончить работу нормально. Нет — перейти к 2.
2.
Да — закончить без результата. Нет — перейти к 3.
3. Вычесть 1 из
; перейти к 4.
4. Вычесть 1 из
; перейти к 1.
После нормального завершения
.
Машина для деления тоже получится прямо по описанию
wrest.
Имея подобный конкретный алгоритм, можно строго доказать его корректность. (Тут я машину описал рукомахательно, но чтобы сделать это аккуратнее, надо вводить определение машины Минского, хотя оно на удивление простое.)