Боюсь, мы с Вами по-разному понимаем термины "теория" и "формализм". Один из традиционных подходов к формализации математики основан на теории (и метатеории) предикатов, в рамках которого теориями являются (мета)множества формул, и теория множеств (ZF или ZFC) -- одна из них, причем наиболее распространенная. А вот какой теории (и в каком смысле) придерживаетесь Вы -- я пока не догадываюсь.
Я лишь хотел сказать, что понятие "определение" (в том интуитивном смысле, в котором его понимает человек) не может быть определено.