Всюду ниже я предполагаю, что в качестве метатеории рассматривается теория множеств

в какой-либо из ее классических версий (так называемая «наивная теория множеств») и для удобства (исключительно для удобства, или, если угодно, для уменьшения траффика

) фиксируется гипотетическая метамодель

этой метатеории, в которой и происходит вся дальнейшая возня (хотя на самом деле всю возню можно производить в самой метатеории

). В рамках этой возни возникают, в том числе, разного рода теории. Каждая теория

представляет собой некоторое множество формул, называемых также аксиомами теории

. В свою очередь, формула -- это элемент языка

теории

, порождаемого (вполне конкретной, могу выписать) контекстно свободной грамматикой из атомарных формул, соответствующих сигнатуре

теории

.
Например, (аддитивный) язык

теории групп

имеет сигнатуру

. (Обратите внимание на различие начертаний метаравенства

и символа равенства

. Кстати, символ равенства не всегда включают в сигнатуру, но это дело вкуса, пусть включается.) Этот язык

порождается атомарными формулами вида

, где

и

-- термы. Термы же порождаются атомарными термами

и

, где

и

-- переменные. Переменные же порождаются... (тут я, пожалуй, продолжу, только если меня попросят

). Сама же теория

является объединением теории предикатов первого порядка с равенством и множества формул вида

и т.д. (специальные аксиомы группы, надеюсь, известны).
На данном этапе я, кажется, ответил на вопрос
luitzen:
Возьмем, к примеру, теорию групп (с операцией сложения), определенную в метатеории множеств.
Ох, не кажется мне эта фраза достаточно аккуратной:
AGu, Вы можете привести пример из литературы, в котором говорилось бы, что теория множеств является метатеорией по отношению к теории групп?
Из схематично описанного выше подхода видно, как теория групп

определяется в рамках метатеории множеств

. И это, насколько мне известно, классический подход. (В качестве ссылки на литературу я могу лукаво предложить любую монографию по теории групп, но здесь уместнее будет сослаться на любой традиционный курс классической логики.

)
Интересно вообще понять, что означает словосочетание "определяется в теории".
Стремясь к точности, я должен был сказать «определяется в языке теории», а не «определяется в теории». (Вероятно, этой моей оговоркой и был вызван вопрос
epros.) На самом деле определение -- это, разумеется, элемент метамодели, а вовсе не что-то там внутри теории. Итак, что же такое «определение»? Веселый вопрос. Я могу предложить следующее метаопределение понятия «определение».
Определением называется эффективное (в смысле теории алгоритмов) расширение
языка
рассматриваемой теории
, снабженное алгоритмом
перевода формул с расширенного языка
на исходный язык
.
Разумеется, в указанном смысле «определение» как пара

является элементом метамодели

. На практике расширение

обычно задается расширением контекстно свободной грамматики языка

за счет добавления конечного множества новых символов и конечного множества продукций, а алгоритм

определяется семантическими правилами, так или иначе связанными с добавленными продукциями (но это, наверное, уже лишние детали).
Приведу пример (опуская техническую кутерьму). Допустим, в языке

теории множеств

мы хотим определить отношение включения

. С этой целью мы расширяем язык новыми атомарными формулами вида

(тем самым автоматически расширяя язык формул

до нового расширенного языка

) и определяем алгоритм

перевода с

на

семантическим правилом

, т.е., грубо говоря, указываем, что всякое вхождение формулы вида

при переводе следует заменить соответствующей формулой

.
epros писал(а):
Например, определяется ли операция сложения в арифметике (если в ней предусмотрен символ "+" и соответствующие аксиомы)? По-моему, можно сказать, что операция сложения определяется в арифметике. Хотя, конечно, и символ "+", и соответствующие аксиомы указаны как относящиеся к "арифметике" именно метатеорией.
Стало быть, в моем понимании сложение в арифметике (точнее, в языке арифметики) не определяется -- в том смысле, что оно не вводится с помощью определения: термы

уже входят в исходный язык арифметики, и для их использования расширение языка не требуется.
Надеюсь, я достаточно подробно разъяснил свои туманные намеки. (Впрочем, готов разъяснить подробнее, если потребуется.)