Я немного дополню. Предположим, у нас есть некая формальная теория

, сформулированная в языке первого порядка (например, арифметика или теория множеств). Высказывания такой теории говорят об объектах теории

. Поскольку алфавит, термы, высказывания и доказательства теории

не являются её объектами, теория

ничего не может сказать о доказуемости или недоказуемости какого-либо своего высказывания. Это невозможно никак сформулировать, оставаясь в рамках теории

. То же самое - с истинностью. Истинность конкретного высказывания может зависеть от интерпретации (модели) теории. Корректной интерпретацией нужно считать такую, в которой все аксиомы теории (как логические, так и математические) истинны, а правила вывода преобразуют истинные высказывания в истинные.
Что имеется в виду, когда говорят, что "достаточно богатая теория не может доказать свою непротиворечивость"? В теории

вообще невозможно сформулировать утверждение о её непротиворечивости, поэтому указанное высказывание выглядит бессмысленным.
Однако Гёдель придумал очень хитрый фокус.
Для описания языка теории

используется некоторая другая теория

(не обязательно формальная), которая называется метатеорией. Алфавит, термы, высказывания и доказательства теории

являются объектами теории

, и в

мы можем формулировать утверждения о доказуемости высказываний теории

, о её непротиворечивости и так далее. Если теория

"достаточно богата" (а арифметика Пеано оказывается "достаточно богатой"), то мы можем средствами метатеории закодировать алфавит, термы, высказывания и доказательства теории

объектами этой теории и превратить метатеоретические высказывания о доказуемости, непротиворечивости и так далее в высказывания теории

об этих кодах.
В частности, утверждение о непротиворечивости теории

превращается в некоторое высказывание о её объектах (о числах в случае арифметики), и это высказывание оказывается (при некоторых предположениях о теории

) недоказуемым в

. Но эта теорема - не теорема теории

, а теорема метатеории

. Теория

"не имеет ни малейшего понятия" о том, что в её объектах что-то закодировано, и что её высказывания интерпретируются не как высказывания о её объектах.
Вообще, перемешивание теории и метатеории - страшный грех, быстро приводящий к полной путанице и противоречиям.