diletto,
не хотелось бы, чтобы осталось впечатление о том, что сказанное про формальные системы не касается неформализованного знания (теорий). По-сути, формализация - это только способ борьбы с неоднозначностью. Так что неформальные вещи точно так же формулируются на каком-то языке, на котором из сформулированного делаются какие-то выводы. Просто в последнем случае более вероятны ошибки и неоднозначное понимание (зато всё гораздо проще и "человечнее", чем при формализованном выводе).
Я выше говорил о том, что абстракции - это способ сжатия информации с частичной потерей. Это вроде как должно быть очевидно из смысла понятия "абстракция", ибо абстрагируются обычно ОТ каких-то несущественных характеристик предмета. Например, упоминание абстрактного понятия "слон" подразумевает, что такие характеристики конкретного животного как возраст, пол, состояние здоровья и т.п. нас может быть и не заинтересуют, а вот то, что оно является слоном, важная для нас информация. Далее Вы заговорили про аксиоматику как способ сжатия информации. И это правильно, потому что абстракции, то бишь, теоретические понятия определяются именно аксиоматикой. И не только в формальном смысле. В неформальной речи или тексте тоже может излагаться какая-то аксиоматика, даже если это называется не аксиомами, а постулатами, определениями или как-то иначе. И из сформулированного точно так же могут делаться выводы, как в формальных системах.
В каком смысле это является "сжатием информации"? Дело в том, что сформулированное (аксиоматика) автоматически подразумевает некоторое множество выводов. В отличие от формальной системы, не всегда можно однозначно определить, что является правильным выводом, а что нет, но сути это не меняет: В той степени, в которой мы одинаково понимаем правила вывода, мы будем одинаково понимать и то, что является выводом из сформулированных условий. Поэтому я и говорю, что выводы не являются новой информацией по отношению к аксиоматике. Кстати, вычисление n-ой цифры числа
- тоже является примером теоретического вывода из аксиоматики. И эта n-ая цифра не является новой информацией для того, кому известен алгоритм. Хотя к тому, чтобы узнать её на практике, могут быть чисто вычислительные препятствия.
Делать правильные выводы студентов учат тогда, когда заставляют их решать задачи по предмету: К общей аксиоматике, которую сформулировали в рамках предмета, добавляется та, что определяет условия конкретной задачи, и из этого всего студент должен сделать правильные выводы. Но то, что из конечной аксиоматики можно сделать бесконечное количество выводов, не означает, что коэффициент сжатия информации бесконечен. Потому что не все выводы полезны для описания предметной области соответствующей теории. Если говорить о совокупности всех явлений, когда либо наблюдавшихся человечеством, то вряд ли это множество бесконечно. А отдельные теории адекватны для применения только к некоторым подмножествам этого множества.
Поэтому если уж мы хотим посчитать "коэффициент сжатия информации", то должны посчитать, какое количество явлений предметной области и с какой точностью описывает теория, и поделить то количество байт, которые потребуются для их "поштучного" описания, на количество байт в аксиоматике теории. Очевидно, что поштучное описание всех явлений крайне неэффективно. В этом смысле теоретическое знание является способом сжатия информации о множестве явлений реальности. Одни теории в этом плане более эффективны, а другие - менее.
И, возвращаясь к начальному вопросу темы, хочу сказать следующее. Не знаю, насколько нас ограничивает "объём внимания". По-моему, внимание имеет отношение только к краткосрочной памяти. Ничто не мешает нам переместить что-то, не поместившееся в "объём внимания", в долгосрочную память (например, в учебники) и всё-таки решить задачу. Но есть такие предметные области, которые просто не получится описать теорией, эффективной в смысле "коэффициента сжатия", и остаётся только способ "поштучного описания явлений". Если прибегнуть к аналогии с архиваторами, то речь идёт о "несжимаемых файлах данных".
