В формуле Шеннона.
Там упоминается некое распределение вероятностей, которое нужно взять из вероятностной модели этого самого "смысла".
(это же будет ответом и на все Ваши аргументы в посте, откуда взята цитата).
В формуле Шеннона информация подсчитывается для некого стохастического, вероятностного потока. Последовательных измерений некой случайной величины, или последовательности случайных событий.
Никакого смысла в информации в формуле Шеннона не предполагается.
Критикуя, мою позицию, Вы игнорируете (скорее всего сознательно, ибо не могу представить, что Вы не знаете) огромный кусок современной математики - математическую статистику.
Собственного говоря, именно матстатистика дает методы для оценок, как точечных, так и интервальных, параметров распределений случайных величин, в том числе и для случаев, когда значение случайной величины не является не зависимым от предыдущих значений (цепи Маркова и анализ временных рядов, например).
Поэтому Ваши аргументы, что мы чего-то там посчитать не можем (точно) на основе наблюдаемой выборки - не имеют смысла. Ибо мы можем сделать точечные оценки и оценить доверительные интервал.
Ещё раз подчеркну.
Согласно формуле Шеннона наибольшую "плотность информации" (среднее количество информации на один символ) имеет белый шум. Белый шум можно получить, например, с АГСЧ, тогда он не будет содержать никакого смысла, а информации в нем будет максимальное количество.
-- 29.06.2024, 18:56 --Для одного и того же набора экспериментов можно придумать различные математические модели, различимые или даже не различимые математически, но заведомо неразличимые экспериментально. Какая из этих моделей более "истинная", пока их нельзя различить - это вообще ни разу не вопрос науки. Какая удобнее - той и пользуйтесь.
Именно такая ситуация наблюдается в механики в Ньютоновском пределе.
Имеется релятивистская механика и Нютоновская\классическая. При низких скоростях экспериментально не различаются.
В этом пределе используют Ньютоновскую механику, потому что она проще. (В чистом виде - "какая удобнее - той и пользуйтесь").
И всё таки это -
вопрос науки.
Единственная цель науки - это предсказывать будущее для человека.
Повторение возражения на повторение тезиса.
Имеется большой корпус наук (история. археология, палеонтология и т.д.), предмет изучения которых находится в прошлом. Они не могут предсказывать
будущее (для человека), они изучают
прошлое.
Но, тем не менее, они являются науками.