Но ваше определение энтропии осмысленно только для вероятностей?
Ну, если не вкладывать в термин "вероятность" какой-то дополнительный смысл, кроме диапазона
, то можно так сказать.
Какой смысл у числа заполнения, равного 10?
Никакого. Но и у числа заполнения
тоже никакого смысла нет. Смысл имеется у конкретных распределений и зависит от того, откуда взялось это распределение. Я явным образом вводил только один осмысленный источник распределений - макросостояния. И в этом случае числа заполнения - это не вероятности, хотя их значения находятся в диапазоне
, а сумма равна единице. Но вообще эти распределения могут возникать и в других контекстах. И смысл энтропии может быть поэтому существенно разным в зависимости от контекста, хотя формула - общая, и многие свойства, соответственно, тоже.