Но ваше определение энтропии осмысленно только для вероятностей?
Ну, если не вкладывать в термин "вероятность" какой-то дополнительный смысл, кроме диапазона
![$[0,1]$ $[0,1]$](https://dxdy-03.korotkov.co.uk/f/a/c/f/acf5ce819219b95070be2dbeb8a671e982.png)
, то можно так сказать.
Какой смысл у числа заполнения, равного 10?
Никакого. Но и у числа заполнения
![$1/4$ $1/4$](https://dxdy-02.korotkov.co.uk/f/9/d/d/9dd576353f1bb7d59dbbcbd8442f856182.png)
тоже никакого смысла нет. Смысл имеется у конкретных распределений и зависит от того, откуда взялось это распределение. Я явным образом вводил только один осмысленный источник распределений - макросостояния. И в этом случае числа заполнения - это не вероятности, хотя их значения находятся в диапазоне
![$[0,1]$ $[0,1]$](https://dxdy-03.korotkov.co.uk/f/a/c/f/acf5ce819219b95070be2dbeb8a671e982.png)
, а сумма равна единице. Но вообще эти распределения могут возникать и в других контекстах. И смысл энтропии может быть поэтому существенно разным в зависимости от контекста, хотя формула - общая, и многие свойства, соответственно, тоже.