Евгений Машеров писал(а):
Если информация зависит от количества данных, то она неаддитивна. Рассматривая количество информации в последовательности, мы вынуждены будем узнавать, сколько символов, которые мы не видели и которые нас не интересуют, она ещё содержит.
Информация о распределении вероятности - интегральная характеристика о некотором замкнутом массиве символов, она не может быть аддитивной, можно, например, по отдельности сообщать о частоте отдельных символов. Каждый новый символ изменяет распределение вероятности, это должно учитываться.
То, что нужно узнавать число
, это просто неприятность. Но это не значит, что нужно игнорировать такую меру.
Евгений Машеров писал(а):
А задача - ну, давайте посерьёзнее.
Спасибо за задачку. Что изменит решение задачки? Ведь мера Хартли включает в себя меру Шеннона при
.
