Проще всего трактовать информацию как снятою неопределенность при известном n-значном выборе- тогда все легко считается. Но n-значный выбор - это выбор случайно появившейся буквы алфавита - остались на традиционном алфавитном подходе к измерению информации
Как-то сразу слишком много задач поставлено. Особенно, если отталкиваться от того, что само понятие "информация" в наиболее общем случае не определяется. Ну информация и информация. У сисадмина свое понятие, он его легко приводит к мере, и Шеннон его вполне устроит. Да и без Шеннона, посчитать трафик, объем физического носителя информации, делов-то. У оперуполномоченного - свое. Он какую-нить свою меру присобачит, если понадобится, например, условный процент восстановленности картины преступления
Тема "Информация и ее измерение" получается какая-то расплывчатая. Такая же расплывчатая как "Материя и ее измерение". Или "Что же случилось после 1247-го года?".