Простите, а как понять - "полбита информации"?
В смысле определения количества информации по Шеннону. Простейший случай - взаимная информация в собщении
относительно события
полбита означает, что
(логарифм двоичный), откуда
. Т. е. если вы получили некоторое сообщение
, коррелирующее с событием
, вероятность события
для вас возрастает в пропорциональное число раз. При этом одна двоичная цифра (один бит) может
в среднем передавать не более одного бита информации (взаимной информации можно получить сколько угодно при получении одного бита).
Например, космический пират может с некоторой вероятностью перехватить Васин носок возле Марса. Тогда Петя, получив свой носок, получает с ним, в среднем, меньше одного бита информаци о судьбе Васи.
-- 31.10.2017, 14:58 --Отвечу за него, т.к. часто сталкивался: ну например при добавлении двух очередных символов к архиву его длина увеличилась на один бит. Тогда на каждый символ приходится (в среднем) полбита.
Архиваторы - да, пользуются тем, что в компьютерных файлах среднее количество информации (энтропия) на один бит их длины меньше одного бита.