2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему На страницу 1, 2  След.
 
 Сколько информации несет тосованая колода карт?
Сообщение08.04.2008, 11:17 
Аватара пользователя


19/08/07
113
Краснодар
Сколько информации несет тосованая колода из 52 различных карт?
По-моему, $[log_2 52!]$ бит; где $[]$-целая часть
Но я что-то сомневаюсь в правильности рассуждения :?

 Профиль  
                  
 
 
Сообщение08.04.2008, 11:30 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Почему же, все верно. Только целую часть не нужно брать.

 Профиль  
                  
 
 
Сообщение08.04.2008, 11:37 
Аватара пользователя


19/08/07
113
Краснодар
PAV писал(а):
Почему же, все верно. Только целую часть не нужно брать.
Так а если получится не целое число? Или допустимо измерять информацию не только в целых числах?

 Профиль  
                  
 
 
Сообщение08.04.2008, 11:41 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
enko писал(а):
Или допустимо измерять информацию не только в целых числах?

Допустимо.

 Профиль  
                  
 
 Re: Сколько информации несет тосованая колода карт?
Сообщение08.04.2008, 12:56 
Заслуженный участник
Аватара пользователя


23/08/07
5494
Нов-ск
enko писал(а):
Сколько информации несет тосованая колода из 52 различных карт?

У меня тоже вопрос: нетасованная колода несет другое к-во информации?

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:18 
Заслуженный участник
Аватара пользователя


01/08/06
3131
Уфа
Ну, смотря что считать нетасованной колодой. Если если это означает, что карты идут в строго определённом порядке, то 0 бит. Если мы знаем, что карты сгруппированы по масти, а внутри масти идут строго по возрастанию, но не имеем никакой информации о том, в каком порядке идут масти, то будет $\log_2 4!$ бит. В любом случае число бит информации считается по простой формуле (изменила мне моя память, исправил, дополнительная информация здесь): $-\sum\limits_{\omega\in\Omega}p(\omega)\log_2 p(\omega)$, где $\Omega$ --- множество всевозможных состояний, а $p(\omega)$ --- априорная вероятность состояния $\omega$.

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:26 
Заслуженный участник
Аватара пользователя


01/08/06
3131
Уфа
Удалено.

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:26 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
worm2 писал(а):
В любом случае число бит информации считается по простой формуле (возможны ошибки, пишу по памяти): $-\frac{1}{|\Omega|}\sum\limits_{\omega\in\Omega}\log_2 p(\omega)$, где $\Omega$ --- множество всевозможных состояний, а $p(\omega)$ --- априорная вероятность состояния $\omega$.


Это неверно. Нужно усреднять с весами, равными вероятностям. И это не совсем относится к данной задаче.

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:31 
Заслуженный участник


22/01/07
605
Для начала, надо уточнить постановку задачи. Что значит, "несет"? Можно много интерпретаций придумать. Некоторые уже приведены. Вот еще: если подразумевается минимальное количество бит, достаточное, чтобы закодировать все варианты, то $[\log_2 52!]+1=226$. Так что поменьше 312 :)

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:33 
Заслуженный участник
Аватара пользователя


01/08/06
3131
Уфа
Исправился.

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:36 
Заслуженный участник
Аватара пользователя


23/08/07
5494
Нов-ск
worm2 писал(а):
Ну, смотря что считать нетасованной колодой. Если если это означает, что карты идут в строго определённом порядке, то 0 бит.

Как карты ни располагай, они всегда идут в строго определенном порядке.
Так что непонятно, чем отличается информация тасованной и нетасованной колоды.

 Профиль  
                  
 
 
Сообщение08.04.2008, 16:49 
Заслуженный участник
Аватара пользователя


01/08/06
3131
Уфа
Это вероятностная модель.
Строго говоря, должно быть задано вероятностное пространство, иначе задача теряет (по крайней мере, стандартный) смысл.

Подразумевается, что ДО ОПЫТА мы имеем какую-то информацию о распределении вероятностей состояний. Например, завтра в российской хоккейной суперлиге уфимский "Салават Юлаев" будет играть против ярославского "Локомотива". Мы МОЖЕМ считать, что вероятность победы уфимской команды равна 0.4, вероятность победы ярославской --- 0.6. Какой бы результат ни был, какая-то команда победит, ничья исключена.

Так же и здесь: мы ПРЕДПОЛАГАЕМ, что в тасованной колоде карт ЛЮБАЯ из 52! комбинаций равновероятна (вероятность каждой равна 1/52!). Если колода плохо перетасована, то это будет неверное предположение. Но коль скоро мы принимаем это предположение, то подставляем в формулу и считаем, и всё у нас получится. В рамках традиционной теории информации, конечно.

 Профиль  
                  
 
 
Сообщение08.04.2008, 17:39 
Супермодератор
Аватара пользователя


29/07/05
8248
Москва
Вероятностная модель здесь все-таки не совсем к месту. Она дает правильный ответ, но это все равно немного не то.

Правильное понимание задачи таково: А передает В колоду карт. Сколько информации он может "закодировать", имея возможность произвольным образом переставлять карты колоды (но не меняя их ориентацию).

Вероятностная же модель возникает тогда, когда имеется вероятностный источник, генерирующий случайные исходы с известными вероятностями. Теория информации изучает вопрос, сколько в среднем информации необходимо передать, чтобы описать этот выход. Вот тут естественным образом возникают указанные вероятности.

 Профиль  
                  
 
 
Сообщение09.04.2008, 18:11 
Экс-модератор
Аватара пользователя


30/11/06
1265
 !  Архипов
Строгое замечание за оффтоп и многократное игнорирование требований модератора


Обсуждение корректности задачи перенесено в соответствующую тему.

 Профиль  
                  
 
 
Сообщение12.04.2009, 13:07 


06/04/09
399
Кол-во инфы рассчитывается исходя из ожидаемой вероятности появления знаков в тексте (или определенных карт в колоде). Если Некто заранее знает текст или знает расположение карт в колоде (неважно как упорядоченных), то для него ни текст, ни колода не содержат инфы.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 16 ]  На страницу 1, 2  След.

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group