Почему работают законы физики?

[EUgeneUS]

Geen в сообщении #1644008 писал(а):

Конечно - информация вообще (а тем более её количество) определяется не носителем (каналом), а приёмником.

Да, ладно. Информация определяется источником. Без источника канал ничего не передаст, а приемник ничего не примет.
Под носителем понимается не канал, а средство хранения информации.
Хотя можно придумать пример, когда информация существует некоторое время только в канале.

Ну и предел Ландауэра требует выделения тепла при потере бита информации. А бит можно потерять при хранении, обработке или передаче. То есть в месте хранения, в месте вычисления или в канале. А приемник бит либо получил, тогда он не потерян, либо не получил, тогда бит потерян где-то до приемника.

-- 25.06.2024, 13:58 --

А вот еще пример.
Мы можем посчитать точно, сколько содержится информации в тексте манускрипта Вайнича в грамма в джоулях в битах.
Но у нас отсутствует достоверное знание о том, содержится ли в этом тексте хоть какое-то знание, или это преднамеренно сгененированный шум.

[b4b5]

EUgeneUS в сообщении #1644032 писал(а):

Мы можем посчитать точно, сколько содержится информации в тексте манускрипта Вайнича в грамма в джоулях в битах.

Тут посчитайте в двух примерах.

Я написал символ "A" тут. Сколько информации тут присутствует?
А если написал символ "."?

[Ghost_of_past]

realeugene в сообщении #1644024 писал(а):

Избыточные сущности не влияют на предсказания

На предсказательную силу теорий - более чем влияют.

realeugene в сообщении #1644026 писал(а):

и вы не можете логически опровергнуть

Давайте повторю в очередной раз: здесь нечего опровергать. Нет оснований, чтобы в принципе делать подобное допущение.

realeugene в сообщении #1644026 писал(а):

С точки зрения научного мировоззрения - безусловно

Нет, с точки зрения языка: "познание" и "вера" - совершенно разные категории эпистемологии.

[Geen]

EUgeneUS в сообщении #1644032 писал(а):

Мы можем посчитать точно, сколько содержится информации в тексте манускрипта Вайнича в грамма в джоулях в битах.

Не можем.
Совсем простой пример. Сколько информации содержится вот в этом сообщении?
Хинты: кодировки, архиваторы. Особенно вот в этих хинтах...

А если, к примеру, Вы ответ напишите иероглифами, то для меня этот ответ будет содержать околонулевое количество информации...

[EUgeneUS]

b4b5 в сообщении #1644036 писал(а):

Тут посчитайте в двух примерах.

Вам формулу привести для подсчета информации? Так приложите хотя бы видимость усилий для её самостоятельного поиска. Например, погуглите по ключевым словам "формула Шеннона".

-- 25.06.2024, 14:53 --

Geen в сообщении #1644042 писал(а):

Не можем

Формулу Шеннона, Вы видимо на помойку выкинули? А на каком основании?

[epros]

EUgeneUS в сообщении #1644032 писал(а):

А вот еще пример.
Мы можем посчитать точно, сколько содержится информации в тексте манускрипта Вайнича в грамма в джоулях в битах.

Ничего подобного. Количество информации можно посчитать, только имея распределения вероятностей. Например, если предположить, что текст набран в алфавите из $n$ равновероятных символов, то посчитав количество символов, можно посчитать количество информации в тексте. Но если определить вероятности иначе, получится другое количество информации.

EUgeneUS в сообщении #1644032 писал(а):

Но у нас отсутствует достоверное знание о том, содержится ли в этом тексте хоть какое-то знание, или это преднамеренно сгененированный шум.

Допустим, некто регулярно публикует некие статьи в газете. На самом деле этот некто - шпион, задачей которого является передать в "центр" бинарное сообщение, например, о том, планирует ли противник в этом году нападение. Если он публикует в тексте слово "побелка", то это значит, что нападение планируется, а если он вместо этого публикует слово "покраска", то это значит, что нападение не планируется.

И вот, в следующий раз он публикует короткую статью из 1000 символов, в которой нет ни слова "побелка", ни слова "покраска". Какое количество информации получил "центр", читая эту газету? Если Вы начнёте считать количество символов в статье и сколько букв в алфавите, то значит Вы занимаетесь ерундой. А вот если Вы правильно определите вероятности, то поймёте, что центр получил нуль информации.

Так что дело вовсе не в тонких философских отличиях между "знанием" и "информацией", и даже не в отличиях между "полезной" и "полной" информацией, а дело в том, как определены вероятности.

[EUgeneUS]

Geen в сообщении #1644042 писал(а):

Хинты: кодировки, архиваторы. Особенно вот в этих хинтах...

... и животноводство.

-- 25.06.2024, 14:59 --

epros в сообщении #1644044 писал(а):

Ничего подобного. Количество информации можно посчитать, только имея распределения вероятностей. Например, если предположить, что текст набран в алфавите из $n$ равновероятных символов, то посчитав количество символов, можно посчитать количество информации в тексте. Но если определить вероятности иначе, получится другое количество информации.

Это верно. Но текст манускрипта Войнича достаточно большая выборка, чтобы считать оценки вероятностей достаточно точными.

[Geen]

EUgeneUS в сообщении #1644046 писал(а):

... и животноводство.

Вам, сообщением выше передали информацию... Причём, и это вовсе не в укор epros, примерно столько же, сколько было в моём втором хинте (а жаль, если я ошибся).

-- 25.06.2024, 15:06 --

EUgeneUS в сообщении #1644046 писал(а):

текст манускрипта Войнича достаточно большая выборка

Выборка чего?

[EUgeneUS]

Geen в сообщении #1644048 писал(а):

Выборка чего?

Символов из потока. Достаточно большая, чтобы частоты символов считать релевантной оценкой вероятности их появления.

-- 25.06.2024, 15:20 --

epros в сообщении #1644044 писал(а):

Допустим, некто регулярно публикует некие статьи в газете. На самом деле этот некто - шпион, задачей которого является передать в "центр" бинарное сообщение, например, о том, планирует ли противник в этом году нападение. Если он публикует в тексте слово "побелка", то это значит, что нападение планируется, а если он вместо этого публикует слово "покраска", то это значит, что нападение не планируется.

И вот, в следующий раз он публикует короткую статью из 1000 символов, в которой нет ни слова "побелка", ни слова "покраска". Какое количество информации получил "центр", читая эту газету? Если Вы начнёте считать количество символов в статье и сколько букв в алфавите, то значит Вы занимаетесь ерундой. А вот если Вы правильно определите вероятности, то поймёте, что центр получил нуль информации.

Это именно пример на различие информации и знания.
Ваш шпион в центр передает именно знания, хотя в шпионских романах это принято называть информацией.
Что делает шпион? Он выбирает канал передачи гораздо более широкий, чем требуется для передачи осмысленной информации, ака знаний. А оставшуюся полосу заполняет шумом с целью стеганографии.
И что?
Неосмысленная информация - тоже информация. Источник информации с максимальной удельной информацией на один символ - это белый шум. Из той же формулы Шеннона следует.


-- 25.06.2024, 15:22 --

epros в сообщении #1644044 писал(а):

А вот если Вы правильно определите вероятности, то поймёте, что центр получил нуль информации.

Если шпион передал сообщение, в котором нет знаний о начале военных действий, это совсем не означает, что центр не получил никаких знаний, а получил ноль бит информации.
Такое сообщение, может трактоваться, как сигнал "Alive", то же не пустой, кстати.

[b4b5]

EUgeneUS в сообщении #1644043 писал(а):

Вам формулу привести для подсчета информации? Так приложите хотя бы видимость усилий для её самостоятельного поиска. Например, погуглите по ключевым словам "формула Шеннона".

Вы не сможете посчитать. Вы не понимаете, хотя гуглить умеете. )

[EUgeneUS]

b4b5 в сообщении #1644052 писал(а):

Вы не сможете посчитать.

Вы уже ознакомились с понятием информационной энтропии и формулой Шеннона?

[b4b5]

EUgeneUS в сообщении #1644053 писал(а):

Вы уже ознакомились с понятием информационной энтропии и формулой Шеннона?

Вы не ознакомились, не можете конкретный случай посчитать. )

[EUgeneUS]

b4b5

[b4b5]

EUgeneUS Цифр я не увидел от вас. Спросите хотя бы жпт, он подскажет вам, коль скоро сами не смогли.

[EUgeneUS]

epros
На современном уровне Ваша история со шпионом будет выглядеть так
1. Шпион раз в неделю в публичное место с открытым доступом выкладывает картинку с мимимишным котиком, каждый раз разную.
Сколько информации содержится в картинке? Если используется кодировка с эффективной упаковкой, то примерно столько, сколько картинка "весит" в битах, нескоколько меньше.

Сколько знания для Центра содержится в картинке? Я не знаю, в каких попугаях измеряется знание. Но оно не ноль, Центр знает, что шпион живой.

2. В какой-то раз шпион подмешивает в картинку сообщение "Алекс Юстасу, бабушка приехала".
Сколько информации получит Центр? Ровно столько же - сколько весит картинка, в битах, чуть меньше.
Сколько знаний получит Центр. Уже больше. Кроме того, что шпон живой, Центр получает знания о событии, обозначенном кодовой фразой "бабушка приехала".