Порядок и энтропия. Фейнман, Больцман, Шеннон

[Лукомор]

Munin в сообщении #1191046 писал(а):

Лукомор
Вы в чём-то хотите разобраться сами, или хотите помочь? В первом случае, откройте новую тему. Во втором, у вас это неудачно получается.

Хотел помочь, теперь замолкаю, раз неудачно получается...
Просто мне было любопытно, почему на ровном месте, где всё просто и ясно, возникли трудности у ТС...
А, кстати, что именно у меня неудачно? Может и не исчерпывающе, но доходчиво...

[realeugene]

warlock66613 в сообщении #1190999 писал(а):

Кроме того, вы одно и то же микросостояние зачислили сразу в два макросостояния — так не делается.

Разве? Мне вот казалось, что исходное микросостояние при подсчёте изменения энтропии системы всё равно нужно учитывать, только с учётом того, что вероятность обнаружить систему в этом микросостоянии уменьшилась, а в других микросостояниях - увеличилась.

[druggist]

realeugene в сообщении #1190905 писал(а):

druggist в сообщении #1190877

писал(а):
Значит, черные и белые молекулы -- это на самом деле молекулы одного вещества, только с двумя разными энергиями. Я прав?

Нет. То, что по разные стороны перегородки находились разные газы, и при смешивании возрастает их энтропия - это принципиально в этом примере. Если исходно по разные стороны перегородки находится один и тот же газ, то после выдёргивания перегородки и перемешивания газа в сосуде энтропия не изменится.

Совершенно справедливо, в этом, если не ошибаюсь, суть парадокса Гиббса. Только я этого не писал

[realeugene]

(Оффтоп)

druggist в сообщении #1191084 писал(а):

Только я этого не писал

Извините. Опять глюки движка форума. И я уже не могу поправить ссылку.

[warlock66613]

realeugene в сообщении #1191063 писал(а):

вероятность обнаружить систему в этом микросостоянии уменьшилась, а в других микросостояниях - увеличилась

А что вы подразумеваете под "вероятностью обнаружить систему в некотором состоянии"? Если мы говорим о замкнутой системе, то вероятность часто определяется как отношение времени, проводимого системой в этом состоянии, к общему времени наблюдения за системой при стремлении этого последнего времени к бесконечности. То есть по определению не зависящая от времени величина, неважно микросостояние это или макро.

[realeugene]

warlock66613 в сообщении #1191142 писал(а):

Если мы говорим о замкнутой системе, то вероятность часто определяется как отношение времени, проводимого системой в этом состоянии, к общему времени наблюдения за системой при стремлении этого последнего времени к бесконечности. То есть по определению не зависящая от времени величина, неважно микросостояние это или макро.

Но вы же, как наблюдатель, не живёте вечно. Так что, уже этого достаточно для того, чтобы для вас вероятность обнаружить замкнутую систему в различных микросостояниях не была равной. Если же вы живёте вечно, то вы обязательно когда-нибудь увидите и как разбитая чашка сама собой взлетает с пола и склеивается в целую.

Рассмотрите, для примера, следующую задачу. Пусть у нас только две разделённых перегородкой ячейки. И в них есть два шарика, чёрный и белый. В одной ячейке может находиться только один шарик, и первоначально в левой ячейке находится белый. Энергия системы не зависит от того, в какой ячейке находится какой шарик. Предоставленнные сами себе шарики могут иногда скачком меняться местами, время между перескоками распределено экспоненциально. Но перегородка между ячейками препятствует их перескокам. Перегородку открывают на некоторое время, потом закрывают обратно. Внимание, вопрос: что у этой системы макросостояния, и как изменяется энтропия системы в процессе эксперимента?

[Лукомор]

Uchitel'_istorii в сообщении #1190570 писал(а):

Если отказаться от того, что каждая молекула занимает некую ячейку объема $V/N$, если молекулы точечные , не могут попасть друг в друга, никак не взаимодейтсвуют, то возможных положений каждой молекулы $\infty$ до снятия перегородки, $2\infty$ после.

До снятия перегородки возможно всего $(V_1)^{n_1}$ состояний в каждом из двух замкнутых объёмов, после снятия перегородки $(V_2)^N$ во всем объёме цилиндра...

[warlock66613]

realeugene в сообщении #1191152 писал(а):

Внимание, вопрос: что у этой системы макросостояния

Вопрос некорректный. У системы макросостояний вообще нет, макросостояния выбираются физиком произвольно по своему усмотрению.

-- 10.02.2017, 12:44 --

realeugene в сообщении #1191152 писал(а):

Так что, уже этого достаточно для того, чтобы для вас вероятность обнаружить замкнутую систему в различных микросостояниях не была равной.

Давайте вернёмся к началу:

realeugene в сообщении #1191063 писал(а):

Разве? Мне вот казалось, что исходное микросостояние при подсчёте изменения энтропии системы всё равно нужно учитывать, только с учётом того, что вероятность обнаружить систему в этом микросостоянии уменьшилась, а в других микросостояниях - увеличилась.

Тут есть две альтернитивы.
Во-первых, мы можем считать, что мы точно знаем макросостояние системы в любой момент после выдёргивания перегородки — и в таком случае в каждый момент времени вероятность обнаружить систему в исходном микросостоянии равна нулю, и значит его вклад в энтропию равен нулю, и никак его учитывать при подсчёте энтропии не нужно.
Во-вторых, мы можем считать, что всё что нам известно — это исходное макросостояние системы и (условно) уравнение Больцмана. В таком случае мы не сможем для каждого момента времени указать точчное макросостояние, но лишь некоторое распределение, потому что уравнение, которым мы пользуемся, — вероятностное. И в таком случае будет очень маленькая, но отличная от нуля вероятность для системы вернуться в исходное макросостояние, а значит мы должны его учитывать при вычислении энтропии (её расределения, поскольку это в данном случае случайная величина), и поэтому должны учитывать и вклад исходного микросостояния. То есть вовсе не потому, что исходное микросостояние находится в нескольких макросостояниях, а просто потому, что есть вероятность, что система вернётся в исходное макросостояние.

[druggist]

realeugene в сообщении #1191152 писал(а):

Внимание, вопрос: что у этой системы макросостояния,

Предположу, что это цвет шара в ячейке, +1 - значение параметра для белого, -1 - для черного. При открытой перегородке 0. (Можно еще представить как один спин торчащий горизонтально)

(Оффтоп)

Лукомор в сообщении #1191365 писал(а):

До снятия перегородки возможно всего $(V_1)^{n_1}$ состояний в каждом из двух замкнутых объёмов, после снятия перегородки $(V_2)^N$ во всем объёме цилиндра...

Такое ощущение, что Вы хотите ТС окончательно ввести в ступор :)

[Лукомор]

(Оффтоп)

druggist в сообщении #1191427 писал(а):

Такое ощущение, что Вы хотите ТС окончательно ввести в ступор :)

Шоковая терапия!

[realeugene]

warlock66613 в сообщении #1191411 писал(а):

У системы макросостояний вообще нет, макросостояния выбираются физиком произвольно по своему усмотрению.

(Оффтоп)

Сделав произвольные предположения получили произвольный результат

Зато для такой простой системы с парой шариков легко считается Шенноновская энтропия. Напомню, что она равна, в битах $\sum_i -p_i \log_2 p_i$. При этом сумма берётся по всем состояниям системы. Так что, у рассматриваемой системы изначально, когда мы знаем исходное расположение шариков точно, энтропия равна нулю. По мере её релаксации, когда наше знание состояние системы устаревает, энтропия этой системы возврастает вплоть до одного бита. Посмотрев опять на шарики мы можем извлечь этот бит энтропии. После измерения энтропия этой системы станет равной опять нулю, но чтобы сохранить результаты измерения, нам потребуется один бит на флешке. Если же мы будем смотреть на систему слишком часто, когда она ещё не будет успевать накопить этот один бит энтропии, то для хранения результата этих измерений нам потребуется на флешке меньше одного бита, так как мы не дураки и умеем пользоваться архиваторами.

Так вот, когда микросостояний много, при подсчёте энтропии можно, действительно, часто игнорировать микросостояния, в которых вероятность обнаружить систему слишком мала. Эти микросостояния всё равно вносят несущественный вклад в (шенноновскую) энтропию. Но, очевидно, так поступать нельзя, если у нас всего два микросостояния. Или когда их даже 20, как в исходном примере ТС.

Энтропия (любая) характеризует наше незнание состояния системы. Из-за чего возникает это незнание, это вопрос второй.

[warlock66613]

realeugene в сообщении #1191458 писал(а):

Шенноновская энтропия

Шенноновская энтропия имеет весьма косвенное отношение к термодинамической энтропии.

-- 10.02.2017, 16:22 --

realeugene в сообщении #1191458 писал(а):

Энтропия (любая) характеризует наше незнание состояния системы

Чушь. Земля поглощает низкоэнтропийную энергию от солнца и переизлучает её в более высокоэнтропийном виде. Это объективный процесс, происходящий в природе независимо от нашего (или чьего-либо ещё) знания или незнания.

[realeugene]

warlock66613 в сообщении #1191462 писал(а):

Шенноновская энтропия имеет весьма косвенное отношение к термодинамической энтропии.

Только не в задачах на расположение шариков.

warlock66613 в сообщении #1191462 писал(а):

Это объективный процесс, происходящий в природе независимо от нашего (или чьего-либо ещё) знания или незнания.

Так и несколько субъективных бит энтропии, на которые вы в принципе можете уменьшить энтропию окружающего мира, посмотрев на уличный термометр и изменив своё знание об окружающем мире, это величина порядка постоянной Больцмана, то есть, по сравнению с рассматриваемыми вами в этом случае потоками энтропии исчезающе мало.

[warlock66613]

realeugene в сообщении #1191471 писал(а):

Только не в задачах на расположение шариков.

Если вы рассматриваете задачи о шариках сами по себе (а не с целью дальнейшего перехода к молекулам и всему такому), то это уже само по себе не имеет прямого отношения к физике.

realeugene в сообщении #1191471 писал(а):

исчезающе мало

Дело не в том мало оно или нет. Дело в том, что энтропия - та, которая в термодинамике и статистической физике, - ни с чьим знанием или незнанием не связана. Когда считается энтропия некоторого идеального газа в объёме, нам совершенно неважно, есть ли во вселенной хоть что-то кроме этого объёма газа, и что это "что-то" про этот газ знает или не знает.
Другое дело, что в некоторых случаях энтропия действительно может служить количественной характеристикой незнания, но для этого как минимум нужен кто-то, чьё незнание мы будем характеризовать, а для самой энтропии этого не требуется.

[druggist]

(Оффтоп)

realeugene в сообщении #1191458 писал(а):

можно, действительно, часто игнорировать микросостояния, в которых вероятность обнаружить систему слишком мала

Это, мне кажется, не полностью справедливое утверждение, верное для канонического ансамбля (малая подсистема замкнутой системы в тепловом равновесии с окружением), там вероятность микросостояния экспоненциально падает с энергией системы (распределение Гиббса). Но для замкнутой системы (микроканонический ансамбль) вероятности нахождения системы в каждом из микросостояний равны (это основной постулат статфизики) Игнорируется макросостояние с параметром, сильно отличающимся от среднего - наиболее вероятного, поскольку ему соответствует ничтожное количество микросостояний с равной вероятностью. Хотя, возможно, я просто не так понял Вашу фразу.