Порядок и энтропия. Фейнман, Больцман, Шеннон

[Uchitel'_istorii]

Вопрос по Фейнмановским лекциям по физике, лекция 46, § 5. Порядок и энтропия
http://www.politazbuka.info/biblioteka/ ... iyami.html , стр.144-145

(Оффтоп)

http://foto.meta.ua/allsize/8866168/orig/

В §4 Фейнман описывает задачу, где молекулы разных типов разделены перегородкой в цилиндре. Перегородку убирают, и молекулы перемешиваются изотермически. В этом случае изменение энтропии будет \Delta S = \text{const}\cdot \ln{(2)}.
В §5 Фейнман говорит, что энтропия это const\cdot \ln{(\text{no. of ways})}.

Не могу понять, как считать количество способов: с учетом порядка или без учета? Напр. имеем 6 молекул, 3 белых, 3 черных:
|\circ\circ\circ|\bullet\bullet\bullet|
Сколько способов получить такое расположение? 3!\cdot 3!=36 или это расположение считается за 1 способ? Или нужно учесть еще и такое расположение:
|\bullet\bullet\bullet|\circ\circ\circ|, тогда 2\cdot 3!\cdot 3!=72?

Что понимается под смешанным состоянием? Только эти 2 расположения :
|\circ\bullet\circ\bullet\circ\bullet|
|\bullet\circ\bullet\circ\bullet\circ|?

Фейнман к сожалению не объясняет теорию информации (только на стр.102 упоминает), а в википедии очень непонятно.

[warlock66613]

Uchitel'_istorii в сообщении #1189915 писал(а):

как считать количество способов: с учетом порядка или без учета?

Эксперимент показывает, что считать нужно без учёта порядка идентичных молекул. Чисто теоретически это не очевидно.

-- 05.02.2017, 15:40 --

Uchitel'_istorii в сообщении #1189915 писал(а):

Или нужно учесть еще и такое расположение

Нет, это ведь макроскопически другое расположение молекул: ситуция, когда в левом сосуде у вас азот, а в правом - кислород вполне отлична от ситуации, когда слева кислород, а справа - азот.

-- 05.02.2017, 15:43 --

Uchitel'_istorii в сообщении #1189915 писал(а):

Что понимается под смешанным состоянием?

Все варианты. кроме двух несмешанных. И таких вариантов больше двух.

[Munin]

В физике рассматриваются три варианта:
- как будто у каждой молекулы есть какой-то внутренний "уникальный номерок", который отличает её от всех других молекул. Это статистика Максвелла-Больцмана.
- как будто у молекул таких номерков нет - это статистика Бозе-Эйнштейна.
- как будто у молекул номерков нет, но ни в каком состоянии (например, по одну сторону перегородки) не может находиться больше одной (двух) молекул. Это статистика Ферми-Дирака.

Отличия между ними сказываются в ситуации вырожденного газа, которая наступает при очень низкой температуре (по сравнению с чем? другой вопрос...). Пока вам рассказывают про идеальный газ, можете считать, что он невырожденный, и в этой ситуации все три модели дают (примерно) одинаковый ответ.

[Uchitel'_istorii]

warlock66613 в сообщении #1189928 писал(а):

Uchitel'_istorii в сообщении #1189915 писал(а):

Что понимается под смешанным состоянием?

Все варианты. кроме двух несмешанных. И таких вариантов больше двух.

Тогда в соответствии с формулой W=N!\;/\;\prod _{i}N_{i}! отсюда https://en.wikipedia.org/wiki/Boltzmann ... py_formula , получаем W = \tfrac{6!}{3!\cdot 3!} = 20. При этом положение не учитывается, т.е. расположения
|\circ_1\bullet_2\circ_3\bullet_4\circ_5\bullet_6|
|\circ_3\bullet_2\circ_1\bullet_4\circ_5\bullet_6|
считаются за одно расположение.
Способов получить смешанное состояние : $20 - 2 = 18. Значит, изменение энтропии при переходе из несмешанного состояния в смешанное следующее \Delta S = \text{const}\cdot\ln{(\tfrac{18}{1})} =\text{const}\cdot\ln{(18)}}. Но у Фейнмана \ln2.

[Лукомор]

Uchitel'_istorii в сообщении #1189915 писал(а):

В §5 Фейнман говорит, что энтропия это const\cdot \ln{(\text{no. of ways})}.
Не могу понять, как считать количество способов: с учетом порядка или без учета?

Там "no. of ways", это не количество перестановок местами молекул.
Это "числом возможных микросостояний (способов), с помощью которых можно составить данное макроскопическое состояние".

[druggist]

Uchitel'_istorii в сообщении #1189943 писал(а):

Но у Фейнмана \ln2.

Здесь число допустимых состояний одной молекулы $G$ при исчезновении перегородки и удвоении объема увеличивается в два раза и будет $2G$ (процесс изотермический, следовательно импульсная часть фазового объема не меняется). Можно для простоты взять больцмановское выражение для статвеса идеального газа $G^N/N!$, где $N$ число молекул за одной из перегородок. Как известно это выражение верно как здесь уже было сказано для невырожденного идеального газа. Записываем его для случая до и после снятия перегородки, логарифмируем чтобы получить энтропию и убеждаемся в правоте Фейнмана.

[Uchitel'_istorii]

druggist в сообщении #1190067 писал(а):

Здесь число допустимых состояний одной молекулы $G$ при исчезновении перегородки и удвоении объема увеличивается в два раза и будет $2G$ (процесс изотермический, следовательно импульсная часть фазового объема не меняется).

Термины новые, поэтому ничего не понятно. Цилиндр имеет объем V=v_1+$v_2,
v_1, $v_2 -- объемы разделенных частей цилиндра,
v_1= $v_2 = $v.
Всего в цилиндре N=n_1+$n_2 молекул ,
n_1=$n_2=$n.
Я предполагаю, что каждая молекула занимает объем V/N , и 2 молекулы в этом объеме оказаться не могут.

Лукомор в сообщении #1190042 писал(а):

Там "no. of ways", это не количество перестановок местами молекул.
Это "числом возможных микросостояний (способов), с помощью которых можно составить данное макроскопическое состояние".

Фейнман не объяснил, что такое микросостояние. Это позиция молекулы или состояние молекулы (белое, черное)?

[Munin]

Uchitel'_istorii в сообщении #1190138 писал(а):

Фейнман не объяснил, что такое микросостояние. Это позиция молекулы или состояние молекулы (белое, черное)?

Это позиция всех молекул одновременно вместе с учётом их номерков.

Рекомендую (хотя это посложней Фейнмана)
Киттель. Статистическая термодинамика.
Там базовые понятия растолкованы очень внятно.

[druggist]

Uchitel'_istorii в сообщении #1190138 писал(а):

Я предполагаю, что каждая молекула занимает объем V/N , и 2 молекулы в этом объеме оказаться не могут.

Это Вы у Фейнмана прочли?:)

[Лукомор]

Uchitel'_istorii в сообщении #1190138 писал(а):

Фейнман не объяснил, что такое микросостояние

Микросостояние определено как позиции и импульсы (моменты движения) каждого составляющего систему атома.

[Munin]

Подчеркну ещё раз: одно микросостояние - все молекулы (атомы).

[Лукомор]

Uchitel'_istorii в сообщении #1189915 писал(а):

В §5 Фейнман говорит, что энтропия это $\operatorname{const}\cdot \ln{(\text{no. of ways})}$.

Вы не совсем правильно поняли этот пассаж Фейнмана...
Вот смотрите: на стр.147 он рассматривает изменение энтропии при увеличении объма сосуда с газом в два раза.
Он, в итоге, приходит к формуле:
$\Delta S=...=Nk\ln\frac{V_2}{V_1}$.
И поясняет:"Например, при удвоении объёма энтропия меняется на $Nk\ln 2$.
Затем он рассматривает "другой интересный пример".
Тот самый, про два газа разделенных перегородкой.
И приходит к выводу:"...легко понять, что для каждого газа задача сводится к только что решенной".
Далее он продолжает:"Энтропия, таким образом, меняется на $Nk\ln 2$; это значит, что энтропия на одну молекулу возрастает на $k\ln 2$. Цифра $2$ появилась оттого, что вдвое увеличился объем, приходящийся на каждую молекулу."
То-есть, вот этот переход от $\Delta S$ к $\frac{\Delta S}{N}$ Вы упустили из виду...
Применительно к вашим шести молекулам, расположенным по шести ячейкам, можно очень вольно трактовать (рискуя схлопотать! ) так: допустим, до того как перегородку убрали, белая молекула могла занять одну из трех левых ячеек. Убрали перегородку, и эта молекула может находится в одной из шести ячеек. $\ln(\frac{6}{3})=\ln 2$.

[realeugene]

Uchitel'_istorii в сообщении #1189915 писал(а):

Напр. имеем 6 молекул, 3 белых, 3 черных

Тренируясь считать состояния на шести молекулах, не упустите один важный момент. Термодинамическая энтропия - это макроскопическая величина. Наряду с другими хорошо известными макроскопическими термодинамическими величинами, такими, как давление и температура, термодинамическая энтропия осмысленна только для систем с очень большим числом молекул (состояний). Информационная энтропия, с другой стороны - это математическая функция, строго определённая для любого распределения вероятности. Где-то в глубинах физики они связаны, но термодинамика работает только с теми свойствами энтропии, которые сохраняются у макроскопической системы, когда отдельные молекулы (состояния) перестают быть различимыми (не в смысле тождественности, а в смысле малости). Так что, рассмотрев пример с шестью молекулами, далее его следует обобщить на $N$ молекул и устремить $N$ к бесконечности.

PS С определимостью информационной энтропии для любого распределения вероятности тоже не всё просто, так как для непрерывных распределений вероятности определимо только изменение энтропии, но не сама энтропия. Но в эти дебри тут лучше не залазить.

[Uchitel'_istorii]

Лукомор в сообщении #1190196 писал(а):

Uchitel'_istorii в сообщении #1190138 писал(а):

Фейнман не объяснил, что такое микросостояние

Микросостояние определено как позиции и импульсы (моменты движения) каждого составляющего систему атома.

Фейнман все-таки упоминает на стр.147, просмотрел:

Цитата:

Так как речь зашла об энтропии, то нам придется найти ее микроскопическое описание. Когда мы говорим, что в чем-то (например, в газе) содержится определенное количество энер- гии, то мы можем обратиться к микроскопической картине этого явления и сказать, что каждый атом имеет определенную энергию. Полная энергия есть сумма энергий атомов. Равным образом, у каждого атома есть своя определенная энтропия. Суммируя, получим полную энтропию. На самом деле здесь все обстоит не так уж гладко, но все же давайте посмотрим, что получится.

Но применительно к цилиндру с молекулами не могу сообразить, как эту энергию задействовать. Т.е. напр. у частиц могут быть любые энергии, а в сумме они дают определенное значение, которое можно получить и при других энергиях частиц. Фейнман пишет, что энергии не меняются (стр.147): "Выходит, что энтропия увели- чивается, когда температура и энергия не меняются, а измени- лось только распределение молекул!" . Но если энергия одинакова с перегородкой и без, то и способы составить суммы энергии одинаковы.

Munin в сообщении #1190143 писал(а):

Рекомендую (хотя это посложней Фейнмана)
Киттель. Статистическая термодинамика.
Там базовые понятия растолкованы очень внятно.

Просмотрел до 28 стр., дальше не читал, т.к. идет про магнитные поля, которые Фейнман еще не давал. Тут Киттель рассматривает "модельную систему" из магнитов, в которой каждый из $N$ магнитов может быть в положении и "вверх", и "вниз". У меня же в цилиндре молекулы, которые не могут находиться в 2 состояниях (напр. возбужденном и невозбужденном). Т.е. у Киттеля система из 6 магнитов может выглядеть, как угодно, в том числе $\uparrow\uparrow\uparrow\uparrow\uparrow\uparrow$ и $\downarrow\downarrow\downarrow\downarrow\downarrow\downarrow$. А у меня может быть только $\uparrow\uparrow\uparrow\downarrow\downarrow\downarrow$.

Судя по всему, таких состояний ( $\uparrow\uparrow\uparrow\downarrow\downarrow\downarrow$) , где 3 стрелки вверх и 3 вниз, может быть 20. Так, как у меня и получилось post1189943.html#p1189943 через формулу перестановок без учета порядка.

Лукомор в сообщении #1190250 писал(а):

Uchitel'_istorii в сообщении #1189915 писал(а):

То-есть, вот этот переход от $\Delta S$ к $\frac{\Delta S}{N}$ Вы упустили из виду...

Не упустил, я и пишу const вместо $N$const.У Фейнмана, в месте, где он говорит "Рассмотрим теперь другой интересный пример.", получается что изменение энтропиии черного газа $\Delta S_{black}=0,5Nk\ln{(2)}$; но т.к. белых молекул тоже $0,5N$ штук, то в сумме получается $Nk\ln{(2)}$.
То, что объем на частицу увеличивается, -- непонятно, т.к. суммарный объем не изменился и суммарное количество частиц не изменилось; если справа в ячейках сидят черные молекулы, то белые туда не зайдут. Если отказаться от того, что каждая молекула занимает некую ячейку объема $V/N$, если молекулы точечные , не могут попасть друг в друга, никак не взаимодейтсвуют, то возможных положений каждой молекулы $\infty$ до снятия перегородки, $2\infty$ после.

[realeugene]

Uchitel'_istorii в сообщении #1190570 писал(а):

то возможных положений каждой молекулы $\infty$ до снятия перегородки, $2\infty$ после.

И увеличение энтропии на одну молекулу равно $\Delta S = k \ln \left( 2 \cdot \infty \right) - k \ln \infty = k \ln \frac{2 \infty}{\infty} = k \ln 2$, как и написано у Фейнмана.
Я, кстати, это серьёзно. Обозначения тут, конечно, нестандартные, но в некотором смысле, они осмысленны и корректны. Кстати, точно такая же проблема возникает и с Шенноновской энтропией для непрерывных распределений вероятности. И решается она точно так же.