Войти
В физике, максимальная термодинамика энтропии (разговорно, MaxEnt термодинамика ) просмотры равновесной термодинамики и статистическая механику, как логический вывод процессы. В частности, MaxEnt применяет методы логического вывода, основанные на теории информации Шеннона, байесовской вероятности и принципе максимальной энтропии. Эти методы применимы к любой ситуации, требующей предсказания на основе неполных или недостаточных данных (например, реконструкция изображения, обработка сигнала, спектральный анализ и обратные задачи ). Термодинамика MaxEnt началась с двух статей Эдвина Т. Джейнса, опубликованных в Physical Review за 1957 год.
Центральным элементом тезиса MaxEnt является принцип максимальной энтропии. Он требует, как дано, некоторую частично заданную модель и некоторые определенные данные, относящиеся к модели. Он выбирает предпочтительное распределение вероятностей для представления модели. Приведенные данные содержат «проверяемую информацию» о распределении вероятностей, например, конкретные ожидаемые значения, но сами по себе недостаточны для ее однозначного определения. Принцип гласит, что следует предпочесть распределение, которое максимизирует информационную энтропию Шеннона,
Это известно как алгоритм Гиббса, который был введен Дж. Уиллардом Гиббсом в 1878 году для создания статистических ансамблей для предсказания свойств термодинамических систем в состоянии равновесия. Это является краеугольным камнем статистического механического анализа термодинамических свойств равновесных систем (см функции распределения ).
Таким образом, устанавливается прямая связь между равновесной термодинамической энтропией S Th, функцией состояния давления, объема, температуры и т. Д., И информационной энтропией для прогнозируемого распределения с максимальной неопределенностью, обусловленной только ожидаемыми значениями этих переменных:
k B, постоянная Больцмана, здесь не имеет фундаментального физического значения, но она необходима для сохранения согласованности с предыдущим историческим определением энтропии Клаузиусом (1865 г.) (см. постоянную Больцмана ).
Однако представители школы MaxEnt утверждают, что подход MaxEnt - это общий метод статистического вывода, с приложениями, выходящими далеко за рамки этого. Следовательно, его также можно использовать для прогнозирования распределения «траекторий» Γ «за период времени» путем максимизации:
Эта «информационная энтропия» не обязательно имеет простое соответствие с термодинамической энтропией. Но его можно использовать для прогнозирования свойств неравновесных термодинамических систем по мере их развития с течением времени.
Для неравновесных сценариев в приближении, которое предполагает локальное термодинамическое равновесие, с подходом максимальной энтропии, соотношения взаимности Онзагера и соотношения Грина-Кубо выпадают напрямую. Этот подход также создает теоретическую основу для изучения некоторых очень частных случаев сценариев, далеких от равновесия, что упрощает вывод теоремы о флуктуациях производства энтропии. Для неравновесных процессов, как и для макроскопических описаний, отсутствует общее определение энтропии для микроскопических статистических механических счетов.
Техническое примечание: по причинам, обсуждаемым в статье о дифференциальной энтропии, простое определение энтропии Шеннона перестает быть непосредственно применимым для случайных величин с непрерывными функциями распределения вероятностей. Вместо этого подходящей величиной для максимизации является «относительная информационная энтропия»,
H c - отрицательное значение дивергенции Кульбака – Лейблера или информации о различении m ( x) и p ( x), где m ( x) - априорная инвариантная мера для переменной (переменных). Относительная энтропия H c всегда меньше нуля, и ее можно рассматривать как (отрицательное) количество битов неопределенности, потерянных из-за фиксации на p ( x), а не на m ( x). В отличие от энтропии Шеннона, относительная энтропия H c имеет то преимущество, что остается конечной и четко определенной для непрерывного x и инвариантной относительно преобразований координат 1 к 1. Эти два выражения совпадают для дискретных распределений вероятностей, если можно сделать предположение, что m ( x i) однородно - то есть принцип равной априорной вероятности, который лежит в основе статистической термодинамики.
Приверженцы точки зрения MaxEnt занимают четкую позицию по некоторым концептуальным / философским вопросам термодинамики. Эта позиция схематически изображена ниже.
Джейнс (1985, 2003 и др.) Обсудил концепцию вероятности. Согласно точке зрения MaxEnt, вероятности в статистической механике определяются совместно двумя факторами: соответственно заданными конкретными моделями для основного пространства состояний (например, лиувиллевского фазового пространства ); и соответственно заданными частными описаниями системы (макроскопическим описанием системы, используемым для ограничения присвоения вероятностей MaxEnt). Вероятности объективны в том смысле, что с учетом этих входных данных будет получено однозначно определенное распределение вероятностей, одинаковое для каждого рационального исследователя, независимо от субъективности или произвольного мнения конкретных людей. Вероятности являются эпистемическими в том смысле, что они определены в терминах определенных данных и выведены из этих данных с помощью определенных и объективных правил вывода, одинаковых для каждого рационального исследователя. Здесь слово эпистемическое, которое относится к объективному и безличному научному знанию, одинаковому для каждого рационального исследователя, используется в том смысле, который противопоставляет его мнению, которое относится к субъективным или произвольным убеждениям конкретных людей; это противопоставление использовалось Платоном и Аристотелем и сегодня надежно.
Джейнс также использовал слово «субъективный» в этом контексте, потому что другие использовали его в этом контексте. Он признал, что в некотором смысле состояние знания имеет субъективный аспект просто потому, что оно относится к мысли, которая является ментальным процессом. Но он подчеркнул, что принцип максимальной энтропии относится только к мысли, которая является рациональной и объективной, независимой от личности мыслителя. В целом, с философской точки зрения, слова «субъективный» и «объективный» не противоречат друг другу; часто сущность имеет как субъективные, так и объективные аспекты. Джейнс недвусмысленно отвергает критику некоторых авторов, согласно которым мысли автоматически становятся необъективными только потому, что можно сказать, что мышление имеет субъективный аспект. Он открыто отверг субъективность как основу научного рассуждения, эпистемологию науки; он требовал, чтобы научные рассуждения имели полностью и строго объективную основу. Тем не менее критики продолжают нападать на Джейнса, утверждая, что его идеи «субъективны». Один писатель даже зашел так далеко, что назвал подход Джейнса «ультрасубъективистским» и упомянул «панику, которую термин субъективизм вызвал среди физиков».
Вероятности представляют как степень знания, так и недостаток информации в данных и модели, использованной в макроскопическом описании системы аналитиком, а также то, что эти данные говорят о природе лежащей в основе реальности.
Соответствие вероятностей зависит от того, являются ли ограничения указанной макроскопической модели достаточно точным и / или полным описанием системы, чтобы уловить все экспериментально воспроизводимое поведение. Это не может быть гарантировано априори. По этой причине сторонники MaxEnt также называют метод предсказательной статистической механики. Прогнозы могут не оправдаться. Но если они это сделают, это информативно, потому что это сигнализирует о наличии новых ограничений, необходимых для фиксации воспроизводимого поведения в системе, которое не было принято во внимание.
Термодинамическая энтропия (в состоянии равновесия) является функцией переменных состояния в описании модели. Следовательно, он так же «реален», как и другие переменные в описании модели. Если ограничения модели в присвоении вероятности представляют собой «хорошее» описание, содержащее всю информацию, необходимую для предсказания воспроизводимых экспериментальных результатов, тогда оно включает в себя все результаты, которые можно было бы предсказать, используя формулы, включающие энтропию из классической термодинамики. В этом смысле MaxEnt S Th так же «реально», как энтропия в классической термодинамике.
Конечно, на самом деле существует только одно реальное состояние системы. Энтропия не является прямой функцией этого состояния. Это функция реального состояния только через (субъективно выбранное) описание макроскопической модели.
Ансамбль Гиббса идеализирует идею повторения эксперимента снова и снова на разных системах, а не снова и снова на одной и той же системе. Таким образом, долгосрочные временные средние и эргодическая гипотеза, несмотря на интенсивный интерес к ним в первой половине двадцатого века, строго говоря, не имеют отношения к вероятностному назначению того состояния, в котором можно найти систему.
Однако это меняется, если есть дополнительные сведения о том, что система готовится определенным образом за некоторое время до измерения. Затем необходимо подумать, дает ли это дополнительную информацию, которая все еще актуальна во время измерения. Тогда вопрос о том, насколько «быстро смешиваются» различные свойства системы, становится очень интересным. Информация о некоторых степенях свободы комбинированной системы может очень быстро прийти в негодность; информация о других свойствах системы может оставаться актуальной в течение значительного времени.
По крайней мере, средние и долгосрочные корреляционные свойства системы сами по себе являются интересными объектами для экспериментов. Неспособность их точно предсказать - хороший показатель того, что соответствующая макроскопически определяемая физика может отсутствовать в модели.
Согласно теореме Лиувилля для гамильтоновой динамики, гиперобъем облака точек в фазовом пространстве остается постоянным по мере развития системы. Следовательно, информационная энтропия также должна оставаться постоянной, если мы опираемся на исходную информацию, а затем прослеживаем каждое из этих микросостояний вперед во времени:
Однако с течением времени эта исходная информация становится менее доступной. Вместо того, чтобы легко резюмировать в макроскопическом описании системы, оно все больше относится к очень тонким корреляциям между положениями и импульсами отдельных молекул. (Сравните с H-теоремой Больцмана.) Эквивалентно это означает, что распределение вероятностей для всей системы в 6N-мерном фазовом пространстве становится все более нерегулярным, распространяясь на длинные тонкие пальцы, а не на начальный строго определенный объем возможностей.
Классическая термодинамика построена на предположении, что энтропия является функцией состояния макроскопических переменных, т.е. что никакая история системы не имеет значения, так что все это можно игнорировать.
Расширенное, тонкое, развитое распределение вероятностей, которое все еще имеет начальную энтропию Шеннона S Th (1), должно воспроизводить ожидаемые значения наблюдаемых макроскопических переменных в момент времени t 2. Однако это больше не обязательно будет максимальным распределением энтропии для этого нового макроскопического описания. С другой стороны, новая термодинамическая энтропия S Th (2), несомненно, будет измерять максимальное распределение энтропии по построению. Поэтому мы ожидаем:
На абстрактном уровне этот результат подразумевает, что некоторая информация, которую мы изначально имели о системе, стала «бесполезной» на макроскопическом уровне. На уровне 6 N -мерного распределения вероятностей этот результат представляет собой грубое зерно, то есть потерю информации из-за сглаживания очень мелких деталей.
В связи с вышеизложенным следует учитывать некоторые предостережения.
1. Как и все статистические механические результаты в соответствии со школой MaxEnt, это увеличение термодинамической энтропии является только предсказанием. В частности, предполагается, что исходное макроскопическое описание содержит всю информацию, имеющую отношение к предсказанию более позднего макроскопического состояния. Это может быть не так, например, если первоначальное описание не отражает какой-либо аспект подготовки системы, который позже становится актуальным. В этом случае «провал» прогноза MaxEnt говорит нам, что есть кое-что еще, что имеет отношение к делу, что мы, возможно, упустили из виду в физике системы.
Также иногда предполагается, что квантовое измерение, особенно в интерпретации декогеренции, может дать очевидно неожиданное уменьшение энтропии в соответствии с этим аргументом, поскольку оно, по-видимому, связано с появлением макроскопической информации, которая ранее была недоступна. (Однако учет энтропии квантовых измерений сложен, потому что для достижения полной декогеренции можно предположить бесконечную среду с бесконечной энтропией).
2. До сих пор в этой аргументации не учитывался вопрос о флуктуациях. Также неявно предполагается, что неопределенность, прогнозируемая в момент времени t 1 для переменных в момент времени t 2, будет намного меньше, чем ошибка измерения. Но если измерения действительно обновляют наши знания о системе, наша неопределенность относительно ее состояния уменьшается, давая новое значение S I (2), которое меньше, чем S I (1). (Обратите внимание, что если мы позволим себе способности демона Лапласа, последствия этой новой информации также могут быть отображены в обратном направлении, поэтому наша неопределенность относительно динамического состояния в момент времени t 1 теперь также снижается с S I (1) до S I ( 2)).
Мы знаем, что S Th (2) gt; S I (2) ; но теперь мы больше не можем быть уверены, что оно больше, чем S Th (1) = S I (1). Это оставляет возможность для колебаний S Th. Термодинамическая энтропия может идти как вверх, так и вниз. Более сложный анализ дает теорема флуктуации энтропии, которая может быть установлена как следствие зависящей от времени картины MaxEnt.
3. Как только что указывалось, вывод MaxEnt одинаково хорошо работает и в обратном направлении. Итак, учитывая конкретное конечное состояние, мы можем спросить, что мы можем «сделать ретроспективно», чтобы улучшить наши знания о более ранних состояниях? Однако приведенный выше аргумент Второго закона также работает в обратном направлении: учитывая макроскопическую информацию в момент времени t 2, мы должны ожидать, что она также станет менее полезной. Две процедуры симметричны по времени. Но теперь информация будет становиться все менее и менее полезной в прежние времена. (Сравните с парадоксом Лошмидта. ) Вывод MaxEnt предсказывает, что наиболее вероятное происхождение текущего состояния с низкой энтропией будет спонтанным отклонением от более раннего состояния с высокой энтропией. Но это противоречит тому, что, как мы знаем, произошло, а именно, что энтропия неуклонно возрастала даже в прошлом.
Ответ сторонников MaxEnt на это будет заключаться в том, что такая систематическая ошибка в предсказании вывода MaxEnt - это «хорошо». Это означает, что имеется явное свидетельство того, что некоторая важная физическая информация была упущена в спецификации проблемы. Если верно, что динамика « симметрична » во времени, то кажется, что нам нужно вручную ввести априорную вероятность того, что начальные конфигурации с низкой термодинамической энтропией более вероятны, чем начальные конфигурации с высокой термодинамической энтропией. Это нельзя объяснить непосредственной динамикой. Вполне возможно, что он возникает как отражение очевидной асимметричной во времени эволюции Вселенной в космологическом масштабе (см. Стрелку времени ).
Термодинамика максимальной энтропии имеет некоторые важные возражения, отчасти из-за относительной малочисленности опубликованных результатов школы MaxEnt, особенно в отношении новых проверяемых предсказаний, далеких от равновесия.
Теория также подвергалась критике за внутреннюю непротиворечивость. Например, Раду Балеску резко критикует школу MaxEnt и работу Джейнса. Балеску утверждает, что теория Джейнса и его коллег основана на непереходном законе эволюции, который дает неоднозначные результаты. Хотя некоторые трудности теории можно исправить, теория «не имеет прочного основания» и «не привела к какому-либо новому конкретному результату».
Хотя подход максимальной энтропии основан непосредственно на информационной энтропии, он применим к физике только при наличии четкого физического определения энтропии. Не существует четкого единственного общего физического определения энтропии для неравновесных систем, которые представляют собой общие физические системы, рассматриваемые в процессе, а не термодинамические системы в их собственных внутренних состояниях термодинамического равновесия. Отсюда следует, что подход максимальной энтропии не будет применим к неравновесным системам, пока не будет найдено четкое физическое определение энтропии. Эта проблема связана с тем фактом, что тепло может передаваться от более горячей физической системе к более холодной, даже если локальное термодинамическое равновесие не соблюдается, так что ни одна из систем не имеет четко определенной температуры. Классическая энтропия определяется для системы в ее собственном внутреннем состоянии термодинамического равновесия, которое определяется переменными состояния, без ненулевых потоков, так что переменные потока не появляются как переменные состояния. Но для сильно неравновесной системы во время процесса переменные состояния должны включать ненулевые переменные потока. Классические физические определения энтропии не охватывают этот случай, особенно когда потоки достаточно велики, чтобы нарушить локальное термодинамическое равновесие. Другими словами, для энтропии для неравновесных систем в целом определение должно, по крайней мере, включать спецификацию процесса, включая ненулевые потоки, помимо классических статических термодинамических переменных состояния. Максимизируемая «энтропия» должна быть определена в соответствии с рассматриваемой проблемой. Если несоответствующая «энтропия» максимизирована, вероятен неправильный результат. В принципе, термодинамика максимальной энтропии не относится узко, а относится только к классической термодинамической энтропии. Речь идет об информационной энтропии, применяемой к физике, явно зависящей от данных, используемых для формулировки рассматриваемой проблемы. Согласно Аттарду, для физических проблем, анализируемых с помощью сильно неравновесной термодинамики, необходимо учитывать несколько физически различных видов энтропии, включая то, что он называет второй энтропией. Аттард пишет: «Максимизация второй энтропии микросостояний в данном начальном макросостоянии дает наиболее вероятное целевое макросостояние». Физически определенная вторая энтропия также может рассматриваться с информационной точки зрения.
