Если не ошибаюсь, дело в том, что энтропия в термодинамике и в теории информации определяется по-разному.

Не в этом.

И не по-разному.

Не мера разнообразия, а мера неопределенности.

У Вас никогда не было матери/сестры/жены/дочери, которая бы
прибиралась на Вашем столе без спросу?

Да-да, хорошо, неопределенности. Про разнообразие можно потом, довеском. Так в чем тут дело?

Неважно, как они лежат. Важно, что лежат в определенном порядке.

Когда женщина убирает рабочий стол мужчины, она, как правило, снижает разнообразие (потому что это единственный понятный ей критерий направления уборки: "синенькое к синенькому, металлическое к металлическому"). При этом создается неопределенность, равная количеству информации, которое нужно сообщить мужчине, чтобы он снова начал ориентироваться на своем рабочем столе.

Не понял. С виду - ответ не на тему.

Откуда Вы взяли, что энтропия разобранной собаки ниже энтропии собаки неразобранной?

Энтропия есть в том числе мера неупорядоченности. Если атомы лежат в группах по сорту, а в другом случае они, скажем, раскиданы беспорядочно - это разная степень упорядоченности/неупорядоченности. По крайней мере, мне так кажется. Если это не так, объясните, почему.

Разве очевидно, что вторая собака более упорядочена?

Мне очевидно. Почему нет?

Третье начало термодинамики (теорема Нернста):
При абсолютном нуле температуры любые изменения состояния происходят без изменения энтропии.
поэтому между Вашими двумя собаками при абсолютном нуле нет разницы

Да, в том-то и вопрос. Теорема Нернста гласит, что разницы нет. Однако из условий ясно, что есть.

Я не уверен, что энтропия у замороженной до нуля собаки будет равна нулю. Из чего это следует? Я плохо помню физику, простите. Как я понимаю, для нулевой энтропии перед заморозкой собаку следует хорошенько покрутить в миксере. Любое отклонение от такого равновесно-случайного состояния будет сопровождаться увеличением энтропии.

уменьшением. равновесное состояние имеет максимальную энтропию.

удовлетворяя любознательность автора дневничка, энтропия имеет конфигурационную составляющую. которая не обязательно равна нулю при абсолютном нуле. точнее, равна нулю только в идеальном кристалле.

Ну конечно же! Теперь понял. Я всё напутал.
Перед охлаждением псину нужно довести до состояния идеального нелающего кристалла.
Где ты, общество защиты животных?

Спасибо за удовлетворение любознательности. То есть у обоих собак энтропия при 0 не будет равна 0. Она будет у каждой своя, при том, что температура - абс. 0. Так? А можно подробнее о конфигурационной составляющей? Мне представлялось, что дело так и обстоит, как Вы написали, но в "школьных" источниках не нашел ответа - там везде говорится именно об одинаковости энтропий при 0, независимо от "конфигурации".

пример конфигурационной энтропии - смесь чёрных и белых шариков. если они разложены на две кучки, то энтропия равна нулю. если кинуть в кучу белых несколько чёрных, то энтропия кучи будет равна константе больцмана умноженной на число сочетаний C(N, m), где N - общее число шариков в куче, m - количество чёрных шариков.

ну или не шариков, а молекул типов A и B.

прочитал свежие комменты и счёл необходимым добавить (чтобы не заклевали выпускники МГУ с отличием), что k*ln(N), где N - число состояний системы - это формула из статистической термодинамики. в классической термодинамике эта формула не существует и никак не выводится. наоборот, с помощью этой формулы в статах можно получить все классические. сама же формула, по-моему, просто постулируется. а собственно энтропия одна и та же и там и там, так что не верьте глазам своим, если на клетке слона написано "буйвол".

Большое спасибо. Вот беда - энтропия одна и та же - мне тоже так казалось. Степень упорядоченности ситуаций при абс. нуле - разная. Энтропия имеет отношение к степени упорядоченности. И куды крестьянину податься?

не понял вопроса. степень упорядоченности разная, число состояний разное, конфигурационная энтропия тоже разная. что вас смущает?

ОК. Я скажу, что смущает, но - по необходимости - на непрофессиональном языке. Энтропия - это единая величина, нет "разных" энтропий. Как показатель массово-энергетический, больцмановская энтропия ведет себя понятно. Но есть "остаток" - то, что Вы назвали конфигурационной энтропией. Она связана со строением системы, с ее формой. Насколько я понимаю, форма не относится к тому аспекту мира, что описывается массой и энергией. И возникает такое привесочное понятие, как конфигуративная энтропия. Я понимаю, для профессионала нечто является привычным. а для человека со стороны - предметом искреннего изумления. И все ж: если так, в понятии энтропии проявляется аспект мира, не являющийся обычным предметом "массово-энергетической" (опять же извиняюсь за термин) физики. Вот этот аспект меня и интересует - изучение структур, которые не сводятся к своим массово-энерегтическим характеристикам.

почитайте какие-нибудь популяторские книжки по статистической термодинамике. вы будете удивлены, как такие, казалось бы, "неэнергетические" параметры, как количество состояний системы и их распределение описывают всю энергетику системы. ну и порядок/беспорядок, само собой.

Большое спасибо.

Я не физик, но чем Ваш вопрос принципиально отличается от такого: в чем разница между энтропией охлажденного до нуля кирпича и такого же количества кирпичной крошки? или важно, чтобы она была взята от того же кирпича?

Вот тут-то и возникают вопросы типа моих про материю.

а. Берём кирпич и доводим его энтропию до нуля.

б. Берём кирпич, разрезаем на две части, и доводим их энтропию до нуля.

в. Берём кирпич, разрезаем на две части, одну часть выбрасываем, а у другой доводим энтропию до нуля.

г. Берём кирпич, отрезаем от него одну молекулу, остальное выбрасываем. У молекулы доводим энтропию до нуля.

Есть разница?

Просто решается :) Дело в том, что, говоря о температуре - Вы однозначно понимаете энтропию вполне специфическим образом, в который упорядоченность собаки per se не входит. И поэтому абсолютный ноль значит вполне определённую вещь в плане упорядоченности - это упорядоченность, грубо говоря, движения на микроуровне. Если хочется понимать энтропию в другом смысле - ну так и температура должна быть не та, которая всего лишь интегрирующий делитель неполного дифференциала теплоты :)

Если говорить строже, то надо ещё более детализировать, говорим ли мы в терминах феноменологической термодинамики или статистической. Это не разные науки, но опять-таки, мешать не стоит.

Так что парадокс - просто в смешении понятий, которые называются одинаково, но носят всё же несколько разный змызл.

"Так что парадокс - просто в смешении понятий, которые называются одинаково, но носят всё же несколько разный змызл"

Берем лист бумаги, пишем на ней 56 букв, выбранных генератором случайных чисел.
Берем лист бумаги, пишем на ней:
аразгадкавсемуаразгадкавсемуаразгадкавсемуаразгадкавсему.
"Ясно", что энтропия второй системы ниже.

Охлаждаем два листа бумаги...

Спрашивается, причем здесь Лужков

Кому ясно, что энтропия второй системы ниже, я прошу прощения? Мне - неясно. Можно сначала строгие определения энтропии и температуры увидеть? Научпопное "мера беспоряка" не подходит, разумеется.

Известное доказательство того, что деньги есть зло: выходишь на рынок, и зла не хватает. Ага-ага.

Мне тоже неясно.
Определений энтропии (и "информации"), равно как и температуры давать не буду. Для начала готов принять любое ваше.
Неприятность в том, что "строгие" определения как-то сразу начинают сбоить, как только выходят за рамки простейшей термодинамики и передачи сигналов.

Я прошу прозения за нотацию, но зачем же оперировать понятиями, которые непонятны? Всё равно, что нажимать на кнопки на непонятном агрегате, считая парадоксом то, что он делает не то, что Вы придумали.

Что я понимаю - уже писал. В первом начале термодинамики есть неполный дифференциал теплоты. Чтобы сделать его полным, требуется интегрирующий делитель. В результате деления получается дифференциал энтропии, а сам делитель является абсолютной температурой.

Я прошу прозения за нотацию, но не следует считать собеседника априори дурачком. Мне доводилось кончать физфак МГУ с отличием и делать диссертацию в Мнституте проблем передачи информации АН СССР.
Поэтому начальные ходы партии мне известны. Просто по первому вашему посту мне показалось, что вы сможете что-то сформулировать любопытное хозяину (а мне некогда). Но что-то дальше 1 закона вы пока не продвинулись.

Если вам понятно понятие(я) энтропии "в широком смысле", значит вы о нем не думали, только и всего...

А вот априори я никого никем не считаю :) Физфак МГУ - это прекрасно, ИППИ - тоже, но почему из этого следует возможность смешения понятий - мне непонятно. Диалог невозможен, если не выверены определения.

Что такое "энтропия" в широком смысле я, как можно заметить, и не пытался определять. Я дал одно определение, достаточно узкоспециальное, и на всеобъемлющий характер не претендующее. Но в его рамках объединены понятия, содержащиеся в исходном вопросе. Я готов рассмотреть любые более широкие определения (которые Вы отказались предоставить), которые содержат какую-либо температуру в понимании термодинамики как части физики.

Можете считать, что я и до первого закона не добрался, если Вам угодно - сути предмета это не поменяет. Сначала обозначение рамок, потом система определений, потом парадоксы, а не наоборот. А иначе - начинается плетение красивых слов без какой-либо опоры. Не дискуссия, а симулякр.

Сначала обозначение рамок, потом система определений, потом парадоксы, а не наоборот. А иначе - начинается плетение красивых слов без какой-либо опоры."
Просто я хотел бы, чтобы вы эту работу СДЕЛАЛИ (а не рассказывали, общие принципы ее устройства). А я бы читал и мелко подкалывал.

Ну как я буду доказывать, что 3 - красное? ;)

Пока мы связаны понятием "температура" - энтропия выглядит вполне себе неинтересно. Не нравится феноменологическая термодинамика (из которой я уже приводил определения) - можно про статистическую поговорить, с тем же результатом. Есть такая температура, которая включает в себя информационную составляющую? Насколько я помню второй, кажется, принцип термодинамики - это вряд ли (я про тот, который определяет относительную температуру, как функцию систем, совпадающую, если при непроникающем контакте не происходит передачи теплоты). А, стало быть, к абсолютному нулю мы не придём.

Поэтому я просто не вижу, о чём спорить. Парадокса нет, есть некоторое смешение понятий. Как конструктивно им пользоваться - я не знаю :)

Я так понял из этого разговора, что Вы могли бы мне помочь, только у вас времени нет? При случае. вдруг оно появится - пожалуйста, уделите минуток 7-20, напишите мне разгадку. Только я не физик, и потому мне надо как-то просто. Ну. или сказать, что это очень сложно и профану не понять даже на самом общем уровне.

Ожидаемый ответ. Следует ли Вас понимать так, что энтропия по отношению к температуре и энтропия по отношению к упорядоченности - это просто омонимы? Смыслы совсем разные, просто в разных областях физики одно слово занято разными смыслами? Я в этом сомневаюсь, но, конечно, физика могуча и обильна, может всякое случиться.

В системе может протекать несколько энтропийных процессов. В данном примере с точки зрения теплового энтропийного процесса сабаки равны. А вот с точки зрения информационного (хотя бы информация о размещении атомов) - нет.

Все равно не очень понял. Для меня это значит. что есть "две" энтропии с разными определениями, с друг другом почти не связанные. Шенноновская и ... какая? Как ее, тепловую назвать? забыл...

Я лично понимаю энтропия имеет смысл как побочный эффект передачи/преобразования чего-то. Энергии/тепла, информации. Грубо говоря это фактор, который обеспечивает при такой передачи потери. И указывающий, что таковые есть всегда. Отсюда вытекает та же невозможность вечного двигателя (передача энергии из одной формы в другую не будет из-за потерь продолжатся вечно) и невозможность неограниченной передачи информации.

Возвращаясь к нашим баранам, то бишь к Вашему примеру. С точки зрения тепловой энергии варианты равны. С точки зрения информационной - нет.

Вы же рассматриваете энтропию в качестве какого-то универсального измерителя упорядочености. Я слабо представляю что это тогда за универсальный измеритель...

Хотите - скажите слово "структура", хотите - форма, разнообразие. Не важно. Выход к не масс-энергетическому аспекту, к строению как фундаментальной вещи. Морфолог во мне жаждет: ну сколько можно строить науку, не учитывая форму? Ведь то, что до сих пор сделано в этом отношении - еще не первые шаги. а ползанье с торжественным гуканьем.

Хм. Я не очень понимаю, что Вы здесь имеете в виду под формой. Энтропия может быть применена к процессу. Но не к форме/структуре.

Это уже мне не понятно. Я не думаю, что различие структуры и процесса фундаментально. Любую структуру можно понимать каакпроцесс, любой процесс изучать структурно. Это - подход, а не факт. Но если Вам не нравится словоуполтребление - то ведь выбрать можно другое слово - формулы и их смысл не изменятся. Можно говорить о неопределенности, можно - реже, но делают так - о разнообразии, можно - о субстрате разнообразия, который можно назвать структурой (формой). Прочто ответ на вопрос "что?" - разнообразие чего имеется в виду? неопределенности чего идет речь? Кстати, чем страшно выражение "форма процесса"?

Хм. Понял вашу терминологию. Хорошо, останавливаемся на ней. Теперь вернемся к нашей бедной собаке. Если принимать форма/структура столь расширительно, как Вы предлагаете, то тогда откуда следует вывод о том, что энтропия при замораживании станет равной 0?

Как я вижу, тут прям-таки напрашивается забавный вывод. Энтропия станет нулевой если ограничить модель, упростить до предела рассматриваемую структуру.

Выше по треду физически развитые граждане мне объяснили. что это сильное упрощение. Ноль - это в идеале, кристалл или идеальный газ. Разница будет в моем примере именно на структурированность системы. Оно и ясно - энтропия меряет упорядоченность,неупорядоченность. Вот мне и хотелось отсюда прокарабкаться к тому, как не-массово-энергетический мир описывается. в нем же другие законы действуют. насколько мне извсетно - грубо, конечно - физика основана на законах сохранения. А в мире структур не действуют законы сохранения, там есть полное уничтожение и рождение вновь. Совсем другая теоретическая картина должна получаться. Но - такого отклика не получил. Видимо, говорю на столь корявом и наивном языке, что образованные в физике люди сразу морщатся и уходят.

Оно и ясно - энтропия меряет упорядоченность, неупорядоченность

М... Как мне представляется, энтропия не меряет упорядоченность. Она меряет потери. Конечно, нарастание потерь в конечном итоге ведет к разрушению упорядосенности. Но тем не менее, здесь если и зашита оценка упорядоченности, то коственная. Никак не прямая.

Небольшая аналогия из радиодела (мне как, пусть и бывшему, радиоинженеру тут привычнее). Одной из характеристик усилителей являются нелинейные искажения. Все привыкли качество аппаратуры по ним и оценивать. Однако на самом деле они ни о чем не говорят. Обычный динамик сходу даст несколько процентов их. И вроде бы толку-то добиваться десятых/сотых долей процента от усилителя... На самом деле уху слышны интермодуляционные искажения. И они все определяют. Просто в данных схемотехнических решениях малые нелинейные искажения свидетельствуют и о малых интермодуляционных.

А я это все к тому, что коственная связь, хоть и срабатывает чаще всего, тем не менее она есть коственная. Вполне возможно представить систему где будут малые нелинейные, а вот интермодуляционные - значимые. Так и тут. Можно предположить, что существует структура, где иэнтропия и упорядоченность высоки. Наверное все же для того что Вы хотите понять, надо избрать какой-то другой параметр. Не энтропию.

А пример можно придумать? Где велика и энтропия, и упорядоченность? Можно косвенный.

http://www.livejournal.com/users/ivanov_petrov/21331.html?thread=274003#t274003 - прав!
Абсолютный нуль температуры минимизирует этропию только для ИДЕАЛЬНОГО ГАЗА - стандартной дрозофилы ученого термодинамика 19 века (полностью стохастической системы :)
Для всех других систем при абс. нуле достигается лишь "локальный минимум", допускающий дальнейшую стохастическую "идеализацию"

http://www.chronos.msu.ru/RREPORTS/khazen_vtoroye/khazen_vtoroye.htm

Спасибо за великолепную ссылку. Весьма помогла. Вопросов осталось еще много, но на то они и вопросы...

Спасибо. Об этом я чуть-чуть понял. Интересно про "конфигуративную составляющую" энтропии, которую упоминали в этой дискуссии.