За 20 лет до появления работ Шеннона анализом информации занимался венгерский физик Сциллард [Szillard L., 1929] в связи с решением одного термодинамического парадокса, предложенного Максвеллом еще в прошлом веке [Maxwell J.C., 1971]. Смысл парадокса Максвелла заключается в следующем (рис. 1). Изолированная система, состоящая из разделенного на две части резервуара с газом и с дверцей в перегородке, содержит также "демона" (существо или автомат), наделенного способностью отличать быстрые молекулы от медленных. Демон открывает дверцу только в том случае, если к ней справа подлетает быстрая молекула. Поэтому газ в левой части резервуара будет нагреваться, а в правой - остывать. Таким образом, в изолированной системе тепло будет переходить от холодного тела к горячему с понижением энтропии системы в противоречии со вторым законом термодинамики.
 |
| Рис. 1. Демон Максвелла. |
Сциллард [Szillard L., 1929], рассмотрев один из упрощенных вариантов парадокса Максвелла, обратил внимание на необходимость получения информации о молекулах и открыл связь между информацией и термодинамическими характеристиками. В дальнейшем решение парадокса Максвелла было предложено многими авторами (см., например, [Бриллюен Л., 1960]). Смысл всех решений заключается в следующем: информацию нельзя получать бесплатно. За нее приходится платить энергией, в результате чего энтропия системы повышается на величину, по крайней мере равную ее понижению за счет полученной информации.
Пусть задано макроскопическое состояние некоторой системы, то есть с определенной степенью точности указаны значения таких параметров, как объем, давление, температура, химический состав и т.п. Каждому макросостоянию системы соответствует набор микросостояний. В микросостоянии прецизированы (точно заданы) состояния всех частиц, входящих в систему. Для любой макросистемы при температуре выше абсолютного нуля число микросостояний W, соответствующих данному макросостоянию, огромно. W называется статистическим весом или термодинамической вероятностью данного макросостояния. Согласно основному постулату статистической физики, все W микросостояний, соответствующие одному макросостоянию, имеют одинаковую априорную вероятность. Знать микросостояние системы - значит знать о системе все!
Величина W непосредственно связана с энтропией. По формуле Планка-Больцмана
 , | (3) |
где размерная постоянная Больцмана k = 1,38*10-16 эрг/град или 3,31*10-24 эе (эе - энтропийная единица, 1 эе = 1 кал/град). Рассчитаем, какое количество информации надо получить о системе, находящейся в данном макросостоянии, чтобы однозначно определить ее микросостояние. Иначе говоря, какого количества информации недостает для полного описания системы в заданном макросостоянии?
Пусть микросостояние определено путем измерений или расчетов (на самом деле сделать это нельзя). До определения вероятность того, что макроскопическая система находилась именно в этом микросостоянии, была равна 1/W, а после определения стала равной единице. Полученное количество информации
 | (4) |
Формулы (3) и (4) совпадают с точностью до постоянного размерного множителя. Величины I и S существенно идентичны. Ситуация здесь та же, что и для соотношения между массой и энергией: E = mc2, где роль размерного множителя играет с2. Аналогична ситуация и в случае соотношения между частотой и энергией кванта света, где размерным множителем является постоянная Планка:  . Энтропия системы в данном макросостоянии есть количество информации, недостающее до ее полного описания. Чтобы перейти от количества информации в битах к энтропии в энтропийных единицах, необходимо перейти от логарифма при основании 2 к натуральному логарифму и умножить на k:
 | (5) |
Назад | Вперед
Написать комментарий
|
