Роль энтропии и информации для живого организма

1в. М.Планк преобразовал формулу Больцмана (1.5), исполь­зовав для этого математическую формулу Стирлинга, справедливую для больших значений N :

В результате подстановки (1.7) в (1.5) получается соотношение :

С учетом условия  Ni = N, выражение для Н приводится к виду:

Далее Планк ввел в рассмотрение вероятности различных сос­тояний молекул, определив их как :

При этом второе слагаемое в правой части (1.8) можно пред­ставить как:

С учетом известного из теории вероятностей условия норми­ровки  pi = 1, подстановка (1.10) в (1.8) приводит выражение для Н к окончательному виду :

Проделанные Планком с помощью формулы Стирлинга чисто формальные преобразования не только позволили получить новое выражение для исчисления энтропии, но помогли более глубоко осознать смысл вычисляемой величины Н . Выражение (1.11) позволяет сделать два важных вывода :

1. Введение в формулу энтропии значений вероятностей расширило рамки применимости этой формулы далеко за пределы исследуемых термодинамикой молекулярных систем. Символ pi может обозначать вероятность не толь­ко тех или иных состояний молекул, но и различных сост­ояний элементов любых систем (в частности, вероятностей появления букв текста или других символов пер­едаваемых сообщений).

2. Выражение (1.11) соответствует полной энтропии системы. Поделив подсчитанную по формуле (1.11) величину на Ni , можно определить усредненную величину энтропии Н , относящуюся к одному элементу рассматриваемой системы, т.е.

Именно в таком виде использовал функцию энтропии Шеннон для определения среднего значения энтропии одной буквы текста (опуская при этом знак усреднения).

1г. Согласно Шеннону, средняя энтропия одной буквы текста вычисляется по формуле (1.2) путем суммирования слагаемых pi log pi , в которых символом pi , обозначены вероятности соот­ветствующих букв. Таким образом :

Для удобства исчисления энтропии сообщений, передаваемых двоичным кодом, Шеннон заменил используемый термодинамикой натуральный логарифм ln двоичным логарифмом log2.

3. Информация и энтропия

Обсуждая понятие информация, невозможно не затронуть другое смежное понятие – энтропия. Впервые понятия энтропия и информация связал  К.Шеннон в 1948. С его подачи энтропия стала использоваться как мера полезной информации в процессах передачи сигналов по проводам. Следует подчеркнуть, что под информацией Шеннон понимал сигналы нужные, полезные для  получателя. Неполезные сигналы, с точки зрения Шеннона, это шум, помехи. К.Шеннон и его последователи стояли на позициях функционалистов. Если сигнал на выходе канала связи является точной копией сигнала на входе то, с точки зрения теории информации, это означает отсутствие энтропии. Отсутствие шума означает максимум информации. Взаимосвязь энтропии и информации нашло отражение в формуле:

                                            H + Y = 1,

где Н – энтропия, Y – информация. Этот вывод количественно был обоснован Бриллюэном.

Для расчета энтропии Шеннон предложил уравнение, напоминающее классическое выражение энтропии, найденное Больцманом.

                           H = ∑Pi log2 1/Pi = -∑Pi log2  Pi,

где Н – энтропия Шеннона, Pi  - вероятность некоторого события.

Назвав свою функцию энтропией, Шеннон, тем не менее, предостерегал последователей от чрезмерного расширения области применения этого понятия. Попытаемся разобраться, что такое энтропия Шеннона и как она относится к термодинамическому понятию энтропии Клаузиуса и Больцмана.

Впервые понятие энтропии было введено Клаузиусом в 1865 г. как функция термодинамического состояния системы. Эта функция имеет вид S = Q/T (Q – теплота, T - температура). Классики не связывали энтропию с информацией. Анализ этой функции показал, что физический смысл энтропии проявляется, как часть внутренней энергии системы, которая не может быть превращена  в работу. Клаузиус эмпирически получил эту функцию, экспериментируя с газами. [Горелов А.А.Концепции современного естествознания. Учебник для вузов: Владос,2003, c.65].

Л.Больцман (1872г.) методами статистической физики вывел теоретическое выражение энтропии S = K lnW , где К – константа; W – термодинамическая вероятность (количество перестановок молекул идеального газа, не влияющее на макросостояние системы). Энтропия Больцмана выведена для идеального газа и трактуется как мера беспорядка, мера хаоса системы. Для идеального газа энтропии Больцмана и Клаузиуса тождественны,  поэтому и эмпирическая функция Клаузиуса стала объясняться как мера вероятности состояния молекулярной системы. Формула Больцмана стала настолько знаменитой, что начертана в качестве эпитафии на его могиле. Сложилось мнение, что энтропия и беспорядок есть одно и то же. Несмотря на то, что энтропия описывает очень узкий класс объектов Мира (идеальные газы), ее не критично стали привлекать для описания более сложных объектов.

Сам Больцман в 1886г. попытался с помощью энтропии объяснить, что такое жизнь. По мнению Больцмана,  жизнь это явление, способное уменьшать свою энтропию.  «Всеобщая борьба за существование это борьба против энтропии». Согласно Больцману и его последователям, все процессы во Вселенной изменяются в направлении хаоса. Вселенная идет к тепловой смерти. Этот мрачный прогноз долго господствовал в науке. Однако углубление знаний об окружающем Мире постепенно расшатали эту догму.

Антитезой Больцману выступали эволюционисты. В частности Ч.Дарвин показал, что процессы жизни не только не деградируют, но все время усложняются.  И если прав Больцман, то почему мы до сих пор еще живем. 

Первая половина XX века принесла человечеству модель рождения и эволюции Вселенной, где над деструктивными процессами преобладали процессы самоорганизации материи. Вселенная всегда самоусложнялась и этот процесс, начавшийся 15-20 млрд. лет назад, продолжается до сих пор. Таким образом, считается, что в природе существуют два перехода порядок→хаос и его противоположность хаос→порядок. В изолированных системах (но не всегда)  идет процесс перевода порядка в хаос. В открытых системах, через которые проходят созидательные потоки энергии, могут идти процессы самоорганизации  и на фоне хаоса рождается порядок. Существует и альтернативное мнение утверждающее, что порядок рождается только из предшествующего порядка.

Больцман упростил Мир до предела, представив его идеальным газом, не учитывая того, что все молекулы обладают своей внутренней структурой, взаимодействуют друг с другом, находятся в поле тяжести, совершают колебательные движения и т.д. [7. c.86].

В расширяющейся Вселенной наблюдается тенденция не к выравниванию градиентов и потенциалов, а к расслоению. Из однородного первичного гелий-водородного облака путем гравитационного сжатия стали образовываться плотные сгустки материи: звезды, планеты. Вселенная становилась неоднородной, как по плотности, так и по температуре. Химический состав ее усложнялся. Кроме простых атомов водорода и гелия возникли в недрах звезд все элементы таблицы Менделеева. Появилась жизнь. Разве это деградация?

Когда говорят о неоднородности какой – либо среды, имеют в виду то, что в каждой единице объема содержится одинаковое количество каких-либо элементов. Считается, что газ - это однородная среда, если рассматривать 1см объема. Но если рассматривать и сравнивать микрообъемы, соизмеримые с размерами молекул, то окажется, что среда очень неоднородная. В одной такой единице объема может находиться одна молекула, а в другой - ни одной. Вселенная однородна в мегамасштабах, но в размерах галактик очень неоднородна.

Как совместить рост энтропии при понижении температуры Вселенной (S=Q/T) c нарисованной картиной усложнения. Надо думать, что в погоне за математической простотой Больцман так упростил модель своего исследования, что область применения выводов осталась справедливой только в изолированных системах (для идеальных газов).

В реальных молекулярных системах существуют два вида энергии: потенциальная (энергия связей) и кинетическая (энергия движения молекул). Больцман потенциальную энергию не учитывал. Но формула Клаузиуса, являясь эмпирической, автоматически учитывала все виды энергии. Поэтому значения энтропий Больцмана и Клаузиуса совпадают только в применении к идеальным газам, где доля потенциальной энергии невелика. Для расчетов энтропии жидкостей и твердых тел с высоким значением потенциальной энергии используют, как правило, только энтропию Клаузиуса (S=Q/T).

Во Вселенной относительно стационарные структуры существуют только благодаря силам взаимодействия, но именно эти силы энтропия Больцмана не учитывает. Поэтому прогноз тепловой смерти Вселенной ошибочен.

  Приведем примеры. Звезда (солнце) возникает вследствие гравитационного сжатия газа (гравитационное взаимодействие). Если бы исчезла гравитация, то облако плазмы, в полном согласии с Больцманом, из-за внутреннего давления начало бы неограниченно расширяться, увеличивая беспорядок (энтропию).

В ходе однонаправленного течения реки в потоке могут возникать вихри (организованности). Если бы вода в реке не находилась под влиянием гравитационного поля Земли (силы тяжести), то не было бы течения и вихри (упорядоченное движение) не возникали бы при этом.

В качестве примера самоорганизации очень часто приводят эффект, обнаруженный Бенаром (1900г.). Слой масла на нагретой сковородке иногда может образовать упорядоченную структуру в виде сот (ячейки Бенара). Это результат конвекции, а она  может происходить только в поле тяжести Земли. В невесомости ячейки Бенара не возникли бы. Так что игнорирование в расчетах сил взаимодействия может исказить выводы, что и произошло у Больцмана.

Несмотря на неоднократное напоминание в известных публикациях, что формула энтропии имеет ограниченное применение, её все же пытаются с легкой руки Больцмана применить ко всей Вселенной. Например,  Седов А. в своей книге «Одна формула и весь мир» пытается показать универсальность понятия энтропии. Биологи стремятся доказать, что все живое в ходе жизнедеятельности уменьшает свою энтропию и это есть признак жизни.

Понятие энтропия оказалось удобным, но не очень корректным. Им продолжают пользоваться не только биологи, но и социологи. Например, Н.Алексеев  в своей статье пытается применить понятие энтропии для описания функционирования некоторой организации. Он утверждает, что «эволюция экономических систем происходит за счет роста энтропии природной среды…». При этом, «чем выше внутренняя энтропия экономической системы, тем в меньшей степени она оказывает  антиэнтропийное воздействие на внешнюю среду и тем  экономичнее оказывается ее деятельность». Обратите внимание на «глубокий смысл». Чем выше энтропия, т.е. чем больше хаоса, тем экономичнее деятельность. Это ли не пример использования понятий, в которых авторы не разбираются [1. c.96].