Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория системного анализа и принятия решений в БЖД. Учебное пособие
.pdf
для таких микросостояний, при которых распределение частиц по объему
приближается к равномерному.
Иными словами, «природа стремится» к более естественному (которое
достигается наибольшим числом способов) макросостоянию.
Вероятностный подход. Если рассмотреть данную задачу как
вероятностную, то, исходя из классического определения вероятности, можно дать описание данного природного феномена на основе
вероятностного эксперимента.
Итак, исходя из
классического определения вероятности,
можно сделать вывод о том, что составное событие (2.17) (макроскопическое состояние), получаемое множеством способов, будет
появляться гораздо чаще, чем составное событие, которое можно
получить редким сочетанием элементарных событий. В физике
и инженерии используется
числения вероятности
частотный способ (измерения) вы-
как наиболее объективный.
Пример 2.5
Будем бросать игральную кость много раз (серия из n испытаний).
В качестве одного составного события (макросостояния) примем следующее:
выпадение хотя бы одного четного числа на грани игральной кости в этой серии испытаний (бросков). В качестве другого составного события примем
выпадение всех шестерок в серии испытаний.
В данном примере
стота (или вероятность) последнего составного события очень мала при повторении серии испытаний. Между тем вероятность (или частота) первого
составного события весьма велика при повторении той же серии испытаний.
Очевидно, что при каждом отдельном броске вероятность выпадения четного
числа на грани игральной кости должна быть
стичь наибольшего числа случаев выпадения четных чисел на гранях игральных костей в серии испытаний.
Возвращаясь к задаче распределения частиц в объеме, можно сказать
на вероятностном языке, что наиболее вероятным (наиболее естественным)
является равномерное распределение частиц по объему.
понятно (интуитивно и экспериментально), что ча-
одинаковой, если мы хотим до-
Основная тема
Вернемся к случаю двух ячеек и фиксированного множества
случайно перемещаемых частиц. Предположим, что случайно реализовалось состояние, когда в одной ячейке находится одна частица, а в другой ячейке – все остальные. Очевидно, что такое макросостояние может быть реализовано лишь одним способом (если
50
считать все частицы принципиально неразличимыми). Но если рассматривать макросостояние, при котором число частиц в обеих
ячейках велико, очевидно, что этот случай можно получить многими способами. Это означает, что второе макросостояние будет
встречаться гораздо чаще, чем первое (оно более естественно, более
вероятно).
На этом комбинаторном языке можно сформулировать и зада
-
чу поиска такого распределения частиц, при котором достигается
максимальное число способов получения состояний N
, N2.
1
Это первая вариационная задача статистической термодинамики.
Ее решением в данном конкретном случае (когда нет дополнительных ограничений на механизм распределения частиц) является равномерное распределение частиц по объему.
Учитывая то, что мы реально существуем в средах, где реализуется эта закономерность, такой вывод кажется нам естественным.
Иными словами, данное утверждение
ципа равновесности
, который гласит следующее: если система
формулируется в виде прин-
замкнута и предоставлена самой себе, то она будет стремиться
к состоянию с максимумом термодинамической вероятности
(максимумом числа способов, максимумом числа микросостояний,
приводящих данную систему к наиболее вероятному состоянию).
Такое наиболее равномерное распределение частиц (наиболее
вероятное состояние) называется в макроскопической термодина-
равновесным состоянием системы.
мике
Если равновесное состояние не достигнуто, то система будет
изменяться, стараясь достигнуть такого состояния. Это
весный процесс
, где параметры термодинамической системы бу-
неравно-
дут являться функциями времени.
Если система закрыта (замкнута), то этот процесс закончится
и система окажется в равновесном состоянии. Но если система открыта, т. е. существует взаимодействие с окружающей средой,
то процесс будет принципиально неравновесным.
Заметим, что нами уже названа физическая величина –
S, – максимизация которой приводит к наиболее вероятному
пия
энтро-
(наиболее естественному, происходящему самопроизвольно) равновесному состоянию системы. Эта величина характеризует, по сути дела, степень отклонения системы от состояния равновесия.
51
Принцип Больцмана гласит: можно отождествить термо-
динамическую вероятность М (число микросостояний) с термодинамической энтропией S.
Эти физические величины характеризуют одно и то же явление с позиций соответственно макро- и микроскопического описания термодинамической системы, и обе склонны к возрастанию
в закрытых термодинамических системах.
Однако величина М обладает важным недостатком, который
мешает
ская вероятность
ее использованию в физике и технике: термодинамиче-
не обладает свойством аддитивности, которое
принципиально необходимо для физических величин. Поэтому
Больцман ввел физическую величину, которая называется
стической энтропией
ческой энтропии
тивности
вычисляется логарифм М:
, физически тождественную термодинами-
, введенной ранее. Для придания свойства адди-
стати-
,lnMkS (2.18)
где k – константа Больцмана.
Пример 2.6
Рассмотрим еще одну разновидность термодинамических систем, в которой в каждой ячейке (подсистеме) появляется одна частица одного типа из
возможного набора (алфавита) типов частиц. Всего в алфавите m типов частиц. Такие системы встречаются в технике связи и называются источника-
ми сообщений и каналами связи. Понятие источников сообщений и
налов связи является центральным в информатике, биофизике и биоинформатике. Исследование вопросов эволюции и безопасности техносферы
невозможно без изучения информационных процессов в техносфере.
Другими словами, в ряде физических систем с информационными процессами термодинамическая система состоит из n подсистем, которые в свою
очередь имеют собственный набор m состояний. Рассмотрим
несколько образцов таких физических систем.
Итак, физическая система под названием сообщение состоит из набора
знаков (физических объектов, частиц) числом n (набор состояний системы).
Знаки выбираются из алфавита объемом m. Физическое явление, порождающее сообщение, естественно назвать источником сообщений. Для количественного описания источника сообщений и отдельных сообщений использу-
физическая величина – энтропия. Энтропия характеризует неопределен-
ется
ность состояния сообщения, выдаваемого источником.
более подробно
ка-
52
Напомним – сообщение физически фиксируется в виде знаков (сим-
волов), а знак – это конкретный физический объект, который используется
в качестве указателя на другой объект (денотат). При этом денотат представляет интерес своим свойством, которое отражается в сознании человека
и называется концептом. Иначе говоря, для создания концепта (отражения
в сознании человека объекта
– денотата) используют другой физический объ-
ект, называемый знаком, так как обычно сам исходный физический объектноситель свойства (денотат) бывает неудобен для практического использования в качестве знака. Рассмотрим шутливый пример. Несколько человек
находятся в Египте и видят пирамиды. Пирамиды – это денотат. Отражение
в сознании людей пирамид есть концепт. Люди договариваются
о том, что,
если они уедут из Египта и им покажут предмет, который всегда под рукой –
символ-знак (например, авторучку), то они сразу в своем сознании увидят
пирамиды. Приехав в Петербург, путешественникам показали авторучку
(знак), который сразу воскрешает в их сознании пирамиды. Если мы не хотим сами показывать авторучку (
символ-знак), а желаем переслать ее обозна-
ченной группе людей, то знак, передаваемый в пространстве или во времени,
будет называться сообщением. Описанное «изобретение», состоящее из денотата, символа и концепта, называется треугольником Фреге. Символзнак, предназначенный для передачи в пространстве или во времени, называется сообщением.
Итак, сообщение – это совокупность знаков
(совокупность конкретных физических объектов – указателей на денотаты), предназначенных для
передачи в пространстве или во времени.
Пример 2.7
Рассмотрим еще один пример физической системы, с помощью кото-
рой осуществляется передача сообщений, – канал связи. Канал связи – это
физический объект (система), обладающий физической возможностью передавать свои состояния на большие расстояния. Для
этого сообщения в канале
связи преобразуются в другие специальные физические объекты, именуемые
сигналами (физический процесс преобразования называется модуляцией).
Смысл такого преобразования состоит в том, что физические объектысигналы более удобны для передачи по каналам связи.
Состояния канала связи X описываются набором знаков-символов дли-
ной n. Символы выбираются из алфавита объемом
m. Такой набор символов
фиксированной длины и называется дискретным каналом без помех.
Источник сообщений и канал связи без помех могут быть описаны
с помощью энтропии S. Здесь энтропия характеризует априорную неопределенность сообщений, генерируемых источником сообщений и передаваемых
по дискретному каналу без помех.
Энтропия источника, нормированная на единицу времени, необходимого для генерации одного сообщения, называется производительностью
53
источника. Аналогичным образом вводится понятие пропускной способности канала.
Интуитивно очевидно, что чем неожиданней (неопределенней) сообщение, тем оно ценнее. С точки зрения термодинамики неожиданность – это
равнораспределенность состояний системы. А равнораспределенность микросостояний – это наиболее естественное макросостояние. Поскольку в природе реализуется наиболее естественное поведение макросистем, в них предполагается равнораспределенность
стояний.
Пример 2.8
Система дистанционного зондирования может выступать в качестве
источника сообщений или в роли канала связи. Для оценки качества ее работы можно использовать принцип максимума энтропии. Природные образования на больших поверхностях подчиняются принципу наибольшей энтропии.
Этот же принцип можно использовать для оптимизации обработки изображений при выделении определенных техногенных объектов на фоне природных подстилающих поверхностей. Здесь можно использовать тот факт, что
обнаруживаемый объект отличается своими статистическими текстурными
особенностями от природных подстилающих поверхностей, которые подчиняются принципу наибольшей энтропии. Это и позволяет выделить его
на фоне подстилающей поверхности.
Интерлюдия
Источник сообщений, по существу, является «
стояний. Чем неожиданней микросостояние, выдаваемое источником, тем
оно «интереснее» и «полезнее» для потребителя сообщений, ибо существование потребителя зависит от возможности предсказать поведение макрообъектов. Поэтому более «качественный» источник сообщений обладает большей энтропией.
(максимальная неожиданность) микросо-
окном в мир» микросо-
Основная тема
Для количественного описания рассмотренных ранее физических систем общее число состояний M термодинамической систе-
мы в целом равно числу состояний в подсистемах m в степени n
(где n – число подсистем). Отсюда (см. (2.18)) энтропия H такой
термодинамической системы
S = H = Kln M, (2.19)
/
где n = ln M
ln m; M = mn; K= 1/ln m.
54
Из уравнения (2.19) видна роль константы K. Возможно рассмотрение более сложной системы. Допустим, имеется сообщение
из N букв. В алфавите m букв. Всего в сообщении содержится N
букв типа А, N
букв типа Б и т. д. Общее число различных после-
2
1
довательностей из букв m-буквенного алфавита равно M (см. формулу (2.17)).
Отметим, что возможны и другие значения константы, принятые в теории информации. Так, при K = 1 энтропия измеряется
/
в натах, а при K = 1
ln 2 – в битах. В случае макроскопической
термодинамики имеем так называемую физическую шкалу K = k,
10–23
где k – это постоянная Больцмана, k = 1,38
Дж/К.
Пример 2.9
Представим термодинамическую систему как набор n игральных костей. Каждая кость имеет m состояний (m = 6). Число костей в наборе составляет n. Число состояний M данной сложной термодинамической системы
равно m в степени n. Если число костей n в системе равно двум (n = 2), тогда
общее число состояний составит 36 (М = 36).
мической системы, в которой части системы имеют свои наборы состояний,
может служить набор монет. Так, если число монет равно n, то общее число
состояний может равняться 2 в степени n.
Пример 2.10
Пусть мы имеем слово, состоящее из n букв. Всего букв в алфавите m.
Каждая буква может появляться с равной
можных слов, которые можно составить, равно M.
Пример 2.11
К самым простым динамическим системам относится одиночная игральная кость. При ее выбрасывании число состояний m = 6. При этом n = 1.
Еще одна система – это ферзь на пустой шахматной доске. Здесь число состояний системы составит m = 64.
Другим примером термодина-
возможностью. Тогда число воз-
Основная тема
Перейдем к вероятностному описанию энтропии. Возможность выпадения конкретной грани одной кости выражается числом, написанным на грани x. Тогда случайная величина x принимает одно из m значений. Отсюда вероятность случайной величины x
/
равна P(x) = 1
m (см. пример 2.3).
Если совершается n бросков, то в качестве случайной величины x выступает последовательность случайных чисел длиной в n.
55
При этом вероятность P(x) составит 1 / M, где М – возможное число
PKMKMKS
таких последовательностей (на термодинамическом языке это число состояний системы) (см. примеры 2.8 и 2.9).
Приведенное описание предполагало, что система может принимать фиксированное число состояний. Эти состояния в наиболее
общем случае могут задаваться случайными величинами x = x
(при
i
этом i = 1, …, M, где M – число состояний системы). В этой конкретной ситуации все состояния являются равновероятными, т. е.
вероятность находится при данном i в состоянии P
/
пользуя соотношение ln M =– ln (1
ную энтропию
(статистическую энтропию):
M), можно вычислить случай-
= 1 / M = P. Ис-
i
(2.20)
.ln )/1(ln ln
Интерлюдия
Некоторые физики (М. В. Волькенштейн, Г. Хакен) предлагают энтропию (см. формулу (2.20)) прямо интерпретировать как информацию либо как
информационную энтропию. В настоящей работе за этой физической величиной сохраняется название «энтропия». Как будет показано далее, в одном
частном случае эта энтропия может быть численно равна физической величине «количество
имеет определенный физический смысл, отличающий ее от энтропии. Часто
математики и связисты (А. А. Боровков, А. Г. Кловский, Л. М. Финк,
Б. Р. Левин, А. А. Харкевич) аналогичным образом определяют S (см. формулу
(2.20)) как информацию. При этом математическое среднее вида H = –
для совокупности вероятностей состояний связистами и математиками определяется как энтропия сообщения. В случае энтропии со знаком «минус»
эта величина названа Л. Бриллюэном количеством информации, или негоэн-
тропией. Далее данная физическая величина будет называться количеством
информации по Бриллюэну.
информации», которая будет введена ниже и которая
P
log Pi
i
2.7. Энтропия в случае неравновероятных состояний
термодинамических систем
Основная тема
Пусть вероятности состояний термодинамических систем разные. Предполагается, что состояния образуют полную группу событий, а вероятности состояний подчинены условию нормировки.
Таким образом, каждому состоянию системы соответствует своя
энтропия:
56
(2.21)
.lniiPkS
Напомним, что она называется случайной энтропией. Представляется, что важной физической величиной является средняя
для всех состояний системы энтропия. Такая усредненная по всем
состояниям энтропия выражается следующим образом:
, (2.22)
PPkSPSS ln )(
iiiii
где Е(.) означает операцию усреднения.
Эта энтропия получила название
, энтропии. Она характеризует энтропию термодинамической
ской
средней, или Больцманов-
системы в целом. Инженеры-связисты именно эту величину назы-
энтропией источника сообщений и обозначают ее H = S*.
вают
В заключение параграфа обратим внимание на немаловажный
факт, суть которого заключается в том, что в природе очень часто
встречаются системы с равномерным распределением вероятностей
состояний. Этот факт может показаться удивительным, но в технике связи, биологии и молекулярной физике он имеет место. Современная физика
дает ему интерпретацию.
Крещендо
Теоретическим обоснованием упомянутого факта является теорема об
асимптотической эквивалентности неравновероятных состояний равновероятным.
Асимптотическая эквивалентность наблюдается во всех случаях, когда
термодинамическая система (набор состояний – совокупность случайных величин) обладает свойством энтропийной устойчивости. Это свойство, по-
видимому, весьма распространено в природных явлениях. Физика этого
свойства связана с механизмами порождения случайности. Такими
мами могут быть процессы динамики нелинейных систем, связанные с неустойчивостью движения этих систем (процессы динамического хаоса, Колмогоровская теория перемешивания).
механиз-
57
Гла в а 3. ПРИНЦИП МАКСИМУМА ЭНТРОПИИ В ФИЗИКЕ,
НОКСОЛОГИИ И ЭКОЛОГИИ. ПЕРВАЯ
ВАРИАЦИОННАЯ ЗАДАЧА
3.1. Поиск распределения состояний частиц, приводящих
к росту энтропии системы при различных
физических ограничениях
Прелюдия
В гл. 2 мы установили, что энтропия закрытых (замкнутых, изолиро-
ванных) термодинамических систем должна возрастать. На практике важно
получить вид распределения состояний частиц, который приводит к максимизации энтропии, так как, задавая такой вид распределения, удается достигать состояния равновесности системы. Это, в свою очередь, обеспечивает
наиболее стабильные режимы работы
средств дистанционного зондирования и т. д.), функционирования живых организмов, популяций, сообществ и экосистем.
Замечено, что часто распределение живых организмов в популяциях
таково, что обеспечивает максимизацию энтропии в этих естественных системах. По-видимому, это связано с определенной географической изолированностью данных систем (биотопы, биогеоценозы).
Естественно, это
на аэрокосмических изображениях экосистем. На изображениях, полученных
в результате дистанционного зондирования, наблюдаются зоны статистически однородных текстур. Поэтому для статистического описания текстуры
таких изображений используются математические модели и принципы максимизации энтропии. Это обеспечивает эффективное обнаружение и сегментацию техногенных объектов на фоне природных
стей. Такой подход к задачам обработки изображений получил название ме-
тода максимальной энтропии.
отражается и на ландшафтах, и, соответственно,
Основная тема
Очевидно, что для задач оптимизации функционирования геотехнических систем в биосфере анализ и поиск распределений,
обеспечивающих максимальную энтропию, представляется крайне
важным. Такого рода задачи в термодинамике получили название
вариационных задач.
Рассмотрим простейший вид вариационной задачи. Газ состоит из N частиц, свободно двигающихся в ящике. Для определения
пространственного распределения частиц внутри ящика разделим
технических систем (каналов связи,
подстилающих поверхно-
58
его на n одинаковых ячеек. Обозначим число частиц в k-й ячейке
как Nk. Теперь можно задать функцию распределения частиц по
= N
ячейкам как P
/ N, i = 1, 2, 3, ..., n.
i
i
Фактически распределение вероятностей вычисляется через
определение относительной частоты, с которой частица попадает
в ячейку. Требуется найти вид распределения частиц, при котором
энтропия систем (2.21) и (2.22) экстремальна.
Количественно задача формулируется следующим образом:
.1,maxln
PSPPS (3.1)
iii
Задача поиска экстремума решается методом множителей
Лагранжа. Для этого суммируем оба выражения (3.1), умножив дополнительно выражения для суммы вероятностей на произвольный
параметр q, называемый множителем Лагранжа:
PqPP (3.2)
ii
.maxln
Затем дифференцируем полученное выражение (3.2) и приравниваем его к нулю. В результате получим следующее уравне-
– lnP
ние:
– 1 + q = 0.
i
Данное уравнение имеет решение P
= exp(q – 1). Отсюда вид-
i
но, что в этом уравнении индекс для Р можно не писать. Поэтому
легко понять, что вероятность является константой. Величину этой
константы можно найти, если подставить полученное выражение
для вероятности в условие в виде суммы:
(3.3)
i
./1;/1)1exp(;1)1exp(;1)1exp( MPMqqMq
Таким образом, мы получили равномерное распределение вероятностей (3.3) для данной задачи, что и подтверждается экспериментом.
Как правило, достигаемый максимум энтропии является
условным, ибо всегда есть ограничения, препятствующие росту энтропии. Ограничения зависят от конкретной физики систем. Это
могут быть ограничения на энергию, вещество, время, простран-
59
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]