Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Парадоксы в теории вероятностей и математической статистике

.pdf
Скачиваний:
0
Добавлен:
07.09.2026
Размер:
2 Мб
Скачать
2. МАРКОВСКИЕ ЦЕПИ И ФИЗИЧЕСКИЙ ПАРАДОКС 161
Philos. Soc. Zurich, April 24. Pogg. Ann. 125: 353, 1865] слово «энтропия» происходит от греческого τρoπη, означающего «поворот», «превращение». Клаузиус утверждает, что он добавил «эн», чтобы слово звучало анало­гично «энергии», однако греческое слово εντ ρoπη имеет самостоятельное значение — «повернуть голову в сторону».) Используя понятие энтропии, второй закон термодинамики можно сформулировать следующим образом: в изолированной системе энтропия не может уменьшиться, обычно она возрастает. Л. Больцман пытался проверить этот закон с помощью кинема­тики атомов и молекул. (В то время идея Больцмана вовсе не выглядела естественной, так как многие физики сомневались в самом существова­нии атомов, например М. Фарадей, Э. Мах или основатель «энергетизма» В. Ф.Оствальд.) Огромное влияние на Больцмана оказала работа Максвел­ла по динамической теории газов. В 70-е годы прошлого века Больцман об­наружил связь между энтропией и термодинамической вероятностью (срав­ните с замечанием (i)). Он показал, что необратимость не противоречит обратимой механике Ньютона: применение последней к большому числу частиц с необходимостью приведет к необратимости, так как системы, со­стоящие из миллионов молекул, стремятся перейти в состояние, имеющее большую термодинамическую вероятность. Это и есть «основная причина» распада, износа, старения (и, как утверждают некоторые, упадка нравов или цивилизации).
В 1907 г. П. и Т. Эренфесты создали модель, разъясняющую парадокс обратимости-необратимости с помощью цепей Маркова.
б) Парадокс
Предположим, что есть система из N молекул, каждая из которых мо­жет находиться в одном из двух энергетических состояний. Если молекула находится в первом состоянии, то за один шаг она переходит в другое состояние с вероятностью p (и остается в первом состоянии с вероятно­стью 1 p). Если же молекула находится во втором состоянии, то (за один шаг)онапереходитвпервоесостояниесвероятностьюq (и остается во втором с вероятностью 1 q). Так как каждая молекула «выбирает» одно из двух возможных состояний, вся система из N молекул может находить-
N
ся в 2
различных состояниях. Предположив, что молекулы неразличимы, получим лишь N +1 возможных различных состояний системы: состояние системы определяется числом молекул, находящихся в первом состоянии. Пусть X состоянии в момент времени t. Тогда последовательность X
обозначает (случайное) число молекул, находящихся в первом
i
1,X2,X3
,...,
162 ГЛАВА III
очевидно, образует цепь Маркова, описывающую развитие системы. Как эта модель увязывает обратимость классической механики (симметрия во времени) с необратимостью термодинамики (асимметрия во времени)?
в) Объяснение парадокса
Можно показать, что если |1 p q| < 1, то предел производящей
функции распределения P (X
lim
t→∞
E(z
X
X
t
t+s
w
(p + qz)(p + qw)+pq(1 p q)
)=
= j,, X
t
= k) равен
t+s
(p + q)
s
2
(1 z)(1 w)
N
и эта функция симметрична по z и w, следовательно, имеет место равнове­сие
P (X
= j, X
t
= k)=P (Xt= k, X
t+s
t+s
= j).
Это равенство означает симметрию между прошлым и будущим процесса (обратимость), в то же время, следующее соотношение отражает необрати­мость
P (X
= k | Xt= j) = P (X
t+s
= j |Xt= k).
t+s
Например, если p = q =1/2,то
lim
P (Xt= j)=
t→∞
N
2−N,
j
,
поэтому вероятность того, что цепь Маркова близка к состоянию N/2,боль­ше, чем вероятность того, что она от него далека.
г) Замечания
(i) Пусть f (v, t) обозначает распределение случайных скоростей мо­лекул газа в момент времени t (для простоты предположим, что это рас­пределение не зависит от местонахождения молекул). В 1872 г. Больцман сформулировал свою теорему в следующем виде: производная функции
H(t)=f(v, t)log
f(v, t)dv, a > 1,
a
не может быть положительной, т. е. H не может возрастать с ростом t.(Ве- личина H соответствует термодинамической энтропии, которая не может
2. МАРКОВСКИЕ ЦЕПИ И ФИЗИЧЕСКИЙ ПАРАДОКС 163
убывать, она обычно возрастает.) В 1876 г. австрийский физик Й. Лошмидт поставил вопрос об обратимости-необратимости таким образом: законы классической физики инвариантны относительно преобразования t →−t (они содержат вторые производные по t), в то же время преобразова­ние t →−t превращает теорему Больцмана в теорему ей противоположную: функция H(t) не может убывать. В результате анализа этого парадокса оказалось, что для доказательства теоремы Больцмана необходимо предпо­лагать совершенную однородность молекулярных столкновений, но такая идеализация чрезмерна. Теорема Больцмана справедлива лишь статистиче­ски: вероятность роста H(t) со временем очень мала.
Другой парадокс вытекает из теоремы А. Пуанкаре.Онпоказал,что в замкнутой и конечной газовой системе фазовая точка, описывающая со­стояние этой системы (и двигающаяся по эквипотенциальной поверхно­сти в многомерном евклидовом пространстве), возвращается в произвольно малую окрестность своего начального местонахождения за ограниченное время. Но это, как в 1896 г. установил Э. Цермело, противоречит теореме Больцмана: если процесс необратим (его энтропия возрастает), то фазовая точка вернуться не может. Однако статистическая формулировка теоремы Больцмана позволяет решить и эту проблему: последовательность событий, происходящих с очень малыми вероятностями, может привести к возвраще­нию фазовой точки, но, согласно Больцману, для этого потребуется 10
19
10
лет, так что это событие практически ненаблюдаемо, в то время как необра­тимость проявляется наглядно.
Парадоксы Лошмидта – Цермело показывают, что теория вероятностей играет ключевую роль в основаниях молекулярной физики, в становление которой важный вклад внесли венгерские ученые. Например, в 1926 г. Лео Силард похоронил заманчивую идею демона Максвелла, способного создать вечный двигатель. (Максвелл утверждал, что если энтропия воз­растает только статистически, то демон, способный управлять движением каждой молекулы, мог бы построить вечный двигатель. Но, как показал Силард, существование такого «хорошо информированного» демона потре­бовало бы огромной энтропии, поэтому вечный двигатель, управляемый демоном Максвелла, невозможен.)
(ii) Статистический анализ текста «Евгения Онегина» не был единич­ным исследованием подобного типа. В конце прошлого века стало модным изучать частотное распределение слов в различных текстах (чтобы помочь в обучении иностранным языкам и стенографии). В 1898 г. Ф. Каэдиг опуб­ликовал первый частотный словарь (H¨aufigkeitsw¨orterbuch der Deutschen
164 ГЛАВА III
Sprache) немецкого языка, который был основан на текстах, содержащих 11 миллионов слов. Во многом благодаря работам американского ученого Дж. Ципфа (1902–1950 гг.) применения математической статистики в лин­гвистике переросли в отдельное научное направление. Его книга «Челове­ческое поведение и принцип наименьшего усилия» («Human behavior and the Principle of Least Effort») содержит очень глубокие идеи.
д) Литература
Boltzmann L. Lectures on Gas Theory, Univ. California Press, Berkeley, 1964. [Имеется перевод: Больцман Л. Лекции по теории газов. — М.: Гостехиздат, 1956.]
Chung К. L. Markov Chains with Stationary Transition Probabilities, Springer, Berlin-G¨ottingen-Heidelberg, 1960. [Имеется перевод: Чжун Кайлай, Однородные це­пи Маркова. — М.: Мир, 1964.]
Дынкин Е.Б. Марковские процессы. — М.: Физматгиз, 1963.
Ehrenfest P., Ehrenfest T. «¨Uber zwei bekannte Einw¨ande gegen das Boltzmannsche H-Theorem», Physik. Zeit., 8, 311–314 (1907).
Feller W. An Introduction to Probability Theory and Its Applications,NewYork, John Wiley, 1969. [Имеется перевод: Феллер В. Введение в теорию вероятностей и ее приложения. В 2-х томах. — М.: Мир, 1984.]
Kempermann J. Н. В. The Passage Problem for a Stationary Markov Chain,Univ. Chicago Press, 1961.
Марков А. А. Распространение закона больших чисел на величины, зависящие друг от друга. — «Изв. Физ.-мат. общества при Казанском университете», 2-я серия, 1906, т. 15, № 4.
Марков А. А. Распространение предельных теорем исчисления вероятностей на сумму величин, связанных в цепь. СПБ, 1908. Записки Акад. Наук по Физ.-мат. отделению, VIII серия, т. 22, № 9.
Tak´acs L. «On an urn problem of Paul and Tatiana Ehrenfest», Math. Proc. Camb. Phil. Soc., 86, 127–130 (1979).
Truesdell C. The Tragicomic History of Thermodynamics 1822–1854, Springer, New York, 1980.
3. Парадокс броуновского движения
а) История парадокса
Во время экспериментов с использованием микроскопа английский бо­таник Р. Бр оун (1773–1858 гг.) обнаружил не только существование ядер у клеток, но и наблюдал интересное, хотя в то время необъяснимое, явление:
3. ПАРАДОКС БРОУНОВСКОГО ДВИЖЕНИЯ 165
случайное движение взвешенных частиц, известное ныне как броунов­ское движение. Поскольку Броун проводил свои эксперименты с цветоч­ной пыльцой (в июне–августе 1827 г.), предположили, что движение имеет биологические причины. Великой заслугой Броуна является эксперимен­тальное доказательство исключительно физической природы этого явления. Степень развития микрофизики тогда не позволяла объяснить это явление научно. Неудивительно, что даже в 1879 г. немецкий ботаник К. Негели отказался поверить, что причина броуновского движения в тепловой диф­фузии частиц. С другой стороны, А. Пуанкаре на одной из лекций (в Париже в 1904 г.) утверждал, что когда большие частицы размером приблизитель­но 0,1 мм со всех сторон много раз ударяются движущимися атомами, то эти частицы остаются на месте, так как по закону больших чисел случай­ные столкновения нейтрализуют друг друга, однако в случае более мелких частиц воздействие толчков недостаточно для их общей нейтрализации, поэтому частицы двигаются зигзагообразно. Количественное объяснение явления было дано в 1905 г. Эйнштейном и польским ученым Смолухов- ским независимо друг от друга. По теореме Эйнштейна, средняя длина пути частиц пропорциональна корню квадратному из времени движения t.Сле- довательно, их средняя скорость пропорциональна 1
t. Отсюда вытекает, что мгновенная скорость частиц в любой момент времени должна равнять­ся бесконечности, следовательно, при определении мгновенной скорости для броуновского движения возникают проблемы. Для их решения требо­вался более глубокий математический анализ. Однако прошло более десяти лет, прежде чем он был проведен Н.Винером. В знак признания его заслуг в этой области математическая модель броуновскогодвижения была названа его именем — винеровский процесс. Винеровский процесс — это движение с непрерывной траекторией (его реализации непрерывны), нигде не диф­ференцируемой с вероятностью 1. Это означает, что мгновенную скорость нельзя определить ни в одной точке.
Непрерывные, но нигде не дифференцируемые функции были извест­ны задолго до Винера. Однако такие патологические функции рассматри­вались лишь как курьез. В 1806 г. знаменитый физик А. М.Ампер даже собирался доказать, что любая непрерывная функция дифференцируема, за исключением, быть может, нескольких изолированных точек. Понятие функции стало в значительной степени более общим в результате иссле­дований по рядам Фурье, проведенных Б. Больцано (1834 г.), Б. Риманом (1854 г.) и К. Вейерштроссом (1872 г.). В 1875 г. П. Дюбуа-Реймон впервые опубликовал пример непрерывной, но нигде не дифференцируемойфункции
166 ГЛАВА III
Вейерштрасса. Многие выдающиеся математики встретили эти нововведе­ния без большого энтузиазма. Как считал Пуанкаре (Science et M´ethode,
1909. [Имеется перевод: см. «Наука и метод» в книге Пуанкаре Анри «О на­уке». — М.: Наука, 1983.]): «Некогда при нахождении новых функций име­лась в виду какая-нибудь практическая цель. Теперь функции изобретаются специально для того, чтобы обнаружить недостаточность рассуждений на­ших отцов, никакого иного вывода, кроме этого, из них нельзя извлечь». Ш. Эрмит в письме к Т. Стилтьесу высказывался аналогичным образом: «Я в ужасе отворачиваюсь от этой страшной чумы: функций, не имеющих производных». Винеровский процесс, очевидно, опровергал приведенные выше обвинения, так как никто не мог утверждать, что броуновское дви­жение введено лишь для придумывания патологических контрпримеров. Исследования, проведенные в XX веке, со всей очевидностью показали, что среди непрерывных функций именно недифференцируемые типичны в том смысле, что они образуют подавляющее большинство. (Oxtoby L. J. С. Measure and Category, Springer, New York, 1971. [Имеется перевод: Оксто­би Дж. Мера и категория. — М.: Мир, 1974.]) Однако почти все непрерывные функции, применяемые в практических приложениях, дифференцируемы. Это напоминает ситуацию с иррациональными числами. Несмотря на их большинство среди действительных чисел (случайное число иррациональ­но с вероятностью 1), на практике обычно используются рациональные числа.
б) Парадокс
Траектории (реализации) броуновского движения достаточно нерегу­лярны (т. е. они нигде не дифференцируемы). Обычно любую нерегуляр­ную кривую, такую как траекторию броуновского движения на плоскости, рассматривают как одномерную. В то же время можно показать, что тра­ектория броуновского движения на плоскости в действительности запол­няет всю плоскость (в любую заданную окрестность произвольной точки траектория попадает с вероятностью 1). Следовательно, траектории можно рассматривать и как двумерные кривые. Какой из подходов предпочесть?
в) Объяснение парадокса
Понятие размерности в обычном повседневном смысле использова­лось уже в начале века. Кривые, поверхности и тела рассматривались со­ответственно как одномерные, двумерные и трехмерные объекты. Обычно
3. ПАРАДОКС БРОУНОВСКОГО ДВИЖЕНИЯ 167
говорят, что фигура имеет размерность k, если для «характеризации» то­чек фигуры необходимо k параметров (координат). Используя интуитивные идеи Пуанкаре, Л. Э.Я. Брауэр в 1913 г. определил топологическую размер­ность. Позднее, в 1922 г., К. Менгер и П. С. Урысон, работая независимо, также пришли к этому понятию. (Дальнейшие детали см. в книге Гуреви­ча и Волмэна.) В силу определения топологической размерности броунов­ское, движение одномерно. С другой стороны, в 1919 г. Ф.Хаусдорф ввел следующее понятие размерности, в соответствии с которым броуновское движение двумерно. В d-мерном евклидовом пространстве объем единич- ного шара равен v(d)=Γ(1/2)
d
Γ(1 + d/2),гдеΓ обозначает обычную гамма-функцию (см. «Обозначения» в конце книги). Это выражение имеет смысл и для нецелых d 0.Пустьвn-мерном евклидовом пространстве взято множество E, которое покрывается конечным числом n-мерных ша- ров с радиусами r
,....Тогдаd-мера Хаусдорфа множества E равна
1,r2
lim
r→∞
inf
ri<r
i
v(d)r
d
.
i
А. Бесикович доказал, что всегда существует (действительное) число D та- кое, что если d<D,тоd-мера множества E бесконечна, но в случае d>D она равна 0. Это число D называется размерностью Хаусдорфа или Хаус­дорфа– Бесиковича множества E. При таком определении значение раз- мерности необязательно будет целым числом. Например, обе координаты броуновского движения на плоскости как функции времени (т. е. кривые «одномерного броуновского движения») имеют размерность Хаусдорфа 3/2. Следовательно, эти кривые находятся где-то между «настоящими» кривыми и «настоящими» поверхностями. Размерность кривой броуновского движе­ния на плоскости равна 2, как и у «настоящих» поверхностей.
г) Замечания
(i) За последние несколько лет опубликовано много работ о фигурах, у которых топологическая размерность отличается от размерности Хаус­дорфа. Б. Мандельбройт назвал их фракталами. Фракталы, например, ви- неровские процессы, играют важную роль при описании неправильных фигур, встречающихся в природе. Хотя евклидова линия — это «буква», которая наиболее часто употребляется при описании природных объектов правильной формы, в случае неправильных форм (облака, морское побере­жье) в этой роли выступает винеровский процесс. В действительности ни
168 ГЛАВА III
«настоящие» линии (которые можно продолжать только в длину), ни «насто­ящие» винеровские процессы (нигде не дифференцируемые) не существуют в природе, но с их помощью можно получить довольно хорошее описание «настоящих» объектов. Фракталы по-новому осветили знаменитый пара­докс Олберса. В соответствии с этим парадоксом не понятно, почему ночью небо не освещено равномерно, в то время как равномерно распределение звезд во Вселенной. (См. книгу Мандельбройта.)
(ii) Мандельбройт в своей книге упоминает и другие понятия размерно­сти, например размерность Фурье. По поводу алгебраической размерности см. статью Секея.
(iii) Нерегулярность винеровского процесса привела к развитию ново­го направления на стыке теории вероятностей и анализа — теории стоха­стических дифференциальных уравнений. В рамках этой теории получены результаты, значительно отличающиеся от фактов из обычного дифферен­циального и интегрального исчислений. Например, если функция f(t) диф­ференцируема, то
t
f(t) df (t)=
0
1
f(t)f(t) dt =
0
2
(1) − f2(0)
f
2
.
В теории стохастических интегралов это выражение тоже имеет смысл, если даже f(t) — (нигде не дифференцируемый) винеровский процесс. Но значение интеграла будет меньше, чем в приведенном выше (при наличии производной) случае. Разность в точности равна 1/2.
(iv) Знаменитым и парадоксальным приложением процесса броунов­ского движения B(t) является процесс биржевых цен S(t). Предполагается, что биржевые цены S(t) описываются моделью экспоненциального бро- уновского движения: log S(t)=aB(t)+bt для некоторых постоянных a, b. В этом случае и среднее значение цены ES(t), и среднее значение величи-
1
ны, обратной к цене, ES
(t) возрастают со временем одинаково, каковы бы ни были значения a, b. Не парадоксально ли это? Модель экспоненциаль­ного броуновского движения может быть использована для вывода формулы
1
Блэка –Шоулса
(Black –Scholes) для цен опционов. Парадокс в том, что на-
правление движения цены не связано с оценкой опциона, определяющим
1
М. С.Шoyлc (Myron Samuel Scholes) — американский экономист, родившийся в Канаде, лауреат Нобелевской премии по экономике в 1997 году за формулу Блэка – Шоулса и ее при­ложения. Так как Нобелевской премией не награждают посмертно, Ф. Блэк (Fischer Black), скончавшийся в 1995 году, награжден не был. — Прим. перев.
4. ПАРАДОКС ВРЕМЕНИ ОЖИДАНИЯ 169
фактором является волатильность. Это настолько противоречило интуиции, что никто не решался опубликовать эту формулу в начале 70-х годов. Но, как оказалось, ничего мистического в этом нет: в опционе неопределенность сама является «продуктом».
д) Литература
Bachelier L. Th´eoriedelasp´eculation, Thesis, 1900.
Brown R. «A brief account of microscopical observations made in the months of June, July and August 1827, on the particles contained in the pollen on plants; and on the general existence of active molecules in organic and inorganic bodies», Edinburgh New Phil. Journal, 5, 358–371 (1828).
Гихман И. И., Скороход А. В. Введение в теорию случайных процессов. — М.: Наука, 1965.
Hausdorff F. «Dimension und¨ausseres Mass», Math. Annalen, 79, 157–179 (1919).
Hurewitz W., Wallmann H. Dimension Theory, Princeton Univ. Press, 1941. [Име­ется перевод: Гуревич В., Волмэн Г. Теория размерности. — М.: Гос. изд-во ино­странной литературы, 1948.]
McKean H.P., Jr. Stochastic Integrals, Academic Press, New York –London, 1969. [Имеется перевод: Маккин Г. Стохастические интегралы. — М.: Мир, 1972.]
Mandelbroit В. В. Fractals. From, Chance and Dimension, W.H. Freeman and Co., San Francisco, 1977.
Sz´ekely G. J. «Algebraic dimension of semigroups with application to invariant measures», Semigroup Forum, 17, 185–187 (1979).
Wiener N. Collected Works, Cambridge, Mass. M. I. T. Press, 1976.
4. Парадокс времени ожидания (Ходят ли автобусы чаще в обратном направлении?)
а) История парадокса
Хотя современная технология постоянно уменьшает потери на вре­мя ожидания, они все еще существуют и во многом определяют нашу повседневную нервозность. Поэтому за попытками математиков и инже­неров сократить время ожидания следят с большим интересом. А. Эрланг исследовал проблему времени ожидания для телефонных станций (см. I/6, замечание (iii)). В 30-е годы нашего века В. Феллер ввел понятие процес­сов гибели и размножения, что придало новый импульс математическому анализу времени ожидания и во многом способствовало возникновению те­ории исследования операций. Изучение систем с очередями превратилось
170 ГЛАВА III
в независимую область науки на границе между теорией вероятностей и ис­следованием операций.
б) Парадокс
На автобусных остановках обычно указывается интервал движения ав­тобуса, т. е. среднее время между двумя последовательными прибытиями автобусов. Предположим, что на некоторой автобусной остановке интервал движения составляет 10 мин. Тогда естественно считать, что люди ждут автобус в среднем 5 мин. Однако оказывается, что среднее время ожида­ния может не только превосходить 5 мин, но и быть бесконечным! (Опыт показывает, что в повседневной жизни ситуация не столь безнадежна.)
в) Объяснение парадокса
Если бы автобусы приходили на автобусную остановку не только в среднем, но в точности каждые 10 мин, то среднее время ожидания в действительности равнялось 5 мин. Однако на самом деле автобусы хо­дят «партиями» (за исключением случая, когда мы находимся недалеко от автобусной станции, откуда автобусы отправляются). Следовательно, время ожидания имеет большой разброс относительно среднего значения. Пред­положим, что интервалы времени между последовательными прибытиями автобусов являются независимыми одинаково распределенными случайны­ми величинами с математическим ожиданием m и стандартным отклонени-
2
ем s. Тогда можно показать, что среднее время ожидания равно T =(m
2
+ s
)2m.ПустьF (t) — функция распределения и f(t) — плотность ве-
+
роятности для интервалов времени между последовательными прибытиями автобусов. (Сейчас мы предположили существование плотности вероятно­сти, однако от этого условия ценой некоторых изменений в рассуждениях можно отказаться.) Пусть время t измеряется от момента отправления по- следнего автобуса перед нашим приходом. Тогда плотность вероятности для случайного интервала времени до прибытия следующего автобуса равняет­ся не f (t), а другой функции, пропорциональной tf (t),т.е.tf (t)m,так как вероятность нашего появления в течение некоторого интервала време­ни пропорциональна его длине t. Таким образом, среднее время ожидания T вычисляется по формуле
T =
1
2m
t2f(t)dt =
0
m
2
2m
+ s
2
.
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]