08 Учебное пособие МОГИ

законов распределения исследуемых СВ. Обыкновенно это бывает связано с крайне недостаточным объемом экспериментального материала.Иногда же характер закона распределения качественно известен до опыта, из теоретических соображений; например, часто можно утверждать заранее, что СВ подчинена нормальному закону. Тогда возникает более узкая задача обработки наблюдений

– определить только некоторые параметры (числовые характеристики) СВ. При небольшом числе опытов задача более или менее точного определения этих параметров не может быть решена; в этих случаях экспериментальный материал содержит в себе неизбежно значительный элемент случайности; поэтому случайными оказываются и все параметры, вычисленные на основе этих данных. В таких условиях может быть поставлена только задача об определении так называемых «оценок» или «подходящих значений» для искомых параметров, т.е. таких приближенных значений, которые при массовом применении приводили бы в среднем к меньшим ошибкам, чем всякие другие. С задачей отыскания «подходящих значений» числовых характеристик тесно связана задача оценки их точности и надежности.

8 Точечные и интервальные оценки параметров распределения

Рассмотрим определение неизвестных параметров, от которых зависит закон распределения СВ, по ограниченному числу опытов. Прежде всего нужно отметить, что любое значение искомого параметра, вычисленное на основе ограниченного числа опытов, всегда будет содержать элемент случайности. Такое приближенное, случайное значение будем называть точечной оценкой параметра. Например, оценкой для математического ожидания может служить среднее арифметическое наблюденных значений случайной величины в n независимых опытах. При очень большом числе опытов среднее арифметическое будет с большой вероятностью весьма близко к математическому ожиданию. Если же число опытов n невелико, то замена математического ожидания средним арифметическим приводит к какой-то ошибке. Эта ошибка в среднем тем больше, чем меньше число опытов.

Так же будет обстоять дело и с оценками других неизвестных параметров. Любая из таких оценок случайна; при пользовании ею неизбежны ошибки. Желательно выбрать такую оценку, чтобы эти ошибки были по возможности минимальными.

Рассмотрим следующую общую задачу. Имеется СВ X, закон распределения которой содержит неизвестный параметр a. Требуется найти подходящую точечную оценку для параметра по результатам n независимых опытов (наблюдений), в каждом из которых величина X приняла определенное значение.

Обозначим наблюденные значения СВ (X1, X2, …, Xn). Их можно рассматривать как n «экземпляров» СВ X, то есть n независимых случайных величин, каждая из которых распределена по тому же закону, что и СВ X.

21

a зависит, во-первых, от закона распределения СВ X (и, в частности, от самого неизвестного параметра a); во-вторых, от числа опытов n.

Предъявим к оценке a ряд требований, которым она должна удовлетворять, чтобы быть в каком-то смысле «доброкачественной» оценкой.

1)Состоятельность: оценка a при увеличении числа опытов n приближается (сходится по вероятности) к параметру a .

2)Несмещенность: математическое ожидание a равно a

3)Эффективность: выбранная несмещенная оценка обладает по сравнению

сдругими наименьшей дисперсией, т. е.

Например, может оказаться, что, даже если эффективная оценка существует, формулы для ее вычисления оказываются слишком сложными, и приходится удовлетворяться другой оценкой, дисперсия которой несколько больше. Иногда применяются (в интересах простоты расчетов) незначительно смещенные оценки.

Однако выбору оценки всегда должно предшествовать ее критическое рассмотрение со всех перечисленных выше точек зрения.

Точечная оценка a не позволяет указать, насколько близко она находится к истинному значению параметра a. Требуется знать – к каким ошибкам может привести замена параметра a его точечной оценкой a и с какой степенью уверенности можно ожидать, что эти ошибки не выйдут за известные пределы? Такого рода задачи особенно актуальны при малом числе наблюдений n, когда приближенная замена a на a может привести к серьезным ошибкам.

Чтобы дать представление о точности и надежности оценки a , в математической статистике пользуются так называемыми доверительными интервалами и доверительными вероятностями. Назначим некоторую достаточно большую вероятность β (например, 0,9; 0,95 или 0,99) такую, что событие с вероятностью β можно считать практически достоверным, и найдем такое значение ε, для которого

при замене a на a , будет ; большие по абсолютной величине ошибки будут

Равенство(8.5) означает, что с вероятностью β неизвестное значение параметра a попадает в интервал

22

I a ; a . (8.6)

Ранее мы рассматривали вероятность попадания случайной величины в заданный неслучайный интервал. Здесь дело обстоит иначе: величина a не случайна, зато случаен интервал Iβ. Случайно его положение на оси абсцисс, определяемое его центром a ; случайна вообще и длина интервала 2ε, так как величина ε вычисляется, как правило, по опытным данным. Поэтому в данном случае лучше будет трактовать величину β не как вероятность «попадания» точки a в интервал, а как вероятность того, что случайный интервал Iβ накроет точку a

(рис. 8.1).

Рис. 8.1. Доверительный интервал

Вероятность β называют доверительной вероятностью, а интервал Iβ –

доверительным интервалом. Границы интервала Iβ: a1 a и a2 a называют доверительными границами.

Перейдем к вопросу о нахождении доверительных границ. Если бы нам был известен закон распределения величины a , задача нахождения доверительного интервала была бы весьма проста: достаточно было бы найти такое значение ε, для которого выполнено равенство (8.4). Затруднение состоит в том, что закон распределения оценки a зависит от закона распределения СВ X и, следовательно, от его неизвестных параметров (в частности, и от самого параметра a).

Чтобы обойти это затруднение, применяют следующий приближенный прием: заменяют в выражении для ε неизвестные параметры их точечными

оценками. При сравнительно большом числе опытов n ( n 20 30 ) этот прием обычно дает удовлетворительные по точности результаты.

Используя функцию распределения выборочных значений параметра a,

то F( 1) 0,05 ; F( 2 ) 0,95 или, соответственно, 5 и 95 %.

Для построения интервальной оценки математического ожидания

где t( 1 ) / 2 , t( 1 ) / 2 – квантили распределения Стьюдента, соответствующие вероятностям непревышения (1– β)/2 и (1+ β)/2. Учитывая, что распределение Стьюдента симметрично относительно нуля, из (8.9) получим

t( 1 ) / 2 ( x mx ) n / S t( 1 ) / 2 . (8.10)

Преобразование (10.4) дает формулу для расчета доверительного интервала МО

где S 2 – точечная оценка дисперсии; D – дисперсия генеральной совокупности. После преобразований (8.12) получаем доверительные интервалы для

В окончательном виде 90%-ный доверительный интервал для mх имеет вид

10,31 mx 13,69 .

9 Статистическая гипотеза. Критерий статистической гипотезы

Зная закон распределения вероятностей наблюдаемой случайной величины, исследователь или инженер в состоянии решать многие практические задачи, связанные с планированием производства, обеспечением качества продукции, оценкой эффективности и стабильности производства. Попытка применить методы анализа результатов наблюдений, разработанные для конкретных законов распределения вероятностей, в условиях, когда реальное распределение отличается от гипотетического, является самой распространенной на практике ошибкой, приводящей к неверным выводам и, в конечном итоге, к существенным материальным потерям и затратам времени.

Именно поэтому любая обработка результатов наблюдений должна неизменно начинаться с ответа на главный вопрос: каково распределение вероятностей обрабатываемого ряда случайных величин? На практике эта проблема обычно формулируется следующим образом. Выдвигается гипотеза: наблюдаемое распределение случайных величин описывается некоторым конкретным законом (нормальным, равномерным, ...). Задача первичного исследования – принять или отклонить выдвинутую гипотезу.

Если ни одна из гипотез, связанных с формой закона распределения вероятностей, не принимается, то может быть сформулирована более мягкая гипотеза – например, наблюдаемое распределение симметрично относительно какой-то точки. Даже установление только этого факта дает в руки исследователя более эффективные методы анализа наблюдений, чем полное незнание закона распределения вероятностей. И, наконец, если исследователь не получил достаточных оснований для выбора вида распределения, то возникает задача подбора формы распределения непосредственно по экспериментальным данным. При этом распределение вероятностей должно быть подобрано так, чтобы оно удовлетворительно описывало имеющийся экспериментальный материал.

Мы встречаемся здесь с понятием статистической гипотезы. Статистической гипотезой называется предположение, выдвигаемое относительно особенностей распределения вероятностей случайной величины, которое проверяется по результатам наблюдений над ней.

Проверка любой статистической гипотезы сводится к следующему. По выборочным значениям случайной величины подсчитывается некоторая величина

– статистический критерий (статистика критерия). При допущении, что распределение вероятностей используемой статистики критерия в условиях справедливости проверяемой гипотезы известно, определяется вероятность появления вычисленного значения статистики. На основе так называемого принципа значимости устанавливается уровень значимости – наибольшее значение вероятности, несовместимое с признанием случайности экспериментально вычисленного значения статистики критерия. Событие называется значимым, если теоретическая вероятность его случайного появления

25

меньше, чем принятый уровень значимости. Уровнем значимости определяется критическое значение статистики критерия. Как правило, если значение статистики критерия, вычисленное по экспериментальным данным, больше критического, то гипотеза отклоняется на выбранном уровне значимости. В противном случае она признается не противоречащей результатам наблюдений.

В классификации статистических критериев проверки гипотез о законе распределения вероятностей принята определенная терминология. Такие критерии подразделяются на два класса – общие критерии согласия и специальные критерии согласия. Общие критерии согласия применимы к самой общей формулировке гипотезы, как гипотезы о согласии наблюдаемых результатов с любым априорно предполагаемым распределением вероятностей. Специальные критерии согласия предполагают специальные нулевые гипотезы, формулирующие согласие с определенной формой распределения вероятностей – нормальной, экспоненциальной и т. д. Такие критерии носят соответствующие названия – критерии нормальности, критерии экспоненциальности и т. п.

Естественно, что при формулировании специфических требований общие критерии согласия могут быть трансформированы в специальные критерии. Следует отметить, что многообразие возможных альтернатив, противостоящих нулевой гипотезе, порождает и чрезвычайное многообразие статистических критериев, имеющих различную мощность по отношению к различным альтернативам.

Нулевая гипотеза при применении общих критериев согласия записывается в форме Н0: Fn(x) = F(x), где Fn(x) – эмпирическая функция распределения вероятностей; F(x) – гипотетическая функция распределения вероятностей.

Все известные общие критерии согласия можно разбить на три основные группы: критерии, основанные на изучении разницы между теоретической плотностью распределения и эмпирической гистограммой; критерии, основанные на расстоянии между теоретической и эмпирической функциями распределения вероятностей; корреляционно-регрессионные критерии, основанные на изучении корреляционных и регрессионных связей между эмпирическими и теоретическими порядковыми статистиками.

Кроме критериев, входящих в перечисленные группы, известен ряд критериев, использующих специфичные характеристические свойства различных распределений, ориентированных на фиксированные нулевые гипотезы.

Например, мы можем предположить, что математическое ожидание mx генеральной совокупности равно 12. Тогда среднее значение выборки x1, х2, ... , xn (если п достаточно велико) должно мало отличаться от 12. В этом случае говорят: Мы приняли нулевую гипотезу H0: mx = 12. В качестве альтернативных гипотез здесь может быть H1 : mx > 12 или H1 : mx < 12. В нашем распоряжении имеется

конкретная выборка с параметрами x,S . Если наше предположение верно, то

разница (x mx ) должна быть достаточно малой. Эту разницу можно рассматривать в качестве анализируемой статистики. Однако на практике

используют другую статистику: t (x mx ) n /S . Статистика t является более

26

удобной, так как заранее известно, что она подчинена распределению Стьюдента. На использовании этой статистики базируется критерий Стьюдента, который можно применить для проверки нашей нулевой гипотезы H0: mx = 12. С этой целью для конкретной реализации рассчитывают эмпирическое значение статистики Стьюдента t*.

Величина t является СВ, и для различных выборок данной длины значение t* будет различным. Область возможных значений (ОВЗ) этой статистики – вся числовая ось. ОВЗ делится на две части: область принятия гипотезы и критическую область (рис. 9.1). Если t* попадает в область принятия гипотезы, Н0 не опровергается, если в критическую область, Н0 опровергается.

Рис. 9.1. Область принятия гипотезы для статистики Стьюдента [А, В]; двухсторонняя критическая область: ( ; А) и ( B; )

Область принятия гипотезы называется доверительной областью (доверительным интервалом). Вероятность по произвольной выборке получить t*, которая попадает в доверительную область, геометрически равна незаштрихованной площади на рис. 9.1. Эта вероятность называется доверительной

вероятностью (рд).

Вероятность попадания t* в критическую область выражается равенством α = 1–рд. Вероятность α называют уровнем значимости. Если критическая область состоит из двух частей, то вместо α пишут 2α = 1 – рд, где 2α указывает на то, что уровень значимости двусторонний. Геометрически уровень значимости равен заштрихованной площади на рис. 9.1 при двухсторонней критической области. Различие между односторонним (а) и двусторонним (б, в) уровнями значимости показано на рис. 9.2.

При использовании статистических критериев всегда есть возможность совершить ошибку. Типы возможных ошибок представлены в табл. 9.1.

Таблица 9.1 – Типы возможных ошибок при проверке статистических гипотез

27

Уровень значимости можно трактовать как вероятность совершить ошибку I рода. Поэтому на практике в качестве уровня значимости принимается такое достаточно малое значение вероятности, которое в данном случае характеризует практически невероятное (маловероятное) событие. Вообще говоря, назначение уровня значимости не является математической задачей и устанавливается обычно, исходя из тех последствий, которые возможны вследствие совершения ошибки при принятии или отклонении гипотезы. В гидрологической практике наиболее часто используются уровни значимости 5 и 10 %.

При проверке статистических гипотез нужно избегать категорических формулировок: “гипотеза верна” или “гипотеза неверна”. Если значение анализируемой статистики не попадает в критическую область, говорят, что нулевая гипотеза Н0 не опровергается при принятом уровне значимости α; если попадает, говорят, что H0 опровергается при уровне значимости α, т.е. расхождение эмпирических данных с нулевой гипотезой статистически значимо.

Хотя в данном случае речь шла о конкретном критерии (Стьюдента), основные принципы проверки нулевой гипотезы сохраняются и при использовании других критериев. Различие состоит лишь в том, как строится анализируемая статистика и какому распределению она подчиняется. Методика проверки статистических гипотез, изложенная выше, широко применяется в практике гидрологических расчетов, однако она не единственная.

Второй подход заключается в том, что при анализе той или иной статистики границы доверительной области не фиксируются путем назначения уровня значимости. Вместо этого определяется вероятность, соответствующая данному значению выборочной статистики. Таким образом, решается обратная задача: каким должен быть предельный уровень значимости, чтобы нулевая гипотеза не опровергалась. В этом случае говорят, что гипотеза не опровергается на таком-то уровне значимости, при этом результат интерпретируется в соответствии с табл. 9.2.

10 Случайные процессы в гидрологии

Возможна ситуация, когда модель случайной величины в принципе не подходит для описания вероятностной структуры гидрологического ряда. Такая

28

ситуация возникает, когда имеет значение фактор времени, а значит и последовательность значений в ряде наблюдений. Модель случайной величины этого не учитывает. В рамках модели СВ время выступает в качестве формального счетчика опытов. Для описания временных последовательностей используется аппарат теории случайных процессов.

Случайным процессом (СП) X(t) называется процесс, значение которого при любом фиксированном t = ti , является СВ X(ti). Реализацией СП X(t) называется неслучайная функция x(t), в которую превращается СП X(t) в результате опыта. СВ X(ti), в которую обращается СП при t = ti, называется сечением случайного процесса, соответствующим данному значению аргумента.

В настоящее время наряду с термином случайный процесс используется термин случайная функция. В качестве аргумента случайной функции может фигурировать любая переменная, а под случайным процессом будем подразумевать только случайную функцию времени.

СП X(t) называется процессом с дискретным временем, если система, в которой он протекает, может менять свои состояния только в моменты t1 , t2 , t3 ,..., число которых конечно или счетно. СП X(t) называется процессом с непрерывным временем, если переходы системы из состояния в состояние могут происходить в любой момент t наблюдаемого периода. СП X(t) называется процессом с непрерывными состояниями, если его сечение в любой момент t представляет собой не дискретную, а непрерывную (или смешанную) величину. СП X(t) называется процессом с дискретными состояниями, если в любой момент времени t множество его состояний конечно или счетно; другими словами, если его сечение в любой момент t характеризуется дискретной случайной величиной.

Большинство гидрологических процессов являются процессами с непрерывными состояниями и непрерывным временем. Например, расход воды может изменяться в любой момент времени и принимать любые значения из некоторого интервала, границы которого зависят от размера реки и климатических особенностей региона. При этом надо учитывать, что на практике расходы воды осредняют за некоторый интервал времени (год, месяц, сутки и т.д.). Вводя шаг дискретности по времени, мы заменяем процесс с непрерывным временем на процесс с дискретным временем. При этом процесс остается непрерывным по состояниям.

Таким образом, производя измерения гидрологических процессов, мы чаще всего используем модель случайного процесса с дискретным временем и непрерывными состояниями. Однако в гидрометеорологии используются и другие модели. Процесс количественного изменения облачности обычно представляют в виде процесса с дискретным временем и дискретными состояниями, так как наблюдения за облаками производятся в фиксированные сроки, а их количество округляется до целых баллов (по десятибальной шкале).

Напомним, что исчерпывающей характеристикой любой СВ X – дискретной, непрерывной или смешанной является ее функция распределения F = P{X < x}, т.е. вероятность того, что СВ Х примет значение, меньшее заданного x.

Рассмотрим СП X(t). Сечение СПа X(t) при любом значении аргумента t

29

которого берется сечение; во-вторых, от значения x, меньше которого должна быть случайная величина X(t). Функция называется одномерным законом распределения СП X(t).

Для СП с непрерывными состояниями, у которых каждое сечение представляет собой непрерывную СВ, можно пользоваться дифференциальным законом распределения. Если F(t,x) имеет частную производную по x то она называется одномерной плотностью распределения или одномерным дифференциальным законом распределения СП X(t).

Очевидно, что одномерный закон распределения (10.1) не является исчерпывающей характеристикой СП. Функция характеризует свойства любого, но отдельно взятого сечения. Она не дает представления о совместном распределении двух или более сечений.

Для иллюстрации этого факта рассмотрим два СП процесса с примерно одинаковыми распределениями в каждом сечении. Как видно на рис. 10.1, эти процессы имеют разную вероятностную структуру. Первый СП (а) имеет плавный характер, для него характерна тесная зависимость между сечениями. Для второго (б) эта зависимость быстро затухает с увеличением расстояния между сечениями.

Рис. 10.1. Реализаций двух СП с одинаковыми одномерными законами распределения, но имеющие различную вероятностную структуру

Более полной характеристикой СП будет двумерный закон распределения:

F( t1,t2 ,x1 ,x2 ) p X ( t1 ) x1,X ( t2 ) x2 . (10.2)

Функция (10.2) дает представление о совместном распределении двух произвольно взятых сечениях – для моментов времени t1 и t2. Но это функция уже не двух, а четырех аргументов и ее использование связано с определенными трудностями как вследствие сложности экспериментального определения двумерных законов распределения, так и вследствие их громоздкости при решении прикладных задач. В общем случае исчерпывающей характеристикой случайного процесса является n-мерный закон распределения. Однако существует большой класс СП (марковские процессы), для которых исчерпывающей характеристикой будет двумерный закон.

На практике вместо многомерных законов распределения, как правило, используют лишь основные характеристики СП.

30