Основы технического творчества и научных исследований. Учебное пособие

Случайные процессы делятся на стационарные и нестационарные. Стационарные случайные процессы, в свою очередь, делятся на эргодические и неэргодические. Нестационарные случайные процессы классифицируются по особенностям их нестационарностей.

Если физическое явление описывается случайным процессом, то свойство этого явления можно оценить в любой момент времени путём усреднения по совокупности выборочных функций, образующих случайный процесс. Совокупность выборочных функций также называют ансамблем. Среднее значение этого случайного процесса в момент времени t1 можно вычислить, взяв мгновенные значения всех выборочных функций ансамбля в момент времени t1, сложив эти значения и разделив на число функций. Аналогичным образом ковариацию значений случайного процесса в два различных момента времени вычисляют путём усреднения по ансамблю произведений мгновенных значений в моменты времени t1 и t1 + τ. Среднее значение и ковариационная функция случайного процесса {x(t)} определяется формулами (6) и (7) соответственно:

Вформулах (6) и (7) суммирование производится в предположении равновероятности всех выборочных функций.

Вобщем случае, когда μx (t1) и Rxx(t1, t1 + τ) зависят от момента времени t1, случайный процесс {x(t)} называется нестационарным. В случае, когда μx(t1) и

Rxx (t1, t1 + τ) не зависят от момента времени t1, случайный процесс {x(t)} называется слабо стационарным или стационарным в широком смысле. У слабостационарных процессов μx (t1) является постоянной, а Rxx (t1, t1 + τ) зависит только от τ.

Для определения полного набора функций распределения, задающих структуру случайного процесса {x(t)}, нужно вычислить бесконечное число моментов, смешанных моментов высших порядков. В том случае, если все они не зависят от времени, случайный процесс называется строго стационарным или стационарным в узком смысле.

В большинстве случаев характеристики стационарного случайного процесса можно вычислить, усредняя по времени в пределах отдельных выборочных функций, входящих в ансамбль. Например, если взять k-ю выборочную функцию ансамбля, то среднее значение μx (k) и ковариационная функция Rxx (τ, k), вычисленные по k-й реализации, равны

41

Если случайный процесс стационарен, а среднее значение μx (k) и ковариационная функция Rxx (τ, k), вычисленные по различным реализациям, совпадают, то случайный процесс называется эргодическим. Эргодические случайные процессы образуют очень важный класс случайных процессов, так как все свойства эргодических процессов можно определить по единственной выборочной функции. На практике стационарные случайные процессы часто оказываются эргодическими. Именно по этой причине свойства стационарных случайных явлений можно определить по единственной реализации.

К нестационарным процессам относятся все случайные процессы, не удовлетворяющие условию стационарности. Если не наложены дополнительные условия, то свойства нестационарных случайных процессов обычно зависят от времени и могут быть установлены только путём усреднения в отдельные моменты времени по ансамблю выборочных функций, образующих процесс. На практике часто не удаётся получить достаточное для точной оценки свойств процесса число реализаций. Этим объясняется отставание в развитии практических методов измерения и анализа нестационарных случайных процессов. Понятие «стационарность» относится к средним по ансамблю свойствам случайного процесса. Однако на практике часто говорят о стационарности или нестационарности данных, представляющих единственную реализацию случайного явления. В этом случае стационарность понимается в несколько ином смысле. Если о единственной реализации говорят как о стационарной, то обычно имеют в виду, что её свойства, определённые на коротких интервалах времени, существенно не изменяются от интервала к интервалу. Пусть среднее значение и ковариационная функция оценены по небольшому интервалу длиной T с началом в точке t1, т.е.

t1 +T

μx (t1, k) = T1 ∫xk (t) dt ; (10)

t1 t1 +T

Rxx (t1, t1 + τ, k) = T1 ∫xk (t) xk (t + τ) dt . (11)

t1

Если выборочные величины, определённые по формулам (10) и (11), сильно изменяются с изменением начального момента времени t1, выборочная функция называется нестационарной. Если выборочные величины не изменяются существенно с изменением начального момента времени t1, реализация называется стационарной.

Неопределённость экспериментальных данных может быть обусловлена различными причинами. В простейшем случае неопределённость в наблюдениях обусловлена инструментальными ошибками. В более сложных случаях сама причинно-следственная модель стохастична, неопределённость, вызванная ошибками измерений, сохраняется.

Ошибки могут иметь как систематический, так и случайный характер. В первом случае искажения возникают всегда, когда имеют место обуславливающие их причины, и приводят к характерным изменениям результатов. Действие же случайных ошибок имеет нерегулярный характер, приводит как

42

к завышению, так и к занижению измеряемых величин по сравнению с истинными значениями. При обработке результатов экспериментов необходим корректный учёт и систематических, и случайных ошибок.

5.4. ОСНОВНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

Основными характеристиками случайных процессов являются: генеральная совокупность, выборка, эмпирическая функция распределения.

Генеральная совокупность – это все возможные значения параметра, которые могут быть измерены в ходе неограниченного по времени наблюдения за объектом. Такая совокупность состоит из бесконечного множества элементов. В результате наблюдения за объектом формируется ограниченная по объёму совокупность значений параметра x1, x2, …, xn . С формальной точки зрения такие данные представляют собой выборку из генеральной совокупности. Наблюдаемые значения xi называют вариантами, а их количество – объёмом выборки n.

Для описания основных свойств случайных процессов используются четыре статистические функции:

1)среднее значение квадрата случайного процесса – даёт представление об интенсивности процесса;

2)плотность распределения – характеризует распределение значений процесса в фиксированных точках;

3)автокорреляционная функция;

4)спектральная плотность.

Среднеезначениеквадрата Ψx2 реализации{x(t)} определяется поформуле

Физический процесс можно рассматривать в виде суммы статической, т.е. не зависящей от времени, и динамической или флуктуационной составляющей. Статическую составляющую можно получить, вычисляя среднее значение по формуле (8). Динамическая составляющая определяется дисперсией процесса – средним квадратом отклонения от среднего значения.

Плотность распределения случайного процесса определяет вероятность того, что значения процесса в произвольный момент времени будут заключены в определённом интервале. Основная цель получения плотности вероятности физического процесса состоит в получении вероятностных законов для его мгновенных значений. Эту функцию также можно использовать для того, чтобы отличить гармонический процесс от случайного. Опытные специалисты могут по плотности распределения выявить нелинейные физические эффекты.

Автокорреляционная функция характеризует общую зависимость значений процесса в некоторый данный момент времени от значений в другой момент времени (9). Автокорреляционная функция – это действительная чётная функция с максимумом в точке τ = 0. График функции автокорреляции называют автокоррелограммой. Основным приложением автокорреляционной

43

функции физического процесса является исследование того, в какой степени значения процесса в некоторый момент времени влияют на значения процесса в некоторый момент в будущем. Автокорреляционная функция представляет собой средство выявления детерминированных процессов, которые могут маскироваться случайным фоновым шумом.

Спектральная плотность случайного процесса описывает общую частотную структуру процесса через спектральную плотность среднего квадрата его значений. Среднее значение квадрата реализации в интервале частот от f до f + f можно получить, подавая эту реализацию на вход полосового фильтра с узкой полосой пропускания и осредняя возведённую в квадрат функцию на выходе фильтра:

Основным применением спектральной плотности физического процесса является исследование его частотной структуры.

На практике часто возникает необходимость описать некоторые общие или совместные характеристики по двум и более реализациям.

Совместная плотность распределения двух случайных процессов оп-

ределяет вероятность того, что ординаты процессов в произвольный момент времени будут заключены одновременно в двух определённых интервалах их значений. Основным применением совместной плотности распределения является установление вероятностных законов для явлений, которые описываются двумя и более процессами, связанными между собой.

5.5. ЭМПИРИЧЕСКАЯ ФУНКЦИЯ РАСПРЕДЕЛЕНИЯ

Пусть в полученной выборке значение x1 параметра наблюдалось n1 раз, значение x2 – n2 раз, значение xk – nk раз, n1 + n2 + … + nk = n. Совокупность значений xi , записанных в порядке их возрастания, называют вариационным рядом, величины ni – частотами, а их отношения к объёму выборки νi = ni / n – относительными частотами.

Под распределением понимают соответствие между наблюдаемыми вариантами и их частотами или относительными частотами. Пусть nx – количество наблюдений, при которых случайные значения параметра Х меньше x. Относительная частота данного события равна nx / n. Это отношение является функцией от x и от объёма выборки: Fn (x) = nx / n. Величина Fn(x) обладает всеми свойствами функции распределения:

–Fn (x) неубывающая функция, её значения принадлежат отрезку [0; 1];

–если x1 – наименьшее значение параметра, а xk – наибольшее, то Fn (x) = 0,

когда x < x1, и Fn (xk) = 1, когда x ≥ xk .

Функция Fn (x) определяется по экспериментальным данным, поэтому её называют эмпирической функцией распределения. В отличие от эмпирической функции Fn (x) функцию распределения F(x) генеральной совокупности называют теоретической функцией распределения, она характеризует не относи-

44

тельную частоту, а вероятность события X < x. Из теоремы Бернулли вытекает, что относительная частота Fn (x) стремится по вероятности к вероятности F(x) при неограниченном увеличении n. Следовательно, при большом объёме наблюдений теоретическую функцию распределения F(x) можно заменить эмпирической функцией Fn (x).

При большом объёме выборки (будем считать n большим, если n > 40) в целях удобства обработки и хранения сведений прибегают к группированию экспериментальных данных в интервалы. Количество интервалов следует выбрать так, чтобы в необходимой мере отразилось разнообразие значений параметра в совокупности, и в то же время закономерность распределения не искажалась случайными колебаниями частот по отдельным разрядам. Существуют нестрогие рекомендации по выбору количества k и размера h таких интервалов, в частности:

– в каждом интервале должно находиться не менее 5 – 7 элементов,

вкрайних разрядах допустимо всего два элемента;

–количество интервалов не должно быть очень большим или очень маленьким. Минимальное значение k должно быть не менее 6 – 7. При объёме выборки, не превышающем несколько сотен элементов, величину k задают в

пределах от 10 до 20. Для очень большого объёма выборки (n > 1000) количество интервалов может превышать указанные значения. Некоторые исследователи рекомендуют пользоваться соотношением y = 1,441 ln(n) + 1;

–при относительно небольшой неравномерности длины интервалов

удобно выбирать одинаковыми, равными величине h = (xmax – xmin) / k, где xmax – максимальное; xmin – минимальное значение параметра. При существенной неравномерности закона распределения длины интервалов можно задавать меньшего размера в области быстрого изменения плотности распределения;

–при значительной неравномерности лучше в каждый разряд назначать примерно одинаковое количество элементов выборки. Тогда длина конкретного интервала будет определять крайними значениями элементов выборки, сгруппированными в этот интервал, т.е. будет различна для разных интервалов (в этом случае при построении гистограммы нормировка по длине интервала обязательна – в противном случае высота каждого элемента гистограммы будет одинакова).

Группировка результатов наблюдений по интервалам предусматривает:

–определение размаха изменений параметра х;

–выбор количества интервалов и их величины;

–подсчёт для каждого i-го интервала [xi ; xi + 1] частоты ni или относительной частоты попадания варианты в интервал.

В результате формируется представление экспериментальных данных в виде интервального или статистического ряда. Графически статистический ряд отображают в виде гистограммы, полигона и ступенчатой линии. Часто гистограмму представляют как фигуру, состоящую из прямоугольников, основаниями которых служат интервалы длиною h, а высоты равны соответствующей относительной частоте. Однако такой подход неточен. Высоту i-го прямоугольника zi следует выбрать равной ni / (nh). Такую гистограмму можно интерпретировать как графическое представление эмпирической функции плот-

45

ности распределения fn (x), в ней суммарная площадь всех прямоугольников составит единицу. Гистограмма помогает подобрать вид теоретической функции распределения для аппроксимации экспериментальных данных.

Эмпирическая функция распределения отображается ступенчатой ломаной линией: над каждым интервалом проводится отрезок горизонтальной линии на высоте, пропорциональной накопленной относительной частоте в текущем интервале. Накопленная относительная частота равна сумме всех относительныхчастот, начинаяспервогои доданногоинтервалавключительно.

5.6. ОСНОВНЫЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ

Наиболее важной с точки зрения прикладной статистики является гауссово распределение. Широко используются в статистике функции, связанные с нормально распределёнными случайными величинами: χ2-распределение; t-распределение; F-распределение.

Наиболее важный тип случайной величины, который встречается как в прикладной, так и в теоретической статистике, величина x(k) с плотностью

вается нормальным или гауссовым распределением. Нормальное распределение представляют в более удобной форме, используя нормированную вели-

2π

Обозначим zα величину, которая соответствует заданной вероятности P(z) =1−α . Тогда

zα

P(zα) = ∫p(z)dz = P[z(k) ≤ zα ] =1−α

−∞

или

∞

1− P(zα) = ∫p(z)dz = P[z(k) > zα] = α .

zα

Величину zα, удовлетворяющую этим формулам, называют 100-про- центной точкой распределения.

Нормальное распределение имеет важное значение благодаря центральной предельной теореме, согласно которой распределение суммы независимых случайных величин при весьма общих условиях близко к нормальному при произвольном виде распределения отдельных слагаемых. Так как реальные физические явления часто представляют собой результат суммарного воздей-

46

ствия многих величин, то нормальное распределение представляет собой хорошее приближение обычно наблюдаемых распределений.

Рассмотрим n независимых случайных величин z1(k), z2(k), …, zn (k), каждая из которых имеет нормальный закон распределения с μz = 0 и σz = 1.

Случайная величина χ2n = z12 + z22 +... + zn2 называется χ2n величиной с n степенями свободы. Функция плотности распределения χ2 с n степенями свободы

ветственно. χ2 -распределение представляет собой частный случай γ-распре-

деления; величина, равная корню квадратному из χ2 с двумя степенями свободы, подчиняется распределению Рэлея, а величина, равная корню квадратному из χ2 с тремя степенями свободы, подчиняется распределению

Максвелла. При увеличении числа степеней свободы χ2 -распределение при-

ближается к нормальному. В частности, при n > 30 величина 2χ2n распределена приблизительно по нормальному закону с математическим ожиданием,

равным 2n −1 , и дисперсией, равной 1.

Пусть y(k) и z(k) – независимые случайные величины, y(k) подчиняется распределению χ2 , а z(k) – нормальному распределению с математическим

коэффициентом Стьюдента с n степенями свободы. Математическое ожидание и дисперсия равны 0 и n / (n – 2) соответственно, при n > 2.

Распределение Стьюдента было предложено в 1908 г. английским статистиком В. Госсетом, публиковавшим научные труды под псевдонимом Student. По сравнению с нормальным, распределение Стьюдента более пологое; оно имеет меньшую дисперсию. Это отличие заметно при небольших значениях n, что следует учитывать при проверке статистических гипотез (критические значения аргумента распределения Стьюдента превышают аналогичные показатели нормального распределения). Распределение Стьюдента применяется для описания ошибок выборки при n < 30. При n, превышающем 100, данное распределение практически соответствует нормальному, для значений n из диапазона от 30 до 100 различия между распределением Стьюдента и нормальным распределением составляют несколько процентов. Поэтому относительно оценки ошибок малыми считаются выборки объёмом не более 30 единиц, большими – объёмом более 100 единиц.

47

Распределению Р. А. Фишера (F-распределению Фишера – Снедекора) подчиняется случайная величина Fn1 , n2 = [(y1(k)n1 )(y2 (k)n2 )], равная отно-

шению двух случайных величин у1 и у2, имеющих χ2 -распределение с n1 и n2 степенями свободы.

5.7. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЯ

Значение параметра, вычисленное по ограниченному объёму экспериментальных данных, является случайной величиной, т.е. значение такой величины от выборки к выборке может меняться. Следовательно, в результате обработки экспериментальных данных определяется не значение параметра, а только лишь его приближённое значение – статистическая оценка этого параметра. Получить статистическую оценку параметра теоретического распределения означает найти функцию от имеющихся результатов наблюдения, которая и даст приближённое значение искомого параметра.

Различают два вида оценок – точечные и интервальные. Точечными называют такие оценки, которые характеризуются одним числом. При малых объёмах выборки точечные оценки могут значительно отличаться от истинных значений параметров, поэтому их применяют при большом объёме выборки. Интервальные оценки задаются двумя числами, определяющими вероятный диапазон возможного значения параметра. Эти оценки применяются для малых и для больших выборок.

Применительно к каждому оцениваемому параметру закона распределения генеральной совокупности существует множество функций, позволяющих вычислить искомые значения. Например, оценку математического ожидания можно вычислить, взяв среднее арифметическое выборочных значений, половину суммы крайних членов вариационного ряда, средний член выборки и т.д. Указанные функции отличаются качеством оценок и трудоёмкостью реализации.

Для характеристики эмпирического распределения можно использовать оценки центральных и начальных моментов. Применение находят моменты до четвёртого порядка включительно, так как точность выборочных моментов резко падает с увеличением их порядка, в частности, дисперсия начальных моментов порядка r зависит от моментов порядка 2r. Она становится значительной для моментов высокого порядка даже при больших объёмах выборки. Выборочные значения моментов определяют непосредственно по выборке или по сгруппированным данным.

Выборочные значения центральных моментов случайной величины X вычисляются по выборке с применением с формул

μ1 = 1 ∑n xi ; n i =1

Эти величины являются оценками соответствующих теоретических моментов m1 – m4 и должны рассматриваться как случайные. Вычисления

48

по формулам (17) дают состоятельные, но смещённые оценки моментов старше первого. Смещение удаётся устранить введением поправочных коэффициентов, зависящих от объёма выборки. Несмещёнными и состоятельными будут оценки, вычисленные по формулам

Начальный эмпирический момент порядка r по несгруппированным данным определяется соотношением

Центральные и начальные оценки моментов связаны между собой следующими зависимостями:

В процессе обработки экспериментальных данных проще сначала определить оценки начальных моментов, потом перейти к смещённым оценкам центральных моментов и затем вычислить несмещённые оценки.

Квантилью, отвечающей уровню вероятности γ, называют такое значение варианты xg, при котором функция распределения случайной величины при-

нимает значение γ, т.е. квантиль – это значение аргумента xg функции распределения, при котором F(xg) = γ. Эмпирическую квантиль находят по заданному

значению вероятности γ, используя вариационный ряд или ступенчатую ломаную линию.

Для описания распределений применяются и другие характеристики:

– среднеквадратическое отклонение σ = μ2 ;

– коэффициент асимметрии β1 = μ3 ;

μ13

– эксцесс β2 = μμ42 ;

2

– стандартизованные переменные u = (x −σμ1) .

Коэффициент асимметрии характеризует «скошенность» распределения относительно симметричного нормального.

49

Коэффициент эксцесса характеризует островершинность распределения относительно нормального.

Стандартизация переменной позволяет упростить расчёты, кроме того, в литературе многие справочные статистические таблицы приводятся именно для стандартизованных переменных. Математическое ожидание стандартизованной переменной равно нулю, а дисперсия равна единице. Величина u называется центрированной и нормированной. Переход от центрированной и нормированной величины к исходной осуществляется простым преобразованием x = uσ +μ1 . Потери информации при стандартизации и обратном преобразова-

нии не происходит.

Каждый элемент экспериментальных данных формируется под влиянием как общих закономерностей, так и особых условий и случайных событий. Следовательно, в обработке экспериментальных данных большой интерес представляют вопросы оценки величин, характеризующих вариацию значений параметра у разных объектов или у одного и того же объекта в разные моменты времени. Вариацией какого-либо параметра (показателя) в совокупности наблюдений называется различие его значений у разных элементов этой совокупности. Именно это свойство является объектом исследования большинства методов обработки экспериментальных данных. Для характеристики вариации нет единого показателя, в этих целях применяются моменты распределения выше первого, производные от них величины, размах выборки, квантили и другие.

5.8. РАСПРЕДЕЛЕНИЕ ВЫБОРОЧНЫХ ХАРАКТЕРИСТИК

Рассмотрим случайную величину x(k), имеющую функцию распределения P(x). Пусть x1, x2, …, xn выборка, состоящая из n наблюденных значений величины x(k). Любая величина, вычисленная по этим выборочным значениям, тоже будет случайной. Например, среднее значение выборки x . Если из одной и той же случайной величины x(k) извлекать ряд различных выборок объёма N, то средние значения x , вычисленные по различным выборкам, будут различаться между собой. Следовательно, выборочное среднее представляет собой случайную величину, которая имеет некоторую функцию распределения. Эту функцию называют выборочным распределением выборочного среднего.

Рассмотрим среднее значение выборки объёма N независимых наблюдений случайной величины x(k). В случае нормального распределения случайной

величины x(k) с математическим ожиданием μx и дисперсией σ2x выборочное

50