
- •Пространство элементарных событий.
- •Совместные и несовместные события.
- •Операции над событиями (сумма, разность, произведение).
- •Свойства операций над событиями.
- •Алгебра и сигма-алгебра событий.
- •Классическое определение вероятности события. Случаи равновероятных исходов.
- •Статистическое определение вероятности события. Случаи неравновероятных исходов.
- •Геометрические вероятности.
- •Аксиоматическое построение теории вероятностей.
- •Полная группа событий.
- •Условная вероятность.
- •Независимость событий.
- •Основные понятия комбинаторики.
- •Правила суммы и произведения.
- •Случай непостоянной вероятности появления события в опытах
- •Для того чтобы найти вероятность появления события ровно раз в серииопытов, достаточно произвести перемножение сомножителей в производящей функции. Коэффициент при членеи даст искомую вероятность.
- •Предельные теоремы для схемы Бернулли.
- •Теорема Пуассона.
- •Понятие потока событий.
- •Локальная теорема Муавра –Лапласа.
- •Интегральная (глобальная) теорема Муавра – Лапласа.
- •Закон распределения дискретной случайной величины.
- •Свойства функции распределения
- •Свойства математического ожидания:
- •Дисперсия случайной величины и ее свойства.
- •Среднее квадратическое отклонение.
- •Распределение Пуассона.
- •Геометрическое распределение
- •Гипергеометрическое распределение (урновая схема)
- •Равномерное распределение.
- •Показательное распределение.
- •Свойства функции Гаусса.
- •Вероятность попадания нормальной случайной величины в заданный интервал.
- •Где - функция Лапласа.
- •Функция Лапласа и ее свойства.
- •Отклонение нормальной случайной величины от ее математического ожидания. Правило «трех сигм».
- •Закон распределения вероятностей двумерной случайной величины
- •Свойства совместной функции распределения двух случайных величин
- •Плотность совместного распределения вероятностей непрерывной двумерной случайной величины
- •Свойства двумерной плотности вероятности
- •Независимые случайные величины
- •Для независимых случайных величин справедливы соотношения
- •Корреляционный момент
- •Коэффициент корреляции Коэффициентом корреляции случайных величинX и y называют отношение корреляционного момента к произведению средних квадратических отклонений этих величин:
- •Свойства коэффициента корреляции
- •Способы отбора На практике применяются различные способы отбора, которые можно подразделить на два вида:
- •Выборочные среднее и дисперсия
- •Статистический критерий
- •A. Понятие о корреляционном анализе
- •Линейная регрессия
- •Множественная линейная регрессия
- •Нелинейная регрессия
- •Однородные цепи Маркова
- •Понятие о системах массового обслуживания
Выборочные среднее и дисперсия
Пусть для изучения генеральной совокупности относительно количественного признака Xизвлечена выборка объемаn.
Выборочным
средним
называют среднее арифметическое значение
признака выборочной совокупности. Если
все значения
признака
выборки объемаnразличны,
то
.
Если
значения признака
имеют
частоты
соответственно, причем
,
то
.
Выборочное среднее, найденное по данным одной выборки, равно определенному числу. При извлечении других выборок того же объема выборочное среднее будет меняться от выборки к выборке. То есть выборочное среднее можно рассматривать как случайную величину и говорить о его распределениях (теоретическом и эмпирическом) и о числовых характеристиках этого распределения (например, о математическом ожидании и дисперсии).
Для
охарактеризования рассеяния наблюдаемых
значений количественного признака
выборки вокруг среднего значения
вводитсявыборочная дисперсия.Выборочной дисперсией
называют среднее арифметическое
квадратов отклонения наблюдаемых
значений признака от их среднего значения
.
Если все значения
признака
выборки объемаnразличны,
то
.
Если
значения признака
имеют
частоты
соответственно, причем
,
то
.
Аналогично выборочным среднему и дисперсии определяются генеральные среднее и дисперсия, характеризующие генеральную совокупность в целом. Для расчета этих характеристик достаточно в вышеприведенных соотношениях заменить объем выборкиnна объем генеральной совокупностиN.
Фундаментальное
значение для практики имеет нахождение
среднего и дисперсии признака генеральной
совокупностипо соответствующим
известнымвыборочнымпараметрам.
Можно показать, чтовыборочное
среднееявляется несмещенной
состоятельной оценкой генерального
среднего. В то же время, несмещенной
состоятельной оценкой генеральной
дисперсии оказывается не выборочная
дисперсия,
а так называемая “исправленная”
выборочная дисперсия, равная
.
Таким образом, в качестве оценок генерального среднего и дисперсии в математической статистике принимают выборочнее среднее и исправленную выборочную дисперсию.
Надежность и доверительный интервал.
До сих пор мы рассматривали точечные оценки, т.е. такие оценки, которые определяются одним числом. При выборке малого объема точечная оценка может значительно отличаться от оцениваемого параметра, что приводит к грубым ошибкам. В связи с этим при небольшом объеме выборки пользуются интервальными оценками.
Интервальнойназывают оценку, определяющуюся двумя
числами – концами интервала. Пусть
найденная по данным выборки статистическая
характеристикаслужит оценкой неизвестного параметра
.
Очевидно,
тем точнее определяет параметр
,
чем меньше абсолютная величина разности
.
Другими словами, если
и
,
то чем меньшеd, тем
точнее оценка. Таким образом, положительное
числоdхарактеризуетточность оценки.
Статистические
методы не позволяютутверждать,
что оценкаудовлетворяет неравенству
;
можно говорить лишь о вероятности, с
которой это неравенство осуществляется.
Надежностью
(доверительной вероятностью)оценкипо
называют вероятностьg,
с которой осуществляется неравенство
.
Обычно надежность оценки задается
заранее, причем в качествеgберут число, близкое к единице – как
правило 0,95; 0,99 или 0,999.
Пусть
вероятность того, что
равнаg:
.
Заменим
неравенство
равносильным ему двойным неравенством
.
Это
соотношение следует понимать так:
вероятность того, что интервал
заключает в себе (покрывает) неизвестный
параметрQ, равна
.
Таким
образом, доверительнымназывают
интервал,
который покрывает неизвестный параметр
с заданной надежностью
.
Величину 1 - g=aназывают уровнем значимости или вероятностью ошибки.
Для построения интервальной оценки параметра необходимо знать закон его распределения как случайной величины
Лекция 14. Доверительные интервалы для математического ожидания и дисперсии
Доверительный интервал для математического ожидания нормального распределения при известной дисперсии.
Пусть
количественный признак Xгенеральной совокупности распределен
нормально, причем среднее квадратическое
отклонениеsэтого
распределенияизвестно. Требуется
оценить неизвестное математическое
ожиданиепо выборочному среднему
.
Найдем доверительные интервалы,
покрывающие параметрaс
надежностью
.
Будем
рассматривать выборочное среднее
как случайную величину
(т.к.
меняется
от выборки к выборке) и выборочные
значения
- как одинаково распределенные независимые
случайные величины
(эти числа также меняются от выборки к
выборке). Другими словами, математическое
ожидание каждой из этих величин равно
и среднее квадратическое отклонение -s. Так как случайная
величинаXраспределена
нормально, то и выборочное среднее
также распределено нормально. Параметры
распределения
равны
.
Потребуем,
чтобы выполнялось соотношение
,
где
- заданная надежность. Используем формулу
.
Заменим
Xнаиsна
и получим
где
.
Выразив из последнего равенства
,
получим
Так
как вероятность Pзадана
и равна,
окончательно имеем
.
Таким
образом, с надежностью
можно утверждать, что доверительный
интервал
покрывает
неизвестный параметрa,
причем точность оценки равна
.
Число
определяется из равенства
;
по таблице функции Лапласа находят
аргумент
,
которому соответствует значение функции
Лапласа, равное
.
Отметим
два момента: 1) при возрастании объемавыборкиnчислоубывает и, следовательно, точность
оценки увеличивается, 2) увеличениенадежностиоценки
приводит к увеличению
(так как функция Лапласа возрастающая
функция) и, следовательно, к возрастанию
,
то естьувеличение надежностиоценки влечет за собойуменьшение
ее точности.
Если
требуется оценить математическое
ожидание с наперед заданной точностью
и надежностью
,
то минимальный объем выборки, который
обеспечит эту точность, находят по
формуле
,
следующей
из равенства
.
Доверительный интервал для математического ожидания нормального распределения при неизвестной дисперсии
Пусть количественный признак Xгенеральной совокупности распределен нормально, причем среднее квадратическое отклонениеsэтого распределениянеизвестно. Требуется оценить неизвестное математическое ожидание с помощью доверительных интервалов.
Оказывается,
что по данным выборки можно построить
случайную величину
,
которая
имеет распределение Стьюдента с
степенями свободы. В последнем выражении
-
-
выборочное среднее,
- исправленное среднее квадратическое
отклонение,
- объем выборки; возможные значения
случайной величиныTмы
будем обозначать черезt.
Плотность распределения Стьюдента
имеет вид
,
где
некоторая постоянная, выражающаяся
через гамма – функции.
Несколько
слов о распределении Стьюдента. Пусть
- независимые стандартные нормальные
величины. Тогда случайная величина
имеет
распределение Стьюдента (В.
Госсет) сстепенями свободы. При росте числа
степеней свободы распределение Стьюдента
стремится к нормальному распределению
и уже при
использование нормального распределения
дает хорошие результаты.
Как
видно, распределение Стьюдента
определяется параметром n– объемом выборки (или, что то же самое
– числом степеней свободы)
и не зависит от неизвестных параметров
.
Поскольку
- четная функция отt, то
вероятность выполнения неравенства
определяется
следующим образом:.
Заменив
неравенство в круглых скобках двойным
неравенством, получим выражение для
искомого доверительного интервала
Итак,
с помощью распределения Стьюдента
найден доверительный интервал
,
покрывающий неизвестный параметрaс надежностью
.
По таблице распределения Стьюдента и
заданнымnи
можно найти
и
используя найденные по выборке
и
,
, можно определить доверительный
интервал.
Пример.
Количественный признакXгенеральной совокупности распределен
нормально. По выборке объемаn= 16 найдены генеральное среднееи исправленное среднее квадратическое
отклонение
.
Требуется оценить неизвестное
математическое ожидание при помощи
доверительного интервала с надежностью
0,95.
Решение.
Найдемпо таблице распределения Стьюдента,
используя значения
.
Этот параметр оказывается равным 2,13.
Найдем границы доверительного интервала:
То
есть с надежностью 0,95 неизвестный
параметр aзаключен в
доверительном интервале
Можно показать, что при возрастании объема выборки nраспределение Стьюдента стремится к нормальному. Поэтому практически приn> 30 можно вместо него пользоваться нормальным распределением. Прималыхnэто приводит к значительным ошибкам.
3. Доверительный интервал для оценки среднего квадратического отклонения s нормального распределения
Пусть
количественный признак Xгенеральной совокупности распределен
нормально и требуется оценить неизвестное
генеральное среднее квадратическое
отклонениеsпо
исправленному выборочному среднему
квадратическому отклонениюs.
Найдем доверительные интервалы,
покрывающие параметрsс заданной надежностью.
Потребуем, чтобы выполнялось соотношение
или
Преобразуем
двойное неравенство
в равносильное неравенство
и обозначимd/s=q. Имеем
(A)
и
необходимо найти q. С этой
целью введем в рассмотрение случайную
величину
Оказывается,
величина
распределена по закону
сn– 1 степенями свободы.
Несколько
слов о распределении хи-квадрат. Если
- независимые стандартные нормальные
величины, то говорят, что случайная
величина
имеет
распределение хи-квадратсстепенями свободы.
Плотность распределения cимеет вид
Это распределение не зависит от оцениваемого параметра s, а зависит только от объема выборкиn.
Преобразуем
неравенство (A) так, чтобы
оно приняло вид.
Вероятность этого неравенства равна
заданной вероятности
,
т.е.
.
Предполагая, что q< 1, перепишем (A) в виде
,
далее, умножим все
члены неравенства на
:
или
.
Вероятность того, что это неравенство, а также равносильное ему неравенство (A) будет справедливо, равна
.
Из этого уравнения
можно по заданным
найти
,
используя имеющиеся расчетные таблицы.
Вычислив по выборке
и найдя по таблице
,
получим искомый интервал (A1),
покрывающийsс
заданной надежностью
.
Пример. Количественный признакXгенеральной совокупности распределен нормально. По выборке объемаn= 25 найдено исправленное среднее квадратическое отклонениеs= 0.8. Найти доверительный интервал, покрывающий генеральное среднее квадратическое отклонениеsс надежностью 0,95.
Решение.
По заданнымпо таблице находим значениеq= 0.32. Искомый доверительный интервал
есть
.
Мы предполагали, что q< 1. Если это не так, то мы придем к соотношениям
,
и значение q>1 может быть найдено из уравнения
Лекция 14. Доверительные интервалы для математического ожидания и дисперсии
Доверительный интервал для математического ожидания нормального распределения при известной дисперсии.
Пусть
количественный признак Xгенеральной совокупности распределен
нормально, причем среднее квадратическое
отклонениеsэтого
распределенияизвестно. Требуется
оценить неизвестное математическое
ожиданиепо выборочному среднему
.
Найдем доверительные интервалы,
покрывающие параметрaс
надежностью
.
Будем
рассматривать выборочное среднее
как случайную величину
(т.к.
меняется
от выборки к выборке) и выборочные
значения
- как одинаково распределенные независимые
случайные величины
(эти числа также меняются от выборки к
выборке). Другими словами, математическое
ожидание каждой из этих величин равно
и среднее квадратическое отклонение -s. Так как случайная
величинаXраспределена
нормально, то и выборочное среднее
также распределено нормально. Параметры
распределения
равны
.
Потребуем,
чтобы выполнялось соотношение
,
где
- заданная надежность. Используем формулу
.
Заменим
Xнаиsна
и получим
где
.
Выразив из последнего равенства
,
получим
Так
как вероятность Pзадана
и равна,
окончательно имеем
.
Таким
образом, с надежностью
можно утверждать, что доверительный
интервал
покрывает
неизвестный параметрa,
причем точность оценки равна
.
Число
определяется из равенства
;
по таблице функции Лапласа находят
аргумент
,
которому соответствует значение функции
Лапласа, равное
.
Отметим
два момента: 1) при возрастании объемавыборкиnчислоубывает и, следовательно, точность
оценки увеличивается, 2) увеличениенадежностиоценки
приводит к увеличению
(так как функция Лапласа возрастающая
функция) и, следовательно, к возрастанию
,
то естьувеличение надежностиоценки влечет за собойуменьшение
ее точности.
Если
требуется оценить математическое
ожидание с наперед заданной точностью
и надежностью
,
то минимальный объем выборки, который
обеспечит эту точность, находят по
формуле
,
следующей
из равенства
.
Доверительный интервал для математического ожидания нормального распределения при неизвестной дисперсии
Пусть количественный признак Xгенеральной совокупности распределен нормально, причем среднее квадратическое отклонениеsэтого распределениянеизвестно. Требуется оценить неизвестное математическое ожидание с помощью доверительных интервалов.
Оказывается,
что по данным выборки можно построить
случайную величину
,
которая
имеет распределение Стьюдента с
степенями свободы. В последнем выражении
-
-
выборочное среднее,
- исправленное среднее квадратическое
отклонение,
- объем выборки; возможные значения
случайной величиныTмы
будем обозначать черезt.
Плотность распределения Стьюдента
имеет вид
,
где
некоторая постоянная, выражающаяся
через гамма – функции.
Несколько
слов о распределении Стьюдента. Пусть
- независимые стандартные нормальные
величины. Тогда случайная величина
имеет
распределение Стьюдента (В.
Госсет) сстепенями свободы. При росте числа
степеней свободы распределение Стьюдента
стремится к нормальному распределению
и уже при
использование нормального распределения
дает хорошие результаты.
Как
видно, распределение Стьюдента
определяется параметром n– объемом выборки (или, что то же самое
– числом степеней свободы)
и не зависит от неизвестных параметров
.
Поскольку
- четная функция отt, то
вероятность выполнения неравенства
определяется
следующим образом:.
Заменив
неравенство в круглых скобках двойным
неравенством, получим выражение для
искомого доверительного интервала
Итак,
с помощью распределения Стьюдента
найден доверительный интервал
,
покрывающий неизвестный параметрaс надежностью
.
По таблице распределения Стьюдента и
заданнымnи
можно найти
и
используя найденные по выборке
и
,
, можно определить доверительный
интервал.
Пример.
Количественный признакXгенеральной совокупности распределен
нормально. По выборке объемаn= 16 найдены генеральное среднееи исправленное среднее квадратическое
отклонение
.
Требуется оценить неизвестное
математическое ожидание при помощи
доверительного интервала с надежностью
0,95.
Решение.
Найдемпо таблице распределения Стьюдента,
используя значения
.
Этот параметр оказывается равным 2,13.
Найдем границы доверительного интервала:
То
есть с надежностью 0,95 неизвестный
параметр aзаключен в
доверительном интервале
Можно показать, что при возрастании объема выборки nраспределение Стьюдента стремится к нормальному. Поэтому практически приn> 30 можно вместо него пользоваться нормальным распределением. Прималыхnэто приводит к значительным ошибкам.
3. Доверительный интервал для оценки среднего квадратического отклонения s нормального распределения
Пусть
количественный признак Xгенеральной совокупности распределен
нормально и требуется оценить неизвестное
генеральное среднее квадратическое
отклонениеsпо
исправленному выборочному среднему
квадратическому отклонениюs.
Найдем доверительные интервалы,
покрывающие параметрsс заданной надежностью.
Потребуем, чтобы выполнялось соотношение
или
Преобразуем
двойное неравенство
в равносильное неравенство
и обозначимd/s=q. Имеем
(A)
и
необходимо найти q. С этой
целью введем в рассмотрение случайную
величину
Оказывается,
величина
распределена по закону
сn– 1 степенями свободы.
Несколько
слов о распределении хи-квадрат. Если
- независимые стандартные нормальные
величины, то говорят, что случайная
величина
имеет
распределение хи-квадратсстепенями свободы.
Плотность распределения cимеет вид
Это распределение не зависит от оцениваемого параметра s, а зависит только от объема выборкиn.
Преобразуем
неравенство (A) так, чтобы
оно приняло вид.
Вероятность этого неравенства равна
заданной вероятности
,
т.е.
.
Предполагая, что q< 1, перепишем (A) в виде
,
далее, умножим все
члены неравенства на
:
или
.
Вероятность того, что это неравенство, а также равносильное ему неравенство (A) будет справедливо, равна
.
Из этого уравнения
можно по заданным
найти
,
используя имеющиеся расчетные таблицы.
Вычислив по выборке
и найдя по таблице
,
получим искомый интервал (A1),
покрывающийsс
заданной надежностью
.
Пример. Количественный признакXгенеральной совокупности распределен нормально. По выборке объемаn= 25 найдено исправленное среднее квадратическое отклонениеs= 0.8. Найти доверительный интервал, покрывающий генеральное среднее квадратическое отклонениеsс надежностью 0,95.
Решение.
По заданнымпо таблице находим значениеq= 0.32. Искомый доверительный интервал
есть
.
Мы предполагали, что q< 1. Если это не так, то мы придем к соотношениям
,
и значение q>1 может быть найдено из уравнения
Лекция 15. Проверка статистических гипотез. Нулевая и альтернативная гипотезы, статистический критерий. Ошибки первого и второго рода. Этапы проверки статистической гипотезы. Критерий согласия Пирсона о виде распределения.
На прошлой лекции мы рассматривали задачу построения доверительных интервалов для неизвестных параметров генеральной совокупности. Сегодня мы продолжим изучение основных задач математической статистики и перейдем к вопросупроверки статистических гипотез.
Проверка статистических гипотез представляет собой важнейший этап процесса принятия решения в управленческой деятельности, позволяя проводить подготовительный этап предстоящих действий с учетом реальных характеристик процесса производства, контроля качества продукции, коммерческой деятельности, и т.п.
Как известно, закон распределенияопределяет количественные характеристики генеральной совокупности.
Если закон распределения неизвестен, но есть основания предположить, что он имеет определенный вид (например, А), то выдвигают гипотезу: генеральная совокупность распределена по закону А. В этой гипотезе речь идето виде предполагаемого распределения.
Часто закон
распределения известен, но неизвестны
его параметры. Если есть основания
предположить, что неизвестный параметрравен определенному значению
,
то может выдвигаться гипотеза
.
В этой гипотезе речь идет опредполагаемой
величине параметраизвестного
распределения.
Возможны и другие гипотезы: о равенстве параметров двух или нескольких распределений, о независимости выборок и т. д.
Приведем несколько задач, которые могут быть решены с помощью проверки статистических гипотез.
1. Используется
два метода измерения одной и той же
величины. Первый метод дает оценки
этой величины, второй -
.
Требуется определить, обеспечивают ли
оба методаодинаковую точность
измерений.
2. Контроль точности работы некоторой производственной системы. Получаемые характеристики выпускаемой продукции характеризуются некоторым разбросом (дисперсией). Обычно величина этого разброса не должна превышать некоторого заранее заданного уровня. Требуется определить, обеспечивает ли система (например, линия сборки или отдельный станок) заданную точность.
Итак, статистической называют гипотезу о виде неизвестного распределения или о параметрах известных распределений. Примеры статистических гипотез: генеральная совокупность распределена по закону Пуассона; дисперсии двух нормальных распределений равны между собой.
Наряду с выдвинутой гипотезой всегда рассматривают и противоречащую ей гипотезу. Если выдвинутая гипотеза будет отвергнута, то принимается противоречащая гипотеза.
Нулевой (основной)
называют выдвинутую гипотезу.
Альтернативной
(конкурирующей) называют
гипотезу,
которая противоречит нулевой. Например,
если нулевая гипотеза состоит в
предположении, что математическое
ожидание нормального распределения
равно 5, то альтернативная гипотеза,
например, может состоять в предположении,
что
.
Кратко это записывают так:
.
Простойназывают гипотезу, содержащую только
одно предположение. Например, если- параметр показательного распределения,
то гипотеза
- простая.Сложной называют
гипотезу, состоящую из конечного или
бесконечного числа простых гипотез.
Например, сложная гипотеза
состоит из бесконечного множества
простых гипотез вида
,
где
- любое число, большее 3.
Выдвинутая гипотеза может быть правильной или неправильной, поэтому возникает необходимость ее проверки. Так как проверку производят статистическими методами, то ее называют статистической. В итогестатистической проверки гипотезыв двух случаях может быть принято неправильное решение, т.е. могут быть допущены ошибки двух родов.
Ошибка первого рода состоит в том, что будетотвергнута правильнаягипотеза. Ошибка второго рода состоит в том, что будетпринята неправильнаягипотеза. Следует отметить, что последствия ошибок могут оказаться различными. Если отвергнуто правильное решение "продолжать строительство жилого дома", то эта ошибка первого рода повлечет материальный ущерб; если же принято неправильное решение "продолжать строительство" несмотря на опасность обвала дома, то эта ошибка второго рода может привести к многочисленным жертвам. Иногда, наоборот, ошибка первого рода влечет более тяжелые последствия.
Естественно, правильное решение может быть принято также в двух случаях, когда принимается правильнаягипотеза илиотвергается невернаягипотеза.
Вероятность
совершения ошибки первого роданазываютуровнем значимостии
обозначают.
Чаще всего уровень значимости принимают
равным 0,05 или 0,01. Если, например, принят
уровень значимости 0,05, то это означает,
что в пяти случаях из ста имеется риск
допустить ошибку первого рода (отвергнуть
правильную гипотезу).