Метод максимального правдоподобия

В основе данного метода лежит понятие функции правдоподобия. Пусть X=(X₁, X₂, …, X_n) – случайная, а x=(x₁, x₂, …, x_n) – конкретная выборки из генеральной совокупности X. Распределение каждой из величин X_i совпадает с распределением величины X, т.е. при i=1, 2, …, n => P(X_i=x) = P(X=x, ), если X дискретна; f_Xi(x) = f_X(x, ), если X непрерывна. Функция правдоподобия – это функция L(x, ), значение которой в точке x определяется соотношением: L(x, )={{P((n|i=1) (X_i=x_i))=П(n|i=1) P(X_i=x_i)=П(n|i=1) P(X=x_i, ), если X дискретна; f_{X1, X2, …, Xn}(x₁, x₂, …, x_n)= П(n|i=1) f_Xi(x_i)= П(n|i=1) f_X(x_i, ), если X непрерывна. Согласно методу максимального правдоподобия оценка максимального правдоподобия ^(П) (с крышкой) = (₁^(П), ₂^(П), …, _k^(П) – все с крышкой) параметра =(₁, ₂, …, _k), при заданном наборе x определяется условием: L(x, ^(П) (с крышкой)) = max(  {}) L(x, ), где {} – область допустимых значений для . Согласно формуле max(  {}) ln L(x, ) = ln L(x, ^(П) - с крышкой) для нахождения ^(П) (с крышкой) нужно: a. найти решения системы уравнений максимального правдоподобия: ( ln L(x,  - с крышкой)) / ( _j) = 0, j=1, 2, …, k при условии, что каждое _j^* действительно зависит от x; b. среди решений, лежащих внутри области {}, выделить точки max; c. Если указанная выше система не определена, не разрешима или среди ее решений нет точки max внутри {}, то точку max следует искать на границе области {}.

Выборочная оценка дисперсии, ее свойства

Для случайной выборки оценка дисперсии имеет вид: ² (с крышкой) = 1/n*(n|i=1) (X_i-X)². Свойства выборочной оценки дисперсии: 1) несмещенность: M*² (с крышкой) = ²-²/n=(n-1)/n*² => ² (с крышкой) имеет систематическое смещение (-²/n), т.е. оценка занижает действительное значение дисперсии на ²/n. Подобное смещение исчезает при n  ; 2) состоятельность: для состоятельности несмещенной оценки  (с крышкой) достаточно доказать, что D( c крышкой)  0. Оценка ² состоятельна, если существует 4-ый центральный момент: Ds²=1/n*(₄-(n-3)/(n-1)*⁴).

Функция плотности распределения вероятностей одномерной случайной величины, свойства функции плотности. Геометрическая интерпретация

f(x)=F’(x); Свойства: 1. f(x) > 0; 2. P(x₁  X  x₂) = §(x₂|x₁) f(x)*dx; 3. F(x)=§(x|-) f(t)*dt; 4. §(+|-) f(x)*dx=1. Геометрическая интерпретация. График плотности – кривая распределения лежит не ниже оси абсцисс и полная площадь фигуры ограничена кривой распределения и осью абсцисс и равна 1. S_фиг = P(x₁  X  x₂). См. приложение №1.3.

Равномерное распределение (дискретный и непрерывный случай)

Равномерное распределение на [a, b]. f(x)={{1/(b-a), a  x  b); 0 – иначе}}. F(x)={{0, x  a; (x-a)/(b-a), a  x  b; 1, x > b}}. M_x=(a+b)/2; ²=(b-a)²/12. См. приложение №1.4.

Вариационные ряды

Вариационные ряды выборки x₁, x₂, …, x_n – это такая последовательность наблюдений, в которой элементы упорядочиваются по возрастанию (x_min=x₁  x₂  …  x_n=x_max). Дискретным вариационным рядом называется таблица, первый столбец которой содержит значение признака, а второй – частоту появления этого значения: z_i | n_i; z₁ | n₁; z₂ | n₂; z_k | n_k. Относительная частота i-ого значения: w_i=n_i/n. X: x₁, x₂, …, x_n. Размах выбора: R=x_max – x_min; кол-во интервалов группирования значений признака: k=1+3,322 lg n; ширина частоты группирования: h=R/k=(x_max – x_min)/(1+3,322 lg n); границы интервалов группирования: [C_i-1; C_i], i-1, k => C₀=x_min, C₁=C₀+k, C₂=C₁+k, …, пока C_k  x_max. Интервальным вариационным рядом (ИВР) называется таблица, в которой указаны границы интервалов значений признака (ИГЗП), середина интервалов и частота попадания значений признака в соответствующий интервал.