1.Оценки подстановки неизвестных параметров. Выборочное среднее и выборочная дисперсия. Несмещенная оценка дисперсии.

В основе почти всех приёмов оценивания лежит следующий основной метод, который можно было бы назвать методом подстановки эмпирического распределения (или, для краткости,методом подстановки).

Пусть X  P и неизвестный параметр  представим в виде некоторого функционала G от распределения P: =G(P).

Пусть, далее, P*_n, как и прежде, означает эмпирическое распределение. Тогда метод подстановки предписывает в качестве оценки * взять функцию:  = G (P*_n).

Такие оценки будем называть оценками по методу подстановки или просто оценками подстановки.

Вы́борочное сре́днее — это приближение теоретического среднего распределения, основанное на выборке из него. Пусть   — выборка из распределения вероятности, определённая на некотором вероятностном пространстве  . Тогда её выборочным средним называется случайная величина

.

Выборочная дисперсия в математической статистике — это оценка теоретической дисперсии распределения на основе выборки. Различают выборочную дисперсию и несмещённую, или исправленную, выборочные дисперсии. Пусть   — выборка из распределения вероятности. Тогда

Выборочная дисперсия — это случайная величина

,

где символ   обозначает выборочное среднее.

Несмещённая (исправленная) дисперсия — это случайная величина

.

Несмещённая оце́нка в математической статистике — это точечная оценка, математическое ожидание которой равно оцениваемому параметру. Пусть   — выборка из распределения, зависящего от параметра  . Тогда оценка   называется несмещённой, если

.

В противном случае оценка называется смещённой, и случайная величина   называется её смеще́нием.

2.Методы линейной регрессии. Метод наименьших квадратов для случая линейной зависимости данных.

Линейная регрессия — метод восстановления зависимости между двумя переменными. Ниже приведен пример программы, которая строит линейную модель зависимости по заданной выборке и показывает результат на графике.Для заданного множества из   пар  ,  , значений свободной и зависимой переменной требуется построить зависимость. Назначена линейная модель

c аддитивной случайной величиной  . Переменные   принимают значения на числовой прямой  . Предполагается, что случайная величина распределена нормально с нулевым матожиданием и фиксированной дисперсией  , которая не зависит от переменных  . При таких предположениях параметры   регрессионной модели вычисляются с помощью метода наименьших квадратов.Метод наименьших квадратов — метод нахождения оптимальных параметров линейной регрессии, таких, что сумма квадратов ошибок (регрессионных остатков) минимальна. Метод заключается в минимизации евклидова расстояния   между двумя векторами — вектором восстановленных значений зависимой переменной и вектором фактических значений зависимой переменной.

Дисциплина: ТВ и МС Билет № 18