Параметрические и непараметрические задачи

В зависимости от того, каким образом задано семейство , принято различать параметрические и, как дополнение к ним, непараметрические модели статистики.

Для того чтобы корректно определить параметрическую модель, введем следующее расстояние между вероятностными мерами.

Определение.

Величина называется расстоянием по вариации между вероятностными мерами.

Определение. Семейство вероятностных мерназывается (k -) параметрическим, если существует взаимно однозначное соответствие между некоторым подмножествоми семейством

Покажите, что для параметрического семейства верно и обратное: из сходимости следует сходимость.

такое, что из сходимостиследует сходимость.

Статистическая модель называется параметрической, если семейство параметрическое. В этом случае величинуназывают параметром, а- параметрическим множеством.

Если все меры семейства имеют плотность

относительно некоторой меры , то из теоремы Шеффе следует, что достаточным условием параметричности семействаявляется взаимно однозначность соответствияи непрерывность функцииподля любого.

Это условие не является ограничительным и обычно выполняется во всех практически важных задачах

В продолжение всего курса, будем предполагать, что все меры семейства имеют плотность относительно некоторой меры, которую будем в общем случае обозначать, а в параметрическом

В частности, семейства распределений

и т.п. являются параметрическими.

В дальнейшем математическое ожидание по мере будем обозначатьили, для параметрических семейств.

Случайные величины и статистики

Небольшое отличие в терминологии математической статистики и теории вероятностей заключается в том, что в математической статистике часто термином случайная величина, случайный вектор называют семейство случайных величин или векторов, т.е., например, измеримое отображение

может зависеть от того, какая вероятностная мера из семействазадана на пространстве. Если семействопараметрическое, то часто указывают зависимостьслучайной величины или вектора от

Для обозначения случайной величины, вектора или отображения в некоторой другое измеримое пространство не зависящей (зависящего) от семейства в математической статистике используют терминстатистика, т.е. используют следующее определение.

Определение.

Статистикой называется измеримое отображение измеримого пространства статистической моделив некоторое другое измеримое пространствоодинаковое для всехиз семейства.

Пример

В предыдущем примере является статистикой, а величина

не является статистикой.

Иначе говоря, статистику можно вычислить, зная только статистические данные. Таким образом, статистика представляет собой функцию от статистических данных или, что то же самое, некоторый метод обработки этих данных.

Пример. Если статистические данные представляют собой вектор с действительными компонентами, то функция равная среднему арифметическому этих компонент является статистикой и задает метод обработки данных, который можно назвать «вычисление среднего».

Достаточные статистики

Если статистическая модель для статистических данных построена или выбрана, то возникает возможность выявления статистик, которые содержат в себе такую же информацию о неизвестной мере , как и исходные статистические данные. Выявление этих т.н.достаточных статистикчасто позволяет упростить анализ статистической модели, преобразовать исходные данные и сократить объем информации, необходимой для анализа.

Определение

Статистика называется достаточной статистикой для семейства, если для любогоусловная вероятность

одинакова для всех из семейства.

Тривиальным примером достаточной статистики являются исходные статистические данные . Нетривиальные примеры позволяет получить следующая теорема.