2.3.6. Метод минимума

Как и в разд. 2.3.5, ставится задача оценки параметров Θ плотности распределения , вид которой известен. Исходными данными являются выборочные значения, по которым строится гистограмма (см. разд. 2.2, рис. 27). Идея метода заключается в подборе таких значений искомых параметров, при которых достигается минимальное отличие кривой плотности распределения от гистограммы. В качестве меры этого отличия чаще всего используется квадратичный функционал, наиболее удобный для реализации аналитических и численных методов поиска экстремума (минимума или максимума).

В нашей задаче в качестве такого функционала используется сумма, обозначенная здесь и далее . .

Причина такого обозначения станет ясна в дальнейшем из материала разд. 2.5.5.1.

В этой сумме K – общее количество интервалов, на которых построена гистограмма, n – объем выборки, – количество выборочных значений, попавших в k–й интервал гистограммы, – вероятностная мера k – го интервала гистограммы:

.

(эти обозначения иллюстрируются рис. 38 п. 2.5.5.1.)

Таким образом, слагаемые этой суммы представляют собой квадраты разностей между вероятностными мерами k-х интервалов, порожденными генеральной плотностью распределения, и частотными оценками этих вероятностных мер. Знаменателем каждого слагаемого является вероятность , благодаря чему в процессе поиска значений параметров Θ повышается вес интервалов с низкой вероятностью и тем самым обеспечивается повышенная точность подгонки в области этих интервалов. Как правило, эти интервалы находятся на удалении от центра распределения (на так называемых “хвостах” распределений).

Вероятности – функции искомых параметров Θ, от тех же параметров зависит и величина , и процедура оценивания параметров по методу минимума формально записывается в виде

.

В большинстве случаев этот минимум и оценки находятся численными методами. Доказано (см., например, [4] стр. 461, 549 и [5], стр. 303), что оценки, полученные методом минимума , обладают свойствами, сопоставимыми со свойствами ММП-оценок, а именно, эти оценки асимптотически эффективны.

2.3.7. Оценивание коэффициентов аппроксимирующих полиномов

2.3.7.1. Формулировка задачи

Будем рассматривать следующую ситуацию. Объективно существует функция y = f(x), ограниченная и дифференцируемая не менее q + 1 раз на интервале . Природа и происхождение этой функции могут быть различными:

этой функцией связаны между собой естественные параметры и(или) явления в природе, в обществе, в экономике и т.п.;

этой функцией описывается преобразование физических величин, происходящее в технических устройствах, таких, как регуляторы, датчики, измерительные преобразователи, устройства телекоммуникаций и т.п.;

этой функцией описываются взаимосвязи параметров технических объектов, в том числе технологических процессов, в различных режимах (штатный режим работы, испытания, нештатные режимы);

этой функцией, по мнению исследователя, описываются объекты, явления, процессы, которые он моделирует на компьютере.

По теореме Вейерштрасса, ограниченные и q +1 раз дифференцируемые в интервале функции могут быть сколь угодно точно аппроксимированы в этом интервале степенным (и даже обобщенным) полиномом.

Понятно, что в реальном исследовании сколь угодно высокая точность достигнута быть не может, хотя стремление к максимально достижимой точности у каждого исследователя имеется. Пусть это естественное стремление выражается следующим образом.

Желательно аппроксимировать реальную функцию y = f(x) полино­мом степени q так, чтобы максимальное расхождение между реальной функцией и этим полиномом не превосходило пренебрежимо малой, с точки зрения исследователя, величины  > 0 :

.

Будем называть этот полином степени q “точным”.

Поскольку, по теореме Вейерштрасса, такой полином существует при любом сколь угодно малом значении δ, будем считать коэффициенты “истинными” и для их обозначения введем вектор этих коэффициентов . Степень полинома q будем считать известной. В этом случае говорят: “модель объекта известна с точностью до параметров”. Объектом для нас является полином, аппроксимирующий функцию y = f(x).

Т еперь задачей исследователя является организация такого экспе­римента, в результате которого он смог бы определить значения этих коэффициентов. Необходимыми условиями выполнения такого эксперимента являются

воспроизведение с необходимой точностью заданных значений аргумента , , в диапазоне , или, по крайней мере, фиксация фактически реализующихся этих значений с помощью измерений с заданной или хотя бы с известной точностью;

измерение с необходимой или хотя бы с известной точностью значений функции при всех заданных (зафиксированных) значениях аргумента.

Пример графического представления результатов подобного эксперимента приведен на рис. 31. Непрерывной кривой изображен график исследуемой функции y = f(x), точки на этой кривой – суть значения

.

Для обозначения всей совокупности этих значений введем вектор : . Точки вне этой кривой – результаты измерений, для обозначения которых введем вектор : .

Будем считать, что воспроизведение (измерения) значений аргумента выполняются с настолько высокой точностью, что погрешностью результатов можно пренебречь.

Будем также считать, что погрешности измерения значений функции суть компоненты случайного вектора ε, не содержащие систематических составляющих (математическое ожидание всех компонент равно нулю), вектор ε распределен в соответствии с нормальным законом: , где – его ковариационная матрица. Диагональными элементами ковариационной матрицы являются дисперсии погрешностей измерений . Результаты измерений образуют в совокупности случайный вектор , который распределен нормально . В случае независимости измерений ковариационная матрица диагональна.

Задача состоит в том, чтобы выполнить полиномиальную аппроксимацию исследуемой функции y = f(x), то есть найти оценки коэффициентов полинома, аппроксимирующего эту функцию.

Измерения значений функции при каждом значении аргумента могут быть однократными или многократными.

Рассмотрим вначале случай однократных измерений, которым можно ограничиться только, если ковариационная матрица известна априори.