1.2. Предварительные вычисления для исследования

В предварительных вычислениях ряд исследуется на наличие значимых систематических и грубых погрешностей а также меры однородности результатов по точности на основе каких-либо критериев.

Определение значимости систематического влияния. Следует иметь ввиду, что систематические влияния в рядах присутствуют всегда, но они могут быть значимы и не значимы. При определении наличия значимых систематических погрешностей в ряде имеют место два случая:

1) известно истинное значение определяемой величины Х_ист и произ­ведено п ее измерений х_i. В этом случае пользуются зависимостью

(2)

где , – средняя квадратическая погрешность среднего арифметического, т – средняя квадратическая погрешность (СКП) одной вели­чины, п – число элементов в ряде. Величина z_q (квантиль t-распределения Стьюдента) определяется по уровню значимости q (или вероятности ) и числу избыточных измерений (числу степеней свободы) k = n – 1 и выбирается из статистических таблиц [2, с.60], или получается из какого либо программного продукта. Если неравенство (2) выполняется, то с вероятностью  = 1 – q считаем, что значимые систематические погрешности в ряде измерений отсутствуют;

2) истинное значение величины не известно. Тогда наличие в резуль­татах наблюдений постоянной составляющей может быть выяснено по наиболее распространенному в геодезии критерию Аббе [2 и др.]. Для это­го выдвигаем гипотезу, что с вероятностью  в предложенном ряде отсут­ствует значимое систематическое влияние. По исследуемым величинам получаем практическую величину

, (3)

являющуюся отношением двух оценок дисперсий, средние квадратические ошибки которых получены как

(4)

В формулах (4) [...] – символ суммы Гаусса;

– уклонение i – той величины от среднего;

– последовательные разности.

Во второй формуле системы (4) суммирование производится по (п – 1) элементам. Для срав­нения, по заданной вероятности  (или уровню значимости q), числу сте­пеней свободы п и с использованием статистических таблиц критерия Аб­бе получают контрольную величину _q. [2, с. 73]. Тогда, при  > _q прини­мается гипотеза об отсутствии систематической ошибки с вероятностью  =1 – q. В противном случае ( < _q) следует принять гипотезу о посто­янной составляющей в статистической совокупности и для корректной оценки исследуемых параметров ее необходимо исключить из ряда измерений. Для этого получают усредненную величину систематического влияния, равную среднему арифметическому из всех эле­ментов, которую и исключаем из измерений, получая новый ряд Х_исп с уменьшенной по сравнению с исходным рядом систематической состав­ляющей [2]

(5)

Анализ формул (3) и (4) говорит о том, что постоянная часть будет значима в измерениях, когда величины уклонений от среднего минимальны, а последовательные разности максимальны.

Исследование на наличие грубых погрешностей. При отсутствии систематической составляющей, или после их ис­ключения по (5) проводим исследование на наличие в ряде грубых погрешностей. В зависимости от требований задачи существует масса критериев, ре­шающих поставленную задачу: критерий Граббса, Диксона, Шарлье, Шовенэ и др. (см., например [3]). В работе для выявления грубых погрешностей предлагается использо­вать критерий Граббса. Критерий дает вероятность выполнения выдвину­той гипотезы о том, что максимальное, или минимальное значение из ряда не являются грубыми погрешностями. Для этого по экстремальным значениям выборки Х_max и X_min, среднему арифметическому X и средней квадратической погрешности т, вычисляют значения

(6)

Если z_выч  z_q, для максимального и минимального значения, то сле­дует принять гипотезу об отсутствии в ряде грубых погрешностей, так как экстремальные значения не являются грубыми. Значения теоретической величины кри­терия z_q получают по заданному аргументу q и числу элементов в выборке п по специальным статистическим таблицам критерия Граббса для z_q (см., например, таблицу 18 [2, с. 76], Приложение в [4]). Если же z_выч  z_q, тогда или наибольшее или наименьшее значение ряда из дальнейшей обработки следует исключить, а к новым крайним значениям еще раз применить критерий Граббса.

Выявление неоднородности в исследуемом ряде. Для выявления степени неоднородности (неравноточности) результатов измерений используем самый простой F-критерий Фишера. Для этого разобьем исследуемую выборку на две примерно одинаковые подвыборки и для каждой вычислим средние квадратические погрешности m₁ и m₂. Тогда, если вычисленное значение статистики Фишера F_выч < F_таб (табличному значению), то принимается гипотеза с вероятностью  об отсутствии неравноточности (разнородности) в ряде исследуемых величин. Здесь величина F_выч = m²₁ / m²₂ , причем в числителе должна быть большая дисперсия. Значение F_таб выбирают из таблиц распределения Фишера по n₁ (для числителя) и n₂ (для знаменателя) степеням свободы и вероятности (1+ )/2.

Таким образом, ряд исследуемых случайных величин будет подго­товлен в соответствии с центральной предельной теоремой Ляпунова для корректного исследования на соответствие нормальному закону распреде­ления.