2.9 Статистическая обработка результатов исследований
Статистическую обработку группы результатов наблюдений проводили обычным образом при этом рассчитывались следующие параметры [27, 31]:
Среднее арифметическое результатов наблюдений:
,
(2.11)
где n – число наблюдений;
Среднее квадратическое отклонение:
,
(2.12)
Вариация, %:
,
(2.13)
Наличие грубых погрешностей. Если грубые погрешности обнаружены, то соответствующие результаты отбрасывают и повторяют вычисления`x и S;
Доверительные границы среднего квадратического отклонения результата измерения:
,
(2.14)
где t – коэффициент Стьюдента, зависящий от доверительной вероятности Р и числа степеней свободы (n-1);
Коэффициент парной корреляции:
,
(2.15)
где xi и yi – соответственно результат i-го измерения в первой и второй группе.
Критерий Стьюдента используют для оценки значимости коэффициента корреляции:
.
(2.16)
где k = n-2 – число степеней свободы.
Если расчетное значение критерия Стьюдента больше табличного t>t1-a,k, то коэффициент корреляции следует признать значимым.