3. Обчислення найбільш ймовірного значення результату вимірювання

Найбільш ймовірне значення шуканого результату є середнє арифметичне ряду (вибірки), що визначається за формулою

. (11)

Ця оцінка є обґрунтованою і незміщеною для будь-якого закону розподілу випадкових величин. При нормальному законі розподілу вона і ефективна.

4. Обчислення середньоквадратичного відхилення результату вимірювання

Середньоквадратичне відхилення (СКВ) звичайно обчислюється за формулою Бесселя:

(12)

Витяг квадратного кореня (процедура нелінійна) приводить до деякого зсунення оцінки . Для виправлення цього зсунення вводять поправочний коефіцієнт М_к (див. таблицю додатка 5, у таблиці параметр К обчислюється по формулі К = n - 1).

Тоді розрахунок СКВ виконується за формулою

. (13)

Величина , яка називається вибірковим чи емпіричним стандартом, є обґрунтованою (обґрунтована оцінка при збільшенні обсягу вибірки наближається до істинного значення величини), але не ефективною оцінкою. Вона лише асимптотично ефективна, тобто її власне розсіювання відносно  прагне до мінімального при необмеженому збільшенні n значень Х_i у вибірці. Але навіть з урахуванням зростання точності формули (13) відносна помилка визначення  і при дуже великих n (порядку тисячі) складає кілька відсотків. Тому значення  більше чим із двома значущими цифрами не записують.

5. Оцінка анормальності окремих результатів вимірювань

Якщо виникає підозра в анормальності деякого окремого вимірювання Х_к, результат якого помітно відрізняється від інших(грубий промах), потрібно скористуватися критерієм анормальності результатів спостережень. Обчислюється показник анормальності

. (14)

Потім при імовірності Р = 0,95, для даного обсягу вибірки n з таблиці додатка 5.1 знаходять параметр . Критерієм анормальності є умова

, (15)

Якщо ця умова дотримується, то імовірність даного результату виміру Х_к менше 1-Р. Отже він анормальний і повинний бути виключений з даної вибірки. Після чого значення ^Х и  повинні бути обчислені знову.

6. Похибка середнього арифметичного

Обчислення похибки середнього арифметичного здійснюється за формулою

(16)

У формулі (16) величина _характеризує точність як оцінку математичного сподівання випадкової величини Х. З (16) видно, що чим більше n, тим менше _Х і тим менше значення випадкової складової похибки вимірювання.

7. Обчислення довірчих меж гр випадкової складової похибки результату вимірювання

Довірчий інтервал випадкової складової звичайно розташований симетрично відносно величиниХ. Значення довірчої межі _мвс обчислюється за формулою

(17)

де t_p – коефіцієнт довіри; _Х – похибка середнього арифметичного.

Коефіцієнт t_p у загальному випадку залежить від обсягу вибірки n і прийнятої або заданої імовірності Р. Його значення, обчислені на підставі розподілу Стьюдента, дані в додатку 6 (тут число ступенів волі К = n –1).

Обчислення довірчих меж Х_н і Х_в (відносно Х), як правило виробляється з двосторонньою імовірністю Р = 0,95. В окремих випадках, коли експеримент неможливо повторити, приймають Р = 0,99. Тільки в особливо відповідальних випадках, наприклад, зв'язаних з життям людей допускається приймати Р = 0,999.