2. Статистична обробка масиву результатів n прямих вимірювань.

1. За істинне значення фізичної величини X приймається середньоарифметичне значення N вимірювань

(2)

2. Визначається дисперсія величини Х:

(3)

3. Визначається середньоквадратичне відхилення результатів вимірювання від середнього значення :

(4)

4. Визначається границя довірчого інтервалу X без врахування систематичної похибки  (точніcть приладу, яким вимірюється Х)

, (5)

де Z_N,Р - табличний коефіцієнт Сть'юдента, для числа вимірювання N та ймовірності P.

5. Визначається границя довірчого інтервалу X при заданій систематичній похибці _Х (точність приладу, яким вимірюється Х):

Коефіцієнт Ст'юдента визначається з Tаблиці 1 за заданими значеннями N та P:

Таблиця І.Коефіцієнт Ст'юдента для ймовірності

Р = 0.9; 0.95; 0.99

N	3	4	5	6	7	8	9	10	11	12
ZN,0.9	2.92	2.35	2.13	2.02	1.94	1.90	1.86	1.83	1.81	1.80
ZN,0.95	4.3	3.18	2.78	2.57	2.45	2.36	2.31	2.26	2.23	2.2
ZN,0.99	9.93	5.84	4.06	4.03	7.71	3.50	3.36	3.25	3.17	3.11

Остаточно результат прямого вимірювання записується у вигляді

Х=  Х, P=0,95.

3. Обробка результатів експерименту при посередніх вимірюваннях.

Нехай шукана фізична величина А визначається функціональною залежністю від k параметрів Х_і

А = f(X₁,X₂,...,X_k). (7)

Спрощена методика статистичної обробки експерименту при визначенні фізичної величини А, що є функцією k величин Х_і, які допускають прямі вимірювання й обробляються за методикою п.ІІ, для однакового значення ймовірності Р, полягає у наступному.

1. За істинне значення величини А приймається "середньоарифметичне"

(8)

2. Границя довірчого інтервалу визначається так:

(9)

У цьому виразі  частинна похідна, обчислена для середніх значень параметрів , помножена на границю х_і довірчого інтервалу величини X_і. Остаточно результат вимірювання записується, як і для прямих вимірювань, у вигляді

A=  A, P=0,95. (10)

Метод найменших квадратів

Нехай ми маємо масив N виміряних у досліді значень величин X,Y. Покладемо, що зв'язок X та Y описується у теорії лінійною залежністю

Y=f(X,а,b), (11)

де а та b параметри зв'язку.

Метод найменших квадратів виходить із того, що знайдені середні значення параметрів у (11) повинні забезпечити мінімум відхилення теоретичного значення Y(Xі) від експериментального значення Yі по всіхN точках X_і одночасно, тобто функціонал

. (12)

повинен мати мінімум по параметрах а та b.

Це означає, що величини можна визначити із системи рівнянь

. (13)

Вираз (13) у явному вигляді представляє систему двох рівнянь для визначення двох невідомих . Якщо б залежність (10) містила не два, а К параметрів, то у виразі (13) ми мали б відповідно систему К рівнянь для визначення К невідомих.

Нехай залежність (10) задається лінійною функцією Y=a+bX. Диференціювання Q по а та b дає

. (14)

Якщо в (14) розкрити дужки, то одержимо

. (15).

Якщо в (15) ліві частини поділити на число вимірювань N і ввести середні значення, то одержимо два лінійних рівняння для :

(16).

, ,.

Розв'язок цих рівнянь дає:

, (17).

де

(18)

- коефіцієнт кореляції,

(19)

- дисперсії величин X та Y, а середні значення квадратів величин Х та Y визначаються так

, (20)

За величиною r 1. Якщо r>0, то Y зростаюча, а при r<0 - спадна функція X. Можна показати, що у (11) величина і при r=1 маємо Q=0, тобто експериментальні значення Yі співпадають із теорією. На практиці для встановлення лінійної залежності між відповідними величинами необхідно, щоб значення коефіцієнта r було більше 0.98.