Пример математической обработки результатов измерений

В результате проведённых измерений при нагрузке 29 400 Н

и диаметре шарика 10 мм, были получены следующие данные:

Таблица Б.2 – Протокол измерений

Материал Сталь 60	di. лунки=, мм	di. лунки┴, мм	di ср, мм	dср–di.ср, мм	(dср–di.ср)2
1-ый	4,46	4,56	4,51	2,56	6,55
2-ой	4,38	4,40	4,39	2,68	7,18
3-ий	23,5	23,7	23,6	–16,53	273,2
4-ый	4,52	4,50	4,51	2,56	6,55
5-ый	4,36	4,38	4,37	2,70	7,29
6-ой	1,04	1,06	1,05	6,02	36,2

1. По формуле 2 определяем среднеарифметическое значение диаметра лунки:

d_ср = d_i.ср / n = 7,07 мм

2. По формуле 4 определяем среднее квадратичное отклонение единичного измерения:

σ = == 8,2.

Следовательно, предельная ошибка измерения Δ_lim = 3σ ≈ 8,2 х 3 = 24,6.

Как видно из приведённых данных, результаты измерений 3-его и 6-ого студентов отличаются от средней величины более чем на 24,6 поэтому их необходимо отнести к грубым ошибкам («промахам») и исключить из протокола измерений.

Такие ошибки возникают из-за невнимательности студентов. Во первых при неправильном определении цены деления шкалы измерительной лупы. Например лупа МБП-3 , комплектуется двумя объективами, которые дают цену деления 0,04 мм (нижняя шкала) и 0,02 мм (верхняя шкала). В связи с этим в отчётах можно встретить измеренные диаметры лунок, равные 23,5 мм при диаметре образца не более 25-мм.

Ещё одна причина грубых ошибок состоит в том, что часто на образцах присутствуют лунки, оставшиеся от вдавливания шариков 5 и 10 мм, при измерении твёрдости методом Бринелля, и лунки, оставшиеся от вдавливания шарика диаметром 1,59мм, оставшиеся после измерения твёрдости методом Роквелла (HRB).

3. Вновь рассчитываем среднее арифметическое значение полученных результатов:

d_{ср. испр.} = d_{i ср} / n = 4,45 мм

4. Вновь определяем cреднеквадратичное отклонение единичного измерения:

σ = == 0,076.

Таблица Б.3 – исправленный протокол измерений

Материал Сталь 60	di ср, мм	dср. испр–di.ср, мм	(dср. испр–di.ср)2
1-ый	4,51	-0,06	0,0036
2-ой	4,39	0,06	0,0036
4-ый	4,51	-0,06	0,0036
5-ый	4,37	0,08	0,0064

Следовательно, предельная ошибка измерения Δ_lim = 3σ ≈ 0,076 х 3 = 0,23.

После исключения из протокола измерений грубых ошибок все значения не отклоняются от среднего арифметического значения более чем на 3σ и будут использованы для дальнейших расчетов.

5. Средняя квадратичная ошибка среднего арифметического значения равна:

σ_dср = σ/= 0,076/ = 0,04

Вероятность Р, с которой истинное значение измеряемой величины находится в заданном диапазоне задаётся преподавателем. Например, в нашем случае, Р = 0,9. Тогда коэффициент Стьюдента для 4-ёх измерений составит t_pn = 2,4.

6. Доверительный интервал математического ожидания измеряемой величины определяется по формуле 6 лежит в пределах:

А_ср – t σ_Аср ≤М[А] ≤ А_ср + tσ_Аср, следовательно:

d_{i ср} = 4,45 ± 0,04 х 2,4 = 4,45 ± 0,09 мм

Таким образом относительная погрешность наших измерений составила:

 = Δ d_{i ср} / d_{i ср} х 100% = 2,0%, а величина твёрдости находится в интервале НВ = 1717 ÷ 2052 МПа