Округление результатов

Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК. Иногда можно увидеть, как магически действует на многих студентов после вычислений длинный ряд цифр после запятой. Однако легко видеть, например, что запись бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если допустить ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления:

1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.

Примеры: 8.27 ≈ 9; 0.237 ≈ 0.3;

0.0862 ≈ 0.09; 0.00035 ≈ 0.0004;

857.3 ≈ 900; 43.5 ≈ 50.

2. Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.

Примеры: 243.871 ± 0.026 ≈ 243.87 ± 0.03;

243.871 ± 2.6 ≈ 244 ± 3;

1053 ± 47 ≈ 1050 ± 50.

3. Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.

Примеры: 8.337 (округлить до десятых) ≈ 8.3;

833.438 (округлить до целых) ≈ 833;

0.27375 (округлить до сотых) ≈ 0.27.

4. Если первая из отбрасываемых цифр больше или равна 5 , (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.

Примеры: 8.3351 (округлить дл сотых) ≈ 8.34;

0.2510 (округлить до десятых) ≈ 0.3;

271.515 (округлить до целых) ≈ 272.

5. Если отбрасываемая цифра равна 5 , а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.

Примеры: 0.875 (округлить до сотых) ≈ 0.88;

0.5450 (округлить до сотых) ≈ 0.54;

275.500 (округлить до целых) ≈ 276;

276.500 (округлить до целых) ≈ 276.

Обработка результатов косвенного измерения

В лабораторной практике большинство измерений – косвенные и интересующая величина является функцией одной или нескольких непосредственно измеряемых величин:

.

(10)

Как следует из теории вероятностей, среднее значение величины определяется подстановкой в формулу (10) средних значений непосредственно измеряемых величин, т.е.

.

(11)

Требуется найти абсолютную и относительную ошибки этой функции, если известны ошибки независимых переменных.

Рассмотрим два крайних случая, когда ошибки являются либо систематическими, либо случайными. Единого мнения относительно вычисления систематической ошибки косвенных измерений нет. Однако если исходить из определения систематической ошибки как максимально возможной ошибки, то целесообразно находить систематическую ошибку по формулам

,

(11)

или

,

(12)

где – частные производные функции (10) по аргументу найденные в предположении, что все остальные аргументы, кроме того, по которому находится производная, постоянные; – систематические ошибки аргументов.

Формулой (11) удобно пользоваться в случае, если функция имеет вид суммы или разности аргументов. Выражение (12) применять целесообразно, если функция имеет вид произведения или частного аргументов.

Для нахождения случайной ошибки косвенных измерений следует пользоваться формулами:

,

(13)

или

,

(14)

где – доверительные интервалы при заданных доверительных вероятностях (надежностях) для аргументов . Следует иметь в виду, что доверительные интервалы должны быть взяты при одинаковой доверительной вероятности .

В этом случае надежность для доверительного интервала будет тоже P.

Часто наблюдается случай, когда систематическая ошибка и случайная ошибка близки друг к другу, и они обе в одинаковой степени определяют точность результата. В этом случае общая ошибка ∑ находится как квадратичная сумма случайной Δ и систематической δ ошибок с вероятностью не менее чем P, где P – доверительная вероятность случайной ошибки:

.

При проведении косвенных измерений в невоспроизводимых условиях функцию находят для каждого отдельного измерения, а доверительный интервал вычисляют для получения значений искомой величины по тому же методу, что и для прямых измерений.

Следует отметить, что в случае функциональной зависимости, выраженной формулой, удобной для логарифмирования, проще сначала определить относительную погрешность, а затем из выражения найти абсолютную погрешность.

Прежде чем приступать к измерениям, всегда нужно подумать о последующих расчетах и выписать формулы, по которым будут рассчитываться погрешности. Эти формулы позволят понять, какие измерения следует производить особенно тщательно, а на какие не нужно тратить больших усилий.

При обработке результатов косвенных измерений предлагается следующий порядок операций:

1. Все величины, находимые прямыми измерениями, обработать в соответствии с правилами обработки результатов прямых измерений. При этом для всех измеряемых величин задать одно и то же значение надежности P.

2. Оценить точность результата косвенных измерений по формулам (11) – (12), где производные вычислить при средних значениях величин. Если ошибка отдельных измерений входит в результат дифференцирования несколько раз, то надо сгруппировать все члены, содержащие одинаковый дифференциал, и выражения в скобках, стоящие перед дифференциалом взять по модулю; знак d заменить на Δ (или δ).

3. Если случайная и систематическая ошибки по величине близки друг к другу, то их необходимо сложить по правилу сложения ошибок. Если одна из ошибок меньше другой в три или более раз, то меньшую можно отбросить.

4. Определите относительную погрешность результата серии косвенных измерений

.

5. Результат измерения записать в виде:

.

Пример. Находится объем цилиндра по формуле

,

где d – диаметр цилиндра, h – высота цилиндра.

Обе эти величины определяются непосредственно. Пусть измерение этих величин дало следующие результаты:

,

,

при одинаковой надежности .

Среднее значение объема, согласно (11) равно

.

Воспользовавшись выражением (14) имеем:

;

, ;

;

.

Так как измерения производились микрометром, цена деления которого 0.01 мм, систематические ошибки . На основании (12) систематическая ошибка будет

.

Систематическая ошибка оказывается сравнимой со случайной, следовательно

.

Относительная погрешность

.

Таким образом, результат измерения после оказывается

или окончательно после округления имеет вид

при , .