7. Правила округления

В результате любых измерений, прямых или косвенных, получаются приближенные числа. Значащими цифрами числа называют все цифры в его записи, начиная с первой ненулевой слева. Значащие цифры, составляющие число могут быть верными, сомнительными и неверными. Цифра называется верной, если погрешность числа меньше половины единицы разряда этой цифры. Цифры, стоящие левее верной цифры, также будут верными. Если разряд цифры совпадает с разрядом первой значащей цифры погрешности, то цифра называется сомнительной. Цифры, стоящие справа от сомнительной будут неверными.

При выполнении расчетов нужно придерживаться следующих правил:

1) В лабораторных работах исходными данными для вычислений служат результаты прямых измерений, последняя цифра которых обычно сомнительная.

2) Физические константы или табличные данные содержат только верные числа, а погрешность табличных данных, если она не указана, считают равной половине разряда последней значащей цифры.

3) При округлении, если цифра, расположенная за оставляемой, меньше 5, то ее просто отбрасывают, иначе оставляемую цифру увеличивают на единицу. Если отбрасываемая цифра равна 5, а следующие за ней отброшенные цифры ненулевые, то оставляемую цифру увеличивают на единицу. Если же отбрасываемая цифра равна 5, а следующие за ней цифры среди отброшенных равны нулю, то наименьшая ошибка достигается при округлении по правилу Гаусса до ближайшего четного числа. Пример: 2,54≈2,5; 5,6500≈5,6; 8,751≈8,8.

4) При сложении и вычитании результат округляется до наименьшего разряда с наименьшим количеством значащих цифр. Пример: 2,17+3,3=5,5.

5) При умножении и делении в результате сохраняют столько же значащих цифр, сколько их имеется в числе с наименьшим числом значащих цифр. Исключение составляет случай, когда один из сомножителей начинается с 1, а второй, содержащий наименьшее количество значащих цифр, – с другой цифры. Тогда сохраняют на одну цифру больше, чем в числе с наименьшим количеством значащих цифр. Пример: 590,0273=1,6.

6) При возведении в любую степень (в том числе и дробную) нужно сохранять столько значащих цифр, сколько их содержится в возводимом числе. Пример: =14.

7) При вычислении промежуточных результатов следует сохранять одной цифрой больше, чем этого требуют сформулированные выше правила. В конечном результате запасная цифра отбрасывается.

8) Если данные имеют излишние младшие десятичные разряды (при сложении и вычитании) или больше значащих цифр, чем другие (при умножении, делении, возведении в степень), то их предварительно нужно округлить, сохраняя одну запасную цифру.

9) Нахождение числа из таблиц считается за отдельное действие, и если оно является промежуточным, то берется запасная цифра.

При окончательной записи результата необходимо опираться на следующие правила:

1. Выполнить предварительную запись окончательного результата измерения в виде (17) и вынести за общую скобку одинаковые порядки среднего и погрешности, т.е. множитель вида , где k – целое число. Числа в скобках переписать в десятичном виде с использованием запятой, убрав тем самым оставшиеся порядковые множители.

2. Округлить в скобках число, соответствующее погрешности: до двух значащих цифр, если первая из них – 1 или 2, и до одной значащей цифры - в противном случае.

3. Округлить в скобках числовое значение среднего арифметического до цифры того же порядка, что и значение погрешности после ее округления.

4. Окончательно записать с учетом выполненных округлений. Общий порядок и единицы измерения величины приводят за скобками – получена стандартная форма записи, которая содержит только достоверные, т.е. надежно измеренные, цифры.

Например: пусть =73,647мм, а=0,039мм. Округляем до первой значащей цифры и переводим в метры=0,04мм=0,04м, затем округляем до цифры того же разряда что и погрешность=73,65мм=73,65м. Тогда окончательно получим:

=(73,650,04)м.