5. Учет значащих цифр при вычислениях

Значащими цифрамив десятичном изображении числа являются все цифры, кроме нулей, стоящих вначале числа. Нули в середине или в конце числа являются значащими. Например, в числе 0,04070 первые два нуля не являются значащими, а третий и четвёртый – значащие.

В случае записи больших чисел с нулями на конце (например, число 62000) возникает неопределённость, заключающаяся в том, что заранее не ясно, являются ли эти нули значащими цифрами, или же они служат только для определения разряда остальных цифр. Для устранения этой неопределённости такие числа следует записывать, например, в виде 6,210⁴, если значащими являются только две первые цифры; 6,2010⁴, если значащими являются три цифры и т.д.

Если полученное приближенное значение физической величины содержит лишние (незначащие) или недостоверные цифры, то его округляют. При этом руководствуются известными правилами округления.

При выполнении различных математических операций с приближенными числами надлежит руководствоваться следующими правилами:

1. при сложении и вычитании в результате сохраняют столько десятичных знаков, сколько их содержится в числе с наименьшим количеством десятичных знаков;

2. при умножении и деления в результате сохраняют столько значащих цифр, сколько их имеет приближенное число с наименьшим количеством значащих цифр;

3. результат расчета значений функций (xⁿ,,lgxи т.п.) некоторого приближенного числаxдолжен содержать столько значащих цифр, сколько их имеется в числеx.

Окончательный результат обязательно проводится вместе с погрешностью и всегда записываются так, чтобы их последние цифры принадлежали к одному и тому же десятичному разряду. Нельзя писать 180,4 или 18,320,4. Правильная запись: 18,30,4.

6. Построение графиков Отражение доверительных интервалов на графиках.

Обычно с помощью линейки или лекала через экспериментальные точки проводится гладкая кривая таким образом, чтобы сумма квадратов расстояний от точек до кривой была минимальной.

На графиках погрешности указываются для одной или обеих измеряемых величин в виде отрезков длиной в доверительный интервал (рис. 4), в центре которых расположены экспериментальные точки (или в виде прямоугольника, стороны которого равны доверительным интервалам). В зависимости от того, пройдет ли теоретическая кривая (прямая) через доверительные интервалы экспериментальных точек, результаты эксперимента признают согласующимися или несогласующимися с теорией.

Рис. 4

Однако через построенные точки можно, в принципе, провести несколько прямых с немного отличающимся наклоном (или же несколько кривых, если функциональная зависимость нелинейная). Для повышения точности результатов в тех случаях, когдазаранее известен вид функциональной зависимости двух величин(линейная, логарифмическая, экспоненциальная или степенная), следует воспользоваться методом наименьших квадратов.

Понятие о методе наименьших квадратов

Пусть, например, две измеряемые величины, xиy, связаны между собой линейной зависимостью:

,

где aиb– неизвестные параметры. Результатом экспериментальных измерений является несколько пар значенийx_iиy_i(i = 1,2,…n, гдеn– количество измерений). Поскольку величиныx_iиy_iизмерены с некоторой погрешностью, то экспериментальные точки не ложатся на одну прямую (рис. 4).

В этом случае «наилучшей» прямой будет та, для которой сумма квадратов расстояний от точек до неё будет минимальной. На основе этого критерия можно получить выражения для параметров aиb:

, (16)

, (17)

а также оценки для погрешностей этих величин:

, (18)

, (19)

где

,

.

Возможность использования метода наименьших квадратов при нелинейной зависимости измеряемых величин обусловлена тем, что в ряде случаев такие зависимости можно свести к линейным путём замены переменой; например, для функции y=lnaxможно строить график зависимостиyотlnx(y=lnx+lna).

Применение метода наименьших квадратов для обработки результатов измерений эффективно при использовании программируемых калькуляторов или компьютеров с соответствующим программным обеспечением, например, достаточно широко распространённой программой Microsoft Excel из пакетаMicrosoft Office, а также специализированными программамиMathCAD,Matematica,MAPLи т.п.

Ещё раз необходимо подчеркнуть, что применение метода наименьших квадратов возможно только при известном виде функциональной зависимости измеряемых величин.В противном случае результаты расчётов могут потерять физический смысл.