1.9.3. Элементы техники вычислений

Точные и приближенные числа. Точные числа получаются при счете отдельных предметов и понятий (пример: 27 шариков, 45 шагов); точными числами являются масштабные коэффициенты (пример: 1 м = 100 см = 1000 мм, масштаб карты равен 1:25000) или целые числа, условно присваиваемые границам физических интервалов (пример: температура таяния льда 0o C, температура кипения воды 100o C). Приближенные числа в геодезии получают, как правило, из измеререний; считается, что записанное приближенное число ошибочно не более, чем на половину единицы последнего разряда:

2.145 - ошибочно на 0.0005 , 2145 - ошибочно на 0.5 и т.д.

Значащие цифры числа. Все цифры числа кроме нулей слева являются значащими:

4.147 - 4 значащих цифры , 0.004147 - 4 значащих цифры , 40.00 - 4 значащих цифры .

Верными значащими цифрами приближенного числа считаются те цифры, значение которых больше ошибки этого числа. Количество верных значащих цифр в результате операций умножения, деления, возведения в степень и извлечения корня определяется наименьшим количеством верных значащих цифр в исходных числах:

2.457 * 0.62 = 1.52334 = 1.5 , (4)       (2)                         (2) 2.457 : 0.62 = 3.96290 = 4.0 , (4)       (2)                         (2) 2.452 = 6.0025 = 6.00 , (3)                         (3) = 1.5652 = 1.57 . (3)                           (3)

При выполнении этого правила применяется округление приближенных чисел, которое предусматривает, что:

если первая отбрасываемая цифра больше 5 или 5 с последующими цифрами не равными нулю, то последняя оставляемая цифра увеличивается на единицу ( 2.4617 ~ 2.5 , 2.4523 7~ 2.5 ),

если первая отбрасываемая цифра меньше 5, то последняя оставляемая цифра не изменяется (2.4417 ~ 2.4),

если первая отбрасываемая цифра есть 5 и за ней либо нет цифр, либо есть одни нули, то последняя оставляемая цифра округляется до четной ( пример: 2.55 = 2.6 , 2.65000 = 2.6 ).

При записи очень большого или очень маленького числа с небольшим количеством верных значащих цифр рекомендуется использовать степень числа 10 ( пример: 2.47*106 , 0.45*10-8 ).

При сложении и вычитании приближенных чисел количество верных десятичных знаков в ответе определяется наименьшим количеством десятичных знаков в исходных числах:

206.8                          ( 1 дес. знак ) + 21.385                     ( 3 дес. знака) 0.2751                        ( 4 дес. знака) 228.4601 = 228.5        ( 1 дес. знак ).

Если в задаче более одной арифметической операции, то в результатах промежуточных операций рекомендуется оставлять одну запасную цифру (для уменьшения ошибок округления).

Системы единиц для измерения углов:

Градусная система.

Градус - это 1/90 часть прямого угла, минута - это 1/60 часть градуса, секунда - это 1/60 часть минуты, 1o = 60' = 3600" .

Полная форма записи угла:124o12'14.63" , 124o12'00" . 1-я сокращенная форма записи угла 124o12.244' . 2-я сокращенная форма записи угла 124.2047o .

Радианная система. Радиан - это центральный угол, длина дуги которого равна радиусу окружности. Полный угол в 360o содержит 2π радианов. Переход от радианной системы к градусной и обратно:

Значения переходного коэффициента ρ :

Градовая система.

Град - это 1/100 часть прямого угла, сантиград - это 1/100 часть града, сантисантиград - это 1/100 часть сантиграда, 1 град = 100 с = 10000 сс .

Существуют еще часовая система измерения углов, система делений угломера и некоторые другие.

При нахождении тригонометрических функций угла нужно соблюдать соответствие между значением угла и количеством значащих цифр в значении функции:

угол задан до целых минут - 4 - 5 значащих цифр,

угол задан до десятых долей минуты - 5 - 6 значащих цифр,

угол задан до целых секунд - 6 значащих цифр,

угол задан до десятых долей секунды - 7 значащих цифр.

Приведем некоторые правила оформления геодезических вычислений:

все вычисления следует размещать в таблицах или ведомостях,

написание цифр должно быть аккуратным и четким, исключающим неоднозначное прочтение; желательно использование шрифтов,

записи однородных чисел следует располагать столбиками разряд под разрядом; количество значащих цифр и десятичных знаков должно соответствовать правилам техники вычислений,

исходные данные рекомендуется выделять цветом или подчеркиванием,

записи в таблицах и ведомостях не должны иметь видимых исправлений; неверно написанную цифру нужно аккуратно удалить и на этом месте написать верную цифру,

в полевых журналах запрещается исправлять первичные отсчеты, а вычисления можно исправлять, аккуратно зачеркивая неверные цифры и надписывая сверху верные,

все приращения координат, превышения, невязки и поправки следует писать со знаком ("плюс" или "минус").

Здесь уместно вспомнить слова известного геодезиста В.В. Витковского: "Чьи вычисления представляют изящно расположенные столбцы красивых цифр, тот почти всегда правильно и быстро вычисляет. Наоборот, чьи вычисления разбросаны в беспорядке, а сами цифры поражают своей уродливостью, тот почти всегда путается и вычисляет с ошибками".