5.7. Основні правила обчислень

Обчислення - невід'ємний елемент геодезичних робіт як під час вимірів, так й у процесі обробки їхніх результатів. Спосіб і технічні засоби обчислень залежать від складності й обсягу роботи. Для обчислень використовують різні обчислювальні машини. У процесі роботи користуються довідковими матеріалами, таблицями, номограмами.

При обчисленні дотримують загальних вимог, що дозволяють зменшувати ймовірність помилок й одержувати результат найбільш простим способом:

- насамперед вибирають раціональну схему (алгоритм), що забезпечує простоту, наочність й однотипність обчислень; наприклад, результати вимірів і польових обчислень записують у стандартних журналах, а при наступних (камеральних) обчисленнях - у бланках або відомостях;

- всі обчислення супроводжуються контролем - поточним й заключним. При поточному контролі перевіряють правильність проміжних обчислень, а при заключному – кінцевого результату. Для цього обчислення виконують два працівники, паралельно й незалежно один від одного; або результати перевіряють за контрольними формулами;

- записи ведуть чітко й розбірливо; не допускається виправлення невірно записаного або обчисленого числа по раніше написаному - помилкове число закреслюють однією лінією й над ним пишуть правильне число.

У геодезичних обчисленнях доводиться мати справу переважно з наближеними числами. Для того щоб домогтися найбільшого ступеня наближення, дотримують наступних правил. У наближеному числі виділяють десяткові знаки, значущі цифри й вірні цифри. Десятковими знаками вважають всі цифри, що стоять після коми, значущими цифрами - всі цифри числа, крім нулів, що стоять перед першою й після останньої значущими цифрами (наприклад, у числі 0,0107 чотири десяткових знаки й три значущі цифри). Вірними називаються цифри числа, «які заслуговують довіри». Наприклад, якщо при вимірі лінії з точністю до 1 м виходить результат 285,41 м, вірними будуть цифри 285, останні дві цифри невірні, «не заслуговують довіри». При обчисленнях утримують таку кількість значущих цифр, десяткових знаків, знаків логарифма, що забезпечує потрібну точність результатів і не завантажують обчислення невірними або непотрібними цифрами. У тих випадках, коли наближене число містить зайву кількість невірних значущих цифр, прибігають до округлення. Звичайно керуються наступним правилом: при виконанні наближених обчислень число значущих цифр проміжних результатів не повинне перевищувати числа вірних цифр більш ніж на одну або дві одиниці. Остаточний результат може містити не більше однієї зайвої значущої цифри. Числа округляють за загальними правилами: якщо наступна цифра, після тої що залишається, менше п'яти, то її й наступні цифри відкидають, а якщо більше п'яти - до останньої цифри, що залишається, додають одиницю. Наприклад, число π послідовно округляють так: 3,14159; 3,1416; 3,142; 3,14.

Якщо в числі остання цифра 5, її округляють до парної цифри, наприклад, 10,375 - до 10,38; 0,245 - до 0,24.

При виконанні арифметичних дій з наближеними числами доцільно керуватися наступними правилами:

- при додаванні або відніманні чисел з неоднаковою кількістю десяткових знаків залишають стільки десяткових знаків, скільки їх має число з найменшою кількістю десяткових знаків, плюс один запасний знак. У сумі або різниці залишають стільки десяткових знаків, скільки має число з найменшою кількістю знаків;

- при множенні або діленні чисел з неоднаковою кількістю значущих цифр залишають стільки значущих цифр, скільки їх має число з найменшою кількістю значущих цифр, плюс одна запасна цифра. В добутку або в частці зберігають стільки значущих цифр, скільки їх має число з найменшою кількістю значущих цифр;

- при піднесенні числа в ступінь в результаті залишають стільки значущих цифр, скільки їх було в числі, яке піднесено в ступінь;

- при добуванні кореня з числа в результаті зберігають стільки значущих цифр, скільки вірних цифр має підкореневе число.