Работы / Скрябина ПЗ2 МОИИ

Федеральное государственное бюджетное образовательное учреждение

высшего образования

Петербургский государственный университет путей сообщения

Императора Александра I

Кафедра

«Методы и приборы неразрушающего контроля»

Дисциплина

«Методы обработки измерительной информации»

Отчёт по практическому заданию № 2:

«Рекомендуемые правила по округлению результатов измерений»

Выполнили:

студенты группы ПБ-713 Бушуев А.М.

Скрябина Е.И..

Проверила: Чурова В.В.

Санкт-Петербург

2020 г.

Цель работы: освоить метод округления результатов измерений.

1. Задания для выполнения работы:

Таблица 1.1. - Определения количества значащих цифр.

Значение	Количество значащих цифр
45	2
909	3
0978	3
12230	5
056040	5
0,7	1
0,70	2
0,809	3
0,0809	3
0,005090	4
0,24 10-3	2
0,024 10-5	2
1,56 10-3	3
0,0240 10-5	3
0,00044 10-4	2
0,00560 10-8	3
45,8998 103	6
0787,80 104	5
1,6700 106	5
45,56007 102	7
5,500340 102	7
6,45	3
6,056	4
16,0560	6
124,000909	9
2322,90973700	12

Таблица 1.2 – Ограничения числа значащих цифр и округление погрешности.

Значение	Результат округления
0,9	0,9
0,67	0,7
0,567	0,6
0,7876	0,8
0,3	0,30
0,245	0,25
0,1453	0,15
0,69	0,7
0,798	0,8
0,194	0,20
0,184	0,19
0,268	0,27
0,479	0,5
0,4798	0,5
0,479987	0,5
0,00479	0,005
0,05490	0,06
0,05570	0,06
0,05490	0,06
1,5784	1,6
1,0784	1,1
1,507	1,5
1,5784	1,6
7,78	8
8,98	9
6,0987	6
143	1,5*10^2
145	1,5*10^2
789876	8*10^5
8271,98	8*10^3
78,098	8*10
67,987	7*10
92,6	9*10
989,56	10*10^2
8789,12	9*10^3
123,7	1,3*10^2
90,89	9*10
99,345	10*10

Таблица 1.3 – Ограничения количества значащих цифр в измеренном значении и его погрешности

45,0±0,5	45,0±0,5
89,0±0,16	89,00±0,16
1245,0±0,0962	1245,00±0,10
33,0±0,060	33,00±0,06
5,0±0,0564	5,00±0,06
5,01±0,0464	5,01±0,05
6,1±1,464	6,1±1,5
645,5±2,4	646,5±2,4
5674,989±2,86	5675,0±2,9
123,93±0,78	123,9±0,8
123,93±1,78	123,9±1,8
13,93±0,5	13,9±0,5
133,73±0,5	133,7±0,5
3,03±0,5	3,0±0,5
0,3±0,5	0,3±0,5
0,04±0,5	0,1±0,5
56,89±1,5	56,9±1,5
56,879±3,4	56,9±3,4
56,879±3,45	56,9±3,5
56,879±3,451	56,9±3,5
56,879±3,45087	56,9±3,5
7,8976±2,9	7,9±2,9
56,98±2,3	57,0±2,3
56,98±2,678	57,0±2,7
134,73±3,5	134,7±3,5
134,73±3,5683	134,7±3,6
6134,35±23,5	6134±24
71621,55±43,55	71622±4*10
71621,55±413,55	71622±4*10^2