2.3 Запись чисел. Форматы записи чисел

При решении задач с использованием компьютера числа применяются 1) при вводе данных, в том числе с клавиатуры; 2) при проведении вычислений в соответствии с программой и при обмене данными между отдельными узлами вычислительного комплекса; 3) при выводе данных для предъявления пользователю.

Для оптимизации параметров вычислительного процесса по скорости и погрешности в текстах программ указывают целесообразные формы представления чисел: целое число, действительное число; действительное число двойной точности. Целые числа требуют наименьшего объема памяти вычислительного устройства и, соответственно, позволяют уменьшить продолжительность вычислений. Действительные числа двойной точности, напротив, занимают больше ячеек памяти, вычисления происходят медленнее, но зато обеспечивается меньшая вычислительная погрешность, чем при использовании действительных чисел одинарной точности.

Применяют формы записи:

с фиксированной десятичной запятой (-378,451; 18,3700; 29,06);

с плавающей десятичной запятой (нормализованная форма записи).

Нормализованная форма записи действительных чисел имеет следующий вид:

x m 10 p

где: m – мантисса числа, 10 1 m 100 p – порядок числа.

Например, x = 173,8456 нормализованной форме приобретает следующий вид: x = 0,1738456·103 .

В табличном процессоре этой записи соответствует 0,1738456

Е03.

Следует иметь в виду, что при вводе и выводе данных табличный процессор допускает использование для чисел иных форматов

9