2. Числа

Большое разнообразие чисел имеется в VBA. Но, «по умолчанию», вычисления там ведутся с 16-ю значащими цифрами.

При этом, из – за погрешностей округления получаемые результаты содержат не более 15 верных значащих цифр. С такой же точностью ведутся вычисления в Excel и MathCAD. Для инженерных вычислений эта точность вполне достаточна.

Важной особенностью MathCAD является то, что результаты вычислений там получаются, вообще говоря, в виде комплексных чисел. Поэтому MathCAD «спокойно» вычисляет значения логарифмов и корней любой степени из отрицательных чисел, выполняет многие другие вычисления, которые, с точки зрения математики вещественных чисел, не имеют смысла. Примеры:

Каждый пользователь должен знать, что вещественные числа (и дробные и целые) в ВС записываются в двух формах: обычной и экспоненциальной.

Обычная форма записи, принятая в математике, является естественной и не требует комментариев. Нужно только помнить о том, что в MathCAD и VBA дробные числа записываются с десятичной точкой, а в Excel, «по умолчанию» - с десятичной запятой. Это нужно учитывать, в частности, при переносе чисел из Excel в MathCAD и обратно.

О числах в экспоненциальной форме (ЧЭФ)

Это достаточно простое и в то же время весьма важное понятие.

Вначале рассмотрим примеры записи чисел, содержащих множитель вида 10ⁿ, где n – целый показатель степени, и соответствующих им ЧЭФ:

Обычная запись	123,510- 5	- 0,05107	- 106	10 - 7
Запись в виде ЧЭФ	123,5Е-5	- 0,05Е7	- 1е6	1е-7

Очевидно, что при выполнении инженерных и других расчётов потребность в записи ЧЭФ возникает довольно часто.

Прочные навыки безошибочной записи ЧЭФ необходимы каждому пользователю хотя бы потому, что позволяют избежать грубейших ошибок, когда используются готовые к исполнению программы.

В этом случае пользователю остаётся только безошибочно ввести исходные числовые данные.

При таком вводе чисел недопустимы, например, записи вида

- 0,053*10^7 или – 10 ^ (-7) и т.д.

Эти записи не являются числами, а представляют собой целые арифметические выражения.

Те, кто не знаком с ЧЭФ, вынуждены записывать все вводимые числа в обычной форме (без буквы Е(е)).

Но при этом можно легко ошибиться на целый порядок (в десять раз!).

В этом легко убедиться, если попробовать записать в обычной форме числа из вышеприведённой таблицы.

Кроме того, ЧЭФ нередко встречаются в результатах вычислений, проводимых в Excel и других компьютерных системах.

В экспоненциальной форме может быть записано любое число, допустимое для данной вычислительной среды, тогда как в обычной форме это можно сделать не всегда.

В Excel среди других форматов ячейки есть экспоненциальный формат (вкладка «Число» в окне «Формат ячеек»).

Общая форма записи числа в экспоненциальной форме:

<Обычное число> Е | e <Целое число>

Здесь сначала обязательно ставится какое – либо обычное число (целое или дробное), затем – латинская буква Е (или е), после чего – целый показатель степени.

Таким образом, в записи ЧЭФ могут присутствовать следующие символы:

Все цифры (от 0 до 9), десятичная запятая (или десятичная точка), латинская буква Е (или е), знаки + и –

Никакие другие символы, включая пробелы, в записи ЧЭФ не допускаются!

В СКМ MathCAD пользователю нельзя записывать ЧЭФ в арифметических выражениях вообще и при задании числовых значений переменных в частности.

Но при выводе результатов вычислений (особенно в символьной форме) ЧЭФ встречаются довольно часто. Например:

Попутно отметим, что цифра 0, стоящая перед десятичной точкой, здесь опущена. Это часто встречается и в других ВС. При вводе чисел пользователь также может опускать 0 перед десятичной точкой (или десятичной запятой), но лучше этого не делать, помня общее правило: чем нагляднее и естественнее запись, тем лучше.

ЧЭФ – это простейшее, но важное базовое понятие при проведении различных вычислений и чтении полученных результатов. ЧЭФ рекомендуется использовать везде, где это целесообразно, в том числе и при записи строчных арифметических выражений.

Контрольные вопросы и задания.

1. Что такое ЧЭФ? Где они используются?

2. Можно ли вводить ЧЭФ в арифметических выражениях MathCAD?

3. Как получить приближенное значение числа π в Excel?

4. Как получить приближенное значение числа π в VBA?