Технология работы

Выполним следующую последовательность действий.

1. Откроем EXCEL, создадим книгу 2 под именем KOREN

2. Занесем в ячейку А1 формулу =КОРЕНЬ(2)

3. Получим «по умолчанию» значение 1.414214 (шесть знаков после запятой с округлением в сторону увеличения последнего знака).

4. Используя команды Формат, Ячейка, Числовой, будем повышать количество знаков после запятой до тех пор, пока не дойдем до предела точности, обеспечиваемого EXCEL. При этом мы обнаружим, что пределом является 13 знаков после запятой, т.к. дальнейшее увеличение количества знаков просто приводит к записи справа дополнительных нулей. Так, например, задание 20 знаков после запятой приводит к появлению в ячейке А1 значения 1.41421356237310000000.

Записав в ячейке А2 формулу КОРЕНЬ(2) – 1.41421356237310000000 получим погрешность, равную -0.00000000000000488498(хотя и малое число, но не нуль)

7.3 Проблема использования больших чисел

Для исследования этой проблемы будем использовать известные «числа Фибоначчи», получаемые следующим образом: первое и вторе числа Фибоначчи равны единице, а каждое последующее (начиная с третьего) равно сумме двух предыдущих: 1; 1; 2; 3; 5; 8; 13; 21; ... .

Технология работы

1. Откроем EXCEL, создадим книгу 3 под именем FIBONATHI

2. Отформатируем ячейки столбца А как «общий»

3. Занесем в ячейки А1 и А2 цифру 1

4. В ячейку А3 запишем формулу =А1 + А2

5. Скопируем формулу из ячейки А3 в последующие ячейки столбца А до ячейки А100 включительно

6. Пронаблюдаем рост чисел Фибоначчи и обнаружим, что уже 39 число равно 63245986

7. Для следующего (40-го) числа размерности ячейки уже недостаточно, и мы видим число, представленное в формате с плавающей точкой 1.02Е+08 (произошло округление с потерей значащих цифр)

8. Расширяя мышкой ячейку вправо, обнаружим, что в ячейке появится целое число (без потерь)

9. Просматривая числа дальше вновь обнаружим проблему округления при переходе от числа 54 к числу 55, т.е. от 86267571272 к 1.39584Е+11.

10. Попытаемся расширить мышкой размер ячейки. Перехода к формату целых чисел в этом случае не происходит. Это объясняется тем, что количество байтов, отводимых для хранения целых чисел в EXCEL, ограничено. Если встречается число, не помещающееся в отведенное количество байтов, то он автоматически записывается в формате с плавающей точкой.

11. Перейдем от общего формата к числовому и получим число 55 без искажения, но уже в виде дроби с двумя нулевыми разрядами после запятой. При этом вступает в силу накопление ошибок округления (как в задании 7.2). Из-за этого 74-число Фибоначчи (как оно отображается в EXCEL) не равно сумме 72-го и 73-го чисел:

498454011879264.00 (72-е число)

806515533049393.00 (73-е число)

1304969544928660.00 (74-е число)

3. Для того. чтобы убедиться в этом запишите в ячейку А101 формулу =А74-(А72+А73)

Таким образом, начиная с ячейки А74, вычислениям EXCEL верить нельзя.

В EXCEL имеются и грубые математические ошибки, допущенные разработчиками пакета. Так, во всем математическом мире запись -2⁴ принято понимать как –(2⁴), а не как (-2⁴), т.е -16, е не +16. Вместе с тем, если занести в ячейку формулу =-2^4 , то решение будет не (-16), а (+16).

Вывод: решая какие-либо задачи, используя собственные программы или готовые пакеты, необходимо всегда контролировать получаемые результаты на предмет соответствия здравому смыслу, путем решения контрольных примеров.

Отчет о выполненной работе должен содержать:

1. Титульный лист

2. Тему и цель работы

3. Результаты выполнения заданий 1-7

4. Выводы по каждому из пунктов исследований и общие выводы по проведенным исследованиям.

Отчет печатается на принтере на листах формата А4

Контрольные вопросы

1. Что понимается под системой счисления?

2. Сформулируйте правила перевода целых и дробных чисел из одной системы счисления в другую

3. Как переводятся числа в системах счисления с основанием, кратным степени 2?

4. В чем заключается различие между представлением чисел в формате с фиксированной и плавающей точкой?

5. Каково назначение обратного и дополнительного кодов?

6. Каково назначение модифицированного обратного и дополнительного кодов?

7. Каков диапазон чисел, представляемых в формате целых чисел

8. Каков диапазон чисел, которые можно представить в обратном коде

9. Каков диапазон чисел, представляемых в формате с плавающей точкой

10. Какое значение смещения порядка используется в следующих форматах с плавающей точкой:

- длина поля порядка – 6 двоичных разрядов, основание характеристики равно 2;

- длина поля порядка – 7 двоичных разрядов, основание характеристики равно 8

11. Задан формат с плавающей точкой со следующими параметрами: длина поля порядка – 8 разрядов, длина поля мантиссы – 23 разряда. Какой двоичный код будут иметь в этом формате числа (-720) и 0.645?

12. Представьте десятичное число +0.4 в формате с плавающей точкой со следующими параметрами: длина поля смещенного порядка -4 разряда, длина поля мантиссы – 7 разрядов. Какова будет относительная погрешность представления?