- •Надежность программного обеспечения
- •Общие сведения Сведения об эумк
- •Методические рекомендации по изучению дисциплины
- •Изучение теоретической темы.
- •Рабочая учебная программа
- •Учреждение образования
- •«Белорусский государственный университет
- •Информатики и радиоэлектроники»
- •1. Содержание дисциплины
- •1. Индивидуальные практические работы, их характеристика
- •2. Контрольные работы, их характеристика
- •3. Курсовая работа, ее характеристика
- •4. Литература
- •4.1.Основная
- •4.2. Дополнительная
- •5. Перечень компьютерных программ, наглядных и других пособий, методических указаний и материалов и технических средств обучения
- •Теоретический раздел Введение
- •1. Основные понятия и определения в области надёжности аппаратного обеспечения компьютерных систем
- •2. Показатели надежности компьютерных систем
- •2.1. Общие сведения
- •2.2. Показатели надежности невосстанавливаемых объектов
- •2.2.1. Вероятность безотказной работы
- •2.2.2. Вероятность отказа
- •2.2.3. Плотность распределения наработки до отказа
- •2.2.4. Интенсивность отказов
- •2.2.5. Средняя наработка до отказа
- •2.3. Показатели надежности восстанавливаемых объектов
- •2.3.1. Коэффициент готовности
- •2.3.2. Стационарный коэффициент готовности
- •2.4. Основные модели, используемые в теории надежности
- •3. Основные понятия и определения в области надежности программного обеспечения компьютерных систем
- •3.1. Проблема надежности программного обеспечения и её актуальность
- •3.2. Понятие свойств, функций и требований к программному обеспечению. Критерии качества требований
- •Корректность (правильность) требований
- •Недвусмысленность требований
- •Полнота набора требований
- •Непротиворечивость требований
- •Упорядоченность по важности и/или стабильности
- •Проверяемость требований (верифицируемость)
- •Целостность
- •Модифицируемость
- •Трассируемость
- •3.3. Понятие ошибки и отказа программного обеспечения
- •3.4. Понятие надежности программного обеспечения
- •3.5. Особенности программ по сравнению с аппаратурой
- •4. Анализ причин появления ошибок в программном обеспечении
- •4.1. Процесс разработки программного обеспечения в соответствии со стандартом стб исо/мэк 12207-2003
- •4.2. Причины появления ошибок в программном обеспечении
- •5. Модели надежности программного обеспечения
- •5.1. Общие сведения
- •5.2. Модель Джелинского–Моранды
- •5.3. Модель Шика–Волвертона
- •5.4. Геометрическая модель
- •5.5. Статистическая модель Миллса
- •5.6. Модель Нельсона
- •5.7. Статистическое моделирование надёжности программ
- •6. Стандартизация оценки надежности программных средств в Республике Беларусь
- •6.1. Общие сведения о стандартах в области оценки качества программных средств
- •6.2. Оценка надежности программных средств по гост 28195–99
- •6.3. Оценка надежности программных средств по стб исо/мэк 9126–2003
- •1. Определение требований к надежности
- •2. Подготовка к оцениванию
- •3. Процедура оценивания
- •7. Оценка надежности программных средств в соответствии с международными стандартами iso/iec 9126-1-3:2001-2003 и iso/iec 14598-1:1999
- •7.1. Общие сведения о сериях стандартов iso/iec 9126-1-4:2001-2004 и iso/iec 14598-1-6:1998-2001
- •7.2. Модель надежности программных средств по стандарту iso/iec 9126-1:2001
- •7.3. Внутренние метрики надежности программных средств по стандарту iso/iec 9126-3:2003
- •7.4. Внешние метрики надежности программных средств по стандарту iso/iec 9126-2:2003
- •7.5. Метод оценки надежности программных средств по стандарту iso/iec 14598–1:1999
- •1. Установка требований к оценке надежности
- •1.1. Установка цели оценки
- •1.2. Идентификация типов продуктов
- •1.3. Определение модели надежности
- •2. Определение оценки надежности
- •2.1. Выбор метрик надежности
- •2.2. Установка уровней ранжирования метрик
- •2.3. Установка критериев для оценки
- •8. Тестирование программного обеспечения
- •8.1. Введение в тестирование по
- •8.2. Определение тестирования по
- •8.3. Объекты тестирования
- •8.4. Направления тестирования по
- •8.5. Принципы разработки тестов
- •8.6. Информационные потоки процесса тестирования
- •8.7. Принципы организации тестирования
- •8.8. Методы тестирования по
- •8.8.1. Общие сведения
- •8.8.2. Структурное тестирование
- •8.8.2.1. Понятие потокового графа, пути, цикломатической сложности
- •8.8.2.2. Тестирование по критерию путей
- •8.8.2.3. Тестирование по критерию ветвей
- •8.8.2.4. Метод тестирования базисных путей
- •8.8.2.5. Тестирование циклов
- •8.8.3. Функциональное тестирование программного обеспечения
- •8.8.3.1. Общие сведения
- •8.8.3.2. Пример иллюстрации сложности задачи разработки тестов
- •8.8.3.3. Метод эквивалентного разбиения
- •8.8.3.4. Метод анализа граничных условий
- •8.9. Документирование тестов
- •8.10. Методика тестирования программных средств
- •8.10.1. Общие сведения
- •8.10.2. Тестирование модулей
- •8.10.3. Тестирование сборки
- •8.10.3.1. Восходящее тестирование сборки
- •8.10.3.2. Нисходящее тестирование сборки
- •8.10.4. Тестирование правильности
- •8.10.5. Системное тестирование
- •8.11. Пример тестирования программы
- •1) Подготовка процесса
- •4) Анализ требований к программному средству
- •5) Проектирование программной архитектуры
- •6) Техническое проектирование программного средства
- •7) Программирование и тестирование модулей
- •Компонент пользовательского интерфейса:
- •Компонент математического расчёта:
- •8) Сборка программного средства
- •9) Квалификационные испытания программного средства
- •12) Ввод в действие программного средства
- •13) Обеспечение приёмки программного средства
- •8.12. Регрессионное тестирование
- •8.13. Документирование программных ошибок
- •8.14. Мутационное тестирование
- •8.15. Проектирование тестов, основанных на случайных наборах исходных данных
- •8.15.1. Анализ случайных векторов исходных данных
- •8.15.2. Генерация случайных векторов исходных данных
- •8.16. Оценка правильности результатов выполнения программы
- •9. Верификация программного обеспечения
- •9.1. Элементы математической логики Исчисление высказываний
- •Операции над высказываниями
- •(Если a, то b)
- •Исчисление предикатов
- •Операции над высказывательными формами
- •9.2. Метод индуктивных утверждений
- •9.2.1. Общие сведения
- •9.2.2. Последовательность шагов по доказательству корректности схем алгоритмов программ
- •9.3. Основные проблемы доказательства корректности программ
- •Экзаменационные вопросы по дисциплине «Надежность программного обеспечения»
- •1.2. Числовые константы и переменные
- •1.3. Операторы
- •1.4. Функции встроенные и задаваемые пользователем
- •1.5. Математические выражения
- •1.6. Присваивание переменным значений
- •1.7. Ранжированные переменные и таблицы вывода
- •1.8. Понятие о массивах и матрицах
- •1.8.1. Функции, определяемые пользователем, и массивы
- •1.8.2. Индексация элементов массивов
- •1.8.3. Матрицы
- •1.8.4. Нижние индексы и верхние индексы
- •1.8.5. Нижние индексы и элементы вектора
- •1.8.6. Нижние индексы и элементы матрицы
- •1.8.7. Верхние индексы и столбцы матрицы
- •1.8.8. Изменение значения системной переменной origin
- •2. Редактирование
- •2.1. Формульный редактор
- •2.1.1. Наборные панели и шаблоны
- •2.2. Текстовый редактор
- •3. Арифметические и логические операторы
- •3.1. Арифметические операторы
- •3.1.1. Расширенные арифметические операторы
- •3.2. Операторы отношения (логические операторы)
- •3.3. Функция условных выражений if
- •3.4. Задание функций пользователя
- •3.5. Типовые статистические функции
- •4. Решение уравнений
- •4.1. Решение одного уравнения
- •4.2. Решение уравнений с параметром
- •4.3. Системы уравнений
- •4.4. Многократное решение уравнений
- •4.5. Приближенные решения
- •5. Символьная математика
- •5.1. Настройка символьного знака равенства
- •6. Файлы данных
- •6.1. Функции доступа к файлам
- •6.2. Аргументы функций доступа к файлам
- •7. Графики
- •7.1. Создание графика
- •7.2. Вывод функции на график
- •7.3. Построение декартова графика
- •7.4. Графическое представление вектора
- •7.5. Графическое представление файлов данных
- •7.6. Размещение нескольких графиков на чертеже
- •7.7. Форматирование осей
- •7.8. Свойства графиков
- •7.9. Оформление графика
- •7.10. Заголовки графиков
- •7.11. Изменение представления графика
- •7.12. Изменение масштаба на графике
- •7.13. Считывание координат точек графика
- •Приложение 1. Основные законы распределения нсв
- •Приложение 2. Пример выполнения задания
- •Приложение 3. Математические функции
- •Приложение 4. Статистические функции
- •Литература
- •Автоматизация тестирования программного обеспечения. Работа в среде silktest. Теоретические и практические сведения к выполнению индивидуальных практических работ
- •Введение
- •1. Тестирование программного обеспечения
- •1.1. Задача и цели тестирования программного обеспечения
- •1.2. Классификация видов тестирования по
- •1.3. Этапы процесса тестирования по
- •1.4. Разработка тест-кейсов
- •1.5. Контрольные вопросы
- •2. Автоматизация тестирования по
- •2.1. Эффективность автоматизации тестирования
- •2.2. Технология Record&Playback
- •2.3. Язык скриптов
- •2.4. Структура автоматизации тестирования
- •2.5. Требования к автоматизированному тесту
- •2.6. Инструментальные средства автоматизации тестирования
- •2.7. Контрольные вопросы
- •3. Работа в среде SilkTest 8.0
- •3.1. Начало работы
- •3.1.3. Создание тест-кейсов
- •3.2. Реализация технологии Record/PlayBack в среде SilkTest
- •3.2.1. Создание библиотеки объектов
- •3.2.2. Создание тестового скрипта
- •3.2.3. Среда запуска скриптов
- •3.2.4. Средство распознавания объектов
- •3.3. Recovery-система
- •3.4. Создание тестплана (TestPlan)
- •3.4.1. Добавление тесткейса в тестплан
- •3.4.2. Подключение файлов в тестплане
- •3.4.3. Запуск тестплана (полный, выборочный)
- •3.5. Использование внешних данных (Data Driven Test)
- •3.6. Просмотр результатов исполнения тестовых сценариев
- •3.7. Пример разработки теста
- •3.7.1. Задание для тестирования
- •3.7.2. Создание фрейма приложения
- •3.7.3. Настройка Recovery System
- •3.7.4. Запись и воспроизведение скрипта
- •3.7.5. Создание Testcase с использованием Data Driven Test
- •3.7.6. Создание ТестПлана
- •3.8. Задания для лабораторных работ
- •Литература
- •Приложение 1. Описание языка 4test п1.1. Типы данных
- •П1.1.1. Синтаксис определения переменной
- •П1.1.2. Синтаксис определения константы
- •П1.1.3. Примеры определения и инициализации переменных
- •П1.1.4. Массивы данных
- •П1.2. Операторы языка 4Test п1.2.1. Арифметические операторы
- •П1.2.2. Логические операторы
- •П1.2.3. Операторы сравнения
- •П1.2.4. Условные операторы
- •П1.2.5. Операторы цикла
- •П1.2.6. Функции приведения типа
- •П1.2.7. Функции работы с массивами
- •П1.2.8. Функции работы со строками
- •П2.2.2. Функции для Menu (меню)
- •П2.2.3. Функции для ListBox/ComboBox (Раскрывающийся список/ Поле со списком)
- •П2.2.4. Функции для Button (кнопка)
- •П2.2.5. Функции для CheckBox/RadioButton (Флажок/Переключатель)
- •П2.2.6. Функции для EditBox (Поле ввода)
- •П2.2.7. Функция для Тab (Вкладка)
- •П2.3. Функции имитации клавиатурного ввода
- •П2.4. Функции имитации действий, выполняемых мышью
- •П2.5. Функции работы с системой
- •П2.6. Функции оповещения о результатах
- •П2.7. Функции синхронизации
- •П2.8. Функции проверки существования обьекта
- •П2.9. Функции работы с файлами
- •П2.10. Функции пользователя
- •Контрольные работы Контрольная работа № 1 Тема задания
- •Методические указания к выполнению контрольной работы № 1
- •Содержание отчета по контрольной работе № 1
- •Контрольная работа № 2 Тема задания
- •Методические указания к выполнению контрольной работы №2
- •Содержание отчета по контрольной работе № 2
- •Правила оформления отчетов по контрольным работам
- •Образец титульного листа
- •Содержание отчета по индивидуальной практической работе № 1
- •Правила оформления отчетов по индивидуальным практическим работам
- •Образец титульного листа
8.8.3.3. Метод эквивалентного разбиения
В соответствии с данным методом проектирование тестов проводится в два этапа.
На первом этапе в соответствии со спецификацией область входных данных делится на классы эквивалентности. Для каждого входного условия из спецификации формируется два или более класса эквивалентности. Это так называемые ПКЭ (правильный класс эквивалентности) и НКЭ (неправильный класс эквивалентности). ПКЭ – область допустимых для тестируемой программы значений входных данных. НКЭ – область недопустимых значений входных данных.
Например:
Любой набор данных из класса эквивалентности обладает тем общим свойством, что приводит к выбору одного и того же набора операторов в тестируемом модуле. Таким образом, любые два теста из одного класса эквивалентности с высокой вероятностью могут обнаружить одну и ту же ошибку ПО.
На втором этапе осуществляется собственно проектирование тестов с помощью сформированных классов эквивалентности. Для ПКЭ тесты проектируются таким образом, чтобы каждый тест покрывал как можно больше еще не покрытых ПКЭ. Процесс продолжается до тех пор, пока не будут покрыты все ПКЭ.
Затем проектируются тесты для каждого НКЭ, при этом они проектируются таким образом, чтобы каждый тест покрывал один и только один НКЭ. Процесс продолжается до тех пор, пока не будут покрыты все НКЭ.
В общем случае выбор тестов из каждого класса эквивалентности можно осуществить детерминированным или случайным способом.
8.8.3.4. Метод анализа граничных условий
На практике ошибки ПО часто проявляются на границах области ввода. Под граничными условиями понимаем ситуацию, возникшую на границе определенного спецификацией входного или выходного условия. Суть метода заключается в выполнении следующих правил:
1-е правило. Если входное
условие, то есть условие ввода, задает
диапазон чисел X
[1,
100], то необходимо создать тесты:
для значений 1 и 100;
для значения чуть левее 1 и чуть правее 100.
Например,
x1 = 1.0;
x2 = 100.0;
x3 = 0.9;
x4 = 100.1.
2-е правило. Если условие ввода задает дискретное множество значений, то необходимо создать тесты:
для проверки минимального и максимального значений;
для значения чуть меньше минимума и чуть больше максимума.
Например, если X [2, 5, 7], то
x1 = 2;
x2 = 7№
x3 = 1;
x4 = 8.
Если задан входной файл, содержащий 1000 записей, то необходимо создать тесты для ввода нуля записей, одной записи, 1000 записей и 1001 записей.
3-е правило. Ранее названные правила 1 и 2 применяются к условиям области вывода. Например: выходной (формируемый) файл содержит 1000 записей. Поэтому нужно создать тесты для создания соответственно 0, 1, 1000 и 1001 записи.
4-е правило. Если внутренняя структура данных программы является упорядоченным множеством (массив, список), то разрабатываются тесты, проверяющие эти структуры на границах.
Например, если задан на языке Си массив целых чисел, состоящий из 100 элементов, т.е. int a[100], то необходимо создать тесты для проверки соответственно a[-1], a[0], a[99], a[100] элементов массива.
8.9. Документирование тестов
Тесты документируются в виде «тест-кейсов», или «тестовых случаев»(«test-cases»).
В соответствии с IEEE Std 610-1990 под тест-кейсом понимается набор тестовых входных данных, условий выполнения и ожидаемых результатов, разработанных с целью проверки некоторого пути выполнения программы или проверки соответствия некоторому требованию.
В соответствии с IEEE Std 829-1983 под тест-кейсом понимается документ, определяющий набор входных данных, ожидаемых результатов и условий выполнения теста.
Тест-кейс представляется в виде документа, который может включать следующие поля:
1) идентификатор тест-кейса;
2) связанные с тест-кейсом требования;
3) приоритет тест-кейса;
4) модуль и подмодуль приложения, к которым относится тест-кейс;
5) название тест-кейса;
6) исходные данные, необходимые для тест-кейса;
7) шаги для выполнения тест-кейса;
8) описание ожидаемых результатов по каждому шагу выполнения тест-кейса;
9) поле статуса об успешном или ошибочном выполнении тест-кейса;
10) автор тест-кейса;
11) время последнего выполнения тест-кейса;
12) последний полученный результат;
связанный с тест-кейсом дефект(баг), если он есть.
В общем случае отдельные поля шаблона тест-кейса могут опускаться.
Достоинствами использования тест-кейсов является то, что они:
1) дают тестировщикам структурированный системный подход, что в общем снижает вероятность пропуска ошибок;
2) представляют собой один из способов тестирования проектной документации ещё до появления первой промежуточной версии программного продукта;
3) значительно ускоряют процесс регрессионного тестирования;
4) позволяют отслеживать статистику проводимого тестирования;
В таблице 8.1 приведены примеры тест-кейсов «Сложение чисел А и В».
Таблица 8.1.
Примеры тест-кейсов «Сложение чисел А и В»
Идентификатор тест-кейса |
Название тест-кейса и его описание |
Ожидаемый результат |
1.1 |
Сложение чисел А и В. 1. В поле А ввести число 3. 2. В поле В ввести число 4. 3. Нажать кнопку «Сложить». 4. Проверить полученное значение в поле С.
|
Значение в поле С равно 7. |
1.2 |
Сложение чисел А и В. 1. Проверить, что тестируемая программа корректно суммирует числа А и В. |
Суммирует корректно. |
1.3 |
Сложение чисел А и В. 1. В поле А ввести корректное целое число. 2. В поле В ввести корректное целое число. 3. Нажать кнопку «Сложить». 4. Проверить полученное значение в поле С. 5. Повторить шаги 1 - 4 для значений: 0; максимально и минимально допустимых значений; 1.5; символов и спецсимволов. |
Значение поля С равно сумме А и В. |
Анализ трёх приведенных тест-кейсов показывает следующее. Первые два тест-кейса плохие. В первом тест-кейсе все детали прописаны до мелочей. При повторных выполнениях данного тест-кейса всегда будут выполняться строго одни и те же действия, что в общем снижает вероятность обнаружения ошибки.
Второй тест-кейс является слишком общим. Его в общем сложно выполнить по многим субъективным и объективным причинам, что может привести к его невыполнению.
Третий тест-кейс является наилучшим из приведенных тест-кейсов, так как в нём:
- отсутствует привязка к конкретным значениям тестовых данных;
- задано выражение, с помощью которого проверяется правильность результатов выполнения тестируемой программы;
- в тест-кейсе перечислены тестовые данные, повышающие эффективность тестирования.
При написании тест-кейсов следует:
1) использовать простой технический стиль;
2) в русском языке использовать безличную форму: «открыть», «закрыть» и т.п. (вместо «откройте»);
3) описывать поведение систем следующим образом: «появляется окно», «приложение закрывается» и т.п.;
4) обязательно указывать точные названия всех элементов приложения;
5) не объяснять базовые понятия работы с операционной системой.
В таблице 8.2 приведен пример тест-кейса «Открытие PDF-файла».
Таблица 8.2.
Пример тест-кейса «Открытия PDF-файла»
Идентификатор тест-кейса |
Название тест-кейса и его описание |
Ожидаемый результат |
1.1 |
Открытие PDF-файла. 1. Нажать кнопку «Открыть». 2. Выбрать файл из диалогового окна. 3. Нажать кнопку «ОК». 4. Проверить отображение открытого файла. |
1. Появляется диалог выбора файлов. 2. Выбранный файл помечается выделением. 3. Диалог выбора файлов закрывается. 4. Файл отображается в рабочей области приложения. |
