
- •1.2. Основные понятия и определения в области метрологии
- •1.2.2. Общие положения по организации тестирования
- •Общие сведения
- •Показатели производительности
- •Продуктивность
- •Реактивность
- •Точка перегиба
- •Толерантность
- •Интегральная продуктивность
- •2. Элементы теории вероятностей и математической статистики для решения прикладных задач метрологии
- •2.1. Роль, место и основные задачи математической статистики
- •2.2. Основные понятия теории вероятностей
- •2.3. Случайные величины, их законы распределения
- •2.4. Применение критериев согласия для согласования теоретического и статистического распределений случайных величин
- •2.5. Статистические оценки параметров распределения
- •3. Основные понятия теории случайных процессов
- •3.1. Понятие о случайной функции и стационарном случайном процессе
- •3.2. Основные характеристики случайных функций
- •3.3. Основные сведения о случайных процессах
- •3.4. Спектральное разложение стационарной случайной функции
- •4.2. Понятие экспериментальной оценки надежности
- •4.3. Организация испытаний и сбор информации
- •4.4. Методический подход к оценке показателей надежности по экспериментальным данным
- •5. Оценка надёжности информационных систем по экспериментальным статистическим данным
- •5.1. Определение законов распределения наработки на отказ
- •5.2. Виды испытаний на надёжность и их планирование
- •5.3. Статистическая оценка показателей надежности при определительных испытаниях
- •5.4. Общие принципы обеспечения контроля надежности
- •5.5. Статистические методы контроля надёжности серийных систем
- •Приемка
- •Браковка
- •Продолжение испытаний
- •6. Погрешности измерений вероятностных характеристик при статистических испытаниях информационных систем
- •6.1. Понятие о погрешности измерений вероятностных характеристик
- •6.2. Источники погрешностей стохастических измерений вероятностных характеристик и способы снижения общей погрешности в работе информационных систем
- •6.3. Анализ алгоритмов измерения вероятностных характеристик и рекомендации по уменьшению погрешностей
- •Точечные оценки неизвестных параметров распределения
- •Доверительные интервальные оценки с неизвестными параметрами распределения
- •Статистические критерии проверки совместимости результатов натурных испытаний и моделирования
- •Библиографический список
- •Оценка вероятностных характеристик случайных процессов при испытаниях информационных систем
- •170026, Г. Тверь, наб. Афанасия Никитина, 22
Общие сведения
Тестирование является основным методом измерения качества и определения реальных характеристик программ и баз данных на любых этапах жизненного цикла. Результаты тестирования и измерения показателей качества сравниваются с требованиями технических условий или спецификаций для определения степени соответствия программного продукта определенным требованиям. Наличие таких достаточно полных эталонов, как совокупность требований технических условий и поэтапная их декомпозиция в спецификациях, является необходимой базой для проведения тестирования.
Следует учесть важную особенность тестирования сложных информационных систем, которая заключается в необходимости проведения достаточно полной проверки при ограниченной длительности испытаний. Это определяет целесообразность тщательного планирования тестирования.
В общем случае процесс тестирования проходит ряд этапов:
выбор метода тестирования, адекватного объекту испытаний, а также определение основной цели проведения тестирования;
планирование тестирования в соответствии с выбранным методом с учетом ограниченных ресурсов испытаний, имеющихся для достижения заданной достоверности результатов;
разработка тестовых заданий на основе формальных спецификаций тестов или абстрактных тестовых комплектов с указанием контролируемых параметров, исходных данных и эталонов;
реализация процесса тестирования и получение результатов функционирования объекта испытаний с использованием подготовленных тестов и заданий;
анализ результатов тестирования, сравнение результатов с эталонами, требованиями и обнаружение отклонений для принятия решения о проведении дополнительного тестирования;
оценка полноты проведенного тестирования выбранным методом и принятие решения о необходимости применения других методов тестирования;
оценка наличия ресурсов для продолжения испытаний, определение момента их завершения или выбор очередного метода тестирования.
Тестирование целесообразно планировать с учетом конкретной структуры компонентов, особенностей их реализации, а также схемы обработки потоков информации. Упорядочение процесса тестирования, а также применение средств автоматизации обеспечивают высокое качество тестирования и получение достоверных сведений о характеристиках программы.
Одним из наиболее распространенных видов испытаний является тестирование с целью измерения и оценки показателей производительности программного обеспечения информационных систем для определения степени соответствия заданным требованиям.
Измерение производительности информационной системы
Одним из универсальных критериев производительности является пропускная способность, замеренная по полезным данным (данным, необходимым для решения задания). Однако для пользователя более важными являются временные характеристики выполнения конкретных операций, автоматизируемых информационной системой (пользовательских транзакций) и составляющих определенную часть его профессиональной деятельности и деловых процессов предприятия в целом.
Производительность не является постоянной величиной, она зависит от многих факторов, одни их которых являются неизменными в ходе работы системы, а другие постоянно изменяются (являются переменными величинами). В качестве примера постоянных факторов могут выступать такие, как производительность аппаратных средств, обеспечивающих работу программного обеспечения, настройка программных и аппаратных средств, архитектура данных и транзакций, алгоритм работы программы и др. Наиболее важными факторами, изменяющимися в процессе работы системы, являются объем данных в информационной системе и, в особенности, величина нагрузки на систему.
Поскольку последний фактор имеет наиболее динамичный характер, в данной редакции методики он рассматривается в качестве единственной переменной, в то время как объем данных в системе условно рассматривается как постоянный, таким образом производительность может быть представлена как функция от нагрузки: П = F(х, А), где
х – нагрузка, А множество постоянных факторов.
Методом измерения производительности в условиях изменяющейся нагрузки является тестирование под нагрузкой, при котором нагрузку можно представить как совокупность пользователей, одновременно выполняющих эталонные задания (нагружающих систему). Характер нагрузки может быть различен:
пользователи одновременно в течение заданного промежутка времени непрерывно выполняют задания (обращаются к системе с запросами) — «пиковая нагрузка»;
пользователи периодически с определенным или случайным интервалом времени обращаются к системе — различные режимы рабочей нагрузки;
пользователи могут выполнять как одинаковые, так и различные запросы;
другие условия.
Производительность системы целесообразно замерять в зависимости от количества пользователей, выполняющих запросы, или интенсивности запросов (возможны варианты учета количества пользователей и средней интенсивности работы одного пользователя).
Результатом тестирования являются графики зависимости производительности от нагрузки. Основной измеряемой величиной производительности служит продуктивность, величиной моделируемой нагрузки — количество пользователей. При этом заданными являются набор тестов (заданий) и средняя интенсивность запросов одного пользователя.