Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

testirovanie_dot-com

.pdf
Скачиваний:
85
Добавлен:
29.03.2015
Размер:
5.51 Mб
Скачать

Искусство создания тест-кейсов

49

Прошли восемь шагов. Остановились. Проверили. Затем прошли девятый шаг. Остановились. Проверили.

Исход исполнения этого тест-кейса будет считаться положительным только при одновременной истинности двух условий:

1.ФР после исполнения шага 8 = "10" и

2.ФР после исполнения шага 9 = Шаг 1 - Шаг 6 (т.е. значение из Шага 1 минус значение из Шага 6).

Втеории лучше было бы разбить нашу идею тест-кейса на две части и создать два отдельных тест-кейса:

1.IDEA: "Правильное значение вставляется в базу данных при использовании VISA".

2.IDEA: "Верная сумма списывается с баланса карты".

И если есть возможность, то ЛУЧШЕ сделать именно два тесткейса, НО на практике во многих случаях имеет смысл включить

втест-кейс 2 или больше ОР, так как:

у вас может просто не быть времени на написание, исполнение и поддержку двух тест-кейсов*;

сэкономленное время можно потратить на написание, исполнение и поддержку тест-кейса, которым мы бы проверили другую вещь**.

Если у нас есть один случай, когда можно совместить два ОР, то написание, исполнение и поддержка двух тест-кейсов не представляет труда.

Ачто, еслиу нас появляются сотни дополнительных тест-кейсов?..

Врезультате такой экономии мы с течением времени создаем десятки новых тест-кейсов, которые помогают нам провести более тщательное тестирование.

Яработал с тест-кейсами, включающими более одного ОР, в течение многих лет, проводя тестирование сложнейшего ПО, связанного с финансовыми транзакциями, и могу сказать, что 2 или больше ОР в одном тест-кейсе — это нормальная практика.

Идем дальше.

Во многих случаях, когда несколько ожидаемых результатов просятся в один тест-кейс, нужно проверить

значение(-я) на веб-странице и

значение(-я) в базе данных,

те. нужнапроверка снаружии изнутриилинаfrontendи back end.

50

Тестирование Дот Ком. Часть 1

 

Постановка мозгов

Front end (читается как "фронт-энд") — это непосредственный интерфейс пользователя, т.е. текст, картинки, кнопки, линки и прочие вещи, которые пользователь видите окне веб-браузера или е-мейл клиента.

Back end (читается как "бэк-энд") это ПО и данные, находящиеся за фасадом фронт-энда: HTML-код веб-страницы, веб-сервер, код приложения, база данных и т.д.

Впоследнем примере мы непосредственно "разговаривали"

с фронт-энд ом —в шаге5, когда добавляли товарв корзину;

с бэк-эндом — в шаге 8, когда запрашивали базу данных.

Проблемные тест-кейсы

Теперь посмотрим, какие недостатки вы должны выжигать из своих тест-кейсов каленым железом.

1.Зависимость тест-кейсов друг от друга.

2.Нечеткая формулировка шагов.

3.Нечеткая формулировка идеи и/или ожидаемогорезультата.

1.ЗАВИСИМОСТЬ ТЕСТ-КЕЙСОВ ДРУГ ОТ ДРУГА

Зависимость — это антоним независимости. Независимость тесткейса выражается в том, что он не связан с другими тест-кейсами.

Пример

Тест-кейс 1:

Шаги:

1.Зайти в комнату.

2.Подойти к стулу.

3.Открыть правый внешний карман рюкзака.

4.Засунуть руку в правый внешний карман рюкзака. Ожидаемый результат: Граненый стакан.

Тест-кейс 2:

Шаги:

1.Зайти в комнату.

2.Подойти к стулу.

3.Открыть левый внешний карман рюкзака.

4.Засунуть руку в левый внешний карман рюкзака. Ожидаемый результат: Огурец.

Как видно, шаги 1 и 2 сейчас одинаковы и всегда будет искушение улучшить то, что и так хорошо.

Искусство создания тест-кейсов

51

Пример

Тест-кейс1: Шаги:

1.Зайтивкомнату.

2.Подойтикстулу.

3.Открытьправыйвнешнийкарманрюкзака.

4.Засунутьрукув правыйвнешнийкарманрюкзака. Ожидаемый результат: Граненый стакан.

Тест-кейс2: Шаги:

1.Смотришаги1и2 изтест-кейса1.

2.Открытьлевыйвнешнийкарманрюкзака.

3.Засунутьрукувлевыйвнешнийкарманрюкзака. Ожидаемый результат: Огурец.

Так вот, таких вещей (имеется в виду шаг 1 тест-кейса 2) нужно избегать, так как:

тест-кейс 1 может быть удален из-за ненадобности или

шаги по тестированию наличия стакана (в тест-кейсе 1) могут быть изменены (например, стакан лежит в другом рюкзаке, который находится на кухне).

Вобоих случаях будет непонятно, как исполнить тест-кейс 2, так как

у нас или нет шагов 1 и 2 из тест-кейса 1, или

они стали неправильными (с субъективной точки зрения тест-кейса 2).

Другим распространенным случаем является допущение, что ПО или база данных уже приведены к нужному состоянию, так как были исполнены предыдущие тест-кейсы.

Пример

В тест-кейсе X мы создаем транзакцию покупки книги. В тест-кейсе Y мы, допуская, что тест-кейс X был успешно исполнен, проверяем атрибут успешности транзакции покупки книги, не создаваясаму транзакцию ("Зачем напрягаться, когда она уже создана?"). В итоге может произойти ситуация, когда транзакция покупки книги не создана, так как

тест-кейсXбылудален;

тест-кейсXбылмодифицировантак,чтоонсоздаеттранзакцию другого типа;

тест-кейс X не создал транзакции по объективной причине (например, не работал соответствующий код).

52

ТестированиеДот Ком. Часть1

 

Как результат, во всех трех случаях мы не можем исполнить тесткейс Y, так как данных, на которые он опирается, просто не существует.

Таким образом, хороший тест-кейс характеризуют:

отсутствие ссылок на другие тест-кейсы;

независимость от "следов", оставленных другими тесткейсами в нашем ПО или базе данных.

Следовательно, если у нас в документе А есть 10 тест-кейсов: тест-кейс 1, тест-кейс 2, ..., тест-кейс 10, то доказательством независимости каждого из тест-кейсов будет тот факт, что их без ущерба для тестирования можно всегда исполнять в любом порядке, например, тест-кейс 10, затем тест-кейс 2, затем тесткейс 6 и т.д. Принцип, думаю, понятен.

Согласен, что повторение шагов или подготовительной части тесткейса кажется порой тупым занятием, но все-таки преимущества независимого тест-кейса перекрывают напряг операции скопиро- вал—вставил.

2. НЕЧЕТКАЯ ФОРМУЛИРОВКА ШАГОВ

Пример

"Пойди туда,незнаюкуда".

На шаги тест-кейса можно смотреть, как на инструкцию "Как пройти" (или "Как проехать").

Пример

Если американцу, который в Москве первый раз, сказать (с видом москвича в пятом колене), что Красная площадь находится "за ГУМом", то он бессмысленно потратит много времени в поисках "загума" в путеводителе. Если же черкнуть емуе-мейльчикс инструкцией:

1.Выйди из "Националя".

2.На улице поверни направо.

3.Не поднимая глаз, пройди мимо первой стайки барышень.

4.Не поднимаяглаз, пройдимимовторойстайки барышень.

5.Спустись налево в подземный переход.

6.Следуй указателям на стенах снадписью "Краснаяплощадь",

то он не только найдет Красную площадь и купит там прапорскую ушанку с гнутой кокардой, но и избежит обвинений в сексуальном харрасменте, которые на его родине вещьочень даже серьезная.

Искусство создания тест-кейсов

53

Кстати,

шаги 1 — 5 включительно — это точные инструкции, а

шаг 6 это отсылка к инструкциям, хранящимся в другом месте (помните, мы говорили о внутреннем Пособии для тестировщи-ков с шагами для повторяющихся сценариев?).

Итак, перечисляющиеся в тест-кейсе шаги должны быть объ-

ективно четкими и ясными.

Нужнопомнить,

то, что очевидно для вас сейчас, может стать совершен но непонятным через пару месяцев.

Так, сокращенные шаги с нерасшифрованными аббревиатурами и прочими веселыми прибамбасами, понятными вам сейчас, могут впоследствии стать китайской грамотой для вас самих, так что проще будет написать тест-кейс заново, чем пробираться через дебри неосмотрительно сделанных описаний;

тест-кейс, который не может быть исполнен никем, кроме его автора, должен быть публично сожжен, рас терт в порошок и развеян по ветру.

Обоснование простое: что, если автор тест-кейса заболеет, уйдет в отпуск, уйдет из компании или уйдет, извините,

вообще? Любой тест-кейс должен создаваться с мыслью

о коллеге, который однажды возьмет его в руки.

Нужно избегать и другой крайности когда шаги тест-кейса настолько детализируются, как будто он пишется для ученой обезьяны. Излишняя детализация ведет к усложнению поддерживаемости тест-кейса, что было нами убедительно доказано минуту назад.

В общем ищите золотую середину.

3.НЕЧЕТКАЯ ФОРМУЛИРОВКА ИДЕИ ТЕСТ-КЕЙСА И/ИЛИ ОЖИДАЕМОГО РЕЗУЛЬТАТА

Оба тезиса, о которых мы только что говорили:

о том, что можно забыть то, что сейчас понятно, и

писать тест-кейсы нужно не для себя, а для того парня —

применимы и к идее и к ожидаемому результату. Нюансы для идеи тест-кейса и ожидаемого результата:

54

Тестирование Дот Ком. Часть 1

 

а. Не рекомендуется отсылка к внешнему документу.

Когда мы говорили о выносе части шагов в Пособие для тестировщиков, то делали это в случаях многократно повторяющихся сценариев, встречающихся в разных тесткомплектах, с целью сделать наш тест-кейс более поддерживаемым. С идеей же тест-кейса и ожидаемым результатом — совсем другая история.

Пример

Подумайте, удобно ли будет исполнять тест-кейс, если в секции IDEA напечатано:

«В этом тест-кейсе мы проверяем пункт 21.6 спека номер 34 "Сценарийдобавлениякредитнойкарточкиксчетупользователя"»

или в секции Expected Result:

"Проверь, что значение последнего шага равно значению пересечения значения шага 5 по оси X и значению шага 23 по оси Y из таблицы 17.0 спека из секции IDEA"?

б. Нужнопомнить,чтосутьсекцииIDEA—этоОБЪЯСНЕ НИЕ идеи тест-кейса.

Пример

Если секция IDEA пуста или же в ней скромно напечатано "10", то каждый исполняющий этот тест-кейс каждый раз будет тратить несколько минут своего времени и/или времени своего коллеги на выяснение того, что же проверяется этим тест-кейсом.

в. Нужно помнить, что ожидаемый результат — это ин формация, наосновании которой (вкупе с фактическим результатом) мы принимаем решение об исходе тесткейса. Следовательно, точность и четкость в форму лировке ожидаемого результатаиграют наиважнейшую роль.

Пример

Ожидаемый результат гласит: "Проверь, что показана страница с ошибкой", и страница с ошибкой действительно показывается. Дело в том, что если показывается не та ошибка, которая положена по спецификации, то будет пропущен баг. Почему он будет пропущен? Пра- вильно:из-занеточнойформулировкиожидаемого результата.

Еще одинпримерплохого ожидаемогорезультата: "Всеработает".

Идем дальше.

Искусство создания тест-кейсов

55

 

Тест-комплекты

С помощью каждого отдельно взятого тест-кейса проверяется какая-то одна вещь (развернуто сформулированная в секции IDEA). Каждый спек — это источник для множества идей тестирования, и, таким образом, для проверки кода, написанного в соответствии со спеком, нам нужно множество тест-кейсов.

Совокупность тест-кейсов (находящихся, как правило, в одном документе), которые проверяют

какую-то определенную часть нашего интернет-проекта

(например, "Оплату") и/или

определенный спек (например, спек номер 1455 "Рассылка пользователям е-мейлов на основании истории заказов"),

называют тест-комплектом (test case suite).

Что происходит в жизни?

получаем новый спек;

создаем новый файл, в котором создаем новые тест-кейсы для этого нового спека;

исполняем новые тест-кейсы с их одновременной модификацией (об этом через 45 секунд);

если имеет смысл, то переносим тест-кейсы в основной тест-комплект, где хранятся тест-кейсы, проверяющие ту же функциональную часть вашего интернет-проекта.

Создание нового файла с новым тест-комплектом обусловлено тем, что новые тест-кейсы всегда исполняются в первую оче-

редь и нам просто удобно хранить их отдельно от старых. Как говорится, "мухи отдельно, котлеты отдельно" (конечно, до тех пор, пока нам это удобно).

Пример

На www.testshop.rs можно производить оплату картами VISA и MasterCard. У нас есть тест-комплект, который мы исполняем из релиза в релиз (это регрессивное тестирование, о котором мы еще будем много говорить),называемый "Покупкас использованиемкредитныхкарт".

Этоттест-комплектбылнаписан на основанииспека #1211и содержит тест-кейсы для проверки функциональностей оплаты с использовани-

ем VISA и MasterCard.

Для нового релиза написан спек #1422, согласно которому будет написан код для поддержки новой карты — британской Switch.

56

Тестирование Дот Ком. Часть 1

Сначала создаем новый тест-комплект "Покупка с использованием Switch", затем исполняем и одновременно модифицируем его. Учитывая, что

после исполнениясодержимое тест-комплекта будетстабилизировано и

внемпроверяетсята жефункциональнаячастьвеб-сайта("Оп- лата"),

вданном случае будет логичным сделать его частью тест-комплекта "Покупка с использованием кредитных карт".

Постановкамозгов

Никто не ожидает, что тест-кейсы будут на 100% "работать" сразу после написания. Дело в том, что они создаются на основании опека (или, как это часто бывает, на основании устного пожелания начальника), и так как мы физически не видим функциональностей этого опека (код еще не написан), то многие вещи нужно в буквальном смысле представить себе. Кроме того, как мы уже видели, сами спеки имеют баги и спек может быть изменен без ведома тестировщика... (об этом позже).

В общем вариантов множество, и все ведут к тому, что в первый раз тест-кейсыдолжныисполнятьсяихавтором,задачакоторого

еслинеобходимо, добавитьновые тест-кейсы;

если необходимо, внести изменения по существу, например в случае, если при создании тест-кейса тестировщик неправильно понял спек;

если возможно, удалить лишние тест-кейсы, например, если два тест-кейсапроверяютоднуи тужеидею,дублируядругдруга;

сделатьтест-кейсы болееудобнымидляподдержки;

отшлифовать их, что означает сделать формулировки кри- стально-сверкающе-искристоясными иточными.

Вот "шапка", которую можно нацепить поверх тест-кейсов.

Author:

Spec ID:

Priority:

Producer:

Developer:

 

 

 

 

 

OVERVIEW:

GLOBALSETUPandADDITIONAL INFO:

Author — автор тест-кейсов.

Spec ID — номер (или иной уникальный ID) спека. Сам ID должен быть линком к спеку в локальной сети (об этом мы еще поговорим).

Priority — приоритет тест-комплекта (например, от 1 до 4), обычно соответствующий приоритету спека.

Producer — продюсер, написавший спек.

Developer — программист, пишущий код в соответствии соспеком.

Искусство создания тест-кейсов

57

 

В секции Overview вкратце рассказывается, чему посвящен этот тест-комплект.

Предназначение секции GLOBAL SETUP and ADDITIONAL INFO

аналогично секции тест-кейса SETUP and ADDITIONAL INFO, только здесь мы говорим о повторяющихся вещах, которые будем использовать в более чем одном тест-кейсе, и вообще о любой другой полезной информации для всего тест-комплекта.

Вот содержимое файла credit_card_payments.doc, включающего тест-комплект "Покупка с использованием кредитных карт":

Покупка с использованиемкредитныхкарт(TS7122)*

Author:

Spec ID:

Priority

Producer:

Developer:

О. Тарасов

1211

1

П. Хрипунов

Н. Назаров

 

 

 

 

 

OVERVIEW:

Данный тест-комплект проверяет оплату картами VISA и MasterCard

GLOBAL SETUP and ADDITIONAL INFO:

1. SQL1: select result from cc_transaction where id = <номер заказа>; 2. Баланс счета карты можно посмотреть здесь: www.main.testshop.rs/<четыре_последних_цифры_карты>/balance.htm

ТС ID/Priority

 

CCPG0001

 

1

 

 

 

 

 

IDEA: Оплата может быть произведена картой VISA

 

SETUP and ADDITIONAL INFO:

 

 

 

Эккаунт: testuser1/pa$$wOrd

 

 

 

 

Данные карты:

 

 

 

 

Номер: 9999-5148-2222-1277 Окончание действия:

 

12/07 CVV2: 778

 

 

 

 

 

 

 

 

 

 

 

Revision History

 

 

 

 

Created on: 11/17/2003 byО.Тарасов

Новый тест-кейс

 

 

 

Modified on: 11/26/2003 byИ. Новикова

Шаги были упрощены, чтобы

 

 

 

сделать тест-кейс более удобным

 

 

 

для поддержки

 

 

 

Modified on: 01/17/2003 byИ. Новикова

Изменение шагов и второй

 

 

 

ожидаемый результат с целью

 

 

 

удостоверениявснятии денег сосчета

 

 

 

 

 

 

58

 

 

 

Тестирование Дот Ком. Часть 1

 

 

 

 

 

 

 

 

Execution part

 

 

PROCEDURE

 

EXPECTED RESULT

1.

Запиши баланс счета карты

 

>

"10"

2.

Открой www.main.testshop.rs

 

 

 

 

3.

Войди в систему.

 

 

 

 

4.

Найди любой товар.

 

 

 

 

5.

Добавь товар в корзину.

 

 

 

 

6. Произведи оплату картой из секции

 

 

 

SETUPandADDITIONALINFO

 

 

 

 

(!!! запиши полную сумму заказа:

 

 

 

).

 

 

 

 

 

 

7.

Запиши номер заказа

 

 

 

 

8.

Запроси базу данных сSQL1.

 

 

 

 

 

 

 

 

 

9. Запиши баланс счета карты

 

> Шаг 1 - Шаг 6

 

 

 

 

 

 

 

 

 

 

 

ТС ID/Priority

 

CCPG0002

 

1

 

 

 

IDEA: Оплата может быть произведена картой MasterCard

SETUP and ADDITIONAL INFO:

 

 

 

Эккаунт: testuser1/pa$$wOrd

 

 

 

 

Данные карты:

 

 

 

 

Номер: 3333-7112-4444-7844 Окончание действия: 12/08

 

CVV2: 676

 

 

 

 

 

 

 

 

 

 

Revision History

 

Created on: 11/17/2003 byО.Тарасов

Новый тест-кейс

 

Modified on: 11/26/2003 by И. Новикова

Шаги были упрощены, чтобы

 

 

 

 

сделать тест-кейс более удобным

 

 

 

 

для поддержки

 

Modified on: 01/17/2003 by И. Новикова

Изменение шагов и второй

 

 

 

 

ожидаемый результат с целью

 

 

 

 

удостоверениявснятии денег сосчета

 

 

Execution part

 

 

PROCEDURE

 

EXPECTED RESULT

1.

Запиши баланс счета карты

 

>

"20"

2.

Открой www.main.testshop.rs

 

 

 

 

3.

Войди в систему.

 

 

 

 

4.

Найди любой товар.

 

 

 

 

5.

Добавь товар в корзину.

 

 

 

 

6. Произведиоплату картой из секции

 

 

 

SETUPandADDITIONALINFO

 

 

 

 

(!!! запиши полную сумму заказа:

 

 

 

).

 

 

 

 

 

 

7.

Запиши номер заказа

 

 

 

 

8.

Запроси базу данных сSQL1.

 

 

 

 

 

 

 

9. Запиши баланс счета карты

 

> Шаг 1 - Шаг 6

 

 

 

 

 

 

 

(TS7122)каждыйтест-комплектдолжениметьсвойуникальныйID.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]