- •Пример экспертного оценивания
- •Построение ранжировки по методу средних арифметических рангов
- •Построение ранжировки по медианам рангов
- •3. Построение ранжировки по непосредственному оцениванию (баллам)
- •4. Проверка согласованности мнений экспертов на основе коэффициента конкордации.
- •Метод Дельфи. Задача: оценка качества информационной системы.
- •Модификации процедуры проведения мозгового штурма
4. Проверка согласованности мнений экспертов на основе коэффициента конкордации.
Коэффициент конкордации (согласованности) вычисляется по формуле:
,
где m – количество экспертов; n –количество сравниваемых объектов
- отклонения сумм рангов объектов Si
от среднего значения
.
,
где tp
– количество равных (связанных) рангов
в p
– группе, r
– количество групп.
Проведем расчет коэффициента по данным табл.2.
Таблица 5
Эксперты |
Факторы риска |
||||
1 |
2 |
3 |
4 |
5 |
|
Суммарный ранг важности |
10 |
9 |
20 |
11 |
23 |
Среднее значение суммарной оценки
равно:
Рассчитаем квадрат отклонения сумм
рангов объектов Si
от среднего значения (
).
Таблица 6
Эксперты |
Факторы риска |
||||
1 |
2 |
3 |
4 |
5 |
|
Суммарный ранг важности |
10 |
9 |
20 |
11 |
23 |
Отклонение от среднего |
5 |
6 |
5 |
4 |
8 |
Квадрат отклонения от среднего |
25 |
36 |
25 |
16 |
64 |
Сумма квадратов отклонения от среднего:
.
Для нашего примера все ранги (в строке «суммарный ранг важности») различны, а значит Ti = 0.
Тогда
.
Коэффициент конкордации изменяется в пределах от 0 до 1. При полной согласованности экспертов W=1. При W<0,5 согласованность низкая; при W>0,5 согласованность удовлетворительная. В рассматриваемом примере W=0,664, следовательно, можно считать мнения экспертов достаточно согласованным.
Учитывая, что оценки экспертов являются
случайными величинами, необходимо
полученное значение коэффициента
проверить на значимость, т.е. определить
вероятность согласованности их мнений.
Для этого необходимо использовать
квантили распределения хи-квадрат
,
где α –
уровень значимости критерия; k=n-1
– число степеней свободы.
Для рассматриваемого примера с α =10% и k=4:
<
13,28 = 2
расчетное.
Следовательно, мнения экспертов следует признать согласованными.
Метод Дельфи. Задача: оценка качества информационной системы.
Состав - 12 экспертов.
Эксперт ставит себе индивидуальную самооценку в баллах (от 0 до 10).
Эксперт оценивает уровень обслуживания в процентах (0т 0 до 100).
Работа проводится индивидуально и анонимно.
Критерий оценки - длина интервала не более 20%.
Результаты после первого тура имеют вид:
-
№ эксперта
Коэффициент самооценки
Уровень качества информационной системы
1
9
88
2
7,5
95
3
8
67
4
8,6
50
5
9,6
55
6
10
53
7
7
98
8
6,1
72
9
10
78
10
8,4
92
11
6
80
12
5,8
54
Анализ результатов:
Среднегрупповая оценка:
Среднее значение оценки уровня качества:
Средневзвешенная оценка уровня качества:
Расчет
медианы:
Упорядоченные оценки:
Расчет доверительного интервала:
Минимальная оценка из набора экспертиз
– 50, максимальная – 98. Квантиль –
.
Нижняя–
Верхняя граница доверительной области
–
.
Доверительный интервал: от 62% до 86%. Длительность интервала = 24%, следовательно, переходим во второй тур.
