- •1.3.1. Оценка по отклонению от среднего мнения экспертной группы.
- •Эксперт ранжирует оцениваемые величины.
- •1.3.1.2. Эксперт определяет численные значения оцениваемых величин.
- •1.3.2. Оценка объективности (беспристрастности) эксперта
- •1.3.3.Оценка воспроизводимости результата.
- •1.4. Тестовые оценки
- •1.5. Документальные оценки
- •1.6. Комбинированные оценки
1.3.1. Оценка по отклонению от среднего мнения экспертной группы.
В основе этого метода лежит посылка, что истинным значением определяемой экспертами величины является средняя оценка экспертной группы. Отсюда следует, что чем меньше отклонение индивидуальной экспертной оценки от коллективной (т. е. усредненной для всей группы экспертов), тем выше качество эксперта, давшего эту оценку. Как известно, чаще всего выносимые экспертами оценки представляют собой или ранжированную последовательность (например, ранжированные по важности показатели), или совокупность числовых значений параметров (например, численные значения коэффициентов весомости). Рассмотрим особенности оценки отклонения от средней применительно к этим двум типам экспертных оценок.
Эксперт ранжирует оцениваемые величины.
1. Для этого случая В. Д. Малюгиным предлагается метод определения оценки компетентности эксперта.
Оценка компетентности j-го эксперта Кком j определяется выражением:
Кком j=f(L)
где L – расхождение между ранжировкой, построенной экспертом, и «средней» ранжировкой;
f – некоторая монотонная функция, выбираемая с учетом специфических условий работы конкретной экспертной комиссии.
2. Несколько отличный по форме, но почти такой же по своей сущности метод, основан на использовании «коэффициента конкордации»:
а) Каждый эксперт ранжирует все объекты
Mij = M1j, M2j,…, Mn j.
б) Подсчитывается сумма рангов каждого объекта
где aij – ранг i–го объекта у j–го эксперта.
в) Подсчитывается отклонение от средней суммы рангов i (дисперсия рангов):
где Tp – средняя сумма рангов определяемая выражением
далее подсчитывается величина S’
г) Коэффициент конкордации для N экспертов Wn определяется по формуле
Так как 0 WN 1, то при WN= 0 полностью отсутствует какая-либо согласованность в мнениях N экспертов, а при WN = 1 имеется полная согласованность в мнениях всех N экспертов.
Если эксперт считает важность каких-либо объектов одинаковой, то он присваивает им одинаковые (связанные) ранги. Причем присвоение рангов производится таким образом, чтобы сумма рангов объектов у каждого эксперта равнялась величине . Например, эксперт, ранжируя пять объектов, считает, что первых три — одинаковые по важности. Тогда он присваивает следующие ранги: 2, 2, 2, 4, 5. При наличии связанных рангов коэффициент конкордации вычисляется по формуле
д)
где
причем P – число групп одинаковых рангов в ранжировке j-го эксперта;
tj – число повторений одинакового ранга в –й группе у j–го эксперта.
Так как 0 WN 1, то при WN = 0 полностью отсутствует какая-либо согласованность во мнениях N экспертов, а при WN = 1 имеется полная согласованность во мнениях всех N экспертов.
Обычно считается, что согласованность вполне достаточна, если W > 0,5.
е) Аналогичным образом вычисляется коэффициент конкордации для W`N-1 для группы из (N-1) экспертов (т.е. для группы, из которой исключен один j-й эксперт).
ж) Для каждого j-го эксперта вычисляется отклонение WN :
W`N = WN - W`N-1
з) Оценка компетентности j-го эксперта Кком j принимается пропорциональной величине отклонения W`N:
Кком j = bW`N
где b – коэффициент пропорциональности» может определяться экспертным методом
Следует отметить, что оба описанных выше метода оценки отклонения от среднего достаточно эффективны. Однако их практическое применение связано с относительно большим объемом вычислительной работы.
3. Ниже описывается еще один метод такого рода, отличающийся от двух предыдущих меньшей трудоемкостью: использование коэффициента ранговой корреляции (по Спир-мену) между ранжировкой эксперта и средней ранжировкoй.
где di – разность между средним рангом и рангом, присвоенным данным экспертом i-му объекту. (Данная формула используется при отсутствии связанных рвнгов)
Поскольку величина Rj заключена в интервале -1 Rj 1, то для удобства ее использования при оценке качества экспертов величина Rj переводится в шкалу 0..1 по формуле:
Тогда оценка качества эксперта по отклонению от средней Koc j c учетом принятой ранее 10-балльной шкалы будет равна:
Кос j = 10 R`j
Причем
0 ≤ Кос j ≤ 10