3. Обработка результатов и оценка согласованности мнений экспертов
После проведения опроса группы экспертов осуществляется обработка результатов. Целью обработки является получение обобщенных данных и новой информации, содержащейся в скрытой форме в экспертных оценках. На основе результатов обработки формируется решение проблемы.
В связи с тем, что мнения экспертов при ранжировании объектов по решаемой проблеме обычно расходятся и, бывает, довольно значительно, возникает необходимость количественной оценки степени их согласия. Получение количественной оценки согласованности мнений экспертов позволяет более обоснованно интерпретировать причины в расхождении мнений.
В настоящее время известны две меры согласованности мнений экспертов: дисперсионный и энтропийный коэффициенты конкордации.
Дисперсия – это характеристика случайной величины, обозначаемая через D[x]. Она определяется по формуле:
M – математическое ожидание
– квадрат отклонения случайной величины от своего среднего значения
a – среднее значение случайной величины, точнее её математического ожидания
p – вероятность значения
Это формула для определения дисперсии для дискретной случайной величины. Для непрерывной случайной величины используется следующая формула:
f (x) – плотность вероятности случайной величины
Рис. 8 - Закон распределения Гаусса
Дисперсия показывает, насколько отклоняется («рассеивается») случайная величина от своего среднего значения.
Дисперсионный коэффициент конкордации (Wд) определяется как отношение оценки дисперсии (D) к максимальному значению этой оценки (Dmax): Wд = D/Dmax
Энтропия – это характеристика степени неопределенности случайной величины. Она определяется по формуле:
p – вероятность случайной величины
ln – знак натурального логарифма
если p=1, то – это 100% результат, никаких неопределенностей нет.
Если p=1,
p=1,
p=1,
Отсюда следует, что если выше вероятность состояния, тем меньше энтропия и, наоборот, чем меньше вероятное состояние, тем больше энтропия.
Энтропийный коэффициент конкордации или коэффициент согласия(Wэ) определяется по формуле:
Wэ = 1 – S/Smax
где Smax - максимальное значение энтропии; S – энтропия.
Для вычисления энтропии одномерной случайной величины Х используется формула:
закон распределения задан следующей таблицей:
X |
… |
||||
P |
… |
В случае двумерной случайной величины энтропия вычисляется по формуле:
n=1
n=2 n =3
Таблица 4 - Пример ранжирования объектов экспертами
Объекты – m Эксперты – n |
О 1 |
О 2 |
О 3 |
О 4 |
|
где – сумма сумм; вероятность 0<p<1.
где pij - оценка вероятности j-го ранга, присвоенного i-му объекту; n - число объектов; m - число экспертов. Коэффициент согласия изменяется от нуля до единицы. При Wэ = 0 расположение объектов по рангам равновероятно, поскольку в этом случае S = S Данный случай может быть обусловлен либо невозможностью ранжировки объектов по сформулированной совокупности показателей, либо полной несогласованностью мнений экспертов.
Сравнительные оценки величин дисперсионного и энтропийного коэффициентов, изменяющихся от 0 до 1, дают примерно одинаковую степень согласованности мнений экспертов при близких ранжировках. Однако если, например, вся группа экспертов разделилась в мнениях на две подгруппы, причем ранжировки в этих подгруппах противоположные, то дисперсионный коэффициент конкордации будет равен нулю, а энтропийный коэффициент конкордации будет равен 0,7. Таким образом, энтропийный коэффициент конкордации позволяет зафиксировать факт разделения мнений на две противоположные группы.
Основными причинами, снижающими точность экспертных оценок, являются:
Использование некомпетентных экспертов из-за недостаточно серьезного отношения к проведению экспертизы; нечеткого понимания целей, характера объекта экспертиз и неполной информации о нем; наличия ограниченной информации об экспертах и областях их профессиональных знаний и опыта; отсутствия организованных механизмов, обеспечивающих возможность привлечения высококвалифицированных специалистов.
Недостаточная подготовленность экспертизы. Имеют место некачественная формулировка целей экспертизы, низкий организационный уровень ее подготовки и проведения, отсутствие необходимой квалификации рабочей группы, проводящей экспертизу.
Несовершенство используемых технологий.
Недостатки используемых методов обработки экспертной информации. При анализе результатов экспертизы следует обращать внимание на степень согласованность экспертных оценок, получаемых при ее проведении. Согласованность мнений комиссии может отражать тот факт, что либо к проведению экспертизы относились формально, не придавая особого внимания ее результатам, либо эксперты при вынесении заключений и оценок проявили высокую степень конформизма. С другой стороны, несогласованность экспертных суждений может означать разное понимание экспертами цели экспертизы, а также участие в работе комиссии экспертов с противоположными интересами. Анализ согласованности экспертных суждений необходим, так как выявление по результатам оценок коалиций экспертов- «единомышленников» позволяет иногда сделать важные выводы, вскрыть причины несогласованности, повысить надежность оценок. К типичным ошибкам экспертных оценок относятся также: преувеличение возможностей экспертных оценок; излишнее увлечение количественными оценками; конформизм экспертов; некорректная интерпретация результатов.
Контрольные вопросы и задания
1. В каких случаях используются экспертные технологии в процессе принятия управленческих решений?
2. С помощью, каких методов группового опроса осуществляется процедура организации и проведение экспертизы?
3. Охарактеризуйте группы (способы) оценки качеств эксперта.
4. Каким образом происходит оценка согласованности мнений экспертов?
5. Какие существуют причины, снижающие точность экспертных оценок?