- •Методы экспертных оценок.
- •Области применения мэо:
- •2. Две групповые оценки, данные двумя одинаковыми группами экспертов, которые были отобраны случайным образом, должны быть близкими при оценке определенной проблемы.
- •2. Подготовка экспертизы
- •3. Основные вопросы по существу исследуемой проблемы. По форме различаются следующие типы вопросов:
- •3. Отбор экспертов
- •4. Методы Дельфы
- •5. Методы ранговой корреляции
- •1. Качество лекций.
- •6. Проверка согласованности и достоверности экспертных оценок
- •1. Сокращение сроков выполнения работы в сфере управления предприятием.
- •2.4. Экспертные опросные процедуры «прямого» получения коллективного мнения
- •2) Получение индивидуальных оценок с последующей обработкой с помощью математических и статистических методов.
- •2.5. Мeтoды пoлyчeния индивидyaльнoгo мнeния члeнoв экcпepтнoй гpyппы
- •3.3. Оценка согласованности мнений экспертов
- •Данные обработки
3. Основные вопросы по существу исследуемой проблемы. По форме различаются следующие типы вопросов:
открытые и закрытые;
прямые и косвенные.
Вопрос называется открытым или свободным, если ответ на него может быть дан в любой форме, т.е. ответ ничем не регламентирован. Вопрос называется закрытым, если в его формулировке содержатся варианты возможных ответов (перечень альтернатив) и эксперт должен остановить свой выбор на одном (или нескольких) из них. Одной из разновидностей закрытого вопроса является дихотомический, в котором перечень возможных ответов исчерпывается альтернативой! "да – нет".
Конкретный вопрос с определенным набором ответов на него называется признаком анкеты. Набор ответов может быть качественного характера, когда задача эксперта заключается в выборе одного ответа из набора предложенных, и может быть количественного характера, когда ответам на вопросы анкеты присваиваются числовые оценки.
Достоинство открытых вопросов заключается в возможности обнаружения с помощью экспертов новых, порой совершенно неожиданных для аналитика аспектов проблемы. Недостатки этого метода заключаются в том, что повышается вероятность произвольной интерпретации вопросов со стороны эксперта, что может привести в итоге к несопоставимости данных, полученных от группы экспертов, и, кроме того, в том, что анализ ответов, полученных на открытые анкеты - дело чрезвычайно трудоемкое. Закрытые вопросы этими недостатками не обладают, но таят в себе опасность навязать эксперту ответ, в особенности тогда, когда эксперт не имеет сложившегося мнения по проблеме или его мнение не совпадает с набором ответов, предложенных в анкете. Поэтому, если у аналитиков нет твердой уверенности, что все возможные альтернативы исчерпаны, следует предоставлять экспертам возможность выдвигать свои альтернативы или уклониться от ответа на некоторые из поставленных вопросов.
Цель экспертизы может быть замаскирована и тогда признаки анкеты могут быть косвенными. Такие анкеты применяются чаще всего в случаях, когда нет твердой уверенности, что эксперт по данному вопросу захочет (сумеет) дать определенную информацию.
3. Отбор экспертов
Работу по отбору экспертов обычно начинают с определения области научных, технических, экономических, административных и т.д. интересов, которые будут затронуты в процессе решения данной проблемы.
После этого составляется, список лиц, компетентных в этих областях. Этот список является основой для отбора "кандидатов" в эксперты. Составляя этот список, исходят, прежде всего, из компетентности того или иного специалиста в области его непосредственной деятельности. Вместе с тем желательно, чтобы кандидат в эксперты обладал широким кругозором, был достаточно эрудирован и в смежных отраслях знания. Кроме того, надо выявить потенциальные цели экспертов, противоречащие целям экспертизы, т.е. убедиться в отсутствии (наличии) причин, которые могут повлиять на сознательное смещение групповой оценки в направлении, желательном для данного эксперта или для группы экспертов. Рекомендуется исключить из рассмотрения те события, в результатах которых эксперты лично заинтересованы.
Один из способов анализа компетентности кандидатов в эксперты заключается, в подготовке специальных анкет, отвечая на которые эксперты должны показать свою эрудицию и аналитические способности. Дня оценки полученных ответов используется численная шкала, например от 2 до 5. Главное внимание при заполнении анкеты уделяется способности эксперта ответить на поставленные вопросы и дать численную оценку своим знаниям в достаточно короткий срок, обычно 10-15 минут. Так, например, экспертам предлагается ответить на серию из 10 вопросов в течение 5 минут. Прежде, чем начать эксперимент, кандидатов в эксперты знакомят с инструкцией следующего содержания:
"Вас просят оценить ниже перечисленные вопросы соответственно объему Ваших знаний. Перед тем, как дать ответ, прочтите внимательно все 10 вопросов и отыщите один, который Вы, как Вам кажется, знаете лучше других. Дайте этому вопросу оценку 5. Затем отыщите вопрос, который, по вашему мнению, Вам знаком хуже других, дайте ему оценку 1. Остальные вопросы оцените по шкале 1, 2, 3, 4, 5 баллов так, чтобы вопрос, по которому Вы знаете почти так же много, как и по первому, получил оценку 5, вопрос, по которому у Вас средние знания, получил оценку 4 и.т.д. Таким образом, оценка любого вопроса является относительной и зависит от того, насколько велик объем Ваших знаний по этому вопросу. Не пытайтесь улучшать оценки, а будьте "импрессионичны", т.е. руководствуйтесь Вашим личным впечатлением".
После того, как будут получены данные до индивидуальной самооценке, можно получить самооценку каждого кандидата в эксперты, Для этого надо сложить все оценки, которые он сам себе поставил, и поделить их на число вопросов:
Средняя групповая самооценка получается как частное от деления индивидуальных самооценок на число экспертов в группе:
В результате получается численный индекс, который характеризует объем знаний данной групп по рассматриваемому кругу вопросов.
Практика экспертиз показывает, что хотя методы самооценки недостаточно точны для того, чтобы служить единственным критерием выбора экспертов, использование таких процедур дает возможность выполнить предварительный отбор группы наиболее компетентных специалистов. Есть данные, подтверждающие наличие связи между групповой самооценкой и точностью экспертизы.
На рис. 1 дана кривая, иллюстрирующая зависимость между групповой самооценкой и средней групповой ошибкой. Из рисунка видно, что средняя групповая ошибка монотонно убывает с возрастанием средней самооценки. Из этого следует, что если группу кандидатов в эксперты разделить на две подгруппы, одна из которых А имеет более высокую самооценку, чем группа в целом, а другая - В имеет более низкую самооценку, чем вся группа, то подгруппа А будет в среднем более точной, чем вся группа, а подгруппа В - менее точной.
Вместе с тем точность групповой оценки существенно зависит от числа экспертов в группе. При уменьшении числа экспертов точность оценки тоже уменьшается, так как на общую оценку излишнее влияние оказывает, индивидуальная оценка каждого из экспертов.
В то же время, при очень большом числе экспертов становится сложнее выявить их согласованное мнение из-за уменьшения роли тех суждений, которые хотя и отличаются от мнения большинства, но далеко не всегда оказываются ошибочными.
Установить оптимальную численность группы экспертов чрезвычайно трудно. Однако в последние годы 'разработан ряд подходов, которые позволяют хотя бы приблизительно решать вопрос о числе экспертов. На рис. 2 дана кривая, характеризующая зависимость между числом экспертов и средней групповой ошибкой, использование кривых такого типа позволяет выбрать минимально необходимое число экспертов. Однако надо помнить, что каждая такая кривая обусловлена специфическими особенностями конкретной экспертизы и не имеет универсального характера.
При подборе и оценке числа экспертов нужно учитывать еще одно ограничение, касающееся соответствия целей экспертизы целям экспертов. Группа не должна состоять из представителей одной узкой специальности, так как в этом случае их пение будет в определенной степени тенденциозным. При отборе экспертов необходимо принимать во внимание характер экспертизы: степень сложности и остроты обсуждаемой проблемы, личные отношения экспертов в группе.
Несмотря на то, что существующее сейчас метода отбора экспертов далеки от совершенства, их применение обеспечивает более высокую надежность результатов, чем "волевые" решения о назначении участников экспертиза.