
- •Введение
- •1 Современные методы проведения экспертизы
- •1.1 Мозговая атака
- •1.2 Метод синектики
- •1.3 Метод «Дельфы»
- •1.4 Практическое занятие: мозговая атака в форме деловой игры
- •2 Основные этапы получения экспертной оценки
- •Подбор экспертов,
- •2.1 Подбор экспертов
- •2.1.1 Факторы, влияющие на подбор экспертов
- •2.1.2 Оценка качества эксперта
- •2.2 Проведение опроса
- •2.2.1 Методы проведения опроса экспертов
- •2.2.2 Методы получения суждения от эксперта
- •Метод разбиения на множества
- •Методы ранжирования
- •Методы получения численных оценок
- •2.2.3 Практическое занятие: анкетирование и оценка компетентности экспертов
- •2.3 Обработка результатов опроса
- •2.3.1 Методы формирования групповой оценки Обобщение оценок в номинальной шкале
- •Обобщение численных оценок
- •Обобщение ранговых оценок
- •2.3.2 Практическое занятие: формирование ранговой оценки, построение и использование балльной шкалы, формирование групповых оценок в различных видах шкал
- •2.3.3 Оценка согласованности мнений экспертов
- •Согласованность оценок в номинальной шкале
- •Согласованность численных оценок
- •Согласованность ранговых оценок
- •Выводы из оценки согласованности
- •2.3.4 Практическое занятие: оценка согласованности мнений экспертов
- •Приложение а (рекомендуемое) теорема эрроу
- •Приложение б (рекомендуемое) другие методы активизации интуиции и опыта специалистов
- •Деловые игры
- •Приложение в (справочное)
- •Литература
Методы получения численных оценок
Численные оценки могут измеряться в шкале разностей, шкале отношений и в абсолютной шкале. Для оценок в шкале разностей можно сказать, на сколько одна оценка больше другой; в шкале отношений – во сколько раз. Оценка в абсолютной шкале представляет собой число, над которым определены все основные арифметические действия (оценки можно складывать, вычитать, умножать, делить) Примером шкалы разностей является температурная шкала (можно сказать, что завтра будет на 5о теплее, чем сегодня, но нельзя сказать, во сколько раз будет теплее). Примером шкалы отношений может служить шкала валют – расположив их в порядке возрастания курса, можно сказать, во сколько раз каждая из них дороже или дешевле другой, но нельзя сказать, на сколько именно, если не приводить их к общей единице измерения.
Таким образом, численные оценки существенно отличаются от оценок в номинальной шкале (на которой определено только отношение тождества «равно-не равно», «относится-не относится») и в порядковой (на которой определено отношение «больше-меньше», «лучше-хуже», но нельзя сказать, на сколько или во сколько раз лучше).
Все такие методы можно разделить на две группы:
а) оценка количественных факторов, для которых существуют единицы измерения, однако отсутствует какой-либо объективный измерительный метод (например, оценка стоимости нового проекта в рублях, времени выполнения научной разработки в месяцах и т.п. оценки). Процедура получения такой оценки не требует особых разъяснений. Наибольший интерес представляет
б) оценка качественных факторов, не имеющих единиц измерения (например, престижность предприятия, совокупная социальная значимость проекта). Построение количественных оценок таких факторов является предметом науки квантификации.
Наиболее распространенным приемом здесь является построение балльных шкал. Для этого рассматриваемое качество делится на некоторое опорное число градаций, причем каждой градации должно соответствовать определенное понятие, выражающее степень интенсивности проявления качества. Затем каждой такое градации приписывается соответствующее число баллов. Например, при оценке знаний по общепринятой 4-балльной системе оценка 5 соответствует понятию «отлично», 4 – «хорошо», 3 – «удовлетворительно» и 2 – «не удовлетворительно». Пятая градация, соответствующая одному баллу, не используется (хотя когда-то была принято использовать и такую оценку).
При использовании балльной шкалы необходимо учитывать следующее:
- размах шкалы (число градаций) должен соответствовать задачам исследования. При этом следует помнить, что увеличение этого числа позволяет более тонко дифференцировать объекты; но слишком большое число градаций затрудняет эксперту различать переходы между градациями, и целым рядом градаций он просто перестает пользоваться (это связано с психологическим понятием «порога восприятия»). Например, многие преподаватели используют не четырех-, а 7-балльную шкалу, которая включает 5, 4.5 (5- или 4+), 4, 3.5 (4- или 3+), 3, 2.5 (3- или 2+) и 2 балла. Такая шкала позволяет более тонко учесть в оценке различия в знаниях. Однако, когда предлагают оценивать знания по 100-балльной шкале, это обычно приводит к тому, что преподаватель в неявном виде просто заменяет ее на привычные и более удобные шкалы меньшего размаха (в самом деле, каким образом уловить разницу между 51 и 52 баллами?);
Наибольшее распространение имеют дискретные балльные шкалы (состоящие из отдельных значений). Кроме того, балльные шкалы могут быть непрерывными либо смешанными – когда каждой градации ставится в соответствии не одно определенное число, а интервал, в рамках которого эксперт может выбрать любое число либо любое из набора чисел (например, если за отличные знания можно поставить любую оценку на промежутке ]4; 5] – 4.1, 4.98 и т.п., то шкала непрерывная, а если можно поставить 5 или любое число на промежутке ]4; 4,5], то смешанная). Обычно рекомендуется использовать не более 10 дискретных значений оценок.
- шкала должна быть равномерной, т.е. разница в степени интенсивности проявления исследуемого признака должна быть одинакова между любыми двумя соседними градациями. Если это требование не выполняется, полученная шкала будет по существу ранговой шкалой.
Это легко проиллюстрировать на примере построения балльной шкалы для количественного признака, например, для уровня прибыльности некоторого проекта. Если прибыль колеблется от 0 до 100 тыс. руб. за определенный промежуток времени, можно построить 5-балльную шкалу, принимая за один балл 20 тыс. руб. Тогда оценка 1 соответствует прибыли от 0 до 20 тыс. руб. включительно, 2 – от 20 до 40 тыс. руб. и т.д., 5 – от 80 до 100 тыс. руб. При этом можно ожидать, что объект, получивший 4 балла, будет примерно вдвое прибыльнее объекта, получившего 2 балла. На самом деле это отношение может принять значения[1.5; 4[ ([1.5 = 60/40; 4 = 80/20[). Конечно, уровень приближения весьма значительный, но все же число 2 попадает в полученный интервал. Поэтому можно сказать, что оценка 4 вдвое выше, чем оценка 2. Можно также сказать, что оценка 4 на балл выше, чем оценка 3, которая, в свою очередь на балл выше, чем оценка 2 (т.е. объект, получивший 4 балла примерно на столько же лучше получившего 3 балла, чем тот лучше получившего 2 балла). Возможно, это всегда будет так?
Предположим теперь, что шкала построена по-другому, и оценка 1 соответствует прибыли от 0 до 2 тыс. руб. включительно, 2 – от 2 до 5 тыс. руб., 3 – от 5 до 30 тыс. руб., 4 – от 30 до 60 тыс. руб. и 5 – от 60 до 100 тыс. руб. Здесь разность между границами интервалов не одинаковая (равная 20), как в первом примере, а вначале равна 2 = 2 – 0, затем 3 =5 – 2, затем 25, 30 и 40 соответственно. Теперь объект, получивший 4 балла, может по величине прибыли быть лучше объекта, получившего 2 балла, в число раз [6; 30[([6 = 30/5; 30 = 60/2[), но никак не в два раза. Говорить о шкале разностей также бессмысленно. Зато о шкале порядков говорить, безусловно, можно, поскольку оцененные по такой балльной шкале объекты окажутся проранжированными (если оценка меньше, то и прибыль меньше, т.е. отношение больше-меньше определено).
Вернемся к оценке качественных признаков.
Для качественных признаков соблюдение требования равномерности является достаточно сложной проблемой. Оно определяется прежде всего четкостью и точностью содержательных формулировок самих градаций. Пример неправильно построенной шкалы приводится в известном анекдоте – оценка в 5 баллов за отличные знания, 4 – за правильный ответ на вопрос «Как зовут преподавателя?», 3 – на вопрос «Какой предмет Вы пришли сдавать?» и 2, если студент не знает даже этого. Здесь разница в степени интенсивности проявления исследуемого признака (уровня знаний) существенно различается между градациями 4-5 и, например, градациями 2-3.
Балльная шкала легко переводится в процентную. Для этого оценки необходимо вначале нормировать (после этого они будут измеряться в долях единицы), а затем умножить на 100. Например, если компетентность Петрова, Сидорова и Кузнецова, оцененная по 4-балльной шкале (от 1 до 4) составляет соответственно 3, 3 и 4 балла, то сумма этих баллов составляет 3 + 3 + 4 = 10. Нормированные оценки составят 0.3, 0.3 и 0.4, а процентные – 30%, 30% и 40%. Следовательно, если использовать оценки компетентности в качестве весов при расчете групповой оценки, то по 30% групповой оценки должны составлять оценки Петрова и Сидорова, а 40% - оценка Кузнецова.