- •Рецензент:
- •Примерное тематическое планирование курса
- •Учебно-методическое и информационное обеспечение дисциплины Основная литература:
- •Дополнительная литература:
- •Журналы:
- •Содержание учебного материала Лекция 1. Вводная лекция. Специфика экспертного опроса.
- •Практическое занятие 1. Развитие методов экспертных оценок в России.
- •Лекция 2. Эксперт и методы отбора экспертов
- •I. Объективные методы:
- •II. «Субъективные» методы:
- •Адаптированная таблица взаимных оценок экспертов (социоматрица выбора экспертов)
- •I. Отношения между организаторами исследования и экспертами:
- •II. Отношения между экспертами внутри группы:
- •III. Отношения экспертов и результатов их деятельности:
- •1. Определение последовательности тем
- •2. Определение степени детализации вопросника
- •Практическое занятие 2. Функции эксперта в экспертном опросе. Критерии отбора экспертов.
I. Объективные методы:
1) документальный — подбор на основе объективных «символов компетентности». К ним могут относиться: ученая степень, звание, должность, стаж работы по специальности и в области, связанной с предметом исследования, число опубликованных работ, число ссылок на них в научной литературе, участие в специализированных советах, комиссиях, симпозиумах и т.д.;
2) экспериментальный метод — более дорогостоящий, проводится на основе испытания, тестирования кандидата в эксперты или по результатам его прошлой экспертной деятельности. Применение тестов целесообразно использовать в том случае, если отобранным экспертам в дальнейшем придется многократно решать однотипные узкоспециальные задачи.
II. «Субъективные» методы:
1) метод самооценки. Одна из форм самооценки — совокупный индекс, рассчитанный на основании оценки экспертами своих знаний, опыта и способностей по ранговой шкале с позициями «высокий», «средний», «низкий».
Пример. Как Вы оцениваете уровень Вашей компетентности по проблеме «....» ? (Отметьте соответствующую оценку в строке против каждой из трех перечисленных характеристик).
Критерии компетентности |
Высокий (1) |
Средний (0,5) |
Низкий (0) |
Уровень теоретического знания проблемы (К1) |
* |
|
|
Практический опыт (К2) |
|
* |
|
Способность предвидеть логику событий (К3) |
|
* |
|
Из данного примера следует, что коэффициент уровня компетентности эксперта по определенной проблеме:
1+ 0,5 + 0,5
Кк = —————— = 0,7
3
Обычно в группу экспертов принято включать тех, у кого уровень компетентности выше 0,5. При отборе экспертов методом самооценки возникает проблема ее завышения. Однако, как отмечают специалисты, из опыта многочисленных экспертиз следует, что группы с высокой самооценкой, как правило, ошибаются в своих суждениях при проведении экспертизы меньше других.
Иногда самооценку экспертов применяют в сочетании с анализом структуры аргументов. Эксперту предлагается анкета (см. табл.) без проставленных в ячейках коэффициентов с тем, чтобы он отметил степень влияния перечисленных источников на формирование его мнения по экспертируемой проблеме.
Источник |
Степень влияния источника на мнение |
||
высокая |
Средняя |
Низкая |
|
Проведенный теоретический анализ |
0,3 |
0,2 |
0,1 |
Практический опыт работы |
0,5 |
0,4 |
0,1 |
Обобщение работ отечественных авторов |
0,05 |
0,05 |
0,05 |
Обобщение работ зарубежных авторов |
0,05 |
0,05 |
0,05 |
Интуиция |
0,05 |
0,05 |
0,05 |
Коэффициенты из отмеченных ячеек складываются и, таким образом, вычисляется коэффициент аргументированности (Ка). Далее эксперт по шкале от 0,1 до 1 указывает степень знакомства с проблемой, что представляет собой коэффициент знакомства Кз.
Коэффициент компетентности вычисляется по формуле:
Ка + Кз
Кк = -------------
2
2) Методы коллективной оценки применяются в тех случаях, когда потенциальные эксперты знают друг друга как специалисты. Два вида методов коллективной оценки — аттестация и метод взаимной оценки.
Аттестация — открытое или тайное голосование потенциальных членов будущей экспертной группы, с отводом тех. кто не набрал определенного минимума голосов.
Пример — методика с расширяющимися кругами экспертов в несколько туров («метод снежного кома»). 1 тур — круг экспертов составляет список кандидатов в эксперты. 2 тур — сформулированный в 1 туре круг экспертов также составляет список кандидатов в эксперты. Туры повторяются до тех пор, пока состав экспертов не стабилизируется, т. е. число повторений больше или равно 95 %.
Метод взаимной оценки — отбор экспертной группы из заранее сформированного списка путем балльной оценки или ранжирования. Сначала путем ряда итераций составляется предварительный список экспертов. Для этого можно использовать метод "снежного кома". Отобранные на первом этапе эксперты называют компетентных, по их мнению, специалистов, которые, в свою очередь, включаются в процесс отбора. Следующая итерация заключается в том, что эксперты, отобранные в результате второй итерации, также рекомендуют специалистов и т.д. Этот процесс заканчивается после стабилизации совокупности рекомендуемых экспертов, т.е. на той стадии, когда список экспертов перестает пополняться новыми фамилиями. После составления исходного списка экспертов возникает проблема оценки каждого из специалистов, попавших в список. Эта оценка производится с помощью социометрической процедуры, когда критерием оценки специалиста является частота его упоминания другими экспертами.
Например, если имеется список из десяти экспертов, мы просим каждого из указанных в списке выбрать пять наиболее компетентных коллег. На основании ответов строится таблица.
Таблица взаимных оценок экспертов (социоматрица выбора экспертов)
Кого назвали |
Кто назвал |
Сколько раз назвали |
||||||||||
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
|
||
1 |
0 |
- |
- |
1 |
1 |
1 |
- |
1 |
- |
1 |
5 |
|
2 |
1 |
0 |
1 |
1 |
- |
1 |
1 |
1 |
1 |
1 |
8 |
|
3 |
- |
1 |
0 |
- |
1 |
- |
- |
- |
- |
- |
2 |
|
4 |
1 |
1 |
- |
0 |
- |
- |
1 |
1 |
1 |
1 |
5 |
|
5 |
1 |
1 |
1 |
1 |
0 |
1 |
1 |
- |
1 |
- |
7 |
|
6 |
- |
- |
1 |
- |
1 |
0 |
1 |
1 |
1 |
- |
5 |
|
7 |
1 |
1 |
1 |
1 |
1 |
1 |
0 |
1 |
- |
1 |
8 |
|
8 |
- |
- |
- |
1 |
- |
- |
- |
0 |
- |
1 |
2 |
|
9 |
- |
1 |
1 |
- |
1 |
1 |
1 |
- |
0 |
- |
5 |
|
10 |
1 |
- |
- |
- |
- |
- |
- |
1 |
1 |
0 |
3 |
|
Итого |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
50 |
|
Количество выборов, полученных каждым экспертом, не всегда может дать объективную оценку значимости эксперта. Во-первых, как видно из таблицы 5, сразу несколько экспертов получили одинаковое количество выборов. Во-вторых, не все предпочтения имеют одинаковую ценность. Учет «веса» экспертов позволяет сделать оценку, основанную на частоте выборов, более точной.
В последнем столбце таблицы приводится сумма голосов, которые получил соответствующий эксперт. Эти числа принимаются в качестве «веса» мнений о соответствующем эксперте. Ими заменяются единицы в таблице (по столбцам), в результате чего получаем ранжированный ряд оценок уровня компетентности всех десяти экспертов.
