
1.2.3. Оценка по аргументированности и знакомству с анализируемой продукцией.
В форме самооценки с помощью оценочных анкет эксперт количественно оценивает степень своей специализации по данному виду продукции и форму знакомства с ней. Например: «специализируюсь по данному виду продукции», «участвую в практическом создании данной продукции, но не специализируюсь», «данный вид продукции находится в сфере моих интересов», «в данной продукции не компетентен» и т. д., «знаком по своей практической деятельности, теоретическим исследованиям, изучению литературы» и т. д.
Эвристическая оценка компетентности, полученная на основе учета степени специализации и знакомства, весьма эффективна и достоверна. Однако, в настоящее время эта проблема еще только начинает исследоваться применительно к отдельным факторам и в целом далека от того, чтобы считаться решенной, поэтому эвристические процедуры определения коэффициентов аргументированности и знакомства в настоящее время использовать для комплексной оценки компетентности экспертов пока нецелесообразно.
1.2.4. Оценка эксперта рабочей группой.
Цель этой оценки - дать в количественной форме характеристику (Крг) заинтересованности эксперта в участии в экспертизе и его собранности (внимательности) в ходе опроса. Оценка дается техническими работниками, проводящими опрос экспертов.
При назначении оценок они исходят из отношения экспертов к выполняемой экспертизе и их активности при обсуждении оценок. Так же как и другие рассмотренные ранее оценки, оценку, определенную рабочей группой (Крг), целесообразно выражать в 10-балльной шкале.
1.3.Статистические оценки
Все методы, входящие в эту группу, базируются на общей предпосылке: при оценке качества эксперта его целесообразно рассматривать как «измерительный прибор». Как точность результата измерения в значительной степени зависит от качества измерительного устройства, так и точность экспертной оценки зависит от качества эксперта. Однако, если погрешность прибора легко определяется по более точному образцовому прибору, показание которого принимается за истинное значение измеряемой величины, то с экспертными оценками дело обстоит гораздо сложнее, так как истинное значение оцениваемой величины, как правило, неизвестно.
На точность результата могут оказать влияние организация и методика проведения оценки; качество построения структурной схемы, число показателей качества, способы определения оценок, характер взаимоотношений между экспертами и т. д.
Таким образом, на точность экспертной оценки влияют субъективные (зависящие от эксперта) и объективные (зависящие от методики оценки) факторы, воздействующие на процесс оценки как помехи. Возникающая под их действием погрешность оценки имеет случайную и систематическую составляющие.
Если эксперт уделяет чрезмерное внимание, например, внешнему виду продукции, то он будет завышать коэффициент весомости эстетического показателя качества, т. е. в этом случае в его оценке постоянно присутствует систематическая погрешность.
Вместе с тем если провести несколько независимых туров определения коэффициентов весомости, то результаты каждого эксперта в различных турах, как правило, будут отличаться, что вызвано наличием случайной погрешности.
Анализ причин появления погрешностей может позволить уменьшить их влияние, т. е. повысить точность оценки. Случайная погрешность зависит от психофизиологических особенностей эксперта, его собранности, уверенности в правильности информации, внимательности и т. д. Случайную погрешность экспертной оценки можно уменьшить многократным повторением оценок, однако систематическая погрешность при этом останется неизменной, так как основная причина систематической погрешности - недостаточная или неправильная информированность эксперта. Повысить информированность можно, ознакомив эксперта с необходимой информацией перед началом экспертизы или организовав обсуждение в процессе которого эксперт получит дополнительную информацию от других экспертов.
Считается, что систематическая составляющая - величина менее опасная, чем случайная, так как причины ее могут быть определены и изучены. Это позволяет исследователю, проводящему опрос, вносить коррективы для снижения систематической погрешности. Кроме того, поскольку систематическая погрешность эксперта является случайной для группы экспертов, то усреднение оценок группы позволяет повысить точность оценки качества. Таким образом, экспертную оценку качества продукции К можно представить в виде:
К = Ки ± К
где Ки – истинное значение оценки качества продукции;
К – погрешность оценки;
Причем
К = Ксист ± Кслуч
где Ксист – систематическая составляющая погрешности оценки;
Кслуч – случайная составляющая погрешности оценки;
Качество эксперта целесообразно определять, исходя из погрешностей назначаемых им оценок. При этом систематическую погрешность можно оценивать степенью отклонения от среднего мнения экспертной группы, а случайную погрешность — воспроизводимостью результатов. В обоих случаях для вычисления оценок требуется статистически обработать экспериментальные данные, чем и объясняется название этого метода оценки. Классификация составляющих погрешности экспертных оценок представлена в таблице 1.3.