Методы экспертных оценок

 

Анкетирование может  быть очным и заочным. Недостаток очного анкетирования - возможность  влияния анкетирующего руководителя на ответы эксперта. Недостаток заочного анкетирования - в возможности неправильного истолкования вопросов экспертом, затяжки в ответах и т.п. Достоинство заочного анкетирования - простота его организации, возможность привлекать без больших затрат экспертов, живущих в разных городах, и т.п.

Кроме анкет - вопросников, экспертам должна быть дана пояснительная записка, имеющая целью предопросную ориентировку экспертов и содержащая информацию о целях экспертизы, задачах опроса, объектах экспертизы, необходимые организационные сведения и инструкцию по заполнению анкет, в которой проводятся примеры порядка и способа заполнения⁶.

3. Подбор экспертов

 

Достоверность и эффективность  экспертизы определяется процедурой подбора  экспертов:

1. составляется список экспертов;
2. составляются письма-приглашения (место, время, мотивация);
3. определяются качества, которыми должны обладать эксперты:

• креативность;
• компетентность;
• отношение к экспертизе;
• конформизм;
• аналитичность, широта мышления;
• конструктивность мышления

Сложной проблемой процедуры  отбора является формирование системы  характеристик эксперта, существенно  влияющих на ход и результаты экспертизы. Эти характеристики должны описывать специфические свойства специалиста и возможные отношения межу людьми, влияющие на экспертизу. Для описания экспертов с точки зрения оценки качества решения проблемы вводятся следующие характеристики: компетентность, креативность, конформизм, аналитичность широта мышления, самокритичность др. Перечисленные характеристики в основном оцениваются качественно.

Компетентность - это степень квалификации эксперта в определенной области знаний. Достаточно простой и полной является Методика ГКН, в которой компетентность экспертов оценивается коэффициентом компетенции k. Он вычисляется на основе суждения эксперта о степени своей информативности по решаемой проблеме и указания типовых источников аргументации своих мнений.

Коэффициент компетенции вычисляется по формуле:

k = 1/2 (k_а + k_и), где:

k_а - коэффициент аргументации, получаемый в результате суммирования баллов по эталонной таблице (табл.1);

k_и - коэффициент информативности по проблеме, получаемой на основе самооценки эксперта по десятибалльной шкале и умножения этой оценки на 0,1.

Таблица 2. Эталонная таблица коэффициентов аргументации

Источники аргументации	Степень влияния источника  на мнение эксперта
	В (высокая)	С (средняя)	Н (низкая)
Проведенный теоретический  анализ	0,3	0,2	0,1
Производственный опыт	0,5	0,4	0,2
Обобщение работ отечественных  авторов	0,05	0,05	0,05
Обобщение работ зарубежных авторов	0,05	0,05	0,05
Личное знакомство с  состоянием дел за рубежом	0,05	0,05	0,05
Интуиция эксперта	0,05	0,05	0,05

 

Эксперту дается таблица  без цифр. Он отмечает, какой источник он оценивает по градациям В, С, Н. После наложения таблицы эксперта на эталонную таблицу подсчитывается количество баллов по всем источникам аргументации. При этом, если k_а = 1,0, то степень влияния всех источников высокая; если k_а = 0,8, то - средняя и, если k_а = 0,5, то учитывается низкая степень источников аргументации. Коэффициент компетентности 0 k 1.

Существуют подходы к оценке компетентности, основанные на учете апостериорных данных, т.е. на учете результатов экспертного оценивания.

Креативность - это способность решать творческие задачи. Оценивается на основе суждений, основанных на изучении деятельности эксперта.

Конформизм - это подверженность влиянию авторитетов, которая проявляется в неустойчивости собственного мнения.

Аналитичность и широта мышления - это способность выходить за рамки сложившихся представлений.

Самокритичность эксперта проявляется при самооценке уровня своей компетенции, а также при принятии решения по рассматриваемой проблеме.

К характеристикам группы экспертов можно отнести: достоверность  экспертизы и затраты на нее. Достоверность экспертизы зависит от количества экспертов в группе и количества экспертов. На рис.1 представлен график экспериментальных данных, устанавливающих монотонное возрастание достоверности с увеличением количества экспертов в группе.

 

 

 

 

 

 

Рис.1. Зависимость достоверности  от количества экспертов

Достоверность экспертизы существенно зависит от качества экспертов, особенно от их компетентности. Можно утверждать, что достоверность групповой экспертизы есть монотонно возрастающая функция средней групповой самооценки компетентности, которая определяется как среднее арифметическое значение самооценок группы экспертов⁷.

 

4.Методы экспертных оценок

4.1 Метод Дельфи

 

Сущность метода Дельфи состоит в последовательном анкетировании  экспертов различных областей науки, техники и формировании массива  информации, отражающего индивидуальные оценки экспертов, основанные на строго логическом опыте. Данный метод предполагает использование серии анкет, в каждой из которых содержаться информация и мнения, полученные из предыдущей анкеты⁸.

Область применения метода: прогноз развития науки и техники, будущих открытий и изобретений, для которых нет достаточной теоретической базы в момент составления прогноза, а также составление картины будущего мира, долгосрочного прогнозирования, изучения ряда экономических и социальных проблем.

Сбор и обработка индивидуальных мнений экспертов о прогнозах развития объекта исследования производится исходя из следующих принципов:

• вопросы в анкетах ставятся таким образом, чтобы можно было дать количественную характеристику ответам экспертов;
• опрос экспертов проводится в нескольких этапов, на каждом последующем этапе вопросы и ответы все более уточняются;
• после каждого этапа всех опрашиваемых экспертов знакомят с результатами опроса;
• эксперт обосновывают оценки и мнения, отклоняющие от мнения большинства;
• статическая обработка ответов производится последовательно, от этапа к этапу, с целью получения обобщающих характеристик.

Опрос экспертов производится в четыре этапа с промежутками в два месяца. Разумеется, еще до первого этапа должны быть проведены подготовительные мероприятия с экспертами.

Первый этап. Выдается анкета (лично, по почте, с помощью ЭВМ и др.), собираются ответы, обрабатываются, каждый эксперт знакомится с результатами.

Второй этап. Результаты опроса наносятся на шкалу, определяется медианное значение, квартили и экспертам предлагается скорректировать свою оценку, чтобы вписаться в интервал между квартилями. При изменении мнения или отказе от изменения требуется объяснить свое решение⁹.

Под медианой понимается такое значение прогнозируемого признака, которым обладает центральный член ряда, составленного в порядке возрастания значений признака. Под модой понимается наиболее часто встречающееся в ранжированном ряду значение прогнозируемого признака.

Квартилем называется значение прогнозируемого признака, которым обладают члены ряда под номером, представляющим ¼ всего ряда (нижний квартиль) и ¾ от всего ряда (верхний квартиль). Аналогично определяются децили.

Предположим, что от экспертов  получено какое - либо число оценок. Эти оценки упорядочиваются, скажем, в порядке убывания. За медиану принимается средний член ряда (при нечетном числе экспертов), по отношению к которому число оценок с начала и с конца ряда будет одинаковым.

При четном числе экспертов  медиана равна среднему из значений оценок двух центральных экспертов. В нашем случае - нечетное число экспертов 11, медиана будет совпадать с оценкой N₆ (рис.2). Затем определяются верхний и нижний квартили, т.е. интервалы Q₁M_e и Q₃M_e. Величины этих квартилей в первом приближении равны значениям оценок ряда в интервале, равном 25% от начала и 25% от конца ряда. Таким образом, медиана и квартили образуют на оси ряда четыре интервала, среди которых два средних и считаются наиболее предпочтительными. Полученные таким образом показатели принимаются за характеристики распределения оценок: медиана служит характеристикой группового ответа, а предпочтительный интервал квартилей - показателем разброса индивидуальных оценок.

Рис.2. Медиана и квартили в методе Дельфи

Каждому эксперту сообщаются значения этих характеристик. Экспертов, чьи оценки оказались в крайних квартилях, просят их мотивировать, т.е. обосновать причины расхождения с групповым мнением. Эксперты могут приводить любые аргументы или возрождения, такие же, какие они приводят во время дискуссии. Разница заключается лишь в том, что эти аргументы анонимны. Они могут пересмотреть свои мнения и при желании исправить оценки.

С полученными обоснованиями  знакомят остальных экспертов, не указывая при этом, чьи они. Такая процедура  позволяет всем экспертам принять в расчет обстоятельства, которые они могли случайно пропустить или которыми пренебрегли во время первого и второго этапа.

Третий этап. Всем экспертам представляются все экспертные оценки и вся аргументация (с сохранением анонимности). Участники экспертизы рассматривают аргументы и формулируют новые оценки по каждому событию. Если их новая оценка не попала в интервалы между квартилями, полученными на втором этапе опроса, то их просят обосновать свою точку зрения. Оценки суммируются, рассчитываются новые медианы и новые квартили, составляются новые прогнозы.

Если ответы экспертов  перестают изменяться, это является сигналом к прекращению опроса.

Четвертый этап. Участникам экспертизы вновь передают перечень событий, статическое описание оценок группы и аргументы обеих сторон. Эксперты должны принять во внимание аргументы и их критику и составить новый прогноз. Организатор рассчитывает медианы и квартили дат каждого события. На этом заканчивается работа экспертов¹⁰.

С помощью статических методов группового ответа уменьшается статический разброс индивидуальных оценок и получается групповой ответ, в котором правильно отражено мнение каждого эксперта.

Разработан ряд модификаций метода Дельфи. В этих модификациях изменяются многие элементы методики, используемой в классическом методе Дельфи, но принцип группового ответа соблюдается.

Особенности метода:

• полный отказ от личных контактов экспертов и коллективных обсуждений;

• многотуровая процедура опроса экспертов (обычно четыре этапа);

• обеспечение экспертов информацией, обмен информацией при сохранении анонимности, аргументации и критики;

• обоснование ответов экспертов по запросу организаторов.

Плюсом данного метода является достаточно точное решение, а минусом – дороговизна метода

 

4.2 Метод мозгового штурма

 

Метод мозгового штурма разработан американским предпринимателем и изобретателем А.Осборном в 1953 г. и применяется для получения новых идей в науке, технике, административной и торговой деятельности.

Задачу последовательно решают две группы людей по 4 — 15 человек в каждой от 6 до 12 человек (оптимальный состав).

Первая группа только выдвигает  различные идеи — это группа «генераторов идей». В эту группу желательно включать людей, склонных к бурной фантазии, склонных к абстрагированию. Вторая группа — «эксперты» — по окончании штурма выносит суждение о ценности выдвинутых идей. В ее составе лучше работают люди с аналитическим, критическим складом ума. Условия задачи перед ее штурмом формулируются только в общих понятиях.

Основная задача группы «генераторов» — выдать за отведенное время как можно больше идей (в том числе фантастических, явно ошибочных и т.д.), чем нереальнее идеи, тем сильнее сказывается их действие на последующем процессе их генерации. При окончательном разборе многие предложения окажутся бесполезными. Однако сам процесс должен вызвать бурный поток идей, которые следуют непрерывно, дополняя и взаимно обогащая друг друга. Коллективный разум помогает генерировать последовательность предложений. Все они высказываются без доказательств и записываются в протокол или фиксируются на магнитной ленте.