Согласованность экспертных оценок

■

_л Щ

-

Как обеспечиваются надежность и валидность наблюдения? То есть как установить, что данные наблюдения лишены случайных ошибок (надежность) и отражают заданное психическое свойство (валидность)? Для этого необходимо привлечь к стандартизированному наблюдению за одними и теми же объ-

Основы психодиагностики

ектами и событиями не менее двух независимых наблюдателей-кодировщиков. При этом либо все наблюдатели одновременно производят «живое» наблюдение, либо они имеют дело с видеозаписью.

После получения независимых протоколов между протоколами рассчитываются хорошо известные психологам с университетским образованием коэффициенты сопряженности (аналог коэффициентов корреляции для качественных признаков — Рунион, 1982). Значение вычисленного коэффициента сопря-женности указывает на сводный показатель «надеж-ность+валидность». Чем ближе к единице этот коэффициент, тем более надежным и валидным считается методика наблюдения в исполнении данного коллектива наблюдателей. Степень отличия коэффициента от 1 указывает на одновременное наличие случайных (ненадежность) и систематических (невалидность) ошибок наблюдения. Огрубленно можно сказать, что относительная доля правильных кодировок в отношении к общему числу кодировок и есть мера «НАДЕЖНОСТИ-ВАЛИДНОСТИ» наблюдения. Таком образом, в любом методе экспертной оценки в качестве меры «надежности-валидности» выступает СОГЛАСОВАННОСТЬ оценок независимых экспертов.

Очевидно, что подобный эксперимент по измерению надежности и валидности наблюдения не есть удел и задача практиков. Этим должны заниматься те, кто разрабатывает методику стандартизированного наблюдения- Но... Но в отличие от психометрической стандартизации теста (см. следующий раздел 2.3), важно апробировать не только качество методики и однозначность инструкции, но и проверить то, насколько квалифицированными исполнителями оказались данные конкретные наблюдатели-кодировщики.

Отступление для пояснения. Как учатся изме-

124

Психодиагностика как научная технология

В идеале подобную стандартизацию на эталонном материале должны проходить все наблюдатели-кодировщики для исполнения любой методики стандартизированного наблюдения. То есть после того, как состоялась проверка самой методики на эталонном наборе наблюдателей, и методика признается разработанной, каждый новый наблюдатель-исполнитель проходит стандартизацию по отношению к тому материалу, на котором добились успеха (то есть дали согласованные протоколы) первые наблюдатели. Такова общая логика в разработке любой методики экспертной оценки. Вначале первичный материал для оценки и инструкция по оценке считаются нестан-дартизированными, а в качестве своего рода эталона выступают те первые эксперты, которые с ним знакомятся и первыми добиваются согласованности (нередко путем многократного внесения уточнений и модификаций в инструкцию, кодифицирующую признаки). Но после этого данный проинтерпретированный (запротоколированный) материал уже в свою очередь считается эталонным, а новые эксперты. проходят стандартизацию по отношению к этому материалу. Понятно, что чем больше независимых экспертов привлечено к этапу первичной отработки кодифицированной системы признаков и чем больше кодировщиков участвует в практическом наблюдении, тем надежнее оказываются результаты этого наблюдения. Это происходит из-за того, что и слу-

125

Основу психодиагностики

Принцип суммирования независимых экспертных оценок широко используется в такой общеизвестной сфере, как спорт. Напомним, к примеру, о практике фигурного катания. Минимальное число судей присуждает победу в боксе — пять. И даже если двое из них ошиблись и присудили победу слабейшему боксеру, то победа все равно присуждается сильнейшему — достаточным оказывается мнение трех других.

Массовое распространение компьютерной техники, в том числе в школе, придает новый импульс методам стандартизированного наблюдения. Дело в том, что провести корректное согласование экспертных оценок и измерить их надежность-валидность вручную, конечно, довольно трудно. Другое дело, когда вы вооружены специализированной компьютерной программой, облегчающей и сбор, и анализ таких экспертных оценок. Образец подобной программы под названием ЭКСПАН (ЭКСПертный АНализ) распространяется в России фирмой «Гуманитарные

126

технологии», работающей на базе факультета психологии МГУ (разработчик — А. Г. Шмелев, 1990,1995). С помощью этой программы вы можете оценить у целого класса учеников (до 50 человек) широкий набор до 50 признаков с помощью весьма представи-тельной группы экспертов (до 50 человек). ЭКСПАН быстро подсчитает как суммарную согласованность между экспертами (после этого можно удалить экспертов, которые совершенно не поняли смысла задания и сильно разошлись с оценками остальных), а также согласованность по отдельным признакам, что позволяет быстро определить, какие уточнения в инструкцию для данного признака нужно внести, чтобы добиться согласованности.

Очень часто в задачах экспертной оценки мы имеем дело с необходимостью построить суммарную оценку объекта, то есть подсчитать так называемый «ИНТЕГРАЛЬНЫЙ РЕЙТИНГ» по оценкам, которые эксперты дают различным признакам (параметрам, показателям) объекта. Вспомним опять же всем известный пример с фигурным катанием. Общая оценка фигуриста суммируется из независимых оценок по двум показателям: «за технику исполнения» и «за артистизм».

Так и в школьном обучении. Например, интегральная успеваемость («рейтинг успеваемости») под-считывается путем суммирования (или усреднения) оценок учеников по всем предметам. Но правильно ли, что ведущие предметы (математика, родной язык) вносят в интегральный рейтинг такой же вклад, как относительно второстепенные предметы (хотя бы по числу учебных часов в неделю), как пение, рисование и физкультура? Можно, например, учесть более

127

Основы психодиагностики

важное значение главных предметов путем суммирования оценок по этим предметом с более весомым коэффициентом. Такой весовой коэффициент может, например, отражать число учебных часов в неделю. Тогда обобщенная формула рейтинга R получит следующий вид:

R = Р1 • А1 + Р2 • А2+...Рк • Ак,

■

где А1 — оценка объекта (ученика) по 1-му покат зателю,

Р1 — значимость (вес) 1-го показателя, Рк — значимость (вес) к-го показателя.

В упомянутой выше программе EXPAN такой показатель рассчитывается для всех учеников по всем признакам и по всем экспертам (в программе, естественно, реализована более сложная и универсальная формула, позволяющая привести рейтинг к единой шкале от 1 до 1000 с учетом разного количества показателей, разного количества экспертов и, возможно, разных оценок значимости Pi для к критериев, которую дают разные эксперты).

Конечно, пример с оценками по учебным предметам есть только пример, призванный пояснить студентам смысл формулы «интегрального рейтинга». Сам по себе этот пример не имеет по сути никакого психодиагностического значения.

Более серьезный содержательный эффект подобный подход может иметь тогда, когда оценке подвергаются относительно элементарные составляющие такого, например, интегрального свойства, как «уровень сформированности учебной деятельности». Оценки по предметам не всегда точно отражают этот наиважнейший параметр, предопределяющий пер-

128

спективы ученика на многие годы вперед, включая поступление и обучение в вузе, где важно иметь развитые навыки самообучения. Вот примерный и далеко не полный перечень возможных показателей для экспертной оценки (к ней, очевидно, должны быть привлечены учителя по всем главным предметам, имеющие дело с данным классом):

1) умение «активно слушать», воспринимать и усваивать новый материал со слуха, во время объяснений учителя на уроке;

2) умение самостоятельно читать и усваивать новый материал по учебнику и другой учебной литературе;

3) высокий темп и точность действий по выполнению письменных заданий (самостоятельных, практических и контрольных работ) на уроке,

4) аккуратное выполнение домашних заданий, наличие своевременной и полной отчетности по письменным домашним заданиям и другим домашним работам;

5) умение удачно отвечать с места;

6) умение удачно отвечать у доски, объяснять и рассказывать усвоенный материал;

7) умение творчески применить усвоенный ранее материал к решению нового задания (умение сравнить новый и старый материал, сделать правильные выводы на основе этого сравнения), умение самостоятельно обобщать, интегрировать приобретенные

знания; И т. п.

Уже этот далеко не полный и довольно поверхностный список так называемых обобщенных «учебных умений» позволяет построить весьма полезный для педагогической работы «сквозной профиль» ученика. При этом выясняется (и это легко будет видеть на графической модели профиля), что, к примеру» У данного ученика Сидорова практически по всем предметам неплохо обстоит дело с «усвоением», но

5. Основы психодиагностики

129

плохо с «применением» знаний, а у ученика Семенова — неплохо с работой в классе, но совсем плохо -— с работой дома. Кстати, программа ЭКСПАН суммирует все экспертные оценки и строит такой профиль автоматически.

В этом разделе мы, конечно, уделили больше внимания общей формально-логической схеме применения методов наблюдения и экспертной оценки. Огромное разнообразие всевозможных вариантов применения этих методов здесь перечислить было просто невозможно. Творческое овладение педагогическим коллективом школы (под методическим руководством школьного психолога) подобными на самом деле очень доступными и практичными методами позволит школе очень гибко и быстро решать

130

Психодиагностика как научная технология

Ключевые термины: поисковое наблюдение, стан-дартизированиое наблюдение, аналитическое наблюдение, кодификация признаков, протокол наблюдения, согласованность экспертных оценок, надежностъ-ва-лидностъ экспертных оценок, интегральный экспертный рейтинг.

2.3. МЕТОД ТЕСТОВ:

НАДЕЖНОСТЬ, ВАЛИДНОСТЬ И СТАНДАРТИЗАЦИЯ

Как уже отмечалось неоднократно в предыдущих главах, метод тестов является одним из основных в современной психодиагностике, а по уровню популярности в образовательной и профессиональной психодиагностике он прочно удерживает первое место в мировой психодиагностической практике уже фактически в течение столетия. Договоримся понимать под тестами в этом разделе методики, которые состоят из серии заданий с выбором из готовых вариантов ответа. При подсчете баллов по тесту выбранные ответы получают однозначную количественную интерпретацию и суммируются. Суммарный балл сравнивается с количественными тестовыми нормами, и после этого сравнения формулируются стандартные диагностические заключения.

»

Достоинства метода тестов

Х31

традиционные устные и письменные экзамены):

1) Стандартизация условий и результатов. Тестовые методики относительно независимы от квалификации пользователя (исполнителя), на роль которого можно подготовить даже лаборанта со средним образованием. Это, однако, не означает того, что для подготовки комплексного заключения по батарее тестов не надо привлекать квалифицированного специалиста с полноценным высшим психологическим образованием.

2) Оперативность и экономичность. Типичный тест состоит из серии кратких заданий, на выполнение каждого из которых требуется, как правило, не более полминуты, а весь тест занимает, как правило, не более часа (в школьной практике это один урок); тестированию одновременно подвергается сразу группа испытуемых, таким образом, происходит значительная экономия времени (человеко-часов) на сбор данных.

3) Количественный дифференцированный характер оценки. Дробность шкалы и стандартизованность теста позволяет рассматривать его как «измерительный инструмент», дающий количественную оценку измеряемым свойствам (знаниям, умениям в заданной области). Хороший тест позволяет различать не только три категории учеников-отличников, «середнячков» и «хвостистов», но и хорошо дифференцировать испытуемых на полюсах шкалы — отличать просто способных от очень способных и талантливых, а среди отстающих отличать небезнадежных от «безнадежных» (или совершенно неподготовленных). Кроме того, количественный характер тестовых результатов дает возможность применить в случае тестов хорошо разработанный аппарат психометрики, позволяющий оценить, насколько хорошо работает данный тест на данной выборке испытуемых в данных условиях.

132

Психодиагностика как научная технология

4) Оптимальная трудность. Профессионально сделанный тест состоит из заданий ОПТИМАЛЬНОЙ ТРУДНОСТИ. При этом средний испытуемый набирает примерно 50 процентов из максимально возможного количества баллов. Это достигается за счет предварительных испытаний — психометрического экспериимента, или пилотажа. Если в ходе пилотажа становится известным, что с заданием справляется примерно половина из обследованного контингента, то такое задание признается удачным и его оставляют в тесте.

5) Надежность. Это, может быть, самое главное достоинство тестов. «Лотерейный» характер современных экзаменов с вытягиванием «счастливых» или «несчастливых» билетиков давно уже стал притчей во языцах. Лотерейность для экзаменующегося здесь оборачивается низкой надежностью для экзаменатора — ответ на один фрагмент учебной программы, как правило, не показателен для уровня усвоения всего материала. В отличие от этого, любой грамотно построенный тест охватывает основные разделы учебной программы (тестируемой области знаний или проявлений какого-то умения или способности). В результате возможность для «хвостистов» выбиться в отличники, а для отличника вдруг «провалиться» резко сокращается.

Назовем также ряд достоинств, которые в логическом смысле являются следствиями, производными от перечисленных выше, но заслуживают самостоятельного упоминания.

6) Важнейшим социальным следствием перечисленных выше достоинств метода тестов является Справедливость. Ее следует понимать как защищенность от предвзятости экзаменатора. Хороший тест ставит всех испытуемых в равные условия. Наиболее сильно субъективизм экзаменаторов проявляется, как известно, не в трактовке уровня решенности

133

Основы психодиагностики

задачи (не так просто назвать черное белым — решенную задачу нерешенной), а в тенденциозном подборе заданий — своим полегче, чужим — труднее. Во введении к настоящему пособию уже говорилось, что именно тесты обеспечивают важнейшую функцию школы, как социального фильтра, — функцию «социально-профессиональной селекции». То, насколько справедливой оказывается подобная селекция, имеет гигантское значение для развития общества. Поэтому так важно всем, кто имеет доступ к тестам и их результатам, учиться культуре грамотного и гуманного применения тестов. Ибо только добросовестное и квалифицированное отношение пользователей к тестам превращает их в инструмент, повышающий, а не понижающий уровень справедливости в обществе.

7) Возможность компьютеризации. В данном случае это не просто дополнительное удобство, сокращающее живой груд квалифицированных исполнителей при массовом обследовании. В результате компьютеризации повышаются все параметры тестирования (например, при адаптивном компьютерном тестировании резко сокращается время тестирования — см.2.6). Специально подчеркнем, что компьютеризация — это мощный инструмент обеспечения информационной безопасности (достоверности диагностики). Компьютерная организация тестирования, предполагающая создание мощных информационных «банков тестовых заданий», позволяет технически предотвратить злоупотребления со стороны недобросовестных экзаменаторов. Выбор заданий, предлагаемых конкретному испытуемому, может производить из такого банка сама компьютерная программа прямо в ходе тестирования, и предъявление данному испытуемому определенного задания в этом случае является таким же сюрпризом для экзаменатора, как и для испытуемого.

134

8) Психологическая адекватность. Это важнейшее психологическое следствие оптимальной сложности. Наличие в тесте (по сравнению с традиционными экзаменационными вариантами) большого количества кратких заданий средней трудности дает многим испытуемым (особенно тревожным, не уверенным в себе) шанс «зацепиться», поверить в себя, активизировать психологически оптимальную установку «на преодоление». Ведь когда такой испытуемый остается лицом к лицу перед одной-двумя очень сложными и большими задачами и не видит, как можно с ними справиться вообще, то он падает духом и не раскрывает всех своих возможностей. А если заданий много, и часть из них явно начинает «поддаваться» (испытуемый уверен, что он с ними справится), человек в процессе тестирования ободряется и начинает «бороться» за максимальный результат. Уже упомянутое нами свойство оптимальной сложности важно для теста тем, что оно не только обеспечивает измерительную (различающую) силу тесту, но и обеспечивает оптимальный психологический настрой испытуемых. Человек не является пассивным объектом измерений при тестировании (подобно гире при взвешивании) — он всегда остро эмоционально реагирует на тест. Тестовая ситуация оптимальной сложности является оптимальным возбудителем — люди испытывают нормальный уровень стресса (напряжения), необходимый для того, чтобы показать наивысший результат. Недостаток стресса (в случае легкого теста), а тем более избыток (в случае трудного) искажают результаты измерения. Этого, как правило, совершенно не понимают организаторы наших конкурсных экзаменов, пытающиеся в случае высокого конкурса дать абитуриентам задачки посложнее («на засыпку») — создается избыточный стресс, который не дает возможности проявить себя людям, подготовленным хорошо, но

135

Основы психодиагностики

Во многих странах внедрение метода тестов (равно как и сопротивление этому внедрению) тесно связано с социально-политическими обстоятельствами. Внедрение хорошо технически оснащенных тестовых служб в образовании — важнейший инструмент в борьбе с коррупцией, поражающей правящую элиту (номенклатуру) во многих странах. На Западе тестовые службы работают независимо от «выпускающих» (школы) и «принимающих» (вузы) организаций и снабжают абитуриента независимым сертификатом о результатах тестирования, с которым он может отправляться в любое учреждение. Эта независимость службы тестирования от выпускающих и принимающих организаций является дополнительным фактором демократизации процесса селекции профессиональных кадров в обществе, дающая талантливому и просто работоспособному человеку лишний шанс проявить себя.

Однако все перечисленное выше не означает, что метод тестов не обладает некоторыми весьма серьезными недостатками, не позволяющими свести всю диагностику способностей и знаний исключительно к тестированию.

Недостатки тестирования

Как всегда, определенные недостатки метода тестов являются продолжением его достоинств:

1) Опасность «слепых» (автоматических) ошибок. Слепая вера низкоквалифицированных исполнителей, что тест должен сработать правильно автоматически, порождает иногда тяжелые ошибки и казусы: испытуемый не понял инструкцию и стал отвечать совсем не так, как требует стандартная инструкция, испытуемый по каким-то причинам применил иска-

136

Психодиагностика как научная технология

жающую тактику, возник «сдвиг» в приложении трафаретки-ключа к бланку ответов (при ручном, некомпьютерном подсчете баллов) и т. п. Мораль — пользователь не должен подходить к тесту с «магической установкой», будто этот волшебный «черный ящик» должен всегда работать исправно без всякого контроля со стороны человека/

2) Опасность профанации. Это эффект деятельности «профанов» в буквальном смысле слова. Не секрет, что внешняя легкость проведения тестов прельщает людей, не пригодных ни к какому квалифицированному труду. Оснастившись тестами, им самим непонятного качества, но с громкими рекламными названиями, профаны от тестирования агрессивно предлагают свои услуги всем и вся. В результате все проблемы предполагается решать с помощью 2—3 тестов — «на все случаи жизни». К количественному тестовому баллу приклеивается новый ярлык — заключение, создающее видимость соответствия диагностической задаче. Ходовой пример — повальное использование клинического теста MMPI для отбора кадров в нашей стране. В этом случае высокий балл по восьмой шкале «Шизофрения» интерпретируется как «оригинальность мышления», по четвертой шкале «Психопатия» — как «импульсивность» и т. п. Мысль о том, что нормальный здоровый испытуемый настораживается при виде многих вопросов MMPI, в которых откровенно называются психиатрические симптомы («Я часто слышу голоса») и выдают чисто «защитный» профиль, профанов не тревожит. [Примечание. Модификация MMPI, разработанная американцами для здоровых людей, Калифорнийский перечень CPI, у нас до сих пор не прошел полной психометрической адаптации и вообще используется редко]. Еще раз подчеркнем, что недобросовестная профанация и элементарное невежество идут в области тестирования рука об руку.

137

Основы психодиагностики

4) Потеря индивидуального подхода, «репродук-тивность». Тесты знаний апеллируют прежде всего к стандартному применению готовых знаний. Отсутствие возможности раскрыть свою индивидуальность при наличии стандартных, заданных ответов — ничем, невосполнимый недостаток метода тестов. С точки зрения выявления творческого потенциала большинство тестов весьма ограничены именно тем, что оги не апеллируют к творческой, конструктивной деятельности. Во всяком случае, отдельные стандартизированные творческие тесты имеют дело с весьма абстрактным материалом, а тесты достижений (знаний), адаптированные на жизненно важном материале (профессионально релевантном), как правило, выполнены в форме стандартного набора заданий с заданным ответом.

5) Отсутствие доверительной обстановки. Бездушный и формализованный характер самой процедуры тестирования, конечно, оборачивается тем, что испытуемый лишается ощущения того, что психолог заинтересован в нем лично, в том, чтобы помочь в его проблемах и трудностях. Диалогические методы

138

(беседа, игра и т. п.) в этом плане имеют несомненные преимущества: непосредственно общаясь с испытуемым квалифицированный психолог может установить доверительный контакт, проявить персональное участие, создать атмосферу, снимающую напряжение и защиту.

6) Потеря индивидуального подхода, неадекватная сложность. Иногда неквалифицированные «тес-тологи» обрушивают на ребенка тесты, слишком трудные, сложные для него по возрасту. У него еще не сложились необходимые понятия и понятийные навыки, чтобы адекватно осмыслить как общую инструкцию к тесту, так и смысл отдельных вопросов. В разделе 1.4 «История психодиагностики» мы уже говорили о драматических казусах резкой недооценки умственного развития детей при применении вербальных тестов. Но многие «невербальные» тесты также требуют развития речевого мышления — хотя бы для осмысления того, что говорит взрослый в своей инструкции. Альтернатива «взрослому» тестированию в детской психологии — игровой подход к тестированию, когда тест включается в контекст игры и ребенок выполняет его как бы играя.

Таким образом, тесты нельзя делать единственным исчерпывающим методом любой диагностики (и образовательно-профессиональной и личностной) — они требуют параллельного использования свободных письменных работ (в личностной диагностике место сочинений занимают проективные тесты со свободным ответом), а также устного собеседования (интервью). То есть место тестов — дополнять указанные выше более традиционные методы. В этом качестве тесты незаменимы, так как не имеют многих недостатков, свойственных традиционным методам.

Спокойное рациональное осознание достоинств и

недостатков метода тестирования освобождает всех

/

139

(исполнителей, заказчиков, испытуемых) как от чрезмерных упований на метод тестов, так и от пренебрежения к нему.

Лучшая гарантия от профанов и профанации — серьезный и квалифицированный интерес к тому, какую экспериментально-научную работу проделали разработчики теста, как полно эта работа и ее результаты отражены в сопутствующей документации. Это прежде всего вопросы надежности, выносливости и репрезентативности.