- •Содержание
- •Введение
- •1. Компетентностный подход в оценке качества результатов обучения
- •1.1. Компетентность и компетенции, понятийный аппарат
- •1.2. Кластеризация компетенций
- •1.3. Паспортизация компетенций
- •1.4. Оценивание в рамках компетентностного подхода
- •2. Основные положения теории педагогических измерений
- •2.1. Понятийный аппарат теории педагогических измерений
- •2.2. Надежность педагогических тестов, ее виды и оценка
- •2.3. Валидность педагогических тестов, ее виды и оценка
- •3. Основные подходы к разработке измерителей, их виды и этапы разработки
- •3.1. Подходы к интерпретации результатов педагогических измерений
- •3.2. Нормативно-ориентированный подход и стандартизация тестов
- •3.3. Критериально-ориентированный подход в педагогических измерениях
- •3.4. Компетентностные тесты.
- •3.5. Портфолио
- •3.6. Кейс-измерители
- •4. Содержание компетентностных тестов, планирование, отбор и экспертиза качества
- •4.1. Целеполагание и планирование содержания аттестационного теста
- •4.2. Общие принципы отбора содержания аттестационных тестов
- •4. 3. Экспертиза качества содержания аттестационных тестов оценочных рубрик
- •5.Формы тестовых заданий
- •5.1. Общие требования к заданиям и классификация форм
- •5.2. Задания с множественным выбором
- •5.3. Задания с конструируемым ответом
- •5.4. Задания на установление соответствия
- •5.5. Задания на установление правильной последовательности
- •5.6. Компетентностно-ориентированные задания
- •5.7. Сравнительная характеристика форм тестовых заданий
- •5. Задания на установление соответствия
- •6.Критерии оценки уровня освоения компетенций
- •6.1. Общие подходы к установлению критериев (стандартов) выполнения компетентностных тестов
- •6.2. Общие шаги в установлении критериев выполнения тестов
- •6.3 Выбор метода установления стандарта
- •Метод Недельски (Nedelsky)
- •Метод Эбеля
- •Библиографический список
5.3. Задания с конструируемым ответом
В заданиях с конструируемым ответом готовые ответы не даются, их должен придумать или получить сам обучающийся. Задания с конструируемым ответом бывают двух видов, один из которых предполагает получение испытуемым строго регламентированных по содержанию и форме представления кратких (одно или два слова, символ, число и т.д.) правильных ответов. Второй — задания со свободно конструируемыми ответами, в которых испытуемые составляют развернутые ответы, произвольные по содержанию и форме представления и содержащие полное решения задачи с пояснениями, микросочинения — эссе и т.д.
Задания с конструируемыми ответами кажутся обучающимся более трудными, так как в них исключается догадка. Действительно, легче выбрать правильный ответ из предложенных, основываясь иногда не столько на знаниях, сколько на интуиции, чем самому его сформулировать или найти в процессе решения поставленных проблем. Но именно это свойство делает их исключительно привлекательными для педагогов, особенно для тех, кто привык в своей работе опираться на традиционные средства контроля и не доверяет тестам.
Для разработки заданий с конструируемым регламентированным ответом необходимо мысленно сформулировать вопрос, затем записать четкий и краткий ответ, в котором на месте ключевого слова, символа или числа ставится прочерк. В силу однозначности правильного ответа проверка результатов выполнения заданий с конструируемым регламентированным ответом носит довольно объективный характер, ее осуществляют в компьютерной форме с последующей перепроверкой всех неправильных ответов обучающихся экспертным путем. Ответы на задания приводятся на месте прочерка или заносятся обучающимися в специальный бланк. Инструкция может иметь вид: «впишите правильный ответ» или «дополните». Например, в заданиях 9 и 10 требуются дополнения на месте прочерков в форме регламентированных ответов.
ЗАДАНИЕ 9
Определение конечных показателей, которые должны быть достигнуты, и соответствующих средств, необходимых для достижения определённых конечных результатов, включает в себя функции ___________________.
ЗАДАНИЕ 10
Форма влияния, предполагающая маскировку настоящих намерений и целей - _____________.
При выполнении заданий с регламентированным ответом нередко появляются частично правильные и правильные в разной степени ответы. Дописывая ответ на месте прочерка, испытуемый может предложить синонимы пропущенного запланированного разработчиком слова или изменить порядок следования элементов в пропущенной формуле, что значительно затрудняет автоматизированную проверку и оценку результатов тестируемых. По этим причинам в процессе проверки нередко приходится разрабатывать дополнительные соглашения об оценках для частично правильных ответов.
Задания с регламентированными ответами должны удовлетворять ряду требований:
Каждое задание необходимо нацелить только на одно дополняемое слово, символ и т.д., место для которого рекомендуется обозначить прочерком или точками.
Прочерк ставится на месте ключевого элемента, знание которого является наиболее существенным для контролируемого материала.
Все прочерки в заданиях для одного теста рекомендуется делать равной длины (в некоторых англоязычных публикациях, наоборот, рекомендуют делать прочерк такой длины, чтобы он служил подсказкой для выбора дополняемого слова) .
Место для ответа лучше отводить в конце задания или как можно ближе к концу.
После прочерка, если это возможно, указываются единицы измерения.
Текст задания должен обладать предельно простой синтаксической конструкцией и содержать минимальное количество информации, необходимое для правильного выполнения задания.
В тексте задания исключаются повторы и двойное отрицание.
Задания второго вида с конструируемым развернутым ответом не имеют никаких ограничений по содержанию и форме их представления, кроме размеров бланка ответа и требований к его содержанию, введенных в условие задания. За отпущенное время и на специальных бланках тестируемый может писать все, что считает правильным ответом, самостоятельно выбирая степень его полноты и форму представления. Несомненно, такие задания, с первого взгляда, кажутся во многом близкими к традиционным контрольным работам, и потому задания со свободно конструируемым воспринимаются положительно абсолютным большинством педагогов. Действительно, они интересны и разнообразны в содержательном плане.
Однако прямое отождествление заданий с конструируемым развернутым ответом с традиционными средствами контроля приводит к неоправданным представлениям о легкости процесса их разработки. На самом деле достаточно трудно сформулировать задание, чтобы оно приводило к запланированному правильному ответу с той степенью полноты и глубины, которая закладывается разработчиком теста в его спецификации. Еще труднее предложить эталон оптимального ответа вместе со стандартизованными правилами оценки результатов его выполнения. Эти правила, представленные в форме оценочных градаций и называемые рубриками, нуждаются в тщательной разработке на основе анализа хода мыслительной деятельности обучающихся при выполнении ими задания. Далее они должны быть подвергнуты экспертизе, чтобы убедиться в том, что они не являются субъективным восприятием автора того контекста, в котором он воспринимает ход получения желаемого правильного ответа. И наконец, для рубрик должна быть проведена апробация на представительной выборке обучающихся с тем, чтобы получить статистическое подтверждение их качества.
Например, формулировка задания 11 по истории с развернутым ответом достаточно кратка:
ЗАДАНИЕ 11
Назовите основные задачи, которые решались во внешней политике России в XVII в. (Укажите не менее двух задач). Приведите примеры войн, походов и экспедиций XVII в., предпринимавшихся для решения этих задач (не менее трех примеров).
Но для того, чтобы задание попало в тест, его автору необходимо стандартизовать процедуру проверки, а это объемная работа, вызывающая подчас много нареканий из-за неоднозначности результатов ее выполнения. В естественных и математических науках предложить эталон выполнения вместе с оценочными критериями гораздо легче, хотя и там часто встречаются случаи нескольких путей решения поставленных проблем.
Проверка заданий с развернутыми ответами проводится экспертами в соответствии со стандартизированными инструкциями, содержащими эталон оптимального ответа с описывающими его характеристиками и признаками качества. К эталону должны прилагаться оценочные категории для выставления политомической оценки, нуждающиеся в апробации и статистическом обосновании качества, поскольку среди них могут быть как не работающие, так и снижающие дифференцирующий эффект теста.
Задания с развернутыми ответами требуют значительных затрат преподавательского труда при проверке, когда экспертам приходится анализировать множество правильных в разной степени ответов и сравнивать их с эталоном, не принимая во внимание полноту, внешнее оформление ответов, орфографические ошибки и все то, что не входит в критерии для выставления политомической оценки. Проверка результатов выполнения таких заданий довольно субъективна, а согласование оценок нескольких экспертов затруднено, поэтому обычно такие задания занимают не более 20% - 15% от общей длины аттестационного теста, хотя в отдельных случаях, например, в программах международного исследования качества образования, на задания с развернутым ответом иногда отводят до 50% от длины теста.
Основные рекомендации по разработке заданий со свободно конструируемым ответом:
задания со свободно конструируемым ответом, в основном, предназначены для оценки усвоения обучаемыми когнитивных умений творческого уровня либо компетенций. Их следует разрабатывать только в тех случаях, когда не могут быть использованы более простые формы;
длина и сложность ответа может варьировать в широких пределах (вплоть до нескольких страниц текста ответа, обоснования приведенного решения проблемы и т.д.). В инструкции желательно ввести ограничения на максимальную длину ответа для каждого задания;
формулировка задания, предоставляемая автором, должна включать постановку проблемы, эталон выполнения и оценочные критерии. Постановочная часть должна быть настолько четкой, чтобы минимизировать возможные отклонения в правильных ответах обучающихся от планируемого разработчиком эталона выполнения;
выбор временных рамок для выполнения каждого задания должен позволять обучающемуся сформулировать достаточно развернутый ответ и успеть его записать.
Надежность оценок результатов выполнения заданий со свободно конструируемыми ответами можно повысить, если:
А. Грамотно составлять задание, используя рекомендации приведенные выше.
Б. Использовать при проверке только разработанную стандартизированную схему оценивания не более, чем с тремя оценочными категориями (0, 1, 2).
В. Обучить экспертов по проверке заданий пользовать стандартизированными критериями оценивания.
Г. Привлекать не менее двух экспертов для проверки каждого задания и приглашать третьего эксперта в случае расхождений оценок первых двух экспертов более, чем на один балл.
Д. Использовать принцип анонимности проверяемых работ и независимость экспертных суждений.
Е. Не смотреть на оценку, данную предыдущему заданию, при оценивании последующего.
Значительную часть в заданиях с развернутыми ответами занимают эссе. Иногда в некоторых публикациях по классификации заданий зарубежные авторы выделяют эссе в отдельную категорию. Задания типа эссе можно оценивать в соответствии с:
простыми схемами оценивания, когда критерии строятся с ориентацией на содержание ответов обучающихся;
усложненными схемами оценивания, учитывающими при экспертизе содержание ответов, характеристики качества представления текста, его полноту и стиль или любые другие факторы, кажущиеся важными разработчику задания;
рейтинговым методом, предполагающим накопительную оценку, которая получается путем сложения отдельных оценок в соответствии с общим впечатлением экспертов от полного ответа на задание.
При любой схеме оценивания задания со свободно конструируемыми ответами нуждаются в политомической оценке, что существенно, не всегда оправданно, завышает их общий вес в балле по тесту. Для того, чтобы избежать такого завышения и для уменьшения влияния субъективного компонента число критериев оценивания обычно стараются сделать достаточно малым, ограничиваясь политомическими оценками, например, от 0 до 3 или даже от 0 до 2.
Для заданий с кратким регламентированным ответом, сформулированных в виде не законченных утверждений и предъявляемых без специальных бланков для ответа, обычно используют инструкцию, состоящую из одного слова: «дополните». Если для ответов к заданиям с кратким регламентированным ответом необходимо давать ответы в специальных бланках, то инструкция может иметь вид: «ответы к заданиям запишите в бланке ответов справа от соответствующих номеров заданий. каждую букву пишите в отдельной клеточке в соответствии с приведёнными образцами на бланке ответов».
Инструкция для заданий с конструируемым развернутым ответом обычно имеет произвольную форму. Главное сказать столько, чтобы в максимальной степени стандартизовать форму ответов обучающихся и облегчить работу экспертов при проверке результатов тестирования для снижения влияния субъективных факторов и повышения надежности педагогических измерений. В самом общем виде для предметов гуманитарного цикла инструкция может иметь вид: «для ответов на задания используйте отдельный бланк ответов.запишите сначала номер задания, а затем развернутый ответ на него. ответы записывайте разборчиво»
Конечно, возможны ситуации, когда ответы к заданию в большинстве своем будут отличаться от планируемого эталона, но незначительно, поэтому их нельзя оценить как полностью неправильные. В этой ситуации неопределенности виноват разработчик заданий, а не обучающийся. Как правило, такие случаи бывают, если отсутствует этап апробации теста и статистический анализ оценочных рубрик к заданиям теста. Для коррекции задания в его текст необходимо внести уточнения, связанные с сужением объема проверяемого понятия и уменьшением за счет этого вариантов возможных рассуждений обучающихся при получении развернутого ответа. Помимо этого, необходимо провести апробацию и уточнить оценочные рубрики. Иногда дополнительные ограничения на ответ к заданию вводят в инструкцию, поэтому ее пишут отдельно для каждого задания теста. В результате подобных уточнений, несомненно, получится проигрыш в краткости теста. Однако это неизбежно, поскольку каждое задание с развернутым ответом, также как и остальные формы, с необходимостью должно порождать единственный оптимальный ответ, соответствующий высшей градации в эталоне его оценивания.
