Психология и методология образования

Психологические факторы использования тестов оценки результатов обучения

Ю.Ф. Гущин

1. Факторы, определяющие понимание тестовых заданий

Тестовые задания можно рассматривать как разновидность сообщений или текстов, адресованных учащимся с определенной целью. Цель этих сообщений состоит в том, чтобы проверить и оценить их знания по соответствующим разделам учебного материала. Но вначале эти сообщения должны быть правильно (адекватно) поняты учащимся. Если этого нет, то трудно ожидать, что цели оценки будут реализованы и достигнуты.

Подход к тестовым заданиям как информационному сообщению, которое вначале должно быть воспринято и понято учащимся, а затем на него должна последовать ответная реакция соответствует информационному подходу к рассмотрению общения. По модели общения, как деятельности по обмену информацией, в его структуре различают следующие составляющие: источник информации, сообщение, передающие каналы и тот или те, кто эту информацию принимает (индивид, группа индивидов, аудитория слушателей). По этой модели эффективность общения зависит от характеристик этих составляющих. Так, например, источник информации оценивается в этом случае по шкале «доверие – недоверие», а сообщение – по шкале «понимание-непонимание». Доверие или недоверие к источнику информации зависит в основном от того, воспринимают ли те, кому предназначена информация, как «своего» или «чужого».

Этот фактор имеет незначительное влияние в ситуациях обучения и проверки знаний. Более того, психологи считают, что в ситуациях проверки знаний наиболее благоприятным является нейтральное отношение к источнику информации (что, собственно, и реализуется в полной мере при использовании тестов и тестирования). Хотя, заметим, и этот фактор нельзя недоучитывать. Неизвестный в данном случае источник информации (авторами тестов является, как правило, группа или коллектив специалистов) не означает то же самое, что «нейтральный». Неизвестность часто ассоциируется учащимися с тревожным фактором и угрозой. Неизвестность и неизвестное многих страшит, а поэтому для снижения отрицательного влияния этого фактора следует, видимо, сообщать учащимся, кто является автором тестов – учитель-предметник, или группа учителей-предметников данной школы, или опытные специалисты специального центра по разработке тестов. Имеет смысл сообщать также, что данные тесты были уже опробованы в других классах  или школах и в них заложено только то содержание, которое уже освоено школьниками. При этом целесообразно конкретизировать те темы и разделы, по которым проводится проверка знаний.

Более значимыми для контроля с помощью тестов являются характеристики сообщения. В тестах функция сообщений представлена в формулировках (утверждениях, вопросах и/или текстах) тестовых заданий. Сообщения, как уже отмечалось выше, оцениваются по шкале понимания-непонимания. С этой точки зрения понимание может быть полным, неполным, частично или значительно затрудненным, искаженным и т.д. Эти характеристики зависят от того, какие барьеры возникают у учащихся на пути понимания сообщений. Известный советский историк и психолог Б.Ф. Поршнев предложил следующую классификацию этих барьеров: он выделяет фонетический, семантический, стилистический и логический факторы (уровни), определяющие понимание-непонимание[1]. Рассмотрим, что означают эти уровни применительно к тестам и тестированию.

Фонетический уровень. Обусловленное этим фактором влияние на понимание возникает в ситуации, когда затруднения возникают на фонетическом уровне. Наиболее типичным является случай, когда непонятен сам язык сообщения. Неполное понимание или искаженное понимание может возникать, когда говорят быстро, невнятно, с акцентом или когда используются незнакомые или несоответствующие контексту слова, затрудняющие правильное понимание текста в целом. С учетом сказанного трудно предположить, что формулировка какого-то задания окажется непонятной на фонетическом уровне. Поэтому и примеры такого рода формулировок практически невозможно воспроизвести. Исключение представляют задания на языке, не известном тестируемому. Такое может быть в тестах по иностранному языку. Однако в этом случае это не недостаток теста или отдельных формулировок, а показатель неподготовленности по данному предмету самого учащегося.

Семантический уровень. Такое непонимание возникает, например, в связи с многозначностью слов языка. Некоторые слова многозначны по смыслу и их понимание зависит часто от контекста и его понимания. «Смысловые поля» слов у разных людей различны. Поэтому одни и те же слова могут пониматься по разному. Непонимание на стилистическом уровне может возникать и при использовании текста, в котором используются специальные научные термины или профессиональный жаргон. В этом случае специалистам такой тест будет совершенно понятен, а неспециалистам (к числу которых можно отнести и учащихся) – нет.

В данном примере используются такие понятия, как «экстраверт» – общительный  человек, «непотизм»   –   покровительство   родственникам,   «феспианка»   –   поклонница драматического искусства, целибат – безбрачие.  В этом случае наблюдается перегруженность текста терминами и выражениями, которые, вероятно, могут быть известны и понятны только специалистам в данной узкой области. Все это конечно, существенно затрудняет понимание данного текста. 

В данном примере используются такие понятия, как «экстраверт» – общительный  человек, «непотизм»   –   покровительство   родственникам,   «феспианка»   –   поклонница драматического искусства, целибат – безбрачие.  В этом случае наблюдается перегруженность текста терминами и выражениями, которые, вероятно, могут быть известны и понятны только специалистам в данной узкой области. Все это конечно, существенно затрудняет понимание данного текста. 

В [1] приводятся результаты исследования, проводившегося со студентами первого курса в г. Новокузнецке. Им предложили дать определения словам, входящим в обычную газетную лексику: бундесвер, экскалация, левые силы, вояж и др. Всего в эксперименте участвовало 112 человек; было получено 1120 ответов. Результаты эксперимента таковы: правильными оказались 7% ответов, неточными – 39%,  неправильными 54%. Из 112 человек не знали значения слова «вояж» – 57 человек, «координация» – 66, «либерал» – 65; не смогли правильно объяснить, что такое «курс акций» – 94 человека, 54 – не дали определения понятию «левые силы»[2].

В ЕГЭ  в заданиях категории «С» (с развернутым ответом) часто используются оригинальные тексты из научных, научно-популярных, газетных и др. типа публикаций. Поэтому в них могут встречаться термины и слова, непонятные тестируемым, что может приводить к непониманию или искаженному пониманию всего текста. В результате это скажется на качестве выполнения задания.

Стилистический уровень. Непонимание в этом случае возникает из-за несовпадения содержания и формы сообщения: нарушаются синтаксические нормы письменной речи.

Пример. Специалиста, окончившего вуз, просят написать «Резюме», которое содержало бы его профессиональную историю, а он в ответ излагает свою автобиографию.

Несовпадение стиля и содержания может встречаться в заданиях «С», когда выпускника просят написать сочинение-рассуждение, эссе или отзыв, а он демонстрирует непонимание стилевых особенностей и пишет в ответ текст, в котором отсутствуют признаки рассуждения, или отзыв, в котором отсутствуют оценки и/или обоснования.

К непониманию может приводить, кроме того,  стилевое переусложнение текста.

Логический уровень непонимания. В этом случае непонимание может быть связано или с нарушением логических норм и правил построения текста или с неприятием учащимися  логики коммуникатора (источника информации). При этом следует учитывать, что существуют разные логики и разные люди не в одинаковой степени владеют этими логиками. Уже в самом по себе разнообразии логик заложены основания для непонимания. Логика может восприниматься как «своя» и чужая». «Чужая логика – «неправильная», как могут считать некоторые люди, и, следовательно, к ней следует относиться недоверчиво или пренебрежительно. Если мы отказываем логике сообщения в правильности, то на нас не произведут никакого впечатления разнообразные «следовательно», «исходя из ..», «мы можем заключить..», «потому что ..» и т. п., так как это может рассматриваться как подделка под логику и ей поэтому выражается недоверие [1]. В таких случаях сообщение натыкается на логический барьер непонимания.

Возможны ли логические барьеры в педагогических тестах? Вероятно да, поскольку логические нормы (правила) построения тестов и/или отдельных предложений (утверждений) известны далеко не всем составителям тестовых заданий и не все умеют ими пользоваться.

Логические барьеры, затрудняющие понимание, иногда встречаются в тексте инструкций к заданиям с развернутым ответом. Первое, что требуется от учащегося при выполнении заданий группы «С», это – правильно понять, что нужно делать. Если инструкция или формулировка задания недостаточно четки и определенны, то это может повлечь за собой непонимание и как следствие - ошибки при выполнении задания. Если инструкция адресована учителю или лицам, ответственным за проведение тестирования, то неверное ее прочтение также в конечном счете отразится на качестве деятельности учащихся.

Пример 4. «Желательно, чтобы в сочинении в той или иной форме
  • были отражены основные мысли автора:  в условиях «многолюдства» особенно важно поддерживать выработанные человечеством этические нормы, быть воспитанным человеком – вежливым и внимательным при любых обстоятельствах по отношению ко всем окружающим, не только знакомым, но и посторонним, чужим людям;
  • отмечены разнообразные языковые средства и стилистические приёмы, характерные для данного текста: парцелляция, неожиданные сочетания слов и сравнения, придающие фразам ироническое и саркастическое звучание, пародируется  динамичный стиль репортажа и т.п.». (один из вариантов инструкции к заданиям «С» демо-версии 2003 г.). Здесь есть, на наш взгляд, почва для неоднозначной трактовки текста инструкции. В частности, четко не говорится о том, что означает в данном случае «желательно» и «в той или иной форме …»? Можно по разному понимать и трактовать эти требования. Если возможны разные трактовки (в том числе экспертов, проверяющих задания), то  это будет влиять на результат и оценку.

Пример 5. «Если одаренность понимать как высокий темп антропологического роста и высокий уровень обучаемости (последнее соответствует идеям Л.С. Выготского), и если предположить, что в ходе обучения даже в обычных школах дети могут сталкиваться с ситуациями, способствующими развитию у них вышеназванных способностей, например, когда педагоги более или менее целенаправленно демонстрируют свое собственное понимание или рефлексию, (а также развитие способностей могло идти через книги, через взаимодействие с другими взрослыми и т.д.), то, если старшеклассник это «взял», то есть взял образцы - соответствующие способы рефлексии и понимания, особенно взял достаточно сложные культурные образцы, он может считаться одаренным (по крайней мере в данной сфере своих проявлений)[3]».

Пример 4. «Желательно, чтобы в сочинении в той или иной форме
  • были отражены основные мысли автора:  в условиях «многолюдства» особенно важно поддерживать выработанные человечеством этические нормы, быть воспитанным человеком – вежливым и внимательным при любых обстоятельствах по отношению ко всем окружающим, не только знакомым, но и посторонним, чужим людям;
  • отмечены разнообразные языковые средства и стилистические приёмы, характерные для данного текста: парцелляция, неожиданные сочетания слов и сравнения, придающие фразам ироническое и саркастическое звучание, пародируется  динамичный стиль репортажа и т.п.». (один из вариантов инструкции к заданиям «С» демо-версии 2003 г.). Здесь есть, на наш взгляд, почва для неоднозначной трактовки текста инструкции. В частности, четко не говорится о том, что означает в данном случае «желательно» и «в той или иной форме …»? Можно по разному понимать и трактовать эти требования. Если возможны разные трактовки (в том числе экспертов, проверяющих задания), то  это будет влиять на результат и оценку.

Пример 5. «Если одаренность понимать как высокий темп антропологического роста и высокий уровень обучаемости (последнее соответствует идеям Л.С. Выготского), и если предположить, что в ходе обучения даже в обычных школах дети могут сталкиваться с ситуациями, способствующими развитию у них вышеназванных способностей, например, когда педагоги более или менее целенаправленно демонстрируют свое собственное понимание или рефлексию, (а также развитие способностей могло идти через книги, через взаимодействие с другими взрослыми и т.д.), то, если старшеклассник это «взял», то есть взял образцы - соответствующие способы рефлексии и понимания, особенно взял достаточно сложные культурные образцы, он может считаться одаренным (по крайней мере в данной сфере своих проявлений)[3]».

В данном случае причиной непонимания (или затрудненного понимания) является смысловая перегруженность текста, т.е. когда разные смысловые единицы объединены в одном предложении и представляют собой «поток сознания».

2. Учет психологики тестируемых.

При проведении тестировании нередки случаи, когда учащиеся пытаются угадать правильный ответ. Это происходит в том случае, когда учащиеся не готовы к контролю, а тест содержит «закрытые» задания (с несколькими вариантами ответа, один из которых правильный). В этой ситуации предлагаемые варианты как бы провоцируют угадать правильный ответ. При этом, как правило, угадывание происходит не «вслепую», а опирается на определенную логику. По сути говоря, учащийся пытается использовать какие-то рациональные и иррациональные признаки и стратегии поведения, которые позволяют определить правильный вариант ответа.

Психологики необходимо учитывать при разработке и отборе заданий для теста. Приведем некоторые типичные психологики.[4].

1) Выбирай «золотую середину. В соответствии с этой логикой учащийся полает, что автор задания всегда располагает правильный ответ между двумя неправильными. Поэтому целесообразно ставить правильный ответ так, чтобы он не совпадал с этой логикой. Например:

При условии экономического развития Эфиопии естественный прирост населения в ней

а) повысится

б) понизится

в) останется без изменений.

Клубни картофеля образуются на концах

а) боковых корней

б) придаточных корней

в) подземных побегов.

2) Выбирай более развернутый и аргументированный ответ, учитывающий частные случаи.

Маргиналами называются

а) социальные группы, занимающие промежуточное положение между устойчивыми общностями

б) люди, опустившиеся на социальное «дно»

В этом примере вариант ответа а) соответствует  логике «выбирай более развернутый ответ» и может быть выбран независимо от фактических знаний учащегося по предмету. Поэтому целесообразно ложный ответ делать более развернутым. Например:

Что такое автократия?

а) самодержавие

б) рабовладельческая республика , в которой глава государства избирается из числа видных рабовладельцев-аристократов

3) Выбирай более наукообразный ответ. Для маскировки правильного ответа можно ложный  вариант сформулировать так, чтобы он казался наукообразным. Примеры: 

3.1. Как называется деталь самолета, с помощью которого обеспечивается подъемная сила?

а) крыло

б) фюзеляж.

4) Выбирай ответ, который напоминает что-то знакомое». Например:

3.2. Как А.С. Пушкин охарактеризовал восстание Е. Пугачева?

а) «дубина народной войны»

б) «бунт, бессмысленный и беспощадный»

4) Отсекай варианты, которые заведомо не могут быть правильными.

Пример: «И религиозному, и научному знанию о мире свойственно то, что они:

а) носят объективный характер

б) предполагают доказательства

в) могут передаваться из поколения в поколение

г) необходимы человеку для рациональной деятельности»

В этом случае достаточно очевидно, что варианты ответа а) и б) соответствуют только научному знанию и поэтому не могут быть правильными, а вариант г) противоречит обыденному понятию о религии и религиозном.

6) Выбирай ответ, который соответствует общим ожиданиям.

Ожидания, конечно, могут быть разными, однако существуют стереотипы, в соответствии с которыми «нормальная логика» подсказывает, что должно быть правильным, а что ложным.

Пример:

«В какую страну экспортировал Советский Союз стратегическое сырье для сталелитейной промышленности (никель, молибден) накануне вторжения гитлеровской Германии в 1941 году?

а) в Великобританию

б) в США

в) в Германию»

Здравый смысл подсказывает, что это не должна быть Германия. В этом случае, для того чтобы выбрать правильный вариант ответа, нужно знать историю.


[1] См. подробнее об этом в кн. Ю.С. Крижанской и В.П. Третьякова  «Грамматика общения» – Л.: ЛГУ, 1990.

[2] Публикация об эксперименте относится к 1985 году. См. Бородина В.А., Бородин С.М. Учим … читатью Л-д, 1985.

[3]  Текст из статьи Н.М. Амяги «Исследование развития способностей рефлексии, понимания и мировозренческого самоопределения старшеклассников».

[4] В этом разделе используется материал из кн. «Основы психодиагностики» по ред А.Г. Шмелева – «Феникс», Р-на-Дону, 1996, ч. 2, р. 3.7. 

[4] В этом разделе используется материал из кн. «Основы психодиагностики» по ред А.Г. Шмелева – «Феникс», Р-на-Дону, 1996, ч. 2, р. 3.7.