Центр международных программ
Как измерить качество?
Вместо эпиграфа

Ситуационная задача для курсантов цикла повышения квалификации «Педагогика в медицинском вузе»:

На экзамене по анатомии седовласый профессор говорит студентке:
- Вон там на секционном столе разложены органы. Принесите орган любви!
Студентка уверенно идет к столу и приносит мужской половой орган.
Профессор с удивлением смотрит на него:
- Да… А вот в наше время орган любви был сердце…


Вопросы для обсуждения:
1. Какую оценку должен поставить преподаватель студентке?
2. Соответствует ли вопрос профессора методическим рекомендациям по преподаванию анатомии, утвержденным УМУ и ЦКМС?
3. К какому этапу трехэтапного экзамена относится эта ситуация? а) собеседование б) практические навыки в) тест
4. Имеет ли право студентка оспорить оценку, если она будет неудовлетворительная?
5. Какая акцентуация личности имеется: а) у профессора, б) у студентки, в) у составителя ситуационной задачи?

---------------------------------------------------------------------------------

В последние годы в КрасГМА тема качества обучения стала одной из самых популярных в обсуждениях на Ученых Советах, комиссиях, заседаниях, да и просто среди сотрудников. Однако сколько я ни пытался выяснить, что имеется в виду под этим термином, ни один человек не дал хотя бы более-менее четкого объяснения…
На интуитивном уровне вроде бы понятно, что качество обучения – уровень профессиональных знаний и навыков, но вопрос-то ставится хитро: мы должны повышать это самое качество. А как можно повышать то, что нельзя измерить? Поэтому в этом коротком эссе речь пойдет о том, как все-таки можно измерить качество обучения.

Прежде всего давайте определимся с терминологией. При внимательном рассмотрении качество обучения разделяется на несколько совершенно разных категорий: 1) система менеджмента качества, 2) качество образовательного процесса, 3) качество знаний и навыков, 4) качество образования как результат работы вуза в целом.

Система менеджмента качества. СМК – отличная вещь, но она направлена не на качество обучения или образования, а на качество управления! И внедряется не только и не столько для повышения качества обучения, сколько для оптимизации управления организацией на основе измеримых показателей деятельности и информационных технологий. Это даже написано в стандарте ISO, странно, что многие этого не замечают.

Качество образовательного процесса. Определить его можно как соответствие технологии преподавания какой-либо конкретной дисциплины заранее прописанным стандартам. Например, если преподавать терапию без возможности студентов обследовать больных, качество будет ниже. Если лекция читается с видеоиллюстрациями, то при прочих равных условиях качество восприятия материала будет выше, чем без них. Если искусственное дыхание студенты делают на муляжах, они научатся лучше, чем если просто услышат рассказ о том, как это делать. Откуда берутся стандарты? Конечно, их должны придумывать методисты-профессионалы, опираясь на мировой опыт. Повторюсь, что такой стандарт должен быть отдельным для каждой дисциплины. Стандарт должен также быть совершенно конкретным и четким, чтобы измерение того, как реальная ситуация ему соответствует, тоже было однозначным и не допускало двусмысленностей. Если есть такой стандарт, всегда можно проверить, сколько пунктов выполняются, а сколько – нет, и получить оценку качества в баллах или процентах. Использование процентов позволяет (в общем случае) даже сравнивать качество преподавания различных дисциплин на различных кафедрах (при условии, что соответствующие стандарты прописаны). Скажем, на кафедре А стандарт выполняется на 85%, а на кафедре Б – на 50%.

Качество знаний и навыков. Это самая интересная для нас категория, вокруг которой имеется много мифов и заблуждений. Самое распространенное заблуждение – это то, что показатели успеваемости определяют качество обучения. Почему это не так?

1. Качество знаний и навыков – это не качество обучения, а результат обучения, который складывается из качества образовательного процесса, профессионализма педагогов, степени мотивации студентов, интеллектуального и психологического уровня студентов, общей напряженности учебной нагрузки на курсе и еще ряда факторов. Очевидно, что от самой кафедры зависят лишь некоторые из этих факторов.

2. Показатели успеваемости базируются в основном на 4-х балльной системе оценок (2,3,4,5). Оценку выставляет преподаватель, ориентируясь (что бы там ни было написано в методических рекомендациях) в основном на свой опыт и субъективное представление. Есть преподаватели, которые ставят множество двоек, при этом их студенты знают предмет лучше остальных (вспомним легендарного Гладкова с кафедры анатомии), и наоборот.

3. Те, кто принимал экзамены, знает: в начале экзамена гораздо труднее сориентироваться, какую оценку ставить студенту; но затем, когда становится ясен общий «рисунок» подготовки экзаменуемых, это делать проще.

4. Большинство преподавателей имеют внутреннюю установку, определяющую «стандартную» пропорцию – какая примерно часть студентов какой оценки заслуживает. И в соответствии с этой установкой корректируют выставление оценок.

6. Когда над кафедрой нависает «дамоклов меч» в виде требований о том, чтобы успеваемость была высокой (рейтинг!), вольно или невольно преподаватели будут завышать оценки. Все утверждения, что преподаватели будут подходить к этому объективно, абсолютно несостоятельны: посмотрите на самих себя – все мы (от преподавателей до ректора) в подавляющем числе случаев стараемся продемонстрировать свою работу в самом выгодном для нас свете. Даже то, что кто-то иногда занимается самокритикой, лишь призвано подчеркнуть объективность самооценки («вот видите, я тоже имею недостатки»). Такова человеческая природа – не надо обманывать самих себя! Вывод из этого пункта очень простой – качество не может оценивать тот, кто на него хоть как-то влияет – оценка качества навыков и знаний должна быть независимой. По этой же причине и студенты не могут объективно оценить качество преподавания.

Оценки, которые мы выставляем студентам, имеют совершенно другие цели:

1. Прежде всего, это мотивация студентов учить материал (причем мотивация комплексная, что очень хорошо – это и стипендия, и одобрение преподавателей и родителей, и уважение однокурсников, и поблажки в учебе).

2. Это возможность сравнивать студентов по тому, как они учатся.

Очевидно также: если принять, что успеваемость – показатель качества, то мы вскоре придем к тому, что когда добьемся отличного качества, все студенты будут получать одни пятерки. Кроме того, что это просто нонсенс, мы не сможем достигать цели, описанные в предыдущем абзаце! И нужно ли будет тогда стремиться повысить качество еще больше? Неужели нет?

И наконец, ежегодно показатели успеваемости, например, по факультету, будут "плавать" вокруг 4 с чем-то баллов, то поднимаясь, то снижаясь - это естественные статистические флюктуации (причем без достоверного различия, которое, кстати никто и не считает). Но это же не значит, что качество то повышается, то опускается! Но именно так (причем совершенно серьезно) интерпретируются эти цифры!

Самый объективный способ измерить качество усвоенных знаний – это тест с возможностью четкой логической обработки. Но то, как разрабатываются и используются тесты, сводит на нет все преимущества такого подхода. Вот две основных проблемы.

1. Как правило, применяются тесты с выбором одного или нескольких вариантов ответа на вопрос, при этом есть правильные и неправильные ответы. Как правило, большинство неправильных ответов достаточно очевидны, потому что составителям теста просто лень делать так, чтобы скрыть правильное решение. Часто такие вопросы и ответы похожи на те, которые задаются в начале телеигры «Кто хочет стать миллионером». При этом студент тестируется не на знания, а на чувство юмора и внимательность.

2. Студенты имеют возможность подготовиться к тестам. В этом случае тестируются опять таки не знания по предмету, а знания самого теста (что само по себе тоже неплохо). Вывод отсюда – студент должен сталкиваться с тестом один-единственный раз – когда происходит тестирование. Почему же тесты раздаются студентам заранее? Рискну предположить – ровно потому, что если этого не делать, результаты тестирования будут просто шокирующими… Кто будет виноват? Конечно, кафедры… Да , и еще – если подходить к тестированию строго, у сотрудников кафедр могут возникнуть большие соблазны использовать это в своих интересах… Так уже бывало, и не раз… И проблему решили просто – стали тесты публиковать открыто. Убили двух зайцев сразу. Давайте опять не врать – это профанация. И все же – как не допустить утечки тестов и злоупотреблений?

Качество образования как результат работы вуза в целом. Это вообще отдельная тема. Конечно, существуют требования министерств и тому подобные внешние стандарты. Но все понимают, что они далеки от реальности и не позволяют сравнить, например, в каком вузе – Новосибирском, Омском или Красноярском образование лучше? А такая информация была бы очень полезной для администраций вузов! Решить проблему помогли бы:
1. Тесты на выживаемость знаний после окончания вуза. Сделать это несложно, но нужны некоторые дополнительные усилия. Было бы здорово, если бы существовала структура, которая бы мониторировала бы эти показатели и выдавала для всех участников образовательного процесса результаты. Вот тогда бы у вузов была бы реальная мотивация улучшать качество работы!

2. Отслеживание успешности выпускников (уровень зарплат, работа по специальности, карьерные позиции и др.). Менее четкий, но все же интересный набор показателей. Опять же – кто будет этим заниматься?

Резюмируя вышесказанное, я отчетливо осознаю, что вопросов здесь больше, чем ответов. И все же. Если посмотреть на ситуацию «с высоты птичьего полета», можно сделать вывод, за который меня, скорее всего, коллеги осудят. А вывод такой: реально в повышении (и даже в измерении) качества никто не заинтересован, за исключением небольшой группы продвинутых студентов, которые осознанно хотят учиться.
Действительно, если мы (как, впрочем и любой другой вуз) начнем измерять качество и публиковать результаты измерений, многие преподаватели и кафедры будут иметь «бледный» вид, показатели работы вуза покатятся вниз, а студенты и их родители начнут высказывать большие претензии (хотя бы потому, что им будет не с чем сравнить! Вот если бы другие вузы сделали то же самое!). Еще раз скажу, что наш вуз – очень хороший вуз по сравнению со многими другими вузами, но все же расти и развиваться нам есть куда. Проблема (в разной степени) касается всех вузов. И то, что эта «разная степень» неизвестна, с одной стороны хорошо, а с другой плохо.
Измерение качества знаний в сочетании с измерением качества образовательного процесса необходимо для того, чтобы администрация вуза имела реальную картину работы преподавателей и кафедр и могла принимать продуманные управленческие решения, делающие вуз действительно конкурентоспособным. Эти измерения должны проводиться по простым правилам, которые я позволю себе сформулировать еще раз:

1. Для измерения качества образовательного процесса необходимо пользоваться внешними стандартами (ни в коем случае не разработанными в нашем вузе, иначе оно у всех будет очень хорошее)
2. Для измерения качества знаний и навыков (как результата образовательного процесса по данной дисциплине) должна быть внедрена система независимого тестирования с помощью тестов, разработанных за пределами нашего вуза, ежегодно обновляющимися и используемыми один раз.
3. Тесты должны соответствовать образовательным программам.
4. Оценка результатов тестов должна рассчитываться не по системе "до 70 - тройка, 70-90 - четверка, более 90 - пятерка" (что совершенно некорректно), а с использованием стеновых преобразований (кто не знает что это такое - мои соболезнования, почитайте литературу).
5. Преподаватели и студенты не должны иметь возможность заранее познакомиться с тестами
6. Тестирование может проводиться либо по окончании соответствующего курса, либо при окончании вуза.
7. Управленческая установка администрации вуза должна быть смещена с повышения успеваемости на улучшение результатов независимого тестирования.
8. Результаты измерения должны влиять на управленческие решения, принимаемые руководством в отношении организации работы кафедр и всей работы вуза.
9. Результаты измерения не обнародуются и не публикуются.

Давайте двигаться именно в этом направлении - это стратегия! Очевидно, что внедрить такую систему сразу не удастся - потребуется время.

И последнее. Предвижу вопрос - а почему, собственно, я взялся не за "свою" тему? Какое отношение это имеет к "компьютерам"? Отвечаю - именно за свою. Потому что главная задача информационных служб в организации - не покупка компьютеров, а оптимизация информационых потоков. Информация в организации должна:
- Правильно собираться
- Правильно храниться
- Правильно обрабатываться
- Правильно интерпретироваться
- Правильно представляться
А управленческие решения должны приниматься на основании ОБЪЕКТИВНОЙ информации!!!
Именно это - моя цель...

Благодарю всех сотрудников и студентов, которые искренно заботятся о том, чтобы наша Академия была лучше и потому высказывали свои мысли по этой проблеме!

Д.А.Россиев
 
Copyright © КрасГМУ - Кафедра латинского и иностранных языков г. Красноярск
Разработчики: Россиев Д.А., Россиев Д.Д., Изместьев В.В., Булатова К.А., Гаврилюк О.А., Зотин А.Г., Ковалева В.Н. - 2010. Данный сайт работает на портале 'VMEDE.RU'