Понедельник, 20.11.2017, 03:21
Высшее образование
Приветствую Вас Гость | RSS
Поиск по сайту



Главная » Статьи » Техника. Технические науки

ИНФОРМАЦИОННАЯ ТЕХНОЛОГИЯ СОВЕРШЕНСТВОВАНИЯ СИСТЕМЫ КОМПЬЮТЕРНОГО ТЕСТИРОВАНИЯ

А.И.Безруков, Г.Г.Погожильская

ИНФОРМАЦИОННАЯ ТЕХНОЛОГИЯ СОВЕРШЕНСТВОВАНИЯ СИСТЕМЫ КОМПЬЮТЕРНОГО ТЕСТИРОВАНИЯ

Работа выполнена при финансовой поддержке РФФИ (проект №14-06-00339).

От того, насколько качественное образование получат будущие специалисты в вузе, зависит безопасность регионов, городов и страны в целом. Данная статья посвящена формированию требований и описанию процесса функционирования информационной метрологической службы для системы управления качеством образования в вузе. Такая служба сможет обеспечить объективную, актуальную и своевременную оценку внутренних показателей качества - уровней компетенций студентов.

Ключевые слова: качество образования, система управления качеством, статистические методы, метрологическая система, АСТ, компьютерное тестирование.

 

Одним из важнейших факторов стратегии обеспечения безопасности и конкурентоспособности России является формирование эффективной и качественной системы подготовки специалистов.

В статье «Система управления качеством образования в свете современных концепций управления качеством» [4] был предложен подход к формированию системы требований к качеству образования, учитывающий интересы и требования всех участников и потребителей этого процесса. Рассмотрено место современных технологий компьютерного тестирования в системе, предложена методика статистического анализа результатов тестирования, позволяющая постоянно совершенствовать этот инструмент.

Отмечается, что одним из условий эффективной работы системы менеджмента качества (СМК) учебного заведения является наличие подсистемы мониторинга и измерения, предоставляющей своевременные, объективные и достоверные данные о достигнутом уровне качества.

Естественным путем повышения качества образования является применение опыта внедрения СМК, накопленного в индустрии.

Однако образовательный процесс слишком специфичен, чтобы прямое копирование индустриальных систем позволило решить эту проблему.

В отличие от индустрии, предметом труда в вузе является студент, а процесс обучения фактически становится процессом развития у студента компетенций, которые будут полезны выпускнику и в его профессиональной деятельности, и в жизни [5]. Очевидно, что уровень и динамика развития компетенций - важный фактор, который необходимо учитывать при управлении качеством учебного процесса. По своему смыслу компетенция - умение специалиста решать практические проблемы. Она может быть выявлена только на практике, а в период обучения уровень компетенции студента скрыт. Для его оценки потребуется использование специальных методов и средств измерений [1; 2; 3]. Поэтому возникает потребность в создании метрологической системы, которая обеспечила бы объективное, достоверное и актуальное измерение всех факторов, влияющих на учебный процесс. Эта своеобразная «метрологическая служба» должна не только содержаться в работоспособном состоянии, но постоянно совершенствоваться и развиваться.

Данная статья посвящена формированию требований и описанию процесса функционирования информационной системы, обеспечивающей объективную оценку уровня компетенций студентов.

В качестве инструмента оценки уровня компетенции студентов рассмотрим систему компьютерного тестирования [6; 9]. Теоретической основой тестирования является теория педагогических измерений (Item Response Theory, IRT), рассматривающая тестирование как случайный процесс, параметрами которого являются уровень подготовки студента  и уровни трудности заданий , включенных в тест. Вероятность успешного выполнения задания  оценивается моделью Раша- Бирнбаума. Результат тестирования оценивается по совокупности выполнения всех заданий включенных в тест. Методы обработки результатов тестирования рассматриваются как статистические методы нахождения неизвестного параметра  по известным результатам выполнения тестовых заданий и трудностям каждого из них.

Применение модели Раша-Бирнбаума позволяет сопоставить различные методы обработки по их эффективности. Наилучшие оценки  дает метод максимального правдоподобия. Реализация этого метода требует достаточно трудоемких вычислений, поэтому он редко используется при ручной обработке результатов тестирования. Применение компьютеров снимает эту проблему, поэтому метод максимального правдоподобия должен быть включен в инструментарий современных систем компьютерного тестирования.

Построенная нами имитационная модель тестирования позволяет проанализировать зависимость основных метрологических характеристик тестов от характеристик тестовых заданий и теста в целом. Показано, что наилучшие результаты имеют тесты с равномерным распределением заданий по трудности. К сожалению, в настоящее время не принято оценивать трудности заданий, включаемых в банки тестовых заданий. Как показывают наши исследования, формирование банков без такой проверки, как правило, приводит к нормальному распределению, то есть к дефициту относительно простых и относительно трудных заданий. Тесты, построенные путем случайной выборки заданий из таких банков, обладают худшими метрологическими характеристиками. Для повышения качества тестов банки необходимо целенаправленно пополнять заданиями определенной трудности, обеспечивая тем самым равномерное распределение.

Вторая проблема применения тестирования - искажение результатов, вызванное наличием некорректных или устаревших заданий. До сих пор мы предполагали, что вероятность успешного выполнения задания определяется моделью Раша-Бирнбаума. Однако, это справедливо только для корректных заданий. Действительно, малограмотный студент скорее выберет «правильный» ответ, чем грамотный, понимающий, что указанный автором теста ответ неверный.

Рассмотрим процесс организации и проведения тестирования с использованием системы адаптированного компьютерного тестирования (см. рис.). Стрелками на рисунке показано преимущественное направление информационных запросов.
Объектом управления является учебный процесс. Тестирование проводится для оценки уровня компетентности студентов, результаты тестирования используются для оперативного и стратегического управления учебным процессом. Результаты выполнения каждого тестового задания сохраняются.

Чтобы обеспечить разнообразие тестов и многократное использование тестовых заданий, предусмотрено хранение заданий в специальном банке тестовых заданий (БТЗ). Тест формируется путем случайного выбора заданий из БТЗ.

Задания разрабатываются преподавателями, ведущими конкретные дисциплины. Для обеспечения адекватности тестов и в учебном процессе и при разработке тестовых заданий должны использоваться одни и те же учебно- методические материалы. В настоящее время качество БТЗ не контролируется.
 
 
Место статистического анализа результатов тестирования в процессе совершенствования инструмента тестирования

Предлагается дополнить существующий процесс этапами статистического и содержательного анализа. Добавленные этапы на рис. выделены жирными линиями. На этапе статистического анализа по соотношению числа успешного выполнения задания к числу попыток его выполнить оценивается фактическая трудность каждого задания. Анализируется распределение заданий, хранящихся в БТЗ по трудности. Выявляются слишком трудные (никто не справился) и тривиальные (справились все) задания; формируются рекомендации по пополнению банка заданиями дефицитных трудностей.

Вторым шагом статистического анализа является выявление заданий, статистика выполнений которых не соответствует модели Раша- Бирнбаума. Следует отметить, что существует несколько причин такого несоответствия. Кроме неправильно указанного автором ответа это может быть нечеткая формулировка задания, несоответствие задания учебно-методическим материалам, используемым при обучении, неактуальное, устаревшее задание и так далее. Выявить и устранить причину несоответствия для конкретного задания можно только после оценки экспертом его содержания. Однако наличие несоответствия однозначно свидетельствует о необходимости анализа. Таким образом, второй этап статистического анализа отфильтровывает «подозрительные» задания, что существенно сокращает трудоемкость содержательного анализа. По результатам статистического и содержательного анализов формируются «Рекомендации по совершенствованию банка тестовых заданий».

Фактически, добавление в процесс организации и проведения тестирования блоков статистического и содержательного анализа формирует петлю обратной связи, обеспечивающую постоянное совершенствование инструмента тестирования. Для реализации этого предложения нами разработана компьютерная программа статистического анализа результатов тестирования.

Третья проблема использования тестирования - традиционная ориентация тестов на проверку знаний, а не компетенций. В работах [7; 8] развивается концепция многоаспектного анализа результатов тестирования. Согласно этой концепции, каждое задание оценивается не только по сложности, но и по таким дополнительным характеристикам, как: практическая значимость; необходимость нестандартного мышления для его выполнения; место знаний и навыков, необходимых для выполнения задания, в структуре знаний и другим. При возможности отслеживать ход выполнения задания оцениваются методичность и скорость выполнения, а также другие характеристики. Вероятность выполнения задания описывается многомерным обобщением модели Раша-Бирнбаума. Для учета такой многоаспектности заданий следует разработать методы, позволяющие сформировать целостную и многостороннюю картину компетенций студента.

Рассмотренные методы и подходы позволят существенно повысить качество тестирования как инструмента объективной оценки уровня компетенций студентов. Однако они не будут востребованы, если не создать удобную информационную технологию, использующую эти методы. Такая технология может быть реализована как информационно-программная надстройка над существующими системами компьютерного тестирования, а в дальнейшем, после накопления и обобщения опыта ее применения, включена в функциональность новых систем.

Рассмотрим функции, которые должна реализовывать предлагаемая технология:
- фильтрование данных о результатах тестирования, формирование наборов данных для решения конкретных задач;
- определение фактической трудности заданий, формирование заявок на разработку заданий требуемых трудностей;
- расширенное описание заданий, оценка их практической значимости, нестандартности, проверка адекватности введенных оценок на результатах прошлых тестирований;
- разработка и использование новых методов обработки результатов тестирования;
- отслеживание изменений профиля студентов (совокупности его успехов в изучении нескольких дисциплин) и траектории развития компетенций.

Предлагаемая в статье информационная технология является примером механизма совершенствования фондов оценочных средств. Такие механизмы должны быть заложены в системы управления качеством образования в целом и каждого отдельного вуза, чтобы российская система высшего образования постоянно совершенствовалась.

Библиографический список (References)

1. Гусятников В.Н., Безруков А.И., Каюкова И.В. Количественные методы оценки уровня компетенций для систем управления качеством образования // Современные технологии управления. 2015. № 3 (51). С. 30-35.
Gusyatnikov V.N., Bezrukov A.I., Kayukova I.V. (2015) Kolichestvennyye metody otsenki urovnya kom- petentsiy dlya sistem upravleniya kachestvom obrazovaniya [Quantitative methods of assessing performance for quality management system in education] // Sovremennyye tekhnologii upravleniya [Modern Methods of Magage- ment]. № 3 (51). 30-35 p.
2. Гусятников В.Н., Безруков А.И., Каюкова И.В. Методы оценки уровня формируемых компетенций на основе модернизированной модели Раша // Современные проблемы науки и образования. 2014. № 6. С. 1704.
Gusyatnikov V.N., Bezrukov A.I., Kayukova I.V. (2014) Metody otsenki urovnya formiruyemykh kompe- tentsiy na osnove modernizirovannoy modeli Rasha [Methods of assessing performance level based on the updated Rush model] // Sovremennyye problemy nauki i obrazovaniya [Modern Challenges in Science and Education]. № 6. 1704 p.
3. Гусятников В.Н., Безруков А.И., Каюкова И.В. Многомерная модель тестирования для измерения уровня формируемых компетенций // Междисциплинарные исследования в области математического моделирования и информатики. Материалы 2-й научно-практической интернет-конференции. 2013. С. 34-40.
Gusyatnikov V.N., Bezrukov A.I., Kayukova I.V. (2013) Mnogomernaya model' testirovaniya dlya izme- reniya urovnya formiruyemykh kompetentsiy [A multivariate testing model for measuring education performance] // Mezhdistsiplinarnyye issledovaniya v oblasti matematicheskogo modelirovaniya i informatiki. Materialy 2-y nauch- no-prakticheskoy internet-konferentsii [Interdisciplinary Studies in Mathematics and Information Technology. Collected Papers form the 2nd Online Conference]. 34-40 p.
4. Гусятников В.Н., Безруков А.И., Каюкова И.В. Система управления качеством образования в свете современных концепций управления качеством // Информационная безопасность регионов. 2016. № 2 (23). С 10-15.
Gusyatnikov V.N., Bezrukov A.I., Kayukova I.V. (2016) Sistema upravleniya kachestvom obrazovaniya v svete sovremennykh kontseptsiy upravleniya kachestvom [Quality management system in education in the light of modern quality management concepts]// Informatsionnaya bezopasnost' regionov [Regional Information Security]. № 2 (23). 10-15 p.
5. Гусятников В.Н., Безруков А.И., Соколова Т.Н. Проблемы формирования компетенций в области информационной безопасности // Информационная безопасность регионов. 2014. № 2. С. 27-31.
Gusyatnikov V.N., Bezrukov A.I., Sokolova T.N. (2014) Problemy formirovaniya kompetentsiy v oblasti informatsionnoy bezopasnosti [Problems of providing education in the field of information security] // Informatsionnaya bezopasnost' regionov [Regional Information Security]. № 2. 27-31 p.
6. Гусятников В.Н., Каюкова И.В., Соколова Т.Н. Статистические методы формирования банков тестовых заданий // Математическое моделирование в экономике, страховании и управлении рисками: сборник материалов IV Международной молодежной научно-практической конференции : в 2-х томах. Т. 1. 2015. С. 66-71.
Gusyatnikov V.N., Kayukova I.V., Sokolova T.N. (2015) Statisticheskiye metody formirovaniya bankov testovykh zadaniy [Statistical methods for compiling test banks] // Matematicheskoye modelirovaniye v ekonomike, strakhovanii i upravlenii riskami : sbornik materialov IV Mezhdunarodnoy molodezhnoy nauchno-prakticheskoy konferentsii : v 2-kh tomakh [Mathematical modeling in economics, insurance and risk management: collected papers from the IV International Youth Scientific-practical Conference: in 2 volumes]. Vol. 1. 66-71 p.
7. Гусятников В.Н., Митрофанов А.Ю., Дьякова Т.В., Носова Е.Г. Модели для анализа качества образовательного процесса по результатам тестирования // Вестник Саратовского государственного социально-экономического университета. 2010. № 5. С. 148-151.
Gusyatnikov V.N., Mitrofanov A.Yu., D'yakova T.V., Nosova Ye.G. (2010) Modeli dlya analiza kachestva obrazovatel'nogo protsessa po rezul'tatam testirovaniya [Models for analyzing quality of education based on test results] // Vestnik Saratovskogo gosudarstvennogo sotsial'no-ekonomicheskogo universiteta. № 5. 148-151 p.
8. Гусятников В.Н., Соколова О.Ю., Соколова Т.Н., Каюкова И.В. Построение моделей для анализа качества образовательного процесса на основе технологий компьютерного тестирования // Вестник Саратовского государственного социально-экономического университета. 2009. № 4. С. 197-200.
Gusyatnikov V.N., Sokolova O.Yu., Sokolova T.N., Kayukova I.V. (2009) Postroyeniye modeley dlya analiza kachestva obrazovatel'nogo protsessa na osnove tekhnologiy komp'yuternogo testirovaniya [Developing models for analyzing quality of education with the help of computer-based testing technologies] // Vestnik Sarato- vskogo gosudarstvennogo sotsial'no-ekonomicheskogo universiteta. № 4. 197-200 p.
9. Каюкова И.В. Методика оценки и прогнозирования уровня формируемых компетенций // Вестник Саратовского государственного социально-экономического университета. 2012. № 4 (43). С. 148-151.
Kayukova I.V. (2012) Metodika otsenki i prognozirovaniya urovnya formiruyemykh kompetentsiy [Methods of assessing and forecasting the level of educational competencies] // Vestnik Saratovskogo gosudarstvennogo sotsial'no-ekonomicheskogo universiteta. № 4 (43). 148-151 p.

"Информационная безопасность регионов" № 3(24) 2016

Категория: Техника. Технические науки | Добавил: x5443x (19.06.2017)
Просмотров: 78 | Теги: компьютерное тестирование | Рейтинг: 0.0/0
Всего комментариев: 0
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]
...




Copyright MyCorp © 2017 Обратная связь