An Investigation of a Country-Level Diagnostic Assessment Model for the TIMSS

Abstract

국제 수학·과학 성취도 추이 연구와 같은 교육평가의 목적은 국가와 같은 집단을 비교하는 것이다. 이와 같이 평가의 단위가 학생보다 상위 수준일 때 집단을 비교하기 위해서는 다층 문항반응이론 기반의 집단 수준 진단평가 모형을 고려할 수 있다. 이 연구에서는 Park과 Bolt(2008)가 제안한 문항특성모형을 수정하여 새로운 다층 문항반응이론 기반의 집단 수준 진단평가 모형을 제안하였다. 이 수정된 모형은 2015년에 실시된 국제 수학·과학 성취도 추이 연구의 8학년 수학 평가 자료에 적용되었다. 그 결과 9개의 인지적 요소에 대한 국가들의 프로파일을 구할 수 있었다. 이 연구 결과는 국가 간 비교 또는 요소 간 상호 비교에 이용될 수 있다. 이와 같이 잔차항을 설명할 수 있도록 수정된 모형은 보다 높은 신뢰도를 지니며 국가 간 비교에 보다 정확한 정보를 제공할 수 있을 것으로 기대된다. 예를 이용하여 연구 결과를 어떻게 해석할 수 있는지 제시하였으며, 연구의 제한점과 후속 연구에 대해서도 논의하였다.The purpose of educational assessments such as the Trends in International Mathematics and Science Study (TIMSS) is to compare groups such as countries. When the unit of measurement is above the student level, group-level diagnostic assessment based on multilevel item response theory (ML-IRT) can be considered just as cognitive diagnosis models are developed from item response theory. This study suggests an ML-IRT-based group-level diagnostic assessment model by modifying an item feature model by Park and bolt (2008). The model is illustrated on the recently released TIMSS 2015 Grade 8 mathematics assessment. The results provide skill profiles for the studied countries and the nine cognitive attributes; that is, the attribute effects can be compared across the countries and also across the attributes. By controlling unexplained variance, the suggested model may provide more reliable and more informative group-level comparisons. The results are interpreted using an example. Limitations and directions for future research are also discussed.