THE IMPACT OF Q MATRIX MISSPECIFICATION ON ITEM PARAMETERS AND CLASSIFICATION ACCURACY IN THE DINA MODEL

DINA MODELDE Q MATRİSİN HATALI BELİRLENMESİNİN MADDE PARAMETRELERİNE VE SINIFLAMA DOĞRULUĞUNA ETKİSi

THE IMPACT OF Q MATRIX MISSPECIFICATION ON ITEM PARAMETERS AND CLASSIFICATION ACCURACY IN THE DINA MODEL

 
Author : Gizem Uyumaz    
Type :
Printing Year : 2023
Number : 23
Page : 2238-2269
DOI Number: :
Cite : Gizem Uyumaz , (2023). THE IMPACT OF Q MATRIX MISSPECIFICATION ON ITEM PARAMETERS AND CLASSIFICATION ACCURACY IN THE DINA MODEL. International Journal of Eurasian Education and Culture, 23, p. 2238-2269. Doi: 10.35826/ijoecc.769.
    


Summary

To accurately reflect students’ current proficiency levels through achievement tests, it is essential to make determinations based on the attribute levels measured by the items. The validity of classifying students based on their measured attributes is enhanced when the items in the achievement test have varying effects on classification, taking into consideration the attributes measured by each item. The accuracy of establishing item-attribute relationships, that is, the accuracy of the Q matrix, affects the accuracy of classification, the quality of inference, and the accuracy of decisions made about students. This research aims to investigate the impact of the Q matrix misspecification in the DINA model on the item parameters and the classification of individuals in simulated data sets. Within the scope of the study, examinations were conducted regarding misspecification rates of 5%, 7.5%, and 10%, and misspecification patterns of under-fitting, over-fitting, and balanced-misfit. Simulated data were generated and analyzed using R and Mplus software. Item parameters and classifications made with misspecified Q matrices were compared with the estimations made using the true Q matrix appropriate for the data set. Under the examined conditions of this study, it was found that each misspecification condition differentiated the classifications of individuals. In the under-fitting Q matrix conditions, the classification accuracy decreased as the misspecification rate increased. In the over-fitting conditions, the classification accuracy increased as the misspecification rate increased; all resulted in lower classification accuracy compared to those obtained using the true Q matrix. In balanced-misfit conditions, an increase in the misspecification rate decreased classification accuracy. Over-fitting and balanced-misfit conditions had a more substantial negative impact on classification accuracy compared to under-fitting Q matrices. Under-fitting conditions increased the slipping parameter. Over-fitting conditions increased the guessing parameter. Balanced-misfit conditions increased under-fitting items’ slipping parameter, over-fitting items’ guessing parameter, and balanced-misfit items’ both slipping and guessing parameters. The increases in slipping parameters were much greater than the increases in guessing parameters.



Keywords

Over-fitting, under-fitting, balanced-misfit.



Abstract

Öğrencilere durum belirleme amacıyla uygulanan başarı testleriyle, mevcut durumlarının tam olarak yansıtılabilmesi için, testte yer alan maddeler ile ölçülen beceriler düzeyinde belirlemeler yapılması gerekir. Öğrencilerin ölçülen beceriler bakımından sınıflandırılma geçerliği, test maddelerinin, o maddeyle ölçülen beceriler dikkate alınarak, sınıflandırmada farklı etkilere sahip olmasıyla arttırılır. Başarı testindeki madde-beceri ilişkilerinin hatasız kurulması yani Q matrisinin hatasızlığı, sınıflama doğruluğunu, çıkarım kalitesini ve bireyler hakkında verilen kararların doğruluğunu etkiler. Bu araştırmada, bilişsel tanı modellerinden The Deteministic-Input, Noisy “And” Gate (DINA) modelde, Q matrisinin hatalı belirlenmesinin, 30 maddelik test uzunluğuna sahip simülatif olarak oluşturulan veri setlerinde madde parametrelerine ve bireylerin sınıflandırılmasına etkisinin incelenmesi amaçlanmıştır. Çalışmada, hatalı belirleme oranının %5, %7.5 ve %10 ve hatalı belirleme düzeninin eksik, fazla ve dengeli olduğu hatalı Q matrislerine ilişkin incelemeler yapılmıştır. Sümülatif verilerin üretilmesinde ve analizinde R ve Mplus yazılımları kullanılmıştır. Hatalı belirlenen Q matrisleri ile yapılan madde parametresi kestirimleri ve sınıflamalar, veri setine uygun hatasız Q matrisi ile yapılan kestirimlerle karşılaştırılmıştır. Bu çalışma kapsamında incelenen koşullar kapsamında, Q matrisin hatalı belirlenmesinin bireylerin sınıflandırmalarını farklılaştırdığı bulunmuştur. Q matrisinin eksik belirlendiği koşullarda, hatalı belirleme oranı arttıkça sınıflama doğruluğunun azaldığı; Q matrisinin fazla belirlendiği koşullarda, hatalı belirleme oranı arttıkça tümü hatasız Q matrisi ile yapılanlardan çok düşük olmak üzere sınıflama doğruluğunun arttığı ve Q matrisinin dengeli hatalı belirlendiği koşullarda, hatalı belirleme oranı arttıkça sınıflama doğruluğunun azaldığı bulunmuştur. Fazla belirleme yapılan ve dengeli hatalı belirleme yapılan Q matrisleri, eksik belirleme yapılan Q matrislerine göre sınıflama doğruluğu üzerinde daha ciddi olumsuz etkiye sahiptir. Eksik belirlemeler maddenin kaydırma parametresi; fazla belirlemeler tahmin parametresi değerlerini artırmıştır. Dengeli hatalı belirlemeler ise maddede eksik belirleme yapıldıysa kaydırma, fazla belirleme yapıldıysa tahmin, hem eksik hem fazla belirleme yapıldıysa iki parametreyi de artırmıştır.  Eksik belirleme yapılan maddelerin kaydırma parametrelerindeki yükselmeler, fazla belirleme yapılan maddelerin tahmin parametrelerindeki yükselmelerden oldukça fazladır.



Keywords

Eksik tanımlama, fazla tanımlama, dengeli hatalı tanımlama.