Classification of Medical Data Derived from Diagnostic Devices Using Ensembles of Classifiers

• Autorzy: Byczkowska-Lipińska L. , Wosiak A.

Warianty tytułu

PL

Zastosowanie Komitetów Klasyfikatorów w Procesie Klasyfikacji Danych Pozyskanych za Pomocą Urządzeń Diagnostyki Medycznej

• Języki publikacji: EN

Abstrakty

EN

The use of ensemble of classifiers for classification of medical data derived from diagnostic devices has been proposed in this research. The experimental studies were carried out on three datasets concerning different medical problems: arrhythmia, breast cancer and coronary artery disease using SPECT images. The comparison of single classification algorithms (kNN- IBk, C4.5 - J48, Naïve Bayes, Random Tree and SMO) with bagging, boosting and majority voting using all single classifiers was performed. Experimental studies have proved that hybrid classifiers outperformed single classification in all cases in terms of accuracy, precision, sensitivity and root squared mean error, regardless of the dataset.

PL

W ramach niniejszej pracy zaproponowane zostało zastosowanie komitetów klasyfikatorów w procesie klasyfikacji danych pochodzących z urządzeń medycznych. Badania eksperymentalne zostały przeprowadzone na trzech zbiorach danych dotyczących różnych problemów medycznych: arytmii, nowotworu piersi oraz choroby wieńcowej. Przeprowadzono porównanie pojedynczych technik klasyfikacji (kNNIBk, C4.5 - J48, Naïve Bayes, Random Tree oraz SMO) z metodami hybrydowymi (bagging, boosting oraz głosowanie większościowe). Badania eksperymentalne wykazały skuteczność klasyfikacji z zastosowaniem komitetów klasyfikatorów – w wszystkich badanych przypadkach rezultaty klasyfikacji hybrydowej były lepsze od wyników najlepszego pojedynczego klasyfikatora biorąc pod uwagę dokładność, precyzję, czułość oraz błąd średniokwadratowy.

Słowa kluczowe

EN

data mining; classification; ensemble classification; medical data

PL

Eksploracyjna Analiza Danych; klasyfikacja; komitety klasyfikatorów; dane medyczne

• Wydawca: Wydawnictwo SIGMA-NOT
• Czasopismo: Przegląd Elektrotechniczny
• Rocznik: 2015
• Tom: R. 91, nr 12
• Strony: 143--146
• Opis fizyczny: Bibliogr. 24 poz., tab., wykr.

Twórcy

autor

Byczkowska-Lipińska L.

• University of Computer Sciences and Skills, ul. Rzgowska 17 a, 93-008 Lodz, Poland

autor

Wosiak A.

• Politechnika Łódzka, Instytut Informatyki, ul. Wólczańska 215, 90-924 Lodz, Poland

Bibliografia

• [1] GAVRILESCU M., VASILE M., GRÖLLER E.. Gradient-based classification and representation of features from volume data. System Theory, Control, and Computing (ICSTCC), 2011 15th International Conference on. IEEE, 2011.
• [2] BYCZKOWSKA-LIPIŃSKA L., WOSIAK A.: Hybrid Classification of High-Dimensional Biomedical Tumour Datasets. Advanced and Intelligent Computations in Diagnosis and Control 386 (2015): 287.
• [3] ZEYBEKOĞLU S., ÖZKAN M.: Classification of ECG Arrhythmia beats with Artificial Neural Networks. Biomedical Engineering Meeting (BIYOMUT), 2010 15th National. IEEE, 2010.
• [4] GEZER B.L., KUNTALP D., KUNTALP M.: Clustering of arrhythmic ECG beats using morphological properties and windowed raw ECG data. Signal Processing and Communications Applications (SIU), 2011 IEEE 19th Conference on. IEEE, 2011.
• [5] RAMÍREZ J., GÓRRIZ J. M., CHAVES R., LÓPEZ M., SALASGONZALEZ D., ÁLVAREZ I., SEGOVIA F.: SPECT image classification using random forests. Electronics letters 45.12 (2009): 604-605.
• [6] NEMOTO M., SHIMIZU A., KOBATAKE H., TAKEO H., NAWANO, S.: Classifier ensemble for mammography CAD system combining feature selection with ensemble learning. International Congress Series. Vol. 1281. Elsevier, 2005..
• [7] MICHALSKI R.S., TECUCI G.: Machine Learning, A Multistrategy Approach. J. Morgan Kaufmann, 1994.
• [8] KUNCHEVA L.I.: Combining Pattern Classifiers. Methods and Algorithms. John Wiley & Sons, Inc.; Hoboken, New Jersey, 2004.
• [9] ROKACH L.: Pattern Classification Using Ensemble Methods. World Scientific Publishing Co., Inc.; 2010; River Edge, NJ, USA.
• [10] WOZNIAK M., GRANA M., CORCHADO E.: A survey of multiple classifier systems as hybrid systems. Information Fusion 2014; pp. 3-17; DOI: 10.1016/j.inffus.2013.04.006.
• [11] GALAR M., FERNÁNDEZ A., BARRENECHEA E., BUSTINCE H., HERRERA F.: A Review on Ensembles for the Class Imbalance Problem: Bagging-, Boosting-, and Hybrid-Based Approaches. Systems, Man, and Cybernetics, Part C: Applications and Reviews, IEEE Transactions on, 2012; 42(4):463-484. doi: 10.1109/TSMCC.2011.2161285
• [12] SENI G., ELDER J.F.: Ensemble Methods in Data Mining: Improving Accuracy Through Combining Predictions. Morgan & Claypool, 2010.
• [13] BREIMAN L.: Bagging predictors. Technical Report 421; Department of Statistics, University of California, Berkeley 1994.
• [14] BREIMAN L.: Bagging predictors. Machine Learning; 26(2):123–140; 1996.
• [15] FREUND Y., SCHAPIRE R.E.: A decision – theoretic generalization of on-line learning and an application to boosting. Journal of Computer and System Sciences; 55(1):119–139; 1997.
• [16] BREIMAN L.: Random forests. Machine Learning; 45:5–32; 2001.
• [17] HAO W., JIEBO L.: Generalized multiclass AdaBoost and its applications to multimedia classification. Computer Vision and Pattern Recognition Workshop, 2006. CVPRW'06. Conference on. IEEE, 2006.
• [18] WITTEN I.H., FANK E.: Data mining: practical machine learning tools and techniques, 2nd edn. Morgan Kaufmann, San Francisco (2005)
• [19] WOLPERT D.H., The supervised learning no-free-lunch Theorems, Soft Computing in Industrial Applications, 6th Online World Conference on, 2001, pp. 25-42.
• [20] MORITA M., OLIVEIRA L.S., SABOURIN R.: Unsupervised feature selection for ensemble of classifiers. Frontiers in Handwriting Recognition, 2004. IWFHR-9 2004. Ninth International Workshop on. IEEE, 2004.
• [21] DUANGSOITHONG R., WINDEATT T.: Bootstrap feature selection for ensemble classifiers. Advances in Data Mining. Applications and Theoretical Aspects. Springer Berlin Heidelberg, 2010. 28-41.
• [22] GRANA M., TORO C., eds.: Advances in knowledge-based and intelligent information and engineering systems. Vol. 243. Ios Press, 2012.
• [23] GRANA M., TORO C., HOWLETT R.J., eds.: Innovation in Medicine and Healthcare 2014. Vol. 207. IOS Press, 2015.
• [24] WIDJAJA M., DARMAWAN A., MULYONO S.: Fuzzy classifier of paddy growth stages based on synthetic MODIS data. In Advanced Computer Science and Information Systems (ICACSIS), IEEE International Conference on; 239-244; 2012.