Hybrid neuro-fuzzy classifier based on NEFCLASS model

• Autorzy: Gliwa B. , Byrski A.

Warianty tytułu

PL

Hybrydowy neuronowo-rozmyty klasyfikator oparty na modelu NEFCLASS

• Języki publikacji: EN

Abstrakty

EN

The paper presents hybrid neuro-fuzzy classifier, based on NEFCLASS model, which was modified. The presented classifier was compared to popular classifiers - neural networks and k-nearest neighbours. Efficiency of modifications in classifier was compared with methods used in original model NEFCLASS (learning methods). Accuracy of classifier was tested using 3 datasets from UCI Machine Learning Repository: iris, wine and breast cancer wis-consin. Moreover, influence of ensemble classification methods on classification accuracy was presented.

PL

Artykuł przedstawia zasadę działania oraz wyniki badań eksperymentalnych klasyfikatora opartego na hybrydzie sieci neuronowej z logiką rozmytą, bazujący na modelu NEFCLASS. Prezentacja struktury i działania klasyfikatora została zilustrowana wynikami eksperymentów porównawczych przeprowadzonych dla popularnych klasyfikatorów, takich jak perceptron wielowarstwowy k najbliższych sąsiadów. Skuteczność wprowadzonych modyfikacji do klasyfikatora została porównana z metodami używanymi w oryginalnym modelu NEFCLASS (metody uczenia). Jako dane benchmarkowe posłużyły wybrane bazy danych z UCI Machine Learning Repository (iris, wine, breast cancer wisconsin). Zaprezentowano również wpływ użycia metod klasyfikacji zbiorczej na efektywność klasyfikacji.

Słowa kluczowe

EN

neuro-fuzzy classifier; NEFCLASS; neural networks; fuzzy systems

PL

klasyfikatory neuronowo-rozmyte; NEFCLASS; sieci neuronowe; systemy rozmyte

• Wydawca: Wydawnictwa AGH
• Czasopismo: Computer Science
• Rocznik: 2011
• Tom: Vol. 12
• Strony: 115--135
• Opis fizyczny: Bibliogr. 29 poz., rys., wykr., tab.

Twórcy

autor

Gliwa B.

• AGH University of Science and Technology, Faculty of Electrical Engineering, Automatics, IT and Electronics, Department of Computer Science, al. A. Mickiewicza 30, 30-059 Krakow, Poland

autor

Byrski A.

• AGH University of Science and Technology, Faculty of Electrical Engineering, Automatics, IT and Electronics, Department of Computer Science, al. A. Mickiewicza 30, 30-059 Krakow, Poland

Bibliografia

• [1] Breiman L. Bagging predictors. Machine Learning, 24, 1996, pp. 123-140.
• [2] Burges C.: A tutorial on support vector machines for pattern recognition. Data Mining and Knowledge Discovery, 2, 1998, pp. 121-167.
• [3] Burges C., Scholkopf B.: Improving the accuracy and speed of support vector machines. Neural Information Processing Systems, 9, 1997.
• [4] Dong-Sheng Cao, Qing-Song Xu, Yi-Zeng Liang, Liang-Xiao Zhang, Hong-Dong Li: The boosting: A new idea of building models. Chemometrics and Intelligent Laboratory Systems, 100, 2010.
• [5] Carroll J.L.: No free-lunch and bayesian optimality. [in:] IJCNN Workshop on Meta-Learning, 2007.
• [6] Cichosz P.: Systemy uczące się. Wydawnictwa Naukowo-Techniczne, Warszawa, 2000.
• [7] Fowler M.: Inversion of control containers and the dependency injection pattern. http://www.martinfowler.com/articles/inj ection.html.
• [8] Freund Y., Schapire R. E.: Experiments with a new boosting algorithm. [in:] Machine Learning: Proceedings of the Thirteenth International Conference, 1996.
• [9] Haykin S.: Neural Networks: A Comprehensive Foundation. Prentice Hall, 1999.
• [10] Klawonn F., Kruse R.: Constructing a fuzzy controller from data. Fuzzy Sets and Systems, 85, 1997, pp. 177-193.
• [11] Klawonn F., Nauck. D.: Automatically determine initial fuzzy partitions for neuro-fuzzy classifiers. [in:] 2006 IEEE International Conference on Fuzzy Systems, 2006, pp. 1703-1709.
• [12] Koronacki J., Ćwik J.: Statystyczne systemy uczące się. Akademicka Oficyna Wydawnicza EXIT, 2nd ed., 9 2008.
• [13] Krzyśko M., Wołyński W., Górecki T., Skorzybut M.: Statystyczne systemy uczące się. Rozpoznawanie wzorców, analiza skupień i redukcja wymiarowości. Wydawnictwa Naukowo-Techniczne, Warszawa, 2008.
• [14] Ligeza A.: Logical Foundations for Rule-Based Systems. Springer, 2006.
• [15] Łęski J.: Systemy neuronowo-rozmyte. Wydawnictwa Naukowo-Techniczne, 2008.
• [16] Mamdani E.H., Assilian S.: An experiment in linguistic synthesis with a fuzzy logic controller. Journal of Man-Machine Studies, 7(1), 1975, pp. 1-13.
• [17] Mitra S., Pal S.K.: Fuzzy sets in pattern recognition and machine intelligence. Fuzzy Sets and Systems, 156, 2005.
• [18] Nauck D., Nauck U., Kruse R.: Generating classification rules with the neuro-fuzzy system NEFCLASS. [in:] 1996 Biennial Conference of the North American, Fuzzy Information Processing Society, 1996, pp. 466-470.
• [19] Nauck D., Kruse R.: Nefclass - a neuro-fuzzy approach for the classification of data. [in:] Applied Computing 1995. Proc. of the 1995 ACM Symposium on Applied Computing, ACM Press, 1995, pp. 461-465.
• [20] Nauck D., Kruse R.: How the learning of rule weights affects the interpretability of fuzzy systems. [in:] Proc. IEEE International Conference on Fuzzy Systems, Anchorage, 1998, pp. 1235-1240.
• [21] Nauck D., Kruse R.: Obtaining interpretable fuzzy classification rules from medical data. Artificial Intelligence in Medicine, 16, 1999.
• [22] Nauck D.D.: Fuzzy data analysis with NEFCLASS. International Journal of Approximate Reasoning, 32, 2003.
• [23] Pedrycz W., Gomide F.: An Introduction to Fuzzy Sets: Analysis and Design. The MIT Press, 1998.
• [24] Rokach L.: Ensemble-based classifiers. Artificial Intelligence Review, 33(1-2), 2010, pp. 1-39.
• [25] Rutkowski L.: Flexible Neuro-Fuzzy Systems. Kluwer, 2004.
• [26] Skurichina M., Kuncheva L. I., Duin R. P. W.: Bagging and boosting for the nearest mean classifier: Effects of sample size on diversity and accuracy. Multiple classi-fier systems: Third International Workshop, MCS 2002, 2364, 2002, pp. 62-71.
• [27] Tadeusiewicz R.: Sieci neuronowe. Akademicka Oficyna Wydaw. RM, Warszawa, 1993.
• [28] Xindong Wu, Kumar V., Quinlan J. R., Ghosh J., Yang Q., Motoda H., McLach-lan G.J., Ng A., Bing Liu, Yu P. S., Zhi-Hua Zhou, Steinbach I., Hand D.J., Steinberg D.: Top 10 algorithms in data mining. Knowledge and Information Systems, 14(1), 2008, pp. 1-37.
• [29] Ji Zhu, Rosset S., Hui Zou, Hastie T.: Multi-class AdaBoost. Statistics and its interface, 2, 2009, pp. 349-360.