Practical aspects of combining multiple classifiers into the committee machines

• Autorzy: Rogala T. , Brykalski A.

Warianty tytułu

PL

Praktyczne aspekty stosowania "komitetów" - układów połączonych klasyfikatorów

• Języki publikacji: EN

Abstrakty

EN

Committe machines are ensembles of realitively simple classifiers able to achieve high accuracy and overcome computational problems using the divide and computer principle. This paper discusses the main ideas underlying the design of committe machines. At the begining architectures of such structures are introduced briefly. Their interesting properties are demonstrated using artificial dataset, called "two spiral problem", which is a popular benchmark for evaluating classification algorithms. Then, recent applications of committe machines in signal identification are presented. finally, a real-life problem of the automatic identification of electroretinograms, electrical signals used in ophthalmic diagnosis, is discussed. The results suggest that the high efficiency of committe machines, compared to the single multilayer perceptron networks, may be significantly decreased by an important constraint, which is the limited number of cases in dataset.

PL

Struktury noszące nazwę komitetów (ang. committe machines) to zgrupowania względnie prostych klasyfikatorów, pozwalające na skuteczne rozwiązywanie skomplikowanych problemów klasyfikacyjnych, dzięki zastosowanu zasady "dziel i zwyciężaj". Niniejsza praca opisuje idee leżące u podstaw takich konstrukcji i przedstawia ich interesujące własności w oparciu o popularny zestaw danych testowych zwany problemem dwóch spiral. Nastepnie przedstawione zostają aktualne przykłady zastosowań komitetów w identyfikacji skomplikowanych sygnałów. W dalszej części pracy opisano wyniki zastosowań komitetów w badaniach autorów nad identyfikacją elektroretinogramów - jednowymiarowych sygnałów elektrycznych wykorzystywanych w diagnostyce okulistycznej. Rezultaty obliczeń sugerują, że teoretycznie bardzo wysoka skuteczność komitetów, w stosunku do osiaganej przy użyciu pojedynczych sieci neuronowych, może zostać obniżona przez ograniczoną ilość danych uczących oraz szczególnie nietypowy rozkład przypadków w przestrzeni cech.

Słowa kluczowe

EN

practical aspects; combining committee machines

PL

aspekt praktyczny; układy połączone klasyfikatorów

• Wydawca: Wydawnictwo PAK
• Czasopismo: Pomiary Automatyka Kontrola
• Rocznik: 2005
• Tom: R. 51, nr 10
• Strony: 20--23
• Opis fizyczny: Bibliogr. 10 poz., rys., tab.,

Twórcy

autor

Rogala T.

• Institute of Electronics Telecommunications and Computer Science, Faculty of Electrical Engineering, Szczecin University of Technology

autor

Brykalski A.

• Institute of Electronics Telecommunications and Computer Science, Faculty of Electrical Engineering, Szczecin University of Technology

Bibliografia

• [1] Bishop C. M.: Neural Networks for Pattern Recognition. Oxford University Press (1995)
• [2] Duda R. O., Hart P.G., Stork D. G.: Pattern Classification. Wiley-Interscience (2001)
• [3] Fernandes el. al.: Development of neural network committee machines for automatic forest fire detection using lidar. Pattern Recognition 37 (2004) pp. 2039-2047
• [4] Fernandes el. al.: Design of committee machines for classification of single-wavelength lidar signals applied to early forest tire detection. Pattern Recognition Letters 26 (2005) pp. 625-632
• [5] Haykin S.: Neural networks: a comprehensive foundation. Prentice Hall (1999)
• [6] Montgomery D. C, Hunger G.C.: Apllied statistics and probability for engineers. Wiley (2003)
• [7] Rogala T., Brykalski A., Penkala K.: Certain aspects of bioelectrical signal smoothing. Pomiary Automatyka Kontrola 9/2004, pp. 21-24
• [8] Rogala T., Brykalski A.: Redukcja wymiarowości danych pomiarowych z wykorzystaniem liniowej i nieliniowej analizy składników głównych (PCA). Pomiary Automatyka Kontrola 2/2005, pp. 41-43
• [9] Stamatatos E., Widmer G.: Automatic identification of music performers with learning ensembles. Artificial Intetligence 165 (2005) pp. 37-56
• [10] Stork D. G., Yom-Tov E.: Computer manual in Matlab to accompany pattern classification. Wiley-Interscience (2004).

Uwagi

PL

This paper was supported by a grant from the State Committee for Scientific Research (KBN) number 3T11 023 28.