Nowe metody selekcji cech i redukcji zbiorów odniesienia dla klasyfikatora typu 1-NN

• Autorzy: Kośla P. , Raniszewski M.

Warianty tytułu

EN

New feature selection methods and reference set reduction algorithms for 1-NN classifier

• Języki publikacji: PL

Abstrakty

PL

W artykule zostały przedstawione nowe metody minimalizacji zbioru odniesienia dla klasyfikatora 1-NN, czyli selekcja cech i redukcja zbioru odniesienia. Do selekcji cech zaproponowano metodę wykorzystującą badanie zależności miedzy cechami, a do redukcji zbioru odniesienia użyto sekwencyjnego algorytmu wykorzystującego podwójne sortowanie punktów. Rozstrzygnięto również, w jakiej kolejności procedury te powinny zostać zastosowane, analizując ich wpływ na jakość klasyfikacji i stopień redukcji danych. Zarówno nowe metody, jak i dobrze znane, takie jak procedura kolejnego dołączania cech, algorytm Gowdy-Krishny i algorytm RMHC zaproponowany przez Skalaka, zostały przetestowane na siedmiu zbiorach danych rzeczywistych i sztucznych.

EN

The reference set minimization methods for 1-NN classifier were proposed. The combine of a feature selection procedure, based on analysis of dependences between features, and reference set reduction algorithm that uses double point sorting was introduced. The proposed approach to the reference set size reduction was compared with the wellknown forward feature selection, the Gowda and Krishna algorithm and the RMHC algorithm introduced by Skalak. The computational experiments were performed with use of seven real and artificial datasets.

Słowa kluczowe

PL

reguła 1-NN; rozpoznawanie wzorców; minimalizacja zbioru odniesienia; nienadzorowana selekcja cech; korelacja; redukcja zbioru odniesienia; miara pozycyjna; miara reprezentatywności

EN

1-NN rule; pattern recognition; reference set minimization; unsupervised feature selection; correlation; reference set reduction; mutual distance measure; representative measure

• Wydawca: Wydawnictwa AGH
• Czasopismo: Automatyka / Akademia Górniczo-Hutnicza im. Stanisława Staszica w Krakowie
• Rocznik: 2008
• Tom: T. 12, z. 3
• Strony: 805--820
• Opis fizyczny: Bibliogr. 15 poz., tab., wykr.

Twórcy

autor

Kośla P.

• Katedra Informatyki Stosowanej, Politechnika Łódzka

autor

Raniszewski M.

• Katedra Informatyki Stosowanej, Politechnika Łódzka

Bibliografia

• [1] Hart P.E., The condensed nearest neighbor rule. IEEE Transactions on Information Theory, vol.11-14, 3, 1968,515-516.
• [2] Gates G.W., The reduced nearest neighbor rule. IEEE Transactions on Information Theory, vol. 18, May, 1972,431-433.
• [3] Gowda K.C., Krishna G., The condensed nearest neighbor rule using the concept of mutual nearest neighborhood. IEEE Transaction on Information Theory, vol. IT-25, 4, 1979, 488-490.
• [4] Devijver P., Kittler J., Pattern Recognition: A Statistical Approach. Engiewood Clifs, Londyn, Prentice-Hall 1982.
• [5] Nakai K., Kanehisa M., Expert System for Predicting Protein Localization Sites in Cram-Negative Bacteria. PROTEINS: Structure, Function, and Genetics, II, 1991, 95-110.
• [6] Skalak D.B., Prototype and feature selection by sampling and rondom mutation hill climbing algorithms. l 1th International Conference on Machine Learning, New Brunswick, NJ, USA, 4994, 293-301.
• [7] Jóźwik A., Chmielewski L., Skłodowski M., Cudny W., A parallel net of(l-NN, k-NN) classifier for optical inspection of surface defects in ferrites. Machine Graphics & Vision, 7, 1-2, 1998, 99-')12.
• [8] Starzyńska W., Statystyka praktyczna. Warszawa, PWN 2000.
• [9] Duda R.O., Hart P.E., Stork D.G., Paltem Classification - Second Edition. John Wiley & Sons, Inc. 2001.
• [10] Kośla R, Zastosowanie regresji nieliniowej do selekcji cech. XIV Konferencja „Sieci i systemy informatyczne", Łódź 2006, 217-220.
• [11] Theodoridis S., Koutroumbas K., Pattern Recognition - Third Edition. Academic Press - Elsevier, USA, 2006.
• [12] Asuncion A., Newman D.J., UCI Machine Learning Repository [http://www.ics.uci.edu/~mlearn/ MLRepository.html]. Irvine, CA: University of California, School of Information and Computer Science 2007.
• [13] Kośla R, A feature selection approach in problems with a great number of feature. Computer Recognition Systems 2, Advances in Soft Computing, vol. 45, Berlin/Heidelberg, Springer 2007, 394-401.
• [14] Raniszewski M., Reference set reduction algorithms based on double sorting. Computer Recognition Systems 2, Advances in Soft Computing, vol. 45, Berlin/Heidelberg, Springer 2007, 258-265.
• [15] The ELENA Project Real Databases [http://www.dice.ucl.ac.be/neuraI-nets/Research/Projects/ELENA/databases./REAL/.