Robust estimation and its application to a classification problem

• Autorzy: Gacki Henryk , Kulawik Agnieszka

Identyfikatory

DOI

10.14708/ma.v47i2.6499

Warianty tytułu

PL

Estymacja odporna i jej zastosowanie w pewnym problemie klasyfikacji

• Języki publikacji: EN

Abstrakty

EN

In the article a classification problem with two normally distributed classes is considered. The problem is solved using empirical discriminant functions for a Gaussian classifier and estimators for unknown parameters of the multivariate normal distribution. The following estimators will be considered: the maximum likelihood estimator (MLE), the Kulawik-Zontek estimator (KZE) and the minimum covariance determinant estimator (MCDE). Classifiers based on MLE and KZE will be compared in case of an empirical example (small sample). For large sample classifiers based on MLE, KZE and MCDE will be used.

PL

W artykule omówiono problem klasyfikacji dla dwóch klas w przypadku przyjęcia założenia, że rozkłady cech w klasach są wielowymiarowymi rozkładami normalnymi. Problem rozwiązano za pomocą empirycznego klasyfikatora gaussowskiego i wybranych estymatorów nieznanych parametrów wielowymiarowego rozkładu normalnego. Uwzględnione zostały następujące estymatory: MLE, KZE (Kulawik-Zontek estimator) i MCDE (the minimum covariance determinant estimator). Klasyfikatory oparte o MLE i KZE zostały porównane w przypadku przykładu empirycznego (mała próba). W przypadku dużych prób porównane zostały klasyfikatory oparte o trzy wspomniane estymatory.

Słowa kluczowe

EN

Gaussian classifier; Huber's function; estimator; multivariate normal model

PL

klasyfikator gaussowski; funkcja Hubera; estymator; wielowymiarowy rozkład normalny

• Wydawca: Polskie Towarzystwo Matematyczne
• Czasopismo: Mathematica Applicanda
• Rocznik: 2019
• Tom: Vol. 47, no. 2
• Strony: 231--243
• Opis fizyczny: Bibliogr. 19 poz., fot., tab., wykr.

Twórcy

autor

Gacki Henryk

• University of Silesia in Katowice, Institute of Mathematics, Bankowa 14, 40-007 Katowice, Poland

autor

Kulawik Agnieszka

• University of Silesia in Katowice, Institute of Mathematics, Bankowa 14, 40-007 Katowice, Poland

Bibliografia

• [1] J. Adamczewski and H. Gacki. Próba zastosowania metod rozpoznawania obrazów w eksperymencie diagnostycznym. Zagadnienia eksploatacji maszyn, 97 (1):161-172, 1994. Cited on p. 236.
• [2] T. Bednarski and S. Zontek. Robust estimation of parameters in a mixed unbalanced model. Ann. Statist., 24 (4):1493-1510, 1996. ISSN 0090-5364. doi: 10.1214/aos/1032298279. MR 1416644. Cited on p. 236.
• [3] B. Desgraupes. conics: Plot conics. "R" package version 0.3, 2013. Cited on p. 232.
• [4] D. Dua and E. K. Taniskidou. UCI Machine Learning Repository. University of California, Irvine, School of Information and Computer Sciences, 2017. URL http://archive.ics.uci.edu/ml. Cited on p. 238.
• [5] V. Goulet, C. Dutang, M. Maechler, D. Firth, M. Shapira, and M. Stadelmann. expm: Matrix exponential, log, 'etc'. "R" package version 0.999-4, 2019. Cited on p. 232.
• [6] P. J. Huber. Robust statistics. John Wiley & Sons, Inc., New York, 1981. ISBN 0-471-41805-6. Wiley Series in Probability and Mathematical Statistics. Cited on p. 235.
• [7] M. Hubert, P. J. Rousseeuw, and T. Verdonck. A Deterministic Algorithm for Robust Location and Scatter, journal = Journal of Computational and Graphical Statistics. 21 (3):618-637, 2012. doi: 10.1080/10618600.2012.672100. Cited on p. 236.
• [8] S. Jarek. mvnormtest: Normality test for multivariate variables. "R" package version 0.1-9, 2015. Cited on p. 232.
• [9] V. Kaveh and M. Hubert. DetMCD: Implementation of the DetMCD algorithm (robust and deterministic estimation of location and scatter). "R" package version 0.0.5, 2018. Cited on p. 232.
• [10] M. Krzyśko. Podstawy wielowymiarowego wnioskowania statystycznego. Wydawnictwo Naukowe UAM, Poznań, 2009. Cited on p. 239.
• [11] A. Kulawik and S. Zontek. Robust estimation in the multivariate normal model. Discuss. Math. Probability and Statistics, 36 (1-2):53-66, 2016. Cited on pp. 231, 233, and 234.
• [12] A. Kulawik and S. Zontek. On data-dependent tuning constant of the huber family for robust estimator. Discuss. Math. Probability and Statistics, 38:21-30, 2018. doi: 10.7151/dmps.1201. Cited on p. 235.
• [13] R. Maronna, D. Martin, and V. Yohai. Robust Statistics: Theory and Methods. John Wiley and Sons, 2006. Cited on pp. 231 and 234.
• [14] M. Nieniewski. Probabilistic methods in pattern recognition and computer vision. Lecture Notes and Computer Vision and Artificial Intelligence, Ossolineum, 1990. Cited on p. 231.
• [15] P. J. Rousseeuw. Multivariate estimation with high breakdown point. Mathematical Statistics and Applications, Vol. B (Bad Tatzmannsdorf, 1983), Reidel, Dordrecht (1-2):283-297, 1985. Cited on pp. 231, 234, and 236.
• [16] W. Sobczak and W. Malina. Metody selekcji i redukcji informacji. WNT, Warszawa, 1985. Cited on p. 231.
• [17] N. H. Timm. Applied Multivariate Analysis. Springer-Verlag New York, 2002. Cited on p. 231.
• [18] V. Todorov and A. M. Pires. Comparative performance of several robust linear discriminant analysis methods. REVSTAT-Statistical Journal, 5 (1):63-83, 2007. Cited on p. 231.
• [19] J. T. Tou and R. C. Gonzalez. Pattern recognition principles. Addison-Wesley Publishing Co., Reading, Mass.-London-Amsterdam, 1974. Applied Mathematics and Computation, No. 7. Cited on pp. 231 and 236.

Uwagi

Opracowanie rekordu ze środków MNiSW, umowa Nr 461252 w ramach programu "Społeczna odpowiedzialność nauki" - moduł: Popularyzacja nauki i promocja sportu (2020).