Wymienność wariacji i obciążenia w modelu klasyfikacji pod nadzorem

• Autorzy: Piotr Michalski

Warianty tytułu

Bias-Variance Trade-off In Supervised Classification

• Języki publikacji: EN

Abstrakty

W artykule zaprezentowano podejście do dekompozycji oczekiwanego błędu predykcji w klasyfikacji według J.H. Friedmana. Dekompozycja ta ujawnia multiplikatywną wymienność wariancji i obciążenia w modelu klasyfikacji pod nadzorem oraz pozwala wyjaśnić klasyfikacyjną konkurencyjność prostych, obciążonych modeli, takich jak np. liniowy model prawdopodobieństwa. W artykule przedstawiono również symulacyjny przykład obliczenia oczekiwanego błędu predykcji w klasyfikacji za pomocą dekompozycji Friedmana, porównujący trzy modele ekonometryczne o różnym obciążeniu. (abstrakt oryginalny)

EN

The article presents the decomposition of the expected prediction error in classification introduced by J.H. Friedman, which can be used to explain this phenomenon. A simulation example of error calculation via Friedman’s decomposition is also given. (fragment of text)

Słowa kluczowe

PL

Analiza wariancji; Klasyfikacja; Modele ekonometryczne

EN

Variance analysis; Classification; Econometric models

• Czasopismo: Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu. Ekonometria
• Rocznik: 2008
• Tom: 22
• Numer: nr 27 Zastosowania metod ilościowych
• Strony: 51-64

Twórcy

autor

Piotr Michalski

• Uniwersytet Ekonomiczny we Wrocławiu

Bibliografia

• Ćwik J.. Koronacki J., Statystyczne systemy uczące się, Wydawnictwo Naukowo-Techniczne, Warszawa 2005.
• Domingos P., A Unified Bias-Variance Decomposition for Zero-One and Squared Loss, Austin (USA): AAAI Press, Proceedings of the Seventeenth National Conference on Artificial Intelligence 2000, pp. 564-569.
• Faraway J.J., Extending the Linear Model with R: Generalized Linear, Mixed Effects and Nonparametric Regression Models. Chapman & Hall/CRC Press, London 2006.
• Friedman J.H., On Bias, Variance, 0/1-loss, and the Curse-of-dimensionality, Kluwer Academic Publishers: Data Mining and Knowledge Discovery 1 1997, pp. 55-77.
• Hastie T., Tibshirani R., Friedman J., The Elements of Statistical Learning: Data Mining, Inference and Prediction, Springer, New York 2003.
• Le Borgne Yann-Ael, Bias-Variance Trade-off Characterization in a Classification Problem. What Differences with Regression? Machine Learning Group, Université Libre de Bruxelles 2005.