Uogólniony liniowy klasyfikator Fishera

• Autorzy: Rasała D. , Malina D.

Identyfikatory

DOI

10.5604/0860889X.1119446

Warianty tytułu

EN

Generalised Fisher linear classifier

• Języki publikacji: PL

Abstrakty

PL

W literaturze wielokrotnie omawiano klasyfikatory obrazów o rozkładach normalnych. Na ogół, kiedy dwie klasy są znacznie oddalone od siebie, to ich separację można przeprowadzić za pomocą jednej hiperpłaszczyzny. W artykule rozpatrywane są przypadki trudne, kiedy rozkłady znacznie nachodzą na siebie. Aby błąd klasyfikacji był wówczas mniejszy, do rozdzielenia klas lepiej użyć dwóch niż jednej płaszczyzny. Na początku został opisany algorytm, który bada i wyznacza liczbę przecięć dwóch funkcji Gaussa jednej zmiennej dla różnych przypadków. Potem algorytm ten został włączony do algorytmu uczenia i klasyfikacji dla zadania dwuklasowego. Następnie został on uogólniony do zadań wieloklasowych. Przeprowadzone eksperymenty na płaszczyźnie dla zadań trudnych, gdy liczba klas L = 2, 3, 4 wykazały, że zaproponowany algorytm dawał lepsze wyniki niż algorytm klasyczny z jedną płaszczyzną rozdzielającą.

EN

Bayesian classifiers for normal distribution patterns have often been discussed in literature. In general, when two classes are considerably apart from each other, they can be separated with a single plane. In this paper we will exam-ine some difficult cases, i.e. when their distributions significantly overlap. In such cases, to minimize the classification error, it is better to use two planes instead of one to separate the classes. At the beginning, the paper describes an algorithm used to investigate and determine the number of intersections of two Gaussian functions for different cases. Further in the article, this algorithm is included in the learning and classification algorithm for a two-class task. Then the algorithm is generalized for multi-class tasks. The experiments carried out on a plane for difficult tasks, when the number of classes L = 2, 3, 4, show that the proposed algorithm produces better results than the conventional algorithm with one separating plane.

Słowa kluczowe

PL

liniowa analiza dyskryminacyjna; wektor dyskryminacyjny; obliczanie liczby progów; klasyfikator z jednym progiem; klasyfikator z dwoma progami; rozszerzone kryterium

EN

linear discriminant analysis; Fisher discriminant vector; calculation of number of thresholds; double-threshold classifier; extended Fisher criterion

• Wydawca: Akademia Marynarki Wojennej im. Bohaterów Westerplatte
• Czasopismo: Zeszyty Naukowe Akademii Marynarki Wojennej
• Rocznik: 2014
• Tom: R. 55 nr 2 (197)
• Strony: 99--118
• Opis fizyczny: Bibliogr. 11 poz., rys.

Twórcy

autor

Rasała D.

• Politechnika Gdańska

autor

Malina D.

• Politechnika Gdańska

Bibliografia

• [1] Duda R., Hart P., Stork D., Pattern Classification, second ed., John Wiley and Sons, New York 2000.
• [2] Foley D. H., Sammon J. W., An optimal set of discriminant vectors, ‘IEEE Trans Computer’, 1975, C-24(3), pp. 281–289.
• [3] Kim H., Drake B. L., Park H., Multiclass classifiers based on dimension reduction with generalized LDA , ‘Pattern Recognition’, 2007, Vol. 40, pp. 2939–2945.
• [4] Li T., Zhu S., Ogihara M., Using discriminant analysis for multiclass classification: an experimental investigation, ‘Knowledge and Information Systems’, 2006, 10(4), pp. 453–472.
• [5]Longstaff I. D., On Extensions to Fisher’s Linear Discriminant , ‘IEEE Transactions on Pattern Analysis and Machine Intelligence’, 1987, Vol. 9, No 2, pp. 321–325.
• [6] Malina W., On an Extended Fisher Criterion for Feature Selection, ‘IEEE Transactions on Pattern Analysis and Machine Intelligence’, 1981, Vol. 3, No 5, pp. 611–614.
• [7] Martinez A. M., Zhu M., Where Are Linear Feature Extraction Methods Applicable?, ‘IEEE Transactions on Pattern Analysis and Machine Intelligence’, 2005, Vol. 27, No 12, pp. 1934–1944.
• [8] Okada T., Tomita S., An extended Fisher criterion for feature extraction —Malina’s method and its problems, ‘Elec-tronic and Communications in Japan’, 1984, No 3, pp. 159–165
• [9] Sammon J. W., An optimal discriminant plane, ‘IEEE Transactions on Comp.’, Sept. 1970, pp. 826–829.
• [10] Theodoridis S., Koutroumbas K., Pattern recognition, AP 1999.
• [11] Tou J. T., Gonzales R. C., Pattern Recognition principles, Addison —Weseley 1974