Identyfikacja systemów nieliniowych przy pomocy kernelowego algorytmu LMS z ograniczeniem zasobów

• Autorzy: Rzepka D. , Otfinowski P.

Warianty tytułu

EN

Identification of nonlinear systems using fixed budget kernel LMS algorithm

• Języki publikacji: PL

Abstrakty

PL

W artykule zaprezentowano zastosowanie nowej, nieliniowej wersji algorytmu LMS wykorzystującej funkcje kernelowe do identyfikacji systemów nieliniowych. Aby ograniczyć ilość wektorów nośnych, będących niezbędnym elementem algorytmów opartych o metody kernelowe zastosowano kryterium selekcji. Nowy wektor wejściowy jest przyjmowany do słownika, a następnie w słowniku wyszukiwany i usuwany jest wektor, który ma najmniejszy wpływ na tworzony model nieliniowy. Przedstawiony przykład identyfikacji systemu nieliniowego potwierdza skuteczność porównywalną do algorytmów wykorzystujących większą liczbę wektorów nośnych.

EN

In this paper a new version of kernel normalized least mean squares algorithm is applied to identification of nonlinear system. To maintain a fixed amount of support vectors, requisite for practical kernel-based algorithm, a pruning criterion is used. After admitting a new input vector to the dictionary, a least important entry is selected and discarder. A case of nonlinear system identification is presented, proving that algorithm performs well and it can maintain a performance comparable to state-of-the-art algorithms, using smaller number of support vectors.

Słowa kluczowe

PL

metody kernelowe; uczenie maszynowe; regresja nieliniowa; algorytm LMS; dobór wektorów nośnych

EN

kernel methods; machine learning; nonlinear regression; least mean square; pruning criterion

• Wydawca: Wydawnictwo Politechniki Lubelskiej
• Czasopismo: Informatyka, Automatyka, Pomiary w Gospodarce i Ochronie Środowiska
• Rocznik: 2012
• Tom: nr 4b
• Strony: 10--13
• Opis fizyczny: Bibliogr. 11 poz., rys.

Twórcy

autor

Rzepka D.

autor

Otfinowski P.

• Akademia Górniczo-Hutnicza, Wydział Elektrotechniki, Automatyki, lnformatyki i Elektroniki,

Bibliografia

• [I] Aronszajn N.: Theory of reproducing kernels. Transactions of the American Mathematical Society, 68(3)/1950, s.337-404.
• [2] Bartkowiak, A.: Wykłady nt. Sieci Neuronowych: w 11 Kernele, siecie SVM i sieci GDA. http://www.ii.uni.wroc.pl/-aba/
• [3] Diniz P. S.: Adaptive Filtering: Algorithms and Practical Implementation. Kluwer Academic Publishers, Norwell, MA, USA, 2 edition, 2002.
• [4] Engel Y., Mannor S., Meir R.: The kernel recursive least squares algorithm. IEEE Transactions on Signal Processing, 52/2003, s.2275-2285.
• [5] Honeine P., Richard C., Bermudez J. C. M.: On-line nonlinear sparse approximation of functions. Information Theory, 2007. ISIT 2007. IEEE International Symposium on, 2007, s. 956-960.
• [6] Liu W., Principe J. C., Haykin S.: Kernel Adaptive Filtering. John Wiley & Sons, Inc., 2010.
• [7] Schölkopf B., Smola A.: A tutorial on support vector regression. Journal Statistics and Computing, vol. 14, iss. 3, August 2004, p. 199-222.
• [8] Schölkopf B., Smola A.: Learning With Kernels. Cambridge, MA: MIT Press, 2002.
• [9] Suykens J. , Brabanter J. D. , Lukas L., Vandewalle J.: Weighted least squares support vector machines: robustness and sparse approximation. Neurocomputing, 48(14)/2002, s. 85-105.
• [10] Van Vaerenbergh S., Santamaria 1., Liu W., Principe J .: Fixed-budget kernel recursive least-squares. Acoustics Speech and Signal Processing (ICASSP), 2010 IEEE International Conference on, 2010, s. 1882-1885.
• [11] Van Vaerenbergh S., Via J., Santamaria 1.: A sliding window kernel RLS algorithm and its application to nonlinear channel identification, Proceedings of the International Conference on Accoustics, Speech and Signal Processing 5/2006, s.789-792.