Reguła PID uczenia sztucznych neuronów

• Autorzy: Bartman J.
• Języki publikacji: PL

Abstrakty

PL

W pracy zaproponowano nowa regułę uczenia sztucznych neuronów – regułę PID oraz dokonano porównania jej efektywności z klasyczną regułą Delty oraz regułą Resilient BP. Wstępne wyniki są zachęcające do podjęcia dalszych badań. W większości przebadanych przypadków reguła PID okazała się nieco szybsza od reguły Resilient BP oraz zdecydowanie szybsza od reguły Delty. Interesujące wydaje się być porównanie jej z innymi regułami uczenia oraz ustalenie wpływu współczynników (., Ti, Td) na jej szybkość oraz stabilność. Przebieg procesu uczenia regułą PID w wielu przypadkach miał bardzo nietypowy charakter (rys. 6, rys. 8, rys 9) – wartość funkcji celu (będącej miarą błędu) przez długi czas pozostawała praktycznie niezmieniona, by następnie gwałtownie osiągnąć pożądaną wartość. Nieodzowne jest przeprowadzenie badań, które wyjaśnią czym jest to spowodowane – niewłaściwym doborem współczynników uczenia(., Ti, Td), kolejnością podawania wzorców (była ona losowa), czy też jakimś innym czynnikiem. Przedstawione badania ograniczyły się do analizy uczenia pojedynczego neuronu – intrygujące będzie wykorzystanie reguły w metodzie wstecznej propagacji błędu do uczenia całej sieci i zestawienie uzyskanych rezultatów z rezultatami jakie daje klasyczna metoda wstecznej propagacji błędu.

EN

The training of artificial neural network s and strictly related with them artificial neurons are still interesting research areas. A new artificial neurons learning rule - PID algorithm has been proposed in this paper. The rule presentation is preceded by brief analysis of the learning algorithms. Their mathematical formulas and short characteristics are presented. The paper compares neurons learning effectiveness of PID algorithm and widely used Delta algorithm. The first results have shown that the demonstrated rule can have better performance and can be less sensitive for choice of learning algorithms. It makes this method very promising for further research.

Słowa kluczowe

PL

sztuczna sieć neuronowa; proces uczenia się; reguła PID

EN

artificial neural net; learning rule; PID rule

• Wydawca: Komisja Informatyki Polskiej Akademii Nauk, Oddział w Gdańsku
• Czasopismo: Metody Informatyki Stosowanej
• Rocznik: 2009
• Tom: nr 3 (20)
• Strony: 5--19
• Opis fizyczny: Bibliogr. 11 poz., rys., tab.

Twórcy

autor

Bartman J.

• Uniwersytet Rzeszowski, Wydział Matematyczno-Przyrodniczy, Instytut Techniki

Bibliografia

• [1] Bielecki A. Mathematical model of architecture and learning processes of artificial neural networks. TASK Quarterly 7 no 1/2003, s. 93–114
• [2] Hebb D. The organization of behaviour. Wiley, New York, 1949
• [3] Korbicz J., Obuchowicz A., Uciński D. Sztuczne sieci neuronowe. Podstawy i zastosowania, Akademicka Oficyna Wydawnicza PLJ, Warszawa 1994.
• [4] McClelland T.L., Rumelhart D.E., and the PDP Research Group. Paralell Distributed Processing. MIT Press, Cambridge, Mass. 1986
• [5] Osowski St. Sieci neuronowe w ujęciu algorytmicznym, WNT, Warszawa 1996.
• [6] Rosenblatt F. The perceptron: A probalistic model for information storage and organization in the brain. Psychology Review no 65/1958 s. 386-408
• [7] Tadeusiewicz R. Sieci neuronowe, Akademicka Oficyna Wydawnicza RM, Warszawa 1993.
• [8] Widrow B., Hoff M. E. Adaptive switching circuits. New York IRE WESCON Conventional Record 1960, s. 96-104
• [9] Żurada J., Barski M., Jędruch W. Sztuczne sieci neuronowe. Podstawa teorii i zastosowania. PWN, Warszawa 1996.
• [10] Asuncion, A., Newman, D.J. UCI Machine Learning Repository. Irvine, CA: University of California, School of Information and Computer Science, 2007. [http://www.ics.uci.edu/~mlearn/MLRepository.html]
• [11] Czerniak J., Zarzycki H., Application of rough sets in the presumptive diagnosis of urinary system diseases. Artificial Intelligence and Security in Computing Systems, ACS'2002 9th International Conference Proceedings, Kluwer Academic Publishers, 2003, pp. 41-51