Strategie poprawy efektywności uczenia sieci neuronowej

Orzechowski, P.; Mikrut, Z.

Artykuł - szczegóły

Tytuł artykułu

Strategie poprawy efektywności uczenia sieci neuronowej

Autorzy

Orzechowski P. , Mikrut Z.

Treść / Zawartość

Pełne teksty:

Pobierz

Identyfikatory

Warianty tytułu

Learning schemes that improve the neural network effectivity

Języki publikacji

Abstrakty

W artykule przedstawiono wyniki eksperymentów procesu uczenia sieci neuronowej ze wsteczną propagacją błędu, wykorzystywanej w procesie rozpoznawania ręcznie pisanych cyfr. Opisano kilka niestandardowych technik, takich jak: korekcja nachylenia cyfr oraz dwa warianty uczenia sekwencyjnego sieci neuronowej, bazujących na pewności rozpoznania cyfr przez sieć oraz statystyce pomyłek klasyfikacyjnych sieci.

This article presents the results of experiments carried out before and during the learning process of artificial neural network (backpropagation), used for handwritten digits recognition. Some unconventional techniques are described, such as an algorithm of slant correction and two variants of sequential learning, basing on the recognition reliability of the specific digit and statistical confusion matrix.

Słowa kluczowe

wsteczna propagacja błędu ręcznie pisane cyfry rozpoznawanie obrazów uczenie sekwencyjne strategie uczenia

backpropagation handwritten digits image recognition sequential learning learning schemes

Wydawca

Wydawnictwa AGH

Czasopismo

Automatyka / Akademia Górniczo-Hutnicza im. Stanisława Staszica w Krakowie

Rocznik

2007

Tom

T. 11, z. 3

Strony

365--374

Opis fizyczny

Bibliogr. 11 poz., rys., wykr., tab.

Twórcy

autor

Orzechowski P.

Katedra Automatyki, Akademia Górniczo-Hutnicza w Krakowie

autor

Mikrut Z.

Katedra Automatyki, Akademia Górniczo-Hutnicza w Krakowie

Bibliografia

[1] Behnke S.: Hierarchical Neural Networks for Image Interpretation. Computer Science, vol. 2766, Dec. 2003
[2] Bhattacharya U., Vajda S., Mallick A., Chaudhuri B. B., Belaid A.: On the Choice of Training Set, Architecture and Combination Rule of Multiple MLP Classifiers for Multiresolution Recognition of Handwritten Characters. Proceedings of the 9th International Workshop on Frontiers in Handwriting Recognition (IWFHR-9 2004)
[3] Gorgevik D., Cakmakow D.: An Efficient Three-Stage Classifier for Handwritten Digit Recognition. Proceedings of the 17th International Conference on Pattern Recognition (ICPR'04), 2004
[4] Grother P.J.: Karhunen Loeve Feature Extraction for Neural Handwritten Character Recognition. Proceedings of Applications of Artificial Neural Networks III, SPIE, Orlando, Florida, 1992, 155-166
[5] Jain A.K., Duin R.P.W., Mao J.: Statistical Pattern Recognition: A Review. IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 22, no. 1, January 2000
[6] LeCun Y., Jackel L.D., Bottou L., Cortes C, Denker J.S., Drucker H., Guyon I., Muller U.A., Sackinger E., Simard P., Vapnik V.: Learning Algorithms For Classification: A Comparison On Handwritten Digit Recognition, [w:] Neural Networks: The Statistical Mechanics Perspective, (Oh J. Ft., Kwon C, Cho S., (eds.), 1995, 261-276
[7] LeCun Y., Bottou L., Orr G., Muller K.: Efficient BackProp. [w:] Neural Networks: Tricks of the trade (G. Orr and Muller K. eds.), 1998
[8] Liu X., Rowlands H.: A step towards Automating the Entering Process of Student Examination Results using Neural Network and Machine Vision Techniques. 1998
[9] Mikrut Z., Piaskowska A.: Attention improves the Recognition Reliability of Backpropagation Network. Proceedings of 8th International Conference Artificial Intelligence and Soft Computing (ICAISC), 2006
[10] Tadeusiewicz R.: Sieci Neuronowe. Warszawa, Akademicka Oficyna Wydawnicza RM 1993
[11] Trier C.D., Jain A.K., Taxt T.: Feature Extraction Methods for Character Recognition - a Survey. Pattern Recogniton, vol. 29, 1996, 641-662

Typ dokumentu

Bibliografia

Identyfikator YADDA

bwmeta1.element.baztech-article-AGH1-0013-0105