Wielokryterialny dobór parametrów operatora mutacji w algorytmie ewolucyjnym uczenia sieci neuronowej

• Autorzy: Płaczek S.

Identyfikatory

DOI

10.21008/j.1897-0737.2017.91.0017

Warianty tytułu

EN

Multi benchmark choice of mutation parameters in evolutionary algorithm of neural network learning

• Konferencja: Computer Applications in Electrical Engineering (10-11.04.2017 ; Poznań, Polska)
• Języki publikacji: PL

Abstrakty

PL

Implementacja Algorytmów Ewolucyjnych (AE) do zadań uczenia Sztucznych Sieci Neuronowych (SSN) nie jest zadaniem łatwym. Zastosowanie algorytmów ewolucyjnych wyeliminowało ograniczenia algorytmów gradientowych lecz niestety napotykamy na szereg nowych problemów. W artykule analizuje się dwuwarstwową sieć neuronową , w której, w charakterze genotypu przyjmuje się dwa chromosomy połączone szeregowo. Tworzy się całą populację sieci neuronowych o indywidualnych własnościach chromosomów oblicza się wartości funkcji celu oraz realizuje się proces selekcji. W proponowanym rozwiązaniu eliminuje się algorytm krzyżowania i stosuje się tylko mutację. Operator mutacji, jego parametry mogą być identyczne dla dwóch chromosomów, różne i nieskorelowane lub różne i skorelowane. W artykule analizuje się różne charakterystyki algorytmu mutacji, zalety i wady.

EN

The optimization of the learning algorithm in neural networks is not a trivial task. Considering the non–linear characteristics of the activation functions , the entire task is multidimensional and non–linear with a multimodal target function. Implementing evolutionary computing in the multimodal optimization tasks gives the developer new and effective tools for seeking the global minimum. A developer has to find optimal and simple transformation between the realization of a phenotype and a genotype. In the article, a two–layer neural network is analyzed. Two serially connected chromosomes represent the genotype. In the first step the population is created. In the main algorithm loop, a parent selection mechanism is used together with the fitness function. To evaluate the quality of evolutionary computing process different measured characteristics are used. The final results are depicted using charts and tables.

Słowa kluczowe

PL

algorytmy genetyczne; algorytmy ewolucyjne; sztuczne sieci neuronowe; algorytmy uczenia sieci; algorytmy selekcji; algorytmy krzyżowania; algorytmy mutacji

• Wydawca: Wydawnictwo Politechniki Poznańskiej
• Czasopismo: Poznan University of Technology Academic Journals. Electrical Engineering
• Rocznik: 2017
• Tom: No. 91
• Strony: 175--186
• Opis fizyczny: Bibliogr. 6 poz., rys.

Twórcy

autor

Płaczek S.

• Akademia Finansów i Biznesu Vistula

Bibliografia

• [1] A.E. Eiben, J.E. Smith: Introduction to Evolutionary Computing, Second Edition, Springer 2003, 2015.
• [2] Michalewicz Z.: Genetic Algorithm + Data Structure = Evolutionary Programs, Springer – Verlag Berlin Haidelberg 1996.
• [3] Montana D.J., Davis L.: "Training Feedforward Neural Network Using Genetic Algorithms. Proceedings of the 1989 International Join Conference on Artificial Intelligence", Morgan Kaufmann Publishers, San Mateo, CA, 1989.
• [4] David E. Goldberg: Genetic Algorithms in Search, Optimization, and Machine Learning, Addison– Veslay Publishing Company, Inc. 1989.
• [5] Xinjie Yu, Mitsuo Gen: Introduction to Evolutionary Algorithm, Springer London 2010.
• [6] Stefano Nolfi, Dario Floreano: Evolutionary Robotics, The MIT Press, Cambridge, Massachusetts, London.

Uwagi

Opracowanie ze środków MNiSW w ramach umowy 812/P-DUN/2016 na działalność upowszechniającą naukę (zadania 2017).