Improving the behaviour of the Fritzke's elastic net algorithm

• Autorzy: Morawski M.

Warianty tytułu

PL

Poprawa zachowania się algorytmu Fritzke'go tworzenie elastycznych sieci

• Języki publikacji: EN

Abstrakty

EN

The paper describes a modification of an algorithm which serves for developing a Fritzke-type self-organizing neural net. Nets for unsupervised learning called self-organizing nets or Kohonnen nets (after their inventor's name) were suggested in 1979...1981 as an alternative for neural nets for supervised learning (perceptrons, Hopfield nets, Grossberg nets, etc.). Further work on nets of such a type lead to a modification (proposed by Fritzke) of that concept. The basic difference lies in the fact that the Kohonnen nets can have an arbitrary but constant topology while the Fritzke nets form during learning a net topology which is optimum for the given problem. Unfortunately a disadvantage of the approach proposed by Fritzke is the difficulty in the choice of suitable coefficients in the algorithm which sometimes leads to problems related to its stability. The present paper describes situations which may cause the original algorithm to lose its stability. Modifications of the Fritzke algorithm (which serves to create a self-organizing neural net) are also presented which allow the stability of the algorithm to be maintained within a wide variability range of the algorithm's parameters.

PL

Niniejszy artykuł opisuje modyfikację algorytmu tworzenia samoorganizującej się sieci neuropodobnej typu Fritzke'go. W latach 1979...1981 jako alternatywę dla sieci neuropodobnych uczonych z nadzorem (perceptrony, sieci Hopfielda, Grossberga itp.) zaproponowano sieci uczone bez nadzoru nazywane sieciami samoorganizującymi się lub sieciami Kohonnena od nazwiska swego wynalazcy. Dalsze prace nad sieciami tego typu doprowadziły do powstania modyfikacji tego pomysłu zaproponowanej przez Fritzke'go , przy czym podstawowa różnica polega na tym, że sieci Kohonnena mogą mieć dowolną ale stałą topologię, podczas gdy sieci Fritzke'go tworzą w trakcie uczenia optymalną dla konkretnego problemu topologię sieci. Niestety wadą podejścia zaproponowanego przez Fritzke'go jest trudność w doborze odpowiednich współczynników w algorytmie co prowadzi czasami do problemów z jego stabilnością. W niniejszym artykule opisane są sytuacje grożące utratą stabilności oryginalnego algorytmu oraz takie modyfikacje algorytmu Fritzke'go tworzenia samoorganizującej się sieci neuropodobnej, które pozwalają na zachowanie stabilności algorytmu w szerokich granicach zmienności parametrów algorytmu.

Słowa kluczowe

EN

Fritzke's algorithm; self-organizing nets

PL

algorytm Fritzke'go; sieci neuropodobne

• Wydawca: Sieć Badawcza Łukasiewicz - Instytut Elektrotechniki
• Czasopismo: Prace Instytutu Elektrotechniki
• Rocznik: 1998
• Tom: Z. 198
• Strony: 87--98
• Opis fizyczny: Bibliogr. 16 poz., rys.

Twórcy

autor

Morawski M.

• Department of Fundamental Research in Electrotechnics Electrotechnical Institute