A Flexible Winner Takes All Neural Network with the conscience mechanism realized on microcontrollers

• Autorzy: Przedwojski P. , Talaśka T. , Długosz R.

Warianty tytułu

PL

Elastyczna Sieć Neuronowa typu "Wygrywający Bierze Wszystko" z mechanizmem sumienia, realizowana na mikrokontrolerach

• Konferencja: Mixed Design of Integrated Circuits and Systems MIXDES 2011 (18 ; 16-18.06.2011 ; Gliwice, Poland)
• Języki publikacji: EN

Abstrakty

EN

A flexible, fully programmable Self-Organizing Artificial Neural Network (ANN) nas been realized on two microcontrollers (μC) with the AVR and the ARM cores placed on a single printed board. The implemented device is equipped with a single 4-channel analog-to-digital (ADC) and four (4-channel each) digital-to-analog (DAC) converters. This allows the system to operate with four analog input signals in parallel in the real time. One of the objectives of the device is to be used as a hardware very accurate model of ANNs realized as very large scale of integration application specific integrated circuits (VLSI ASIC)- In this paper the authors focus on the problem of the, so called, dead neurons that increase the quantization error and the, so called, conscience mechanism that allows eliminating this problem. In this paper an alternative realization of such mechanism has been proposed that is especially suitable for transistor level implementations of both the analog and digital ANNs.

PL

Elastyczna, w pełni programowalna samoorganizująca się sztuczna sieć neuronowa (NN) została zaimplementowana na dwóch mikrokontrolerach z rdzeniem ARM i AVR na specjalnej płytce elektronicznej. Wykonane urządzenie wyposażone jest w zewnętrzny przetwornik analogowo-cyfrowy (A/C) i 4 przetworniki cyfrowo-analogowe (C/A). Dzięki temu może wykonywać operacje na sygnałach analogowych w czasie rzeczywistym. Jednym z celów realizacji urządzenia było wykonanie bardzo dokładnego modelu sieci neuronowej, która docelowo będzie zaimplementowana w postaci specjalizowanego układu scalonego wielkiej skali integracji (VLSI). W artykule tym skupiono się na problemie martwych neuronów, które zwiększają wartość błędu kwantyzacji i mechanizmie sumienia, który eliminuje ten problem. W pracy przedstawiono nowy sposób realizacji tego mechanizmu, który dobrze sprawdza się w analogowych i cyfrowych implementacjach sieci neuronowych.

Słowa kluczowe

EN

hardware implemented neural networks; WTA learning algorithm; microcontrollers; conscience mechanism

PL

sprzętowe realizacje sieci neuronowych; algorytm uczenia WTA; mikrokontrolery; mechanizm sumienia

• Wydawca: Wydawnictwo SIGMA-NOT
• Czasopismo: Elektronika : konstrukcje, technologie, zastosowania
• Rocznik: 2011
• Tom: Vol. 52, nr 12
• Strony: 14--17
• Opis fizyczny: Bibliogr. 7 poz., il., wykr., rys.

Twórcy

autor

Przedwojski P.

autor

Talaśka T.

autor

Długosz R.

• Tieto Poland Sp. z o.o, Szczecin, Poland

Bibliografia

• [1] Mailachalama B., et al.: Area-time issues in the VLSI implementation of self organizing map neural networks. Microprocessors and Microsystems, Vol. 26, no. 9-10, 2002, pp. 399-406.
• [2] Cotton N. J., et al.: A Neural Network Implementation on an Inexpensive Eight Bit Microcontroller. International Conference on Intelligent Engineering Systems, USA, 2008, pp. 109-114.
• [3] Długosz R., et al.: Realization of the Conscience Mechanism in CMOS Implementation of Winner-Takes-All Self-Organizing Neural Networks. IEEE Transactions on Neural Networks,Vol. 21, No. 6, 2010, pp. 961-971.
• [4] Długosz R., et al.: Current-Mode Analog Adaptive Mechanism for Ultra-Low-Power Neural Networks. IEEE Transactions on Circuits and Systems II, Vol. 58, No. 1, Jan. 2011, pp. 31-35.
• [5] DeSieno D.: Adding a conscience to competitive learning. IEEE Conference on Neural Network, Vol. 1, 1988, pp. 117-124.
• [6] Ahalt S. C., et al.: Competitive learning algorithms for vector quantization. Neural Networks, Vol. 3, no.3, pp. 277-290, 1990.
• [7] Przedwojski P., et al.: Kohonen Winner Takes All Neural Network Realized on Microcontrollers with AVR and ARM cores. International Conference Mixed Design of Integrated Circuits and Systems (MIXDES), Wroclaw. Poland, 2010.