Przyrostowa aproksymacja funkcji za pomocą sieci neuronowych

• Autorzy: Beliczyński B.
• Języki publikacji: PL

Abstrakty

PL

W niniejszej pracy scharakteryzowana jest aproksymacja przyrostowa funkcji realizowana za pomocą sieci neuronowych z jedną warstwą ukrytą. Liczba neuronów w warstwie ukrytej jest dobierana dynamicznie w trakcie procesu aproksymacji. W każdej iteracji wyznacza się parametry tylko jednego neuronu. Warstwa wyjściowa jest liniowa, w której jest wyznaczany najlepszy aproksymator przez rzutowanie ortogonalne. Funkcje aproksymowane pochodzą z przestrzeni Hilberta. W trakcie procesu aproksymacji wyznaczane i przechowywane są dwie bazy: baza dla implementacji i rozpinająca tę samą przestrzeń pomocnicza baza ortonormalna. Rozważa się zagadnienia adaptacyjnego wyboru bazy, funkcjonałów celu w aproksymacji przyrostowej, funkcji wygładzających, uzależnienia szybkości aproksymacji i wag w warstwie wyjściowej, uporządkowania bazy w aproksymacji przyrostowej, aproksymacji pola wektorowego i regularyzacji w sieciach przyrostowych. W pracy określono warunki zmniejszania błędu w każdej iteracji, warunek najszybszego spadku błędu w każdej iteracji, zdefiniowano funkcję dokładności aproksymacji i wykazano, że jej norma dla kolejnych funkcji bazowych wpływa zasadniczo na wartości wag warstwy wyściowej, szybkość aproksymacji i gładkość (nieoscylacyjność) otrzymywanych rozwiązań. Zaproponowano sposób kontrolowania tej wielkości. Rozważania mają charakter konstruktywny i prowadzą do konkretnych efektywnych algorytmów aproksymacji. Praca zawiera przykłady zastosowań.

EN

In this thesis incremental function approximation by one-hidden-layer neural networks is characterized. During approximation process, number of neurons in hidden layer is dynamically selected. In each iteration oniy one neuron parameters are tuned. Output layer is linear and determines the best approximation via orthogonal projection transformation. Approximation is provided in Hilbert space. During approximation process two space basis are determined: a basis for implementation and an assisted orthonormal basis which spans the same space. The following topics are considered: adaptive selection of basis functions, target functionals, smoothing functions, relation between rate of approximation and weights value in the output layer, ordering of basis, vector field approximation and regularization in the incremental approximation. We formulated conditions for decreasing of error in every iteration and conditions for fastest error decrease. There was defined a function of accuracy and proved that its norm for subsequent basis functions largely influence the output weights, rate of approximation and smoothness (nonoscilatory) of obtained solutions. A way of controlling its value was suggested. Our considerations are constructive and end with efficient approximation algorithms. Examples of applications are included.

Słowa kluczowe

PL

aproksymacja funkcji; sieci neuronowe; regularyzacja

EN

function approximation; neural networks; regularization

• Wydawca: Oficyna Wydawnicza Politechniki Warszawskiej
• Czasopismo: Prace Naukowe Politechniki Warszawskiej. Elektryka
• Rocznik: 2000
• Tom: z. 112
• Strony: 3--77
• Opis fizyczny: Bibliogr. 77 poz., tab., rys.

Twórcy

autor

Beliczyński B.