Regularyzowane semiparametryczne sieci neuronowe.

• Autorzy: Capobianco E.

Warianty tytułu

EN

Regularized semiparametric neural networks.

• Języki publikacji: PL

Abstrakty

PL

W artykule dokonano przeglądu technik regularyzacji, które zastosowano do uczenia i estymacji sztucznych sieci neuronowych. Istotę tych technik zademonstrowano na przykładzie takich sieci, których struktura funkcjonalna jest tylko częściowo znana lub w ogóle nieznana. Na przykład, gdy funkcje aktywacji są nieznane, wtedy konstruowane są tzw. sieci nieparametryczne. Jeśli zaś struktura jest częściowo znana, są to sieci nazwane w artykule semiparametrycznymi. Wśród sugerowanych metod estymacji są metody największej wiarygodności z karą, uogólnione modelowanie addytywne, a także modelowanie nieliniowe.

EN

In this paper, regularization techniques are reviewed and applied to artial neural networks for learning or estimation purposes. The importance of these methodologies is emphasized when we deal with networks presenting a functional structure which is completely or partially unknown, as in the case of the presence of hidden layer activation functions of unspecified form. Under these last circumstances we have built a nonparametric network; and althgough the architecture at hand has both parametric and nonparametric components, we call the network semiparametric, as in the statistical language. Interesting cases can thus be investigated; for instance, when the activation functions are specified only up to some regularity conditions, i.e., smoothness, and allowed to be time-verying and spatially adaptable. Among the suggested estimation methods here addressed, local and penalized likelihood, additive generalized linear and nonlinear modelling are considered, given their relevance in dealing with the curse of dimensionality.

• Wydawca: Oficyna Wydawnicza Politechniki Wrocławskiej
• Czasopismo: Badania Operacyjne i Decyzje
• Rocznik: 1999
• Tom: nr 1
• Strony: 21--33
• Opis fizyczny: Bibliogr. 25 poz.

Twórcy

autor

Capobianco E.

• Parallel Distributed Processing Research Group at Stanford University, Jordan Hall bldg 420, Stanford, CA94305.