Optimization of structure of neural models using distributed computing environment

• Autorzy: Tomanek A. , Przystałka P. , Adamczyk M.

Warianty tytułu

PL

Optymalizacja struktury modeli neuronowych z zastosowaniem rozproszonego środowiska obliczeniowego

• Języki publikacji: EN

Abstrakty

EN

The main aim of this paper was to identify the optimal structures of considered neural models using the distributed computing environment. In this paper distributed optimizing of feed-forward neural network architectures for given problems is presented. The computing environment is composed of a few important packages and modules and has been created by the authors in order to aid developing some soft computing methods [4], where a lot of calculations are needed. At the beginning the authors decided to adapt a simple systematic-search algorithm that searches through every possible combination of network structures. Since this class of algorithms requires large amount of computation the distributed computing system was employed.

PL

Głównym celem przeprowadzonych badań było zidentyfikowania optymalnej struktury rozpatrywanych modeli neuronowych z zastosowaniem środowiska do obliczeń rozproszonych. W artykule zaprezentowano zastosowanie systemu do rozproszonej optymalizacji struktury sztucznej sieci neuronowej typu perceptron wielowarstwowy dla zadanego problemu. Prezentowane środowisko obliczeniowe jest złożone z kilku pakietów oraz modułów i zostało utworzone przez autorów w celu wspomagania rozwoju metodologii modelowania heurystycznego [4], gdzie niezbędnych jest wiele obliczeń. W początkowym stadium rozwoju oprogramowania autorzy zastosowali prosty algorytm przeszukiwania systematycznego każdej możliwej kombinacji struktury sieci. Ponieważ tego typu algorytmy z reguły wymagają dużych mocy obliczeniowych, postanowiono wykorzystać system omawiany w niniejszym artykule.

Słowa kluczowe

EN

distributed computing; ad-hoc computing clusters; artificial neural network; heuristic modelling; optimizing neural network architecture

PL

rozproszone obliczenia; klastery typu ad-hoc; sztuczna sieć neuronowa; modelowanie heurystyczne; optymalizacja struktury sieci neuronowej

• Wydawca: Polskie Towarzystwo Diagnostyki Technicznej
• Czasopismo: Diagnostyka
• Rocznik: 2006
• Tom: nr 4(40)
• Strony: 15--18
• Opis fizyczny: Bibliogr. 9 poz., rys., tab.

Twórcy

autor

Tomanek A.

autor

Przystałka P.

autor

Adamczyk M.

• Silesian University of Technology, Department of Fundamentals of Machinery Design, Konarskiego Street 18a, 44-100 Gliwice, Poland,,

Bibliografia

• [1] Barak, A.; Shiloh, A.; Amar, L.: An organizational grid of federated MOSIX clusters. Computer Systems and Software Engineering, 1996., Proceedings of the Seventh Israeli Conference on 12-13 June 1996 Page(s):38 - 45 Digital Object Identifier 10.1109/ICCSSE. 1996.554847
• [2] Lottiaux, R.; Gallard, P.; Vallee, G.; Morin, C.; Boissinot, B.: OpenMosix, OpenSSI and Kerrighed: a comparative study. Cluster Computing and the Grid, 2005. CCGrid 2005. IEEE International Symposium on Volume 2,  9-12 May 2005 Page(s):1016 - 1023 Vol. 2 Digital Object Identifier 10.1109/CCGRID. 2005.1558672.
• [3] Buyya R. High Performance Cluster Computing: Architectures and Systems. Prentice Hall PTR, NJ, USA, 1999.
• [4] Moczulski W.: Methodology of Heuristic Modelling of Dynamic Objects and Processes for Diagnostics and Control.: Recent Developments in Artificial Intelligence Methods. AI-METH 2005, p. 123 – 126.
• [5] Korbicz J., Koscielny J.M., Kowalczuk Z., Cholewa W. (Eds.): Fault diagnosis. Models, Artificial Intelligence, Applications.: Springer-Verlag Berlin Heidelberg 2004 New York. ISBN 3-540-40767-7.
• [6] http://openmosix.sourceforge.net/, The openMosix Project.
• [7] http://www-ra.informatik.uni-tuebingen.de /SNNS/, Stuttgart Neural Network Simulator home page.
• [8] http://yolinux.com/TUTORIALS/LinuxTutorial PosixThreads.html#BASICS, YoLinux Tutorial: POSIX thread (pthread) libraries.
• [9] http://lcic.org, Linux Clustering Information Center.